北魏献文帝天安二年(467)春,郑羲随殿中尚书元石引军东讨汝阴(今安徽阜阳)一带。刘宋汝阴太守张超严密防守,致使魏军久攻不下,元石虽倾精锐之师进攻,仍未能取胜,只好退至陈项,经商议,打算还师长社,等到秋凉时再来攻打。诸将心中巴不得早点回去,齐声称为善计,独郑羲反对,他认为:“虽说张超能鼓动市民共同顽抗,但是长期蚁聚穷城,活命的时间拖不了一月,我们最好是安心在此围守。待张超粮尽,或是投降或是逃走,只要翘足等待,就能得到所需要的一切,如此大好时机,反而要丢弃。回到长社,返归的路途遥远,往返徒劳,张超有足够的时间喘息,必大举修整城池,深挖城濠,积蓄足够的粮食柴薪,以后就更难图了。”元石没有采纳他的意见,于是还师长社。等到冬天,再来攻打张超,张超果然重新严密设防,魏军又无功而还。过了好几年,张超死,杨文长代他守卫其地,因粮食用尽,城不战而溃,魏军轻易就攻克了,竟然与郑羲几年前谋划的一模一样。(《魏书·郑羲传》)