待马超去后，刘贤复又命邓艾所部开始修筑绕着曹操的营垒摆放鹿角，挖掘壕沟，垒造长墙，准备将曹操大军困死在寿春。
斥候将刘贤大军的动作火速报知曹操，曹操闻听，顿时大惊失色，对众将道：“倘若当涂、钟离被马超夺取，无论是援兵想要南下，还是我军想要北上都将极为困难。而若是刘贤将壕沟长墙修筑完毕，我军更将全军覆没于寿春城下。如此看来，我军该当撤兵了。”
众将闻言，深思了许久，都只得心不甘情不愿地点了点头，便连最不愿撤军的蒋济都再无话可说。
形势如此，淮南战局已是无力回天，勉强下去，只有全军覆没的结局，不如早退，以待日后卷土重来。
当下蒋济道：“昔日高祖皇帝累败于项羽之手，终能一战而声，使项羽乌江自刎。刘贤攻打襄樊也是多番出击，方能倚仗天火之术获胜。如今刘贤的水军占了淮河，其军已在我军之北，若不早退，恐刘贤再用天火之术，则我军必无胜理。既如此，我军是该早退。日后打造战船，训练水军，积蓄实力之后再行南下，与刘贤争锋。”
刘晔也点了点头，道：“数月之前孙权归附之时，我军曾向他索要了数百手艺精湛的造船工匠。有这批工匠在，我军当能建造出不弱于江东和荆州的大战船了。”
曹操见众文武都对撤军没有异议，当即下了决心，命张辽、臧霸、曹休、孙康率领骑兵五千，步兵五千火速往东去增援当涂，随后命夏侯惇、曹彰率领五千重骑在前，徐晃率领一万精锐步兵断后，曹洪、曹真各领五千兵马护住两翼，曹操自率其余兵马、民夫为中军，全军弓弩尽皆张满对外，各军交错掩护着徐徐往东撤退。
时建安二十三年一月十二日。