如此过了五六日，就在吕蒙、韩当快要支撑不住，全军将要崩溃之时，一个爆炸性的消息突然传来。
鲁肃领兵一万七千人（包括增援），民夫三万，经过前期的对峙和后期的猛攻，历时五十余日，终于在付出死伤七千六百人，损失民夫近千人的代价之后攻破合肥。张辽拼尽全力，被流失射中手臂，眼见江东军大举进城，终于绝望。当下张辽只得下令全军撤退，并在护军薛悌的建议下焚烧了府库之中的钱粮辎重，只率着残军三千余人出城，一路往北逃去。
鲁肃大军此时也已经精疲力尽，无力追赶，只得写了书信将情况告知吕蒙，叫他不必再与曹军死战。
吕蒙收到消息，当即收整残军四千余人奔回阴陵，准备会合了周舫、程咨之后，看曹军的下一步行动再决定是保守阴陵还是弃城而走。
吕蒙撤走之前并未将消息传报刘贤，好在刘贤也一直留心着合肥战事，早有斥候快马将鲁肃得胜、张辽败走的消息传来，刘贤还准备着再挡曹军一阵，好分兵去堵截张辽，不想随即就听到吕蒙撤兵的消息。
刘贤不由心下暗恨，当下心中盘算起来：曹军援兵四万，留下三千人把守钟离、当涂，这些天疯狂进攻之下，损失六千余人，这么算来当面的曹军还有三万。
而自己这些天虽是节节抵抗，并未与曹军硬拼，但也折损了骑步兵数百人。如今合肥被破，夏侯惇、曹彰等人必定会更加奋力进攻，欲要接应张辽回来。而如今吕蒙撤围而走，自己若要阻拦曹军的话，就必须分兵接管吕蒙留下的营垒。在如今兵力仅有两万的情况下，拉长了战线之后，兵力就将被分薄，大军的压力将会陡然增大很多。
当下刘贤思前想后，最终还是决定撤兵，不再这个时候面对必定疯狂作战的曹军。
于是刘贤传令各军，连夜撤退，往成德而去。又暗命马超亲领骑兵一千，偷偷南下，袭击张辽。
夏侯惇、曹彰等人闻听一日之间，刘贤、吕蒙纷纷撤军，当下猜知必是合肥城破了，众人担忧张辽、李典等人的安危，顾不得追击刘贤，急领兵往南，接应张辽。
此时张辽败兵也逃到了合肥城北六七十里，回望江东兵没有追来，而众军又都十分疲累，且天色已晚，于是张辽决定全军休息一夜，明日再继续北撤。住到半夜，就听刘靖突然寻到李典道：“将军，我们战败而走的消息此时必定已经被刘贤、吕蒙知道了，倘若刘贤连夜派遣轻骑来袭击，我军人困马乏，如何能够抵挡？为策万全，将军可建议张辽将军暗中将部分兵马调出营外休整。若是今夜真有敌军前来偷袭，也好有个策应。”
李典闻言，当即找到张辽，说了刘靖之言。张辽深觉有理，当下只在营中留了少量兵马，其余大军调出营外，分左右埋伏。
到了五更时分，果然有一队骑兵从北杀来，在大将马超的带领下呐喊着冲进营中，四处放火。但进营之后，看见营中空虚，马超立即意识到中了埋伏，随即大喊撤退。
张辽、李典急忙从左右杀出，欲要截杀马超。马超纵马挺枪，当先突阵，正与张辽相遇，交马只一合，那长枪击打在张辽大刀之上，震得张辽左手臂上伤口迸裂，鲜血横流。