一些晋阳兵见主将受伤，便试图过来为张羡解围，但终究不能突围过来。张羡自知必死，也懒得去揽肠子，而是从腰间抽出御剑，挥手将流出的肠子截断，继续与曹兵死斗，曹军见此形状，也不由得恐惧后退，只是围着张羡，却不再上前。张羡对此笑了两声，便拄着箭坐在泥地上，呼了两口气，随即没有了动静。
而另一边，徐庶仍在督战，西面的败势他已止住，正面虽呈梯式节节后退，但曹仁到底兵少，即使率部数次冲锋，也已精疲力竭，实在冲不动了。故而徐庶在两面实行包夹和齐射，到底用兵力的优势将曹仁打了回去。
但这于大局形势无补。
刘备后撤的消息很快也传到徐庶耳中，他闻罢，面色如常，只是派使者对来援的张飞说道：“今日之败，是我谋划不周的过错，想要反败为胜，已是不可得了，当务之急，当是全军而退，君侯带的多是骑兵，乃是我军中精锐，不可轻弃，我麾下多是步卒，欲逃也难得，所以君侯当先西归，我自率部殿后。”
张飞得知消息后，回说一句“珍重”，也不再留恋战场，率部自东南撤走。
徐庶便携众且战且退，将随军带来的箭矢全部射出去。曹仁不知缘故，还道眼前的汉军要率众搏命了，于是便停止冲击，与汉军保持两箭程的距离，一面与曹操汇合，一面观察徐庶的破绽。
此时天色已完全昏黑，曹军在远方屠戮着未来得及逃掉的汉卒，而汉军诸将都聚集在一起，做最后的军议。徐庶对身边的拓跋匹孤、拓跋力微、黄忠、射坚诸人说：“此时夜色已至，月光未明，大概是最后逃亡的机会了。你们趁贼军未及反应，挑选些精锐，都去追明公吧！”
众人吃了一惊，都劝阻道：“徐君乃是霸府智囊，我等俱死，也不当令徐君有损，徐君当先行才是！”
徐庶却摇首说：“三军因我在，才不致溃退，我若先逃，你们能挡贼军吗？”众人皆哑然。
随后徐庶又劝慰说：“老师还在长安，只要有他在，府中哪里会缺智囊？你们才是军中的栋梁，勿要多说了，快去吧，来日还多得是你们厮杀的时候，你们早走，我也能伺机逃脱，你们再犹豫，就都死在此处了！”
众人皆知其苦心，不禁流泪拜谢，当晚就点出三千精兵，趁着昏暗的夜色悄声离去了。
此时的徐庶所部多已受创，能战的大约只有八千余人。故而徐庶将这八千能战之士聚集一处，其余伤员都放他们歇息，叮嘱说：“若贼军来，可奉兵降之。”而后他亲自巡视属下，问他们道：“我今与诸位同死，可有遗恨？”汉军皆高声答说：“与徐从事同死，不恨！”徐庶闻言大笑。
曹军等了两个时辰，见徐庶所部一直驻在此地，既不后撤，也不投降，终于决定于夜中进行终战。曹军骑士们没有妄发异动，而是举着火包抄汉军两翼，将其尽数合围后，才派人问道：“你们是何人所领？何不归降我军？河内的司马公、徐州的昌将军，还有你们河南关老虎，都向我军投诚了。若能弃暗投明，元帅未尝不能放尔等一条性命！”
徐庶闻言，便从军阵中站出来，对曹军使者说：“都是战场上跑马厮杀的汉子，何必蛊惑人心？今日之败，罪全在我，我甘愿一死，但要辱我节操，我绝不罢休！”
投降的司马防听那声音，对曹操说：“是霸府的智囊，徐长史啊！明公若得他相助，大业易兴耳！”
曹操捂着受伤的肩膀，对司马防哈哈笑道：“司马公真是惜才之人啊！”他随即又叹息道，“可惜，徐元直的才能我自然也见过，但他是义士，终究不能为我所用，便还是成全他罢。”
说罢，他传令击鼓，在月色之下，曹军向汉军射出暴雨般的箭矢，在将大部分人射倒在地后，骑士们再上前冲杀砍刺。一直等到第二天天明，曹军在尸山中辨认汉军的首级，一名曹兵发现徐庶被尸体压倒在血泊中，手脚受了数箭，胸口还有些许若有若无的起伏。
但曹兵没有救命的意思，他贪图徐庶手中的云龙玉抉，趁左右无人注意，先割掉了徐庶的头颅，再夺下这玉抉揣进衣裳内，继而向上级领功去了。
《我有一卷鬼神图录》