眼见多处壕沟都要被填满了，城上守兵慌了，也顾不得那么多事，一阵阵的乱箭而下。死者倒毙沟中，后面的人又覆土继进，不多时就已经填满沟堑。
入夜前，在落日的余晖里，吕布激励将士准备攻城。他说：“绛邑十多年未经战事，素以富饶着称。我等起事后，据说富户大室进城的很多，晋阳又运来了数万斛粮秣。可谓是金银女子，数之不尽。破城后，你等可尽情饱掠，不必顾忌！”
凉州军士受此激励，无不欢欣鼓舞，跃跃欲试。他们身上背弓，把箭囊跨在身侧，短刀插上腰带，手持斫刀长矟。他们发出震动黑夜场控的喧嚣呐喊，一起扑过堑壕，一直冲到城墙根下。他们缚槊为梯，重铠覆身的先登者捉住长槊的尖头，由后面的人握紧末端冲向土墙，将他们顶下墙顶。就像是汹涌扑来的波涛，每一浪都把数十人顶上城。尽管很多人或是没踩稳，或是遭遇守军长槊捅刺，带着土灰从墙上一头栽下去，但每次仍都有人顺利地站上城头。
守城的并人一见有人登城，立刻群起扑上，刀槊乱下，可怜这些先登的人，尽管身着重甲，也往往重伤倒毙。但城下的凉人以惊人的勇气继续攀上城头，有些人落在防备薄弱的地方，一时无法歼灭，更多的人则不断地从各处爬上来。这些身披重甲的人，即便连中多处刀槊，仍然摇摇晃晃地挥舞斫刀驱赶守敌，还有一个面部中箭的西魏人，他伸手折断箭杆，如同无事一般地继续战斗。这些浑身鲜血之人的勇悍，令守城的士卒震恐慌乱。随着更多后继者攀上来，人数上居于劣势的守军开始顾此失彼，疲于应付。不一会，登城的凉人开始获得越来越多的立足点。
此时，吕布麾下的勐将，如张辽、郝萌、高顺等人，也都身着重甲，分别从环城攻击的某处登城。涌上城头的武人们，把嘴里咬住的火把点燃，投到木质的箭楼与木墙上。不一会，城头的烈焰就照亮了脚下恐惧黑暗的绛邑城。烈火燃烧木柴发出的噼啪之声，混同城上城下厮杀和呐喊的狂吼，撕裂了原本寂静的黑夜。
城上守军见大势已去，很多人放弃了坚守，纷纷朝城内逃去。
突然一声轰然巨响，呛鼻的尘土腾天而起。原来攻城的敌军砍断了铁链，北门的吊桥坠落了下来。尽管大门的突然落地，砸死了七八个凉兵，但后面的人更发出狂喜的欢呼，踩着摇摇晃晃的城门，从昏黄的滚滚尘烟中扑入城内。后面的陷阵骑兵，则紧跟着策马奔过堑壕，他们将火把绑在槊尖上，一路打马冲进城门。原本还在城门口抵挡的兵卒，眼见着嘶鸣的野兽从火光摇曳的尘雾中迸涌而出，顿时斗志全无，拥挤着四散而去。
听到马蹄声和喊杀声在街巷之间奔流回荡，城中绝望的百姓，发出临死前羔羊般的颤抖。人们黄芒仔自己女儿的脸上涂抹污垢，把幼小的孩子藏在了井中；走不动的老人则把金银吞到肚里，卧在床上等死。更多的富人还有穷人，他们都跪在地上向神灵祈求，愿意放弃尘世上的一切，只愿换得性命的苟全。
赫连赤后从失守的北门奔回，中途他的坐骑中箭了，他爬起来一瘸一拐地赶回府衙。府里从人都跑空了。只见侍中裴茂身上披甲，一手握刀，一手握一本《诗经》，一个人坐在门槛上不动。赫连赤后劝他说：“裴先生赶紧自裁吧！难道还要受敌人折辱吗？”
哪知裴茂恍如未闻，赫连赤后又摇了摇他，他才如大梦初醒一般，慢慢对匈奴人说道：“我本也如此想，只是实在下不了手，如果你不介意，就请你杀了我吧。”
赫连赤后苦笑颔首，他原先的刀已然不利，被他扔了。此时只能接过裴茂的手中刀，他看着裴茂文弱的身躯，不由心生怜惜，说道：“忍着点，不会痛。”裴茂刚点了点头，就见一道寒光闪过，这位名家长者就此身首分离。
匈奴人将侍中的头包了，又找来一匹马，想做最后一搏，但刚出门，就被数十骑团团围住，箭失覆盖下，他也随即死去，来不及发出更多响动。
是夜，吕布军点起无数的火把搜罗人口和财货，老病之人尽皆杀死，青壮男女都被用绳子成串地牵走。就连军中的苍头和伺弄马匹草料的人也都四处抢夺，杀人并奸淫年轻妇人。绛邑城中的所有地库和祠堂，都被他们刮地三尺，抢走了藏在里面的金子或其他宝物。当夜的绛邑宛如人间地狱，哭号之声彻夜未休。