睢阳之战，丘大千据城固守的七万重兵竟不能抵挡梁军一日，这样的结果让掌握北魏实权的尔朱荣不得不接受一个残酷的现实，要想打败陈庆之的部队，十倍的兵力远远不够，好在此时北魏的内乱大体平定，他可以倾尽全力放手一搏，拿出北半个中国的所有家底，用来对付陈庆之的七千孤军。

为争取调兵的时间，尔朱荣派济阴王元晖业率领两万羽林军驻守考城（今河南民权东北），想凭借此处高大的城墙和险固的地势阻挡梁军，同时命上党王元天穆所率领的魏军主力星夜兼程赶赴荥阳，与左仆射杨昱的七万羽林会合。这还不算，尔朱荣又派骠骑将军尔朱兆的五千胡骑和夏州的九千精兵增援杨昱，又遣右仆射尔朱世隆带一万骑兵进据虎牢，于是，当陈庆之攻克考城来到荥阳城下，便受到了三十万魏军的内外夹攻。

当铺天盖地的北魏军队出现在陈庆之军团背后，梁军将士的心情可想而知，为安抚已经动摇的军心，陈庆之对麾下七千将卒说道：“自北征以来，我们攻城略地一路杀掠，是魏人不共戴天的仇敌，现在围困我们的魏军不下三十万，而我们只有七千，所以只能抱着必死的信念打败他们，倘若大家一再犹豫，那等待我们的就只有屠杀了。”

俗话说将有死志士不贪生，在陈庆之的带领下，七千陷入绝地的梁军对阵三十万魏卒，竟是一场惊天动地的精彩反杀。陈庆之明白，与北魏的骑兵在平原交锋等于找死，于是抢先攻击城高壕深的荥阳，而北魏装备精良的七万守军竟仅仅支撑了一个回合（一鼓而下）。

荥阳的攻克不仅使梁军摆脱了腹背受敌的险境，还对城外魏军的军心士气产生了毁灭性的打击，陈庆之乘战胜之威，亲率三千骑兵背城一战，竟打得北魏三十万大军丢盔弃甲，魏军骑将鲁安投降，主帅元天穆、尔朱兆弃师而逃。击溃魏军主力后，陈庆之马不停蹄，旋即进攻虎牢，北魏大将尔朱世隆竟吓得弃城逃走。

慑于陈庆之的兵威，北魏孝庄帝元子攸被迫逃往长子（今山西长子西）避难，将国都洛阳拱手相让，而留守的临淮王元彧和安丰王元延明竟率领百官主动迎接降梁的元颢入宫，元颢随即称帝，封陈庆之为侍中、车骑大将军，食邑万户。