1947年，国民党全面进攻破产后，改为了集中优势兵力重点进攻山东和陕北解放区的计划，进攻山东解放区的是国民党最早建立的三个大规模兵团，第一、第二和第三兵团，兵力达到了45万人，其中第一兵团为进攻山东的主力，由汤恩伯为总司令，张灵甫的整编74师为兵团主力，张灵甫是蒋介石的得意门生，整编74师也是国民党的王牌主力，在抗日战争中是一支名副其实的抗日铁军，此次整编74师进攻山东解放区，还颇有点意义，当时的山东省政府主席是王耀武，整编74师能在抗日战争中屡建功勋，也主要靠王耀武的指挥，所以这无疑是为老军长争地盘，整编74师全体官兵也是斗志昂扬。

张灵甫更是想在老军长面前新立一功，以证明王耀武选择他当接班人而摒弃了李天霞是多么明智的选择，然而这也无疑为整编74师的覆灭埋下了伏笔，要知道此次进攻山东解放区的第一纵队就是由张灵甫的整编74师、李天霞的整编83师和黄百韬的整编25师组成，人数超过九万人，当汤恩伯率大军进入山东境内却苦于无法寻找到华东野战军主力之时，立功心切的张灵甫提出的一个建议，将整编74师推入了深渊。

由张灵甫的整编74师作为诱饵，诱使华东野战军主力出击，计划中早已经进入山东境内的国民党三个兵团将华东野战军主力包围，而负责掩护整编74师的正是25师和83师，在孟良崮，当27万华东野战军将整编74师团团包围于山头之时，如果左右两翼的两个整编师齐心协力靠拢孟良崮，那么张灵甫的整编74师很可能会坚持到国民党三个兵团合围华东野战军主力，然而只有整编25师拼死援助，李天霞却因为与张灵甫的嫌隙拒不驰援，结果整编74师被华东野战军全歼于孟良崮，张灵甫也兵败身亡。

不过在整编74师最危急的时刻，张灵甫曾向汤恩伯去电，要求汤恩伯指挥李天霞极速驰援，可是此时的汤恩伯发现自己也已经指挥不动李天霞了，于是他向蒋介石报告了情况，在蒋介石的严令下，李天霞才发兵驰援，只可惜为时已晚，张灵甫在临死前给蒋介石去了最后一封电报控诉李天霞与自己的矛盾致使整编74师兵败孟良崮，这让蒋介石勃然大怒，下令就地枪决李天霞（在王耀武等人求情下，才免于一死）。

整编74师全军覆没的消息动摇了整个国民党军事体系，然而最痛心的莫过于当时的山东省政府主席王耀武，王耀武是一步步看着整编74师也就是以前的74军成长起来的，张灵甫和李天霞也是当初他任军长时手下的得力干将，早在抗日战争时期，他就已经知道了张灵甫与李天霞关系不睦，主要原因还是战功的问题，在上高会战时，李天霞是张灵甫的上司，战功同样卓著，然而战后论功行赏时，张灵甫获得了第一号武功状和“飞虎旗”，而李天霞却并没有获得，由此萌生了嫉妒之心。

不过在部队中互相嫉妒，互相攀比，互相争功，只要掌握平衡无疑也是一种打造铁军的好方法，两个将领所率部队互相较劲，在战场上都愿意冲锋在前，不失为一件好事，然而王耀武当军长时，这种平衡还可以掌握，当王耀武不再担任74军军长之时，军长之位的争夺让原先的张、李平衡彻底打破，关于为何让张灵甫担任74军军长，王耀武的话分量很重，所以极有可能是他向蒋介石推荐了张灵甫，为了再次平衡张灵甫和李天霞的关系，李天霞被调任100军军长，也就是后来的整编83师，虽然同样是中央军，然而这支部队与74军可完全不在一个水平线上。

重点进攻山东解放区的计划中，无论是蒋介石还是汤恩伯早已经将张、李不合的事情抛掷脑后，料想为了党国大计，两人完全可以摒弃前嫌，握手言和，连王耀武也绝没想到李天霞会把个人的恩怨带到战场上公报私仇，不仅将张灵甫置于死地，更是让他苦心经营的王牌军整编74师毁于一旦，他不禁痛哭流涕，其实张灵甫被围后也曾经向他这位老军长求援过，然而此时的王耀武作为一个地方长官，手中的兵屈指可数，并且都在地方要镇把守，实在调不出一兵一卒，只能眼睁睁的看着曾经为自己赢得显赫名声的王牌军覆灭。