整编74师的前身是国民革命军第74军，抗日战争时期，74军在王耀武的带领下几乎打满全场，屡立战功，被誉为抗日铁军。抗战胜利后，74军被改编为74师，看起来似乎降格了，但人数依然维持在32000人左右，又换了美械装备，因此战斗力不降反升，一跃成为国军头号王牌。此时许多人都把目光瞄向了整编74师师长的宝座，最终黄埔四期出身的张灵甫战胜了黄埔三期的师兄李天霞，成了整编74师的首任师长。
解放战争爆发后，张灵甫率整编74师从南京出发，一路连战连捷，先后攻占了淮安、淮阴和涟水等地，为老蒋立下了不少战功，不久后又被顾祝同调到山东战场作战。此时在山东境内的国军共有25个整编师45万余人，而华野仅有27万多人。尽管兵力占据绝对优势，但顾祝同依然谨小慎微，严令各部“稳扎稳打，滚筒前进”。
老实说，顾祝同的这个作战方针还是十分稳妥的，数个整编师一起行动，大大减小了被我军分割围歼的风险。然而这样一来，无形中就拖慢了行军速度，有时每天只能前进十几里，张灵甫对此十分不满。于是他依仗老蒋的宠信，置顾祝同的命令于不顾，率领部下一路狂飙，先后攻取了垛庄、杨家寨、马牧池和孟良崮等地，兵锋直逼华野指挥部所在地坦埠，把给他担任侧翼掩护的黄百韬和李天霞都甩在了身后。
黄百韬见张灵甫孤军突进，华野数个纵队又有南下的迹象，就打电话给他说：“钟麟兄，你不要冲得这么快嘛！你如果后撤一点，控制天马岭，我、你、霞公（李天霞）三点成线，共军就无隙可钻，拿我们没办法了。”不料张灵甫却不屑地说：“焕然兄，共军现在已是风声鹤唳，哪里还有胆量和我军决战呢？如果畏首畏尾，势必贻误战机！” 不仅如此，他还偏偏放弃了天马岭，率部上了怪石嶙峋的孟良崮。
黄伯韬实在看不下去了，又打电话给张灵甫：“钟麟兄，你那个师装备重，车辆多，怎么能去孟良崮呢？孟良崮无遮无蔽，无水无草，部队怎么办呢？”张灵甫闻言说道，“我就是要以74师为诱饵，吸引共军来决战，以求全功！”话说到这个份上，黄百韬也不好再劝了。最终整编74师在孟良崮陷入华野重围，张灵甫兵败身亡。
那么整编74师为何会全军覆没呢？除了友军救援不力外，张灵甫本身也有很大问题，黄百韬早在战前就点了出来。一个是“冲得太快”，正是因为冲得快才成了突出的孤军，给了华野包围的机会；二是孟良崮“无遮无蔽，无水无草”，孟良崮怪石嶙峋，根本就无法挖掘战壕，74师官兵在华野的炮击下伤亡惨重；另外74师装备的重机枪多为水冷机枪，打一段时间就需要加水冷却，而孟良崮上却没有水源，以致于重机枪后来都成了摆设，74师的战斗力因此大受影响。而这些不利因素，黄百韬在战前都曾提醒过张灵甫注意，但他骄横自大，听不进别人的意见，愣是把74师带进了绝地，自己也兵败身亡。