整編74師的前身是國民革命軍第74軍，抗日戰争時期，74軍在王耀武的帶領下幾乎打滿全場，屢立戰功，被譽為抗日鐵軍。抗戰勝利後，74軍被改編為74師，看起來似乎降格了，但人數依然維持在32000人左右，又換了美械裝備，是以戰鬥力不降反升，一躍成為國軍頭号王牌。此時許多人都把目光瞄向了整編74師師長的寶座，最終黃埔四期出身的張靈甫戰勝了黃埔三期的師兄李天霞，成了整編74師的首任師長。
解放戰争爆發後，張靈甫率整編74師從南京出發，一路連戰連捷，先後攻占了淮安、淮陰和漣水等地，為老蔣立下了不少戰功，不久後又被顧祝同調到山東戰場作戰。此時在山東境内的國軍共有25個整編師45萬餘人，而華野僅有27萬多人。盡管兵力占據絕對優勢，但顧祝同依然謹小慎微，嚴令各部“穩紮穩打，滾筒前進”。
老實說，顧祝同的這個作戰方針還是十分穩妥的，數個整編師一起行動，大大減小了被我軍分割圍殲的風險。然而這樣一來，無形中就拖慢了行軍速度，有時每天隻能前進十幾裡，張靈甫對此十分不滿。于是他依仗老蔣的寵信，置顧祝同的指令于不顧，率領部下一路狂飙，先後攻取了垛莊、楊家寨、馬牧池和孟良崮等地，兵鋒直逼華野指揮部所在地坦埠，把給他擔任側翼掩護的黃百韬和李天霞都甩在了身後。
黃百韬見張靈甫孤軍突進，華野數個縱隊又有南下的迹象，就打電話給他說：“鐘麟兄，你不要沖得這麼快嘛！你如果後撤一點，控制天馬嶺，我、你、霞公（李天霞）三點成線，共軍就無隙可鑽，拿我們沒辦法了。”不料張靈甫卻不屑地說：“煥然兄，共軍現在已是風聲鶴唳，哪裡還有膽量和我軍決戰呢？如果畏首畏尾，勢必贻誤戰機！” 不僅如此，他還偏偏放棄了天馬嶺，率部上了怪石嶙峋的孟良崮。
黃伯韬實在看不下去了，又打電話給張靈甫：“鐘麟兄，你那個師裝備重，車輛多，怎麼能去孟良崮呢？孟良崮無遮無蔽，無水無草，部隊怎麼辦呢？”張靈甫聞言說道，“我就是要以74師為誘餌，吸引共軍來決戰，以求全功！”話說到這個份上，黃百韬也不好再勸了。最終整編74師在孟良崮陷入華野重圍，張靈甫兵敗身亡。
那麼整編74師為何會全軍覆沒呢？除了友軍救援不力外，張靈甫本身也有很大問題，黃百韬早在戰前就點了出來。一個是“沖得太快”，正是因為沖得快才成了突出的孤軍，給了華野包圍的機會；二是孟良崮“無遮無蔽，無水無草”，孟良崮怪石嶙峋，根本就無法挖掘戰壕，74師官兵在華野的炮擊下傷亡慘重；另外74師裝備的重機槍多為水冷機槍，打一段時間就需要加水冷卻，而孟良崮上卻沒有水源，以緻于重機槍後來都成了擺設，74師的戰鬥力是以大受影響。而這些不利因素，黃百韬在戰前都曾提醒過張靈甫注意，但他驕橫自大，聽不進别人的意見，愣是把74師帶進了絕地，自己也兵敗身亡。