全面進攻失敗後，老蔣又調集了45萬大軍對山東解放區發動了重點進攻。為了搶占頭功，張靈甫置顧祝同“密集靠攏，滾筒前進”的戰術于不顧，指令整編74師全速突進，很快和左右兩翼的黃百韬與李天霞拉開了數十公裡的距離。黃百韬見張靈甫沖得太猛，有被華野包圍的危險，就打電話讓他回師天馬嶺，向自己和李天霞靠攏。但張靈甫自恃裝備精良，戰鬥力強悍，認為華野不敢和自己硬碰硬，是以拒絕了黃百韬的提議，最終被華野包圍在了孟良崮地區。
經過三天激戰，我軍将整編74師全殲，張靈甫兵敗身亡。有人說整編74師之是以被全殲，根本原因就在于上了孟良崮這個絕地。如果當初不上孟良崮，而是在平原地帶堅守，憑借其強大的火力優勢，我軍根本就打不動他。那麼，這個設想真的成立嗎？張靈甫不上孟良崮，74師就不會覆滅嗎？要回答這個問題其實非常簡單，我們隻要看看胡琏的遭遇就懂了。
胡琏和張靈甫是陝西老鄉，又同是黃埔四期畢業，軍校畢業後都成了老蔣的嫡系愛将，手握重兵。在講究派系和出身的國軍内部，這種關系十分難得，二人是以惺惺相惜，成了知己好友。當張靈甫在孟良崮被我軍包圍後，胡琏率部日夜兼程前往救援，但由于他距孟良崮較遠且途中不時遇到我軍阻擊，是以當他趕到孟良崮時，張靈甫早已兵敗身亡。張靈甫的死使胡琏深受刺激，狂言要給自己的這個老鄉複仇。
孟良崮戰役結束後不久，國軍又集中了30餘萬人的兵力向魯中大舉進攻，胡琏率領整編第11師一路猛沖，先後攻陷了界首、萬德、平陰和南麻等地。為了調動敵人，粟裕率華野主力直插第後，進逼兖州和徐州。老蔣見狀，急忙從魯中抽調了7個整編師回援。這樣一來，魯中兵力空虛，隻剩下了胡琏的整編第11師、黃百韬的整編第25師、王淩雲的整編第9師和黃國梁的整編第64師，其中以胡琏的整編第11師最為靠前。
胡琏很快嗅到了危機，立即指令部隊在南麻修築工事，用了近一個月的時間，構築起了密集的地堡群，每一個地堡群外圍都設定了鐵絲網和鹿砦等障礙物。然而即使修築了如此完整的防禦工事，胡琏在南麻戰役爆發後的第4天就頂不住了，要不是黃百韬拼死救援，他就步張靈甫的後塵了。南麻戰役的過程說明，即使張靈甫不上孟良崮，選擇在平原堅守，74師也還是難逃全軍覆沒的命運。
之是以這麼說有四點原因：首先，胡琏的整編11師也是國軍五大主力之一，其裝備和戰鬥力與整編74師相比毫不遜色；其次，胡琏的戰場指揮和應變能力要比張靈甫高出一頭；第三，華野在南麻戰役中隻投入了4個縱隊的兵力，兵力比孟良崮戰役少了一半多，即使如此，胡琏在有完備防禦工事的情況下隻守了4天就頂不住了。第四，張靈甫是在瞬間被包圍的，根本就沒有時間修建防禦工事。是以以胡琏做參考的話，即使張靈甫不上孟良崮，選擇在平原堅守，但在華野五個縱隊的圍攻下，依然會是全軍覆沒的結局。