1947年5月初，對解放區實施的全面進攻失敗之後，國軍被迫改變戰略收縮兵力進行重點進攻。同年，陸軍總司令顧祝同接替薛嶽，駐守徐州全權指揮重點進攻事宜，以湯恩伯為第一兵團司令，在山東集結重兵對華東野戰軍進行重點進攻，企圖殲滅華野主力。
按照部署，國軍以王牌整編74師為主力，向山東解放區推進。王牌74師成立于抗戰時期，是一支自抗戰以來幾乎打滿全場的軍隊，該軍參加過長沙會戰、上高會戰、武漢會戰等戰役，兩次獲得國軍最高榮譽飛虎旗。抗戰勝利後，74軍整編為74師，師長為張靈甫。整編74師全部美械裝備，官兵中知識分子多，被譽為國軍五大王牌之一。
在整個山東戰場，幾十萬部隊都是圍着整74師來部署。這些部隊有：整編83師、28師、57師、第7軍、48師、整編25師、65師，以及第二兵團王敬久部，第三兵團歐震部，第二綏靖區王耀武部等，總兵力在20萬人以上。
第一兵團司令湯恩伯最初将74師劃歸第一縱隊李天霞指揮。張靈甫與李天霞是黃埔同學，但二人關系一直不好。尤其抗戰後張靈甫的火速提拔，張靈甫的傲慢，導緻當年的一些老首長對其頗有不滿。張靈甫自知得罪之人太多害怕在戰争的節骨眼上吃李的暗虧，是以就堅決要求将74師劃歸黃百韬指揮。
張靈甫認為，黃百韬是顧祝同的基本部隊，且所部整編25師戰鬥力較強，一旦遇到危急情況時，互相之間還可有個照應。湯恩伯同意了張靈甫的請求，李天霞聽說張靈甫硬把整編74師劃出去後，心中很不痛快。
5月12日，湯恩伯下令全線進攻。張靈甫指令整編74師各旅向坦埠齊頭并進，向解放軍華東野戰軍主力發起強大的攻勢。張靈甫的整編74師進占迅速，很快突進到最前沿。但此時友軍各部卻失去了蹤影，左右兩翼部隊竟不知去向，張靈甫的整編74師一再突進，很快進入陣地核心。
張靈甫大惑不解，正在商量對策之際，參謀來報告稱：黃百韬的整編第25師主力還在原地集結，其先頭一個旅在距離74師幾十公裡的一個小山頭上觀望不前。整編83師，隻有一個營在遠離陣地的地方遊弋。整編第65師，還在蒙陰沒有半點動作。
張靈甫得到報告後，深知情況不妙，于是趕緊向湯恩伯彙報：“我軍已呈突前态勢，友軍支援不力，我亦不便指揮。請速下令各部向我靠攏。”湯恩伯接到張靈甫的彙報之後，并未立刻做出答複，他告訴張靈甫他先要去了解一下情況再給他指令。
湯恩伯心裡很清楚，由于張靈甫最受蔣寵信，整編74師裝備也最為先進，是以張靈甫一向目中無人，傲慢得很。其餘幾位師長都與張靈甫軍銜差不多，李天霞等人在軍中資格甚至比張靈甫還老。是以在行動上，要這些人一緻聽從張靈甫的安排靠攏過來，這是很難辦到的事情。但大戰在即，湯恩伯還是以總司令的名義催促各師迅速前進，掩護整編74師。
5月12日，華野指揮部下達作戰指令，以第1、第4、第8、第9縱隊擔任割裂圍殲整編74師的任務，以第2、第3、第7、第10縱隊擔任阻擊援兵的任務，約定在13日黃昏發起攻擊，迅速将整編74師等竄入中部的軍隊與其主力割裂，再進行聚殲。13日上午，國軍又以3個師的兵力發起攻擊，戰鬥一直打到下午4點鐘，華野主力退至黃鬥頂山、馬牧池等地，誘敵繼續深入。
此時張靈甫率領的整編第74師一直向前猛撲，全師的位置越來越靠前。在華野的誘敵戰術之下，整編74師漸漸脫離兩翼掩護部隊，闖入了華野設下的大包圍圈裡（實際上是實行中心開花戰術）。張靈甫見狀要求第三縱隊張淦部、黃百韬部、李天霞部迅速向整編74師靠攏，救援漸漸被圍的整編74師。
5月13日黃昏，華野第4、第9縱隊在正面誘惑74師深入，派出第1縱隊從右翼包抄，迅速占領蛤蟆崮、界牌等地，徹底切斷了整編74師與25師之間的聯系。僅僅兩個小時的時間，張靈甫就與黃百韬失去了聯系。此時，整編74師與華野打了大半天，左翼已經出現了一個大空擋，此時張靈甫再向湯恩伯電陳，為何左翼沒有友軍主力出現。湯恩伯問各部，各部均稱絕無按兵不動的事情。
5月14日，華野對坦埠一線發起猛烈攻勢，張靈甫孤軍與華野2個半縱隊激戰。華野第6縱隊從費縣急進到垛莊南面的白埠地區，第8縱隊從左翼出擊，占領了依汶莊和磊石山等地。經過竟日激戰，第8縱隊從左邊切斷了張靈甫74師傅與整編83師李天霞部的聯系，第6、第8縱隊互相連通配合，将整編74師包圍在了中間。
當天的戰鬥打得異常慘烈，張靈甫深知自己已經陷入包圍之中，于是下令迅速向後方補給基地——垛莊後撤。但垛莊此時已經被華野6縱隊攻下，張靈甫苦等的第25師、83師主力一直沒有及時出現。張靈甫隻得将重裝備丢下，退守孟良崮高地等待援兵。
困守孟良崮之後，張靈甫立刻與友軍聯系，但方圓幾十裡都沒有友軍的影子。當天下午，張靈甫接到湯恩伯電報，稱李天霞的83師已經奉命從天馬山及孟良崮東側進攻。張靈甫此時才松了一口氣，但後來又有報告稱83師實際上隻有一個搜尋隊抵達了天馬山，83師主力已經不在天馬山附近。張靈甫聽後，心如刀絞一般。
老鄉訓示張靈甫藏身地
5月15日，盡管湯恩伯一再給張靈甫打氣，讓他再堅守兩天形成決戰的核心，以分進合擊之勢聚殲華野主力。但時間一點一滴在流逝，整編74師在孟良崮的陣地越來越小，傷亡也越來越重，張靈甫苦苦等待的援軍一直未到，整編74師陷入困境。
整編74師被圍，蔣得知情況後立刻親自給前線的指揮官下了一道指令：“全力向蒙陰以東、漢河兩岸轉移攻勢，以解孟良固之圍。歐震統一指揮整二十五師、整六十五師、整十一師、整九師克日向孟良固進擊，如有懈怠者立即軍法從事。”
各部隊長官接到指令之後，各自催促部隊前進攻擊，以解救整編74師。但此刻為時已晚，因為華野指揮部下達了迅速圍殲整編74師的指令。在孟良崮外圍，華野4、5個縱隊的兵力擋在外面，戰況一度膠着。國軍各部雖是奉命救援，但大多各懷鬼胎，深知孟良崮圍難解，懼怕被解放軍全殲，是以救援難有大的效果。
在嚴令之下，僅有第83師李天霞部派出57團來到孟良崮外圍象征性地進行了“救援”，而早先計劃好的等候在外圍的20萬大軍卻無一人來救。張靈甫以自身為餌，吸引了華野10萬精銳圍在孟良崮打了三天三夜，國軍重兵集團竟沒有前來合圍，張靈甫及其74師陷入了死地。
絕地孟良崮
那麼，外圍的20萬國軍在哪裡呢？張靈甫被圍時，國軍整編第5軍被牽制于萊蕪；整編第11師被阻在蒙陰西北；整編65師、整編25師被阻擋在曹莊、蛤蟆崮、界牌；整編48師被拒在留田、鼻子山，當時距離張靈甫不到10公裡的83師與25師也沒有趕到。
張靈甫絕望之下發出最後一份電報：“戰況已惡化，職已盡了全力。無奈友軍增援不至，鈞座（指湯恩伯）與黃百韬、李天霞應負全責。彈藥不必再投，可速令空軍轟炸600高地及周圍陣地。張鐘麟。”整編74師最終被全殲于孟良崮，師長張靈甫開槍自殺（一說被擊斃）。
孟良崮之戰，整編74師全軍覆沒，師長張靈甫身亡。導緻孟良崮慘敗的真正原因是什麼呢？國軍将領郭汝瑰在日記中寫道：“餘以純軍事立場覺得此次失敗十分怪異。蓋74師左右翼友軍均相距五六公裡之遙，何以竟三日之久不能增援？各部隊如此不協調，戰鬥力如此之差，除失敗而外，當無二路。”
其實，這個問題就連張靈甫本人也意識到了。張靈甫死前（5月6日）曾給蔣寫過一封信，裡面詳述了他對國軍的看法：“以國軍表現于戰場者，勇者任其自進，怯着聽其裹足，犧牲者犧牲而已，機巧者自以為得志。賞難盡明，罰每欠當，彼此多存觀望，難得合作，各自為謀，同床異夢。”
各自為謀，同床異夢。這就是孟良崮整編74師被全殲的真正原因。