濟南戰役結束之後，山東境内隻剩下了除青島在内的少數幾個國軍據點，解放軍南下的後顧之憂被掃除。粟裕提出可以立刻進行淮海戰役，希望乘勝攻殲淮陰、淮安、寶應、高郵、海州國軍之戰役，稱為淮海戰役，主要目标為殲滅距離徐州較遠的黃百韬第7兵團、李延年第9綏靖區，為奪取徐州做好準備。
但是毛主席想得比粟裕更遠一點，毛主席提出調動中原野戰軍和華東野戰軍兩大野戰軍共60萬大軍，和國民黨軍在中原地區進行大決戰，一戰定天下，這就是所謂的大淮海。這場戰役其實打得并不是那麼順利，可以說是驚險重重，當時國民黨軍在中原地區有80萬大軍，蔣介石手裡最能打的部隊全在中原地區，黃埔系名将雲集，五大主力中的18軍，第五軍也在其中。
淮海戰役的第一階段是殲滅國民黨軍第七兵團，這個兵團是當時國民黨軍最大的兵團，司令長官黃百韬雖然是雜牌軍出身，但才能十分出衆。這個兵團主要是由雜牌軍組成的，是以粟裕最開始想用六天就消滅黃百韬兵團，但是第一場仗就差點崩了牙，黃百韬拼死抵抗，足足抵抗了11天，最後黃百韬自殺。
淮海戰役的第二階段是雙堆集戰役，由中野負責殲滅黃維第12兵團，這也是粟裕最緊張的階段。當時華野既要分别阻擊徐州、蚌埠可能出援的國民黨軍，確定圍殲黃維兵團之作戰，還要讓陳世榘帶着三個縱隊和大量重武器前去增援中野。
國民黨軍12兵團是當時全國戰場上最精銳的國軍兵團，由18軍，第14軍，第10軍，第85軍和一個快速縱隊組成，這幾支部隊都是全美械部隊，也是蔣介石的嫡系部隊，裝備精良，戰鬥力十分強悍。
第12兵團下轄的18軍是國民黨五大主力之一，是國民黨“五大主力”中，建軍最早、實力最大、名将最多的老牌勁旅，軍閥混戰時期就已經成名的部隊。這支部隊是蔣介石與陳誠之嫡系部隊，骨幹都是黃埔軍校畢業生，既有很強悍的戰鬥力，還有很好的軍紀，能夠以身作則，為其他部隊做典範。
淞滬會戰的時候，18軍在戰鬥最激烈的羅店和日軍進行反複的争奪戰，18軍201旅旅長蔡炳炎（黃埔一期）少将陣亡，18軍67師師長李樹森（黃埔一期）身負重傷。67師後來又被從德國緊急調回的黃維接替，67師這個龐大的甲種師最後打得就剩下不到一個團，由于羅店的戰鬥過于激烈，當時國軍将領們稱這裡是血肉磨坊。在接下來八年的戰争中，這支部隊不愧于國軍王牌軍的稱号，多次對日軍造成重創。
抗戰結束後，18軍整編為11師，師長是黃埔四期畢業的胡琏。胡琏和張靈甫既是同學，也是同鄉，但是胡琏和張靈甫不一樣，他非常的狡詐，是以中野，華野多次重兵想要圍殲他，不但沒有達成目的，反而遭受重創。1948年，整編11師又恢複了18軍的番号。
國民黨軍第12兵團司令是黃維，副司令是胡琏，這兩人都曾擔任過18軍的軍長，在雙堆集戰役中，18軍也是12兵團的頭号主力，讓解放軍吃了不少虧。
1948年12月2日，黃維兵團被壓縮在以雙堆集為中心的縱橫5公裡的狹窄地區内。但是這支部隊抵抗十分頑強，黃維和胡琏是攻守兼備的将領，他們的軍事才能本來就不弱，黃維也并不是大家說的書呆子，他在指揮上雖然呆闆，但是意志力十分頑強。12兵團在短時間内，就修築了上千個碉堡，以及密密麻麻的戰壕。
中野所有部隊全部參加了圍殲黃維兵團的戰鬥，但是由于缺乏重武器，不但殲滅不了第12兵團，多支部隊在阻擊黃維兵團突圍的過程中，還差點被打光。在這種情況下，華野參謀長陳世榘率領三個縱隊還有特種兵縱隊的重武器，緊急前來增援中野，這才使得戰鬥有了明顯進展。
1948年12月6日，華東野戰軍第七縱隊奉命加入了圍殲敵第十二兵團的攻擊序列，準備向敵大王莊、尖谷堆、小王莊一線陣地展開進攻。大王莊地處平原地帶，位于雙堆集正南方向約一公裡處，是敵第十二兵團核心陣地的屏障。東側二百五十餘米為戰場制高點尖谷堆，敵兵團炮兵觀測所就設立在上面。攻打下大王莊和尖古堆，那麼第12兵團的司令部也就保不住了。
黃維和胡琏都知道大王莊的重要性，是以他們把18軍118師33團放到了這裡，33團雖屬第十八軍118師，卻出身自第十八軍11師，是嫡系中的嫡系，被稱之為老虎團。這支部隊全副美械裝備，戰鬥力強悍，很多士兵都是參加過抗戰的老兵。
12月9日，攻擊指令下達後，華野七縱20師率先對大王莊發動進攻。其所轄的58、60團擔任主攻，59團待命。華野七縱雖然不久前參加了碾莊戰役，但是20師58團，60團一直擔任預備隊，沒有參加戰鬥，兵員充足，氣勢高昂。
戰鬥之前，華野進攻部隊向前挖掘了150米，并挖了三道縱向壕溝，以便縮短進攻距離，部隊也能夠快速展開。老虎團看見華野挖掘壕溝後，便配屬了一部分坦克，企圖打亂華野的進攻部署，但效果不理想。
58團和60團進攻之前，華野七縱，還有20師的炮火對大王莊進行了十分鐘的炮火覆寫，60團主攻營集中機槍火力壓制國軍地堡内的火力，随後三個主攻營依次對大王莊發動進攻。老虎團由于輕敵，一個回合就被趕了出去，12兵團副司令胡琏氣得差點槍斃了老虎團團長，指令18軍集中炮火猛轟大王莊，然後讓團長帶着部隊親自沖鋒。
按理來說，一支部隊沖鋒了兩三次後，部隊官兵的體力就會消耗得差不多了，不得不停下休整，但是這支部隊連續向莊内進行了十幾次沖鋒，奪回了大王莊的大部分地區。最後58團和60團由于傷亡太大，不得不把陣地交給59團，撤到莊内的西南角休整。
在雙方激戰的關鍵時刻，中野六縱司令員王近山把自己的精銳部隊，六縱46團派來支援，彙同59團、60團一部，再次殺入莊内和國軍老虎團及其增援部隊進行血拼。雙方的炮彈像雨點一樣地落在這個不足百戶人家的小村莊裡，手榴彈，火焰噴射器，炸藥包，迫擊炮彈爆炸的聲音始終沒停過，有的一個房間裡有十幾個人在拼刺刀。在解放戰争期間，很少有國民黨軍敢和解放軍拼刺刀，進行白刃戰，但是18軍最後的這些精銳們和日軍都拼過刺刀，是以根本不怕解放軍的刺刀。
戰鬥結束後，大王莊内所有的房屋，工事蕩然無存，雙方指戰員與官兵的屍體層層相疊，塹壕内的血水浸濕褲腿。雖然118師最後想把殘餘兵力也投入其中，但是在中野華野的有力打擊下，還是以失敗告終。最後七縱21師62團進入大王莊接管陣地。
駐守在附近小王莊内的是敵第八十五軍23師的師部及兩個團，他們親眼目睹了這場慘烈的曠世大戰，被吓得立刻向華野七縱投降。
但是大王莊戰鬥後并沒有結束，18軍的殘餘兵力退守到戰場制高點尖谷堆，華野七縱21師和18軍殘餘兵力在這座三十餘米高的小山包上又反複拉鋸了十幾次，這兩場仗完全打成了消耗戰。當華野七縱21師終于占領尖谷堆後，由制高點向北望去，整個敵第十二兵團的核心陣地就暴露在華野七縱眼前：數公裡長的”汽車城“工事、炮兵陣地、縱橫交錯的交通壕、戰壕，以及兵團以下的各級指揮部。尖古堆被拿下後，黃維不得不下令部隊分散突圍，最後他和副司令吳紹周等将領在突圍過程中被俘。