济南战役结束之后，山东境内只剩下了除青岛在内的少数几个国军据点，解放军南下的后顾之忧被扫除。粟裕提出可以立刻进行淮海战役，希望乘胜攻歼淮阴、淮安、宝应、高邮、海州国军之战役，称为淮海战役，主要目标为歼灭距离徐州较远的黄百韬第7兵团、李延年第9绥靖区，为夺取徐州做好准备。
但是毛主席想得比粟裕更远一点，毛主席提出调动中原野战军和华东野战军两大野战军共60万大军，和国民党军在中原地区进行大决战，一战定天下，这就是所谓的大淮海。这场战役其实打得并不是那么顺利，可以说是惊险重重，当时国民党军在中原地区有80万大军，蒋介石手里最能打的部队全在中原地区，黄埔系名将云集，五大主力中的18军，第五军也在其中。
淮海战役的第一阶段是歼灭国民党军第七兵团，这个兵团是当时国民党军最大的兵团，司令长官黄百韬虽然是杂牌军出身，但才能十分出众。这个兵团主要是由杂牌军组成的，所以粟裕最开始想用六天就消灭黄百韬兵团，但是第一场仗就差点崩了牙，黄百韬拼死抵抗，足足抵抗了11天，最后黄百韬自杀。
淮海战役的第二阶段是双堆集战役，由中野负责歼灭黄维第12兵团，这也是粟裕最紧张的阶段。当时华野既要分别阻击徐州、蚌埠可能出援的国民党军，确保围歼黄维兵团之作战，还要让陈世榘带着三个纵队和大量重武器前去增援中野。
国民党军12兵团是当时全国战场上最精锐的国军兵团，由18军，第14军，第10军，第85军和一个快速纵队组成，这几支部队都是全美械部队，也是蒋介石的嫡系部队，装备精良，战斗力十分强悍。
第12兵团下辖的18军是国民党五大主力之一，是国民党“五大主力”中，建军最早、实力最大、名将最多的老牌劲旅，军阀混战时期就已经成名的部队。这支部队是蒋介石与陈诚之嫡系部队，骨干都是黄埔军校毕业生，既有很强悍的战斗力，还有很好的军纪，能够以身作则，为其他部队做典范。
淞沪会战的时候，18军在战斗最激烈的罗店和日军进行反复的争夺战，18军201旅旅长蔡炳炎（黄埔一期）少将阵亡，18军67师师长李树森（黄埔一期）身负重伤。67师后来又被从德国紧急调回的黄维接替，67师这个庞大的甲种师最后打得就剩下不到一个团，由于罗店的战斗过于激烈，当时国军将领们称这里是血肉磨坊。在接下来八年的战争中，这支部队不愧于国军王牌军的称号，多次对日军造成重创。
抗战结束后，18军整编为11师，师长是黄埔四期毕业的胡琏。胡琏和张灵甫既是同学，也是同乡，但是胡琏和张灵甫不一样，他非常的狡诈，所以中野，华野多次重兵想要围歼他，不但没有达成目的，反而遭受重创。1948年，整编11师又恢复了18军的番号。
国民党军第12兵团司令是黄维，副司令是胡琏，这两人都曾担任过18军的军长，在双堆集战役中，18军也是12兵团的头号主力，让解放军吃了不少亏。
1948年12月2日，黄维兵团被压缩在以双堆集为中心的纵横5公里的狭窄地区内。但是这支部队抵抗十分顽强，黄维和胡琏是攻守兼备的将领，他们的军事才能本来就不弱，黄维也并不是大家说的书呆子，他在指挥上虽然呆板，但是意志力十分顽强。12兵团在短时间内，就修筑了上千个碉堡，以及密密麻麻的战壕。
中野所有部队全部参加了围歼黄维兵团的战斗，但是由于缺乏重武器，不但歼灭不了第12兵团，多支部队在阻击黄维兵团突围的过程中，还差点被打光。在这种情况下，华野参谋长陈世榘率领三个纵队还有特种兵纵队的重武器，紧急前来增援中野，这才使得战斗有了明显进展。
1948年12月6日，华东野战军第七纵队奉命加入了围歼敌第十二兵团的攻击序列，准备向敌大王庄、尖谷堆、小王庄一线阵地展开进攻。大王庄地处平原地带，位于双堆集正南方向约一公里处，是敌第十二兵团核心阵地的屏障。东侧二百五十余米为战场制高点尖谷堆，敌兵团炮兵观测所就设立在上面。攻打下大王庄和尖古堆，那么第12兵团的司令部也就保不住了。
黄维和胡琏都知道大王庄的重要性，所以他们把18军118师33团放到了这里，33团虽属第十八军118师，却出身自第十八军11师，是嫡系中的嫡系，被称之为老虎团。这支部队全副美械装备，战斗力强悍，很多士兵都是参加过抗战的老兵。
12月9日，攻击命令下达后，华野七纵20师率先对大王庄发动进攻。其所辖的58、60团担任主攻，59团待命。华野七纵虽然不久前参加了碾庄战役，但是20师58团，60团一直担任预备队，没有参加战斗，兵员充足，气势高昂。
战斗之前，华野进攻部队向前挖掘了150米，并挖了三道纵向壕沟，以便缩短进攻距离，部队也能够快速展开。老虎团看见华野挖掘壕沟后，便配属了一部分坦克，企图打乱华野的进攻部署，但效果不理想。
58团和60团进攻之前，华野七纵，还有20师的炮火对大王庄进行了十分钟的炮火覆盖，60团主攻营集中机枪火力压制国军地堡内的火力，随后三个主攻营依次对大王庄发动进攻。老虎团由于轻敌，一个回合就被赶了出去，12兵团副司令胡琏气得差点枪毙了老虎团团长，命令18军集中炮火猛轰大王庄，然后让团长带着部队亲自冲锋。
按理来说，一支部队冲锋了两三次后，部队官兵的体力就会消耗得差不多了，不得不停下休整，但是这支部队连续向庄内进行了十几次冲锋，夺回了大王庄的大部分地区。最后58团和60团由于伤亡太大，不得不把阵地交给59团，撤到庄内的西南角休整。
在双方激战的关键时刻，中野六纵司令员王近山把自己的精锐部队，六纵46团派来支援，汇同59团、60团一部，再次杀入庄内和国军老虎团及其增援部队进行血拼。双方的炮弹像雨点一样地落在这个不足百户人家的小村庄里，手榴弹，火焰喷射器，炸药包，迫击炮弹爆炸的声音始终没停过，有的一个房间里有十几个人在拼刺刀。在解放战争期间，很少有国民党军敢和解放军拼刺刀，进行白刃战，但是18军最后的这些精锐们和日军都拼过刺刀，所以根本不怕解放军的刺刀。
战斗结束后，大王庄内所有的房屋，工事荡然无存，双方指战员与官兵的尸体层层相叠，堑壕内的血水浸湿裤腿。虽然118师最后想把残余兵力也投入其中，但是在中野华野的有力打击下，还是以失败告终。最后七纵21师62团进入大王庄接管阵地。
驻守在附近小王庄内的是敌第八十五军23师的师部及两个团，他们亲眼目睹了这场惨烈的旷世大战，被吓得立刻向华野七纵投降。
但是大王庄战斗后并没有结束，18军的残余兵力退守到战场制高点尖谷堆，华野七纵21师和18军残余兵力在这座三十余米高的小山包上又反复拉锯了十几次，这两场仗完全打成了消耗战。当华野七纵21师终于占领尖谷堆后，由制高点向北望去，整个敌第十二兵团的核心阵地就暴露在华野七纵眼前：数公里长的”汽车城“工事、炮兵阵地、纵横交错的交通壕、战壕，以及兵团以下的各级指挥部。尖古堆被拿下后，黄维不得不下令部队分散突围，最后他和副司令吴绍周等将领在突围过程中被俘。