1948年11月4日，華野代司令員兼代政委粟裕，副政委譚震林，參謀長陳世榘，副參謀長張震下達淮海戰役攻擊指令。6日，華野主力從臨沂，滕縣地區向隴海線東段挺進，一縱，六縱，九縱直撲新安鎮的黃百韬兵團，四縱，八縱向西南進軍，目的是占領運河鐵路橋，七縱，十縱，十一縱向台兒莊，韓莊進軍，目的是消滅馮治安部。
我軍對國民黨軍進行大舉進攻的時候，國民黨軍還處于一片混亂中。11月4日，顧祝同，劉峙在徐州召集各兵團将領開會，決定變更部隊部署，收縮部隊在徐州周圍。在會議上，黃百韬建議以徐州為中心，集結各兵團在徐州周圍備戰，并建議放棄海州，将第三綏靖區和44軍西調，劉峙同意了他的計劃。5日，黃百韬回到新安鎮，布置第七兵團向運河西側的碾莊附近轉移。
蔣介石用人有一個習慣，要麼是黃埔，要麼是浙江人，這樣他才會重用，但黃百韬既不是黃埔，也不是浙江人，他是廣東人，參加過北洋軍，也參加過其他軍閥，後來被蔣介石收編，但是黃百韬卻和其他軍閥不一樣，他不擁兵自重，也不A錢腐敗，對蔣介石十分忠誠。
抗戰末期，黃百韬被任命為25軍軍長，這個軍是十足的雜牌軍部隊，三個師分别來自中央軍，東北軍，川軍，戰鬥力很差，但是黃百韬用了很短的時間就提高了這支部隊的戰鬥力。抗戰結束後，25軍整編為25師，黃百韬擔任中将師長，這支部隊由于是雜牌軍，是以裝備的都是日械裝備，和張靈甫的整編74師等部隊沒法比。
抗戰剛勝利的時候，國民黨軍的各級将領都争相恐後地撈錢換老婆，黃百韬不但不關心這些事，連舞會都不參加，一心練兵。孟良崮戰役，南麻戰役時，黃百韬的整編25師雖然是雜牌軍部隊，但卻拼死救援其他部隊，給華野造成了很大的傷亡。豫東戰役，黃百韬更是開着坦克往前沖，使華野沒有取得更大的戰果。
黃百韬的忠心也打動了蔣介石，蔣介石後來又指令他擔任國民黨軍第七兵團司令，這個兵團下轄五個軍，分别是63軍，64軍，100軍，25軍，後來劉峙把44軍也調給了黃百韬，使這個兵團成為了淮海戰場上規模最大的一個軍。但這五個軍隊後面的背景都不一樣，分别隸屬川軍，粵系，中央軍等派系，黃百韬指揮起來并不是那麼容易。
11月6日，劉峙把100軍和44軍劃入了第七兵團，但是劉峙卻讓44軍在海州城幫忙運私鹽，使得黃百韬遲遲不能撤退。11月7日，黃百韬前面的一個保安旅被華野全殲，當時保安旅旅長王洪九連滾帶爬的到達黃百韬司令部後，黃百韬才知道形勢已經很危急了，立刻指令五個軍11個師十幾萬人向西撤退，主力第25、44、64、100軍經運河大橋撤退（渡河序列：64軍，兵團部，44軍，25軍，100軍），第63軍則經窯灣渡運河西撤，擔任兵團側翼掩護。
黃百韬在等待44軍從海州撤離的時候，疏忽了一件很要命的事情，那就是忘了在運河上架浮橋，緻使五個軍的人馬擁擠在一座鐵橋上，再加上有解放軍後面追擊，損失十分慘重。
11月9日，25軍在100軍掩護下通過運河橋，下午100軍軍長周志道指令44軍撤退，25軍過去之後擔心解放軍打過來，于是讓工兵去炸橋。100軍軍長周志道氣得大罵25軍官兵，25軍這才沒有炸橋，但是在撤退的時候，橋東的一輛彈藥車突然爆炸，25軍官兵以為是解放軍打過來，立刻炸毀大橋，導緻兩個團被隔在運河東岸，這些部隊被追上來的華野八縱官兵殲滅。
同一時間，
擔任兵團側翼掩護的
63軍
原計劃從窯灣渡河，但軍長
陳章
驕傲輕敵，行動遲緩，一直到9日也沒有渡河，成為了黃百韬兵團留在運河東岸的一支孤軍。粟裕指令四縱，六縱，八縱，九縱渡河追擊黃百韬兵團，殲滅63軍的任務交給一縱。
當時一縱司令員葉飛因病在後方休養，副司令兼參謀長張翼翔指揮戰鬥，粟裕戰前問他能不能一對一幹掉63軍，張翼翔回答沒有問題，之後立刻指揮20軍的三個師對63軍展開包圍，三天内将其全部殲滅，63軍軍長陳章被俘。
11月10日，華野七縱，十縱，十三縱占領宿羊山，通過國民黨軍第三綏靖區的防區，向碾莊西側進攻。華野之是以能很快通過國民黨軍第三綏靖區的防區，是因為第三綏靖區的兩位副司令，何基沣和張克俠都是地下黨員，他們在11月8日率59軍，77軍的2.3萬名官兵起義，使得華野七縱，十縱，十三縱從黃百韬後方殺來，華野十三縱全殲曹八集的國民黨第44師殘部約3000人，44師少将師長劉聲鶴開槍自殺，占領曹八集後，華野切斷了碾莊和徐州的聯系，将黃百韬兵團和李彌兵團割裂開來。
11月11日，華
野徹底完成了對黃百韬兵團的包圍，随即令第4、6、8、9、13縱隊在特縱配合下，負責圍殲
黃百韬
兵團。11日下午，劉峙下令李彌兵團，邱清泉兵團東進，解黃百韬之圍，黃維兵團向阜陽進發，李延年的第9綏靖區改編為第六兵團，劉汝明的第四綏靖區改編為第八兵團，孫元良的第16兵團也開始行動起來。
也是在這一天，國共雙方一場前所未有的大決戰，也就是後來的淮海戰役，才中原地區全面展開。徐州剿總在這裡集中了七個兵團和其他直屬部隊共80萬人的兵力，裝備方面也比解放軍強很多，蔣介石希望黃百韬能夠堅守碾莊，為邱清泉，李彌裡外夾擊華野争取時間。
粟裕在看到這麼多的國民黨軍部隊後，仍然不改殲滅黃百韬兵團的決心，并開始調整部署，指令山東兵團的第七縱隊，第十縱隊，十一縱阻擋邱清泉兵團，李彌兵團，指令蘇北兵團的二縱，十二縱和中野的十一縱等部隊切斷徐州援敵的退路。
華野四縱，六縱，八縱，九縱，十三縱五個主力縱隊繼續包圍碾莊，由華野參謀長陳世榘統一指揮，殲滅碾莊之敵。當時粟裕沒有把黃百韬太放在心上，他認為這些部隊中除了100軍外，都是雜牌部隊，五天的時間應該就足夠了，但是讓他沒有想到的是，這場戰役打了十幾天，淮海戰役的第一仗就差點把門牙給崩了。
黃百韬到達碾莊之後，李彌兵團曾在這裡駐防，在這裡修建了很多工事，黃百韬又在這些工事的基礎上加強，一個村一個村的部署設防，形成了巨大的環形防禦工事，并修建了大量的字母堡和明暗火力點。
戰鬥開始後的三天，隻有華野六縱和九縱取得了一定進展，但也隻是占領了區區幾個村莊，其他部隊和黃百韬兵團陷入了僵持狀态。打到15日，華野的炮兵部隊已經打了三個基數的炮彈，但是依然沒有太大的進展。
粟裕看到前線遲遲沒有進展，國民黨軍的援軍還在源源不斷地趕來增援，立刻召集華野主要将領和各縱隊司令員開會，粟裕訓示要先打弱敵，後打強敵，攻其首腦，亂其指揮，并讓譚震林，王建安統一指揮參加碾莊戰役的各部隊。
攻堅的部隊打得慘烈，阻擊的部隊也好不到哪裡去，國民黨軍派大量空軍部隊猛轟阻援部隊陣地，杜聿明親自到李彌兵團督戰，華野十縱，十一縱等部隊的傷亡十分慘重。19日這天，華野集中了上百門重炮對碾莊進行猛烈轟炸，九縱在向南側進攻的時候，敵軍在南門外水壕的一座小橋後擺上了20多挺輕重機槍，九縱戰士在沖鋒的時候被成排打倒在橋上。
九縱司令員聶鳳智到前線指揮縱隊炮兵對其進行打擊，這才為沖鋒的主攻團突圍争取了時間。由于傷亡太大，後方送來的兵員根本就不夠，為了補充兵員，華野打碾莊的時候發明了“即俘即補”，有些被俘虜的國軍，連衣服都沒換，就帶了華野的帽子重新上了戰場。前線的一些主攻團，除了團長等少數幹部不是俘虜的國民黨兵，其他基本上都是國民黨兵。
碾莊戰役從11月6日打到11月22日，用了17天的時間，華野擊斃擊傷國民黨軍六萬餘人，但是華野也付出了傷亡六萬人的代價，後來打陳官莊的國民黨軍三個兵團30多萬人，也沒有傷亡這麼多人。戰役結束後，華野各縱隊至少傷亡5000餘人，戰鬥骨幹基本被打光，不少連隊打得就剩下十餘人，這十餘人基本上都是後勤人員，為了解決幹部短缺問題，各縱隊，師，團的通訊員，偵查員，警衛人員，參謀都被補充到了各個部隊。