碾莊戰役結束後，黃百韬兵團主力被全殲，困守碾莊的4個軍長中兩個逃脫，兩個被俘。
第25軍軍長陳士章、100軍軍長周志道先後逃到徐州，第44軍軍長王澤浚，64軍軍長劉鎮湘被俘虜。
黃百韬麾下的4個軍長都活着，為何唯獨兵團司令黃百韬死在了碾莊？
在碾莊攻堅戰的最後階段究竟發生了什麼？
11月18日：敗局已定
11月18日，碾莊攻堅戰的第8天，随着44軍、100軍陣地的接連丢失，援軍又遲遲不到。困守在碾莊附近的黃百韬兵團殘部士氣低迷。
此時碾莊西面、南面的·彭莊、黃灘、曹莊等主要陣地全部丢失。100軍、44軍的殘部全部退往25軍軍部所在的大、小牙莊。三個軍的殘部聚攏在一起，混亂不堪。
目前黃百韬兵團能戰的部隊也就25軍之40師以及劉鎮湘的64軍。黃百韬看着如今的局勢，在望着西邊大許家方向隆隆的炮聲，可望而不可及，援軍依舊遙遙無期。黃百韬唉聲歎氣地說到：
“如果李彌有邱清泉的力量，解圍還有點希望，現在是無望了！”
黃百韬與邱清泉有很深的沖突，邱清泉本就驕狂，平時看不起雜牌出身的黃百韬。在幾個月前的豫東戰役，他的二兵團同樣付出的巨大的代價，但是蔣介石隻給黃百韬發了青天白日勳章，邱清泉反而挨了批評。邱清泉一直耿耿于懷，認為黃百韬有意與他争功。
是以黃百韬料定了邱清泉不僅不會全力救援，還要落井下石，等着看自己的笑話。
11月19日：空歡喜一場
11月19日一大早，黃百韬正布置着碾莊的防禦，突然天空中一架飛機被擊中起火，一人乘降落傘落入碾莊包圍圈内。此人是一位空軍少校，本來是空投對空聯絡電台的，這樣能更好地配合國民黨軍空軍進行精确轟炸。
這位空軍少校除了帶來的電台，還告訴了黃百韬：邱清泉第二兵團已經進抵大許家，按照目前的進度，明日便可到達，黃百韬對此是半信半疑。
到了傍晚，解放軍已經一整日沒有發起攻勢了。結合此前那位空軍少校所說，難道援軍真的來了？解放軍退了嗎？黃百韬天真的對部下說：
“是不是共軍跑了？叫人派小部隊出去搜尋一下。”
于是第64軍派出搜尋部隊前去偵察，剛出去沒多久就遭遇解放軍阻擊。黃百韬聽到後又是垂頭喪氣，隻是空歡喜一場。
到了晚上8時許，突然炮聲隆隆，是華野的大炮響了。華野的總攻開始了，華野第4、6、8、9縱隊對黃百韬兵團殘部發起全線猛攻。
首先對最突出大牙莊的殘敵展開攻擊，這群由100軍、25軍、44軍潰兵組成的部隊很快便被殲滅。25軍軍長陳士章、100軍軍長周志道換上士兵的衣服，混在潰兵中逃離碾莊戰場。
大牙莊被攻下後，隻剩下黃百韬兵團部所在地的碾莊，25軍40師駐守的尤家湖，64軍控制的大、小院上、吳莊等幾個陣地。黃百韬兵團已經被華野壓縮在一片非常狹窄的區域内了。
在夜裡，我軍并沒有着急進攻，因為剩下的敵人都是最頑固的。是以在當天夜裡先用大炮對困守在狹窄地的敵人進行轟擊，以減小攻堅時的傷亡。
11月20、21日：碾莊終于崩潰了
經過夜裡的猛烈轟擊，黃百韬兵團的陣地上一片狼藉：
“房屋成墟，草棚着火，汽車破碎，人屍馬骸，累累皆是”
。
不過黃百韬等人倒是躲在堅固的隐蔽地堡内，大炮拿他也沒有任何辦法。據當時黃百韬的機要秘書回憶：
此時碾莊内糧食短缺，部隊今天的早飯是吃馬肉，然後就是就地掩埋陣地上的死屍。
到了20日夜間，隻見天空中升起數顆信号彈，随後華野6、9縱隊發起猛烈攻勢。當時黃百韬碾莊司令部部署有三個步兵團，加上直屬警衛部隊以及辎重部隊，累計近萬人。
戰鬥從20日夜一直持續到21日淩晨，經過一晚上地慘烈争奪，黃百韬的部隊敗下陣來。華野的戰士沖入碾莊，殘餘的潰兵倉皇逃竄。黃百韬攜25軍副軍長楊廷宴、兵團參謀長魏翺等人往東逃往劉鎮湘的64軍陣地。
黃百韬逃往64軍指揮部時狼狽不堪。第7兵團第二情報處處長廖鐵軍在回憶文章中記錄下了這一場景：
“黃百韬率領魏翺、譚嶽、楊廷宴等人從碾莊圩跑到了大院上的64軍指揮所。黃面如土色，坐了好久說不出話，接着吃了一點飯……”
21日中午，黃百韬又逃到了64軍156師駐守的吳莊陣地，企圖作最後的頑抗。當日夜裡，華野再次發起猛攻，4縱隊首先對還在尤家湖頑抗的25軍40師發起進攻。40師是黃百韬25軍的主力師，戰鬥力确實強悍，25軍軍長陳士章都跑了，40師還在頑抗。
此時的40師已經被孤立，為了避免40師作困獸之鬥，4縱司令員陶勇想了一個好辦法，他讓戰士們對陣地内的敵軍展開心理攻勢，讓這支孤軍心理防線崩潰，于是4縱陣地上豎起一個個大喇叭，戰士們扯着嗓子對敵軍喊話。
華野有不少戰士都是解放戰士，所謂解放戰士
是指在作戰中被解放軍俘虜，進而加入解放軍的國民黨軍戰士
。這些戰士用親身經曆勸40師官兵放下武器，不要再為蔣介石賣命了。
這一夜的心理戰确實非常有效，4縱沒經過激烈戰鬥就将尤家湖的40師全殲，俘虜了5000餘人。
同樣在打64軍時也采用了這樣的辦法，64軍是粵軍部隊，官兵基本都是廣東地區的人。華野讓兩廣縱隊的戰士去勸降64軍。這一招确實非常奏效，這些廣東士兵本就對中原地區不太适應，當聽到喇叭中傳來熟悉的鄉音時，思鄉的情緒越來越高。
就如同當年項羽垓下被圍困時一樣，劉邦用楚地的歌曲動搖項羽軍心。我軍也用這一招瓦解了64軍159師官兵的最後的心理防線，在22日上午159師師長鐘世謙率部投降。
黃百韬的結局
此時逃到吳莊的黃百韬，手中僅剩下64軍156師殘部數千人，黃百韬讓劉鎮湘率部突圍，對劉鎮湘說：
“我年老了，而且多病，做俘虜我走不動，而且難為情。你年齡還輕，尚有可為……希望你們突圍出去，再為黨國做點事。”
在22日黃昏，部署完156師殘部突圍的計劃後，他也換上普通士兵衣服在一隊随從的簇擁下從吳莊西北方向逃跑，而劉鎮湘則率領156師突圍。
劉鎮湘出去沒多久即被俘虜，而狼狽逃跑的黃百韬，身邊最後隻剩下了老部下楊廷宴。據楊廷宴說：
他和黃百韬逃到了一個小村莊附近，四周都說解放軍，黃百韬不願做俘虜，随後舉槍自殺。結果一槍還沒死，看黃百韬痛苦掙紮，自己又給黃百韬補了一槍。
随後解放軍便過來盤問什麼情況，楊廷宴便找到村莊内的老頭來作證，謊稱他們是這個村莊的人，打仗被抓了壯丁，去國民黨軍中當了夥夫，死的這人是他哥哥。解放軍戰士還看他可憐，于是三人一起把黃百韬掩埋。楊廷宴做了記号便離開了。
就這樣黃百韬成了解放戰争中，國民黨軍首位戰死的兵團司令。但是關于黃百韬的死一直争議頗多，有中流彈身亡，也有以上這個自殺身亡的說法。但是兩種說法都沒有最直接的證據來證明是對的。
因為沒有人第一時間對黃百韬的屍體進行檢查，而且最後黃百韬的屍體在哪也一直是一個謎。楊廷宴作為最後陪在黃百韬身邊的人，他應該是知道黃百韬是怎麼死的。但是為了宣傳需要以及各種利益牽扯，他也很可能會撒謊，畢竟現場沒有第三人看到黃百韬是怎麼死的。是以楊廷宴的說法隻是個孤證。
而且這個楊廷宴說話确實不靠譜，因為楊廷宴跑到徐州後，跟杜聿明深情地講述了黃百韬自殺時何等“壯烈”，劉鎮湘也是佩戴勳章為黨國獻身了。當時杜聿明内心無不佩服黃百韬、劉鎮湘的“赤膽忠心”。
然而過了幾年後，杜聿明在功德林内見到同樣在改造的劉鎮湘時，才知道這個楊廷宴的話不能全信。是以關于黃百韬之死，已經成了曆史中的謎團，待台灣方面更多的機密檔案解密，或許能揭開謎團。
黃百韬的死雖然撲朔迷離，但我軍的大淮海戰役卻越發清晰。随着黃百韬第7兵團在碾莊覆滅，淮海戰役也進入了一個新的階段。