抗戰勝利不久，杜聿明調任東北保安司令長官，此時的第五軍軍長是邱清泉，這支國民黨軍的五大主力部隊之一擁有四萬餘人，麾下三個師全是美式裝備，為了與解放軍争奪中原，蔣介石将第五軍部署在中原。
邱清泉十分狂妄，自認為解放軍“
逢五不戰
”，即遇到第五軍就逃避不戰，這支王牌部隊的作用并不是給解放軍造成多大損失，而是它的清一色美式裝備以及機動性和快速性，使其能夠馳騁于華野和中野兩大戰場之間，無所顧忌。
邱清泉在中原與中野多次交手，劉伯承早就想打掉這支不可一世的王牌部隊，而此時，淮海戰役的打響，敲響了第五軍的喪鐘。
一，黃百韬被圍，機械化兵團也無能為力
1948年10月16日，邱清泉正式升任第二兵團中将司令官，第五軍軍長由熊笑三接任，11月6日，淮海戰役正式打響，解放軍多路向徐州逼近。
劉峙判斷解放軍将東西夾擊徐州，十分恐慌，當即改變原來撤至蚌埠兩側的計劃，決定調邱清泉的第二兵團，李彌的第十三兵團，孫元良的第十六兵團，晝夜向徐州集中，準備堅守徐州。
8日，守備徐州北面賈汪地區的第三綏靖區的部隊在副司令張克俠，何基沣的率領下戰場起義，解放軍迅速通過第三綏靖區的防地，直插徐州以東的大許家，将停留在碾莊附近的黃百韬兵團包圍。
徐州“剿總”副總司令兼前進總指揮杜聿明緊急指令邱清泉率第二兵團，李彌率十三兵團前去解圍。
負責阻擊這兩支部隊的是華東野戰軍第十縱隊和十一縱隊，解放軍在徐州到碾莊圩之間構築了密如蛛網的工事，國民黨軍每前進一步都要付出慘重代價。
國軍消耗了數以千計的炮彈，付出了幾千名官兵傷亡的代價，第五軍才前進了五六公裡，照這種打法，即便能打到碾莊圩，第五軍也将被消耗光。
而此時，黃百韬已經等不了杜聿明他們了，11月22日，解放軍攻占了碾莊圩，黃百韬兵團全軍覆沒，黃百韬本人也被擊斃，而第五軍仍然被阻擋在大許家一線，始終無法前進一步。
蔣介石的王牌機械化兵團，面對解放軍的鋼鐵防線，依然是無能為力。
黃百韬兵團的覆滅隻是國民黨軍噩夢的開始，接着，中原解放軍又将黃維兵團包圍于宿縣以西的雙堆集地區，在這樣的危急形勢之下，杜聿明提出放棄徐州而保住邱清泉兵團，李彌兵團和孫元良兵團。
他對顧祝同說“
要放棄徐州，就不能戀戰，要戀戰，就不能放棄徐州。也就是說，要走就不能打，要打就不能走。要是放棄徐州，出來再打，就等于把徐州3個兵團葬送掉，現在隻有讓黃維守着，牽制敵人，我将徐州的部隊撤出，經永城到達蒙城，渦陽，阜陽地區，以淮河為依托，再向敵人進攻，以解黃維之圍。
”
顧祝同無奈隻能同意，他明白，照此方案，很可能會犧牲掉黃維兵團，但能救出徐州的30萬大軍，也算是丢卒保車的良策，現在也隻能寄希望于黃維的王牌十八軍能堅持得久一點。
二，粟裕緊急追擊杜聿明，邱清泉昏頭之舉給了華野時間
蔣介石同意了杜聿明放棄徐州的方案，國軍30萬大軍倉皇撤離徐州，但杜聿明剛剛離開徐州不久，粟裕就得到了消息，他大吃一驚，如果讓機械化的杜聿明部隊逃脫與黃維兵團會合，将會給劉鄧的中原野戰軍造成緻命的威脅。
粟裕當即下令讓華野各部隊開始追擊國民黨軍，在黃淮平原上，解放軍的“鐵腳闆”與國民黨軍的汽車輪子展開了一場生死攸關的競賽。
關鍵時刻，邱清泉做了一個昏頭之舉。
邱清泉兵團在逃離徐州的時候，接到了第五軍四十五師在襄山廟掩護大部隊撤退時遭到解放軍猛烈攻擊的告急電報，他唯恐這支第五軍的骨幹部隊被解放軍圍殲，于是立刻指令七十二軍派1個師去增援。
邱清泉的部下紛紛勸阻，但他仍固執己見，而此時，杜聿明接到了蔣介石空投的“手谕”，蔣介石要求各兵團向永城前進，協同李延年兵團南北夾攻，以解黃維兵團之圍。
杜聿明看完手谕，隻覺手腳冰涼，蔣介石的臨時變卦不僅會讓黃維兵團覆滅，也會把現在手中的3個兵團葬送掉。
杜聿明思來想去，隻能召開會議和各兵團司令商讨，他當然是不願執行這樣的指令的，但邱清泉堅決主張進攻，他自恃有第五軍這支王牌部隊，而孫元良也主張服從蔣介石的指令。
事已至此，杜聿明隻好決定采取三面掩護，一面攻擊，逐次躍進的戰術進攻前進。
當天晚上，邱清泉派出一個師火速趕往襄山廟，增援第四十五師，經過一夜激戰，終于将其救了出來。
邱清泉雖然救出了四十五師，卻耽誤了寶貴的兩天時間，蔣介石的臨時變卦又使杜聿明失去了唯一的逃跑機會，華野大軍利用這兩天時間追上了杜聿明，邱清泉，20萬大軍全部到達了王引河一線，在東西50多裡寬的正面修築了密密麻麻的袋形防禦陣地。
緊接着，第一，第四，第十二縱隊以及魯中南縱隊的十幾萬大軍也趕到了洪河一線完成了對杜聿明集團的合圍，使他們成為甕中之鼈。
粟裕懸着的一顆心終于落了下來，第五軍的末日來臨了。
三，邱清泉精神失常，第五軍徹底覆滅
1948年12月4日，杜聿明和邱清泉決定以第五軍的兩個師為先鋒向南沖擊，企圖殺開一條血路。
但第五軍的攻擊無法撼動解放軍的防線，此時由于杜聿明， 邱清泉的兵團司令部暴露在解放軍的炮火面前，隻好匆匆将前進指揮部和兵團司令部搬遷到陳官莊。
12月6日，杜聿明在陳官莊召集各兵團司令開緊急會議，決定當晚突圍，邱清泉反對，他說“
對共軍作戰， 隻要好好固守一星期就會有辦法，共軍會自動退走，他們的圍攻從來不曾超過半個月。
杜聿明無奈，隻得放棄突圍的決定。
孫元良堅持帶着十六兵團突圍，結果兵團司令官孫元良隻身逃到漢口 ，整個部隊就像雪球掉進湯鍋，很快就消散了，而第五軍已經完全喪失了鬥志，在包圍圈裡惶惶不可終日。
許多軍官暗地裡準備便衣為逃跑做準備，為了提高士氣，杜聿明與邱清泉以升官的方式籠絡人心。
蔣介石為了挽救杜聿明的大軍 ，派出空軍空投毒氣彈以遲滞解放軍進攻，但毒氣彈根本沒有爆炸。
1949年1月9日，解放軍開始全面攻擊，杜聿明，邱清泉所在的陳官莊是解放軍首先攻擊的目标，在解放軍的猛烈攻擊下，杜聿明等人慌忙離開陳官莊，逃到第五軍軍部所在的陳莊。
眼看着包圍圈越來越小，邱清泉焦急催促杜聿明趕緊下令突圍，一些将領和幕僚七嘴八舌紛紛附和，但杜聿明仍不表态。
第五軍軍長熊笑三趁天黑一個人偷偷摸了出去，四十五師師長崔賢文見援軍沒有，突圍又不成，直接帶着部隊投降了解放軍。
邱清泉聽聞崔賢文投降，慌忙組織七十一軍殘部5000餘人，在魯樓河西岸組成一道防線，但解放軍很快渡過魯樓河，直插邱清泉的司令部。
此時，邱清泉見部隊無法掌握，便向各部軍官說“我已放棄指揮權”，要各部隊自行突圍，之後，邱清泉和杜聿明分開，自己帶着最親信的特務營一個勁兒向北逃跑，指望趁混亂搶先突圍出去。
但這時他已經精神失常，邊跑邊高聲大叫“共軍來了!”，結果被解放軍的機槍射中，當即倒地而亡。
曾輝煌的王牌主力第五軍，至此徹底覆滅。