1945年8月，日本宣布無條件投降，蔣介石立即發動内戰。劉鄧129師在敵後開辟的晉冀魯豫解放區是華北各解放區的大門，首當其沖。8月至9月，劉伯承在上黨一仗，消滅蔣閻(錫山)進犯軍3.5萬餘人，打出了解放戰争中第一個大殲滅戰。
上黨戰役，在關鍵的時刻，守住了華北各解放區的大門，争得了國内為時半年的和平。後來有軍事專家說：“這一戰役，不論在軍事上和政治上，它的作用無論怎樣估計都不會過高。”但是，劉帥後來講到上黨戰役，卻多次喟然長歎:
“那時候真難啊！”
為什麼？
抗戰一勝利，蔣介石的主力遠在大西南，為了大量運送部隊到東北、平津，必須打通鐵路交通線，其中，他當務之急則要打通華北的鐵路線，然後才能通到東北。
結果，蔣軍沿五條鐵路開進，這五條鐵路是：平漢路、津浦路、同蒲路、正太路、平綏路。五條鐵路中，隻有平綏路不在晉冀魯豫境内。津浦路東側是華東解放區，正太路北側是晉察冀解放區，劉鄧部隊都隻管半條。平漢路和同蒲路兩條，卻全靠劉鄧擔負。而這兩條鐵路，又離抗戰中蔣介石屯兵的大後方最近。特别是縱貫晉冀魯豫解放區中心的平漢鐵路，是蔣介石進軍華北和東北的要道，蔣介石志在必得。是以，劉伯承守大門，既要守同蒲路，尤其要守平漢路。
在劉伯承倉促準備應戰時，半路上殺出一個程咬金，山西的閻錫山派兵搶占上黨。他這一招，其實就是牽制劉伯承，以便蔣介石打通平漢路。如果蔣閻控制了東西兩側的平漢路和同蒲路，再從上黨和太原南北對擊，消滅劉伯承就易如反掌。
是以，劉伯承必須破敵。
可是，這時，閻錫山部史澤波攻占了襄垣、潞城，“收複”了長治、長子、壺關、屯留，以兩個師駐在長治，周圍五城都配置了部隊，完成了防禦體系。下一步就要進犯晉東南，攻打太行山了。
蔣介石的大部隊，也兵分兩路向劉鄧開來。一路是胡宗南的三個軍，北渡黃河，經運城沿同蒲路北進，另一路是孫連仲的七個軍正在向鄭州、新鄉集結。
在本戰略區内還有10萬日僞軍拒絕投降，劉鄧面臨背腹受敵的危險。怎麼辦？
8月27日，劉、鄧等人開會。劉伯承說:“平漢、同蒲是我們作戰的主要方向，但現在的問題是閻錫山侵占了我上黨六城，在我們背上插了一把刀子。芒刺在背、脊梁骨發涼，不拔掉這把刀子，心腹之患不除，怎麼放得下心去守平漢、同蒲的大門呢？”
參謀長李達說：“五個指頭按五個跳蚤一個也按不死。晉冀魯豫是四戰之地，也不可四處用兵。怎麼辦？我們的處境很被動。”
确實是如此。
打不打上黨，很不容易作決斷。一方面，這一仗非打不可，以免形成背腹受敵、虎狼夾擊之勢；但是另一方面，倘若平漢線有失，一着不慎，滿盤皆輸，問題就大了。
打不打，難，打哪裡，也難。
經過仔細權衡輕重緩急，劉伯承還是決心先打上黨。劉伯承經過精密計算，還有一個月時間的空子可鑽。即，先打上黨，再回師平漢線。
劉伯承說：“打這一仗也還來得及。胡宗南暫時放着，讓他分散兵力。主要是孫連仲。他原來在鄂西，十幾萬人，臨時調轉背來，由陸上北進，談何容易。沒有一個月來不了。還得老天爺幫他的忙，不下雨。但是我們在上黨也隻能打一個月。如果長治城一個月内打不下來，也隻得暫時留着。把它周圍掃清了，由地方部隊把它圍困起來。”
正是在這樣的算計之下，劉鄧決定首先發起上黨戰役，從上黨打開突破口，
結果，9月10日，劉鄧開始發兵，先打屯留，到9月19日把長治周圍的縣城全部攻克，包圍長治城，随後，劉伯承改為打閻錫山的援軍，10月2日，将敵人援軍合圍于老爺嶺、磨盤坳至榆林地區，激戰到10月6日，殲敵2萬餘。兩天後，史澤波率領部隊從長治突圍，又被全殲，俘敵史澤波。10月12日，戰鬥全部結束。
整個戰役殲敵3.5萬餘人，劉鄧自己隻傷亡4000人，把敵人消滅的幹幹淨淨。而這一戰從發起到全部結束，隻用了一個月多三天，完全在劉伯承的“預算時間”之内。
上黨勝利後，劉鄧又發起平漢戰役，再次殲滅蔣介石4.5萬餘人（其中一萬餘起義）。蔣介石打通平漢路的計劃完全破産。
陳冠任著、中共黨史出版社出版的《中國人民解放軍十大元帥：解放軍十大統帥鮮為人知的曆史》一書記述了上黨戰役和平漢戰役。該書為該社的年度暢銷書，銷量已過百萬冊，曾名列中國軍事暢銷書熱賣榜第一名（如圖）。