1947年5月13日至16日，在山東省臨沂市蒙陰縣東南孟良崮山區，陳毅，粟裕指揮華東野戰軍對國民軍頭号主力整編74師進行了一場圍殲戰。為了殲滅這支部隊，華野動用了五個縱隊，其中葉飛一縱，陶勇四縱，王必成六縱，許世友九縱是華野攻堅能力最強悍的部隊，華野特種兵縱隊的重炮也參加了此次戰鬥。
華野官兵在經過三天的血戰，終于将整編74師全部殲滅，但是華野也付出了巨大傷亡，傷亡高達1.2萬人。魯南戰役，宿北戰役，萊蕪戰役都比此次戰果要大很多，但是華野都沒有付出如此巨大的傷亡。但是這場戰役的意義極大，國民黨軍整編74師是國軍頭号主力，戰鬥力非同尋常，此次戰役極大地震懾了其他的國民黨軍部隊，使其他的國軍部隊再也不敢孤軍深入解放軍根據地腹地。
孟良崮戰役後不久，1947年6月初，華東野戰軍政治部俘虜管理處接到野戰司令部指令：“整編74師俘虜一個都不能放，嚴加管制不使逃跑。”這道指令把當時的整編74師俘虜吓了一跳，還以為要要殺他們。
在解放戰争期間，解放軍最喜歡的兵員是出身貧苦的農民，因為農民階級成分好，能吃苦，打起仗來比較勇猛，而解放戰士畢竟受到過國民黨方面的思想熏陶，需要一定的改造時間。是以當時解放軍對俘虜的政策是，願意留下來參加解放軍的就地參軍，不願意留下來的發路費送他們回家，也不會勉強，但為什麼非要把整編74師的俘虜留下來呢？
在孟良崮戰役中，華野俘虜了1.9萬名整編74師俘虜。整編74師的俘虜可不同于國民黨軍其他部隊的俘虜，該師老兵成分很多，作戰經驗和戰鬥素養普遍較好，很多官兵還都是從抗戰時期一路打過來的，單兵很素質好，把他們留下來可以很快帶動解放軍官兵的戰鬥力，把整編74師的一些先進作戰經驗吸取進來。
整編74師的戰鬥力可以說是從抗戰時期打出來的，這支部隊的前身，也就是國民革命軍74軍，組建于淞滬會戰時期。在淞滬會戰，南京保衛戰的混戰中，這支部隊表現良好，即使是在撤退的過程中，也能保持冷靜的态度。1938年德安戰役，74軍58師打得就剩下500人，51師153旅旅長張靈甫帶着400名突擊隊員死守張古山，張靈甫身上多處負傷仍然不退。
74軍之是以能有後來的威名，多虧它的第二任軍長王耀武。王耀武雖然出生于黃埔三期，但是由于軍事才能出衆，晉升的速度比很多黃埔一期将領都快。1941年上高會戰時，74軍從頭打到尾，日軍第33師團遭到重創，第34師團及獨立第20混成旅團傷亡更是高達70%以上，日軍第34師團長岩永少将被擊斃。1943年常德會戰，74軍57師在餘程萬的率領下死守常德15天，連續奪得兩面飛虎旗。
抗戰勝利後，為了震懾日軍，74軍被美軍整建制空運到了南京。1946年，國民政府對全國部隊進行整編，74軍被整編為74師，全師3.2萬人，全副美械裝備。當時國民政府還根據地各部隊在抗戰時的表現，将所有部隊進行了排名，選出了五支在抗戰時表現最好的部隊，分别是整編74師，整編11師，第五軍，新一軍，新六軍，其中整編74師位于各部隊之首。
整編74師雖然在抗戰時期立下赫赫戰功，但是卻在抗戰勝利後，充當起蔣家王朝的打手，在山東，江蘇等地大搞白色恐怖，對華野所在的根據地進行大肆殺戮，破壞百姓，搞得華東地區百姓怨聲載道。這支部隊也确實給華野造成了很大的麻煩，華野很多将領都想要消滅這支部隊，到了孟良崮戰役時，華野忍無可忍，終于集中力量将其消滅。
整編74師的基層官兵也大都出身于窮苦農家，是以對整編74師被俘官兵的改造工作比較順利，整編74師的很多官兵，後來都參加了解放軍，尤其是機槍手和炮兵等比較專業性的崗位，給我軍提供了很寶貴的作戰經驗。整編74師57旅旅長陳噓雲後來還擔任南京市市政協委員、政協副主席。