1937年王耀武的51師（轄周志道151旅、李天霞153旅）和俞濟時第58師（轄吳繼光174旅、邱維達172旅）合并組建了第74軍，俞濟時任74軍第一任軍長。
（俞濟時）
74軍是國民黨王牌中最耀眼的明星，榮獲“抗日鐵軍”、“虎贲師”、“禦林軍”等稱号，并且兩次榮獲國府抗戰時期最高獎勵——“飛虎旗”。
俞濟時在抗戰初期曾率領74軍屢建功勳。隻不過俞濟時為人恃才傲物，而且個性十足，武漢會戰期間，就曾因看不起薛嶽而撂挑子，所幸當時74軍戰力頗為強悍，因而挽回了戰場頹勢，是以蔣介石将俞濟時調離前線，擔任其侍衛長。
（王耀武）
1939年74軍出身的王耀武代替俞濟時出任軍長，自此以後74軍整體上下深受王耀武作戰風格的影響，以頑強敢戰而出名。
（張靈甫）
1947年解放戰争中，國民革命軍第74軍進行整編改造，後改為整編第74師，張靈甫任師長，在山東執行重點進攻的74師冒進，後發現共軍有合圍己軍之意，撤退至孟良崮。
得報後蔣介石認為74師占據着制高點，戰鬥力強勁，附近又有兵力雄厚的外圍部隊，欲與華東野戰軍主力決戰，中心開花！但外援被野戰軍攔截部隊拼死阻擊，損失慘重未能及時突進。
陳、粟調集華東野戰軍1縱、4縱、6縱、8縱、9縱五個主力縱隊，不惜一切代價在被國軍反包圍前，以殲滅74師。5月8日在孟良崮被中國人民解放軍華東野戰軍全面合圍。最終經過四天激烈鏖戰，彈盡援絕，水糧俱無，74師在5月16日全軍覆沒，師長張靈甫舉槍自盡，副師長蔡仁傑、58旅旅長盧醒等亦自殺身亡。
74師全軍覆沒、師長張靈甫之死的消息傳到南京後，對國民黨政府以極大的震動。74師被殲，蔣介石哀歎這是“無可補償的損失”，陳誠、王耀武亦為之痛惜萬分。
國防部長徐永昌曾在日記中寫道，74師之失，影響軍心頗大。當時蔣介石找到王耀武，希望王耀武出面重新組建整編74師，言辭之中頗為懇切，在接到蔣介石的來信以後，王耀武也沒辦法，隻能用盡全力重建。
除了選派以孟良崮戰役中因看守飛機場而僥幸逃脫的兩個團和負傷治愈的原74師官兵為骨幹外，王耀武還抽調了山東警備二旅，以該旅為基幹組建了七十四師下屬的57旅，而抽調廣東航空警備旅組建58旅，另外還有少數殘餘的整編74師殘部以及傷兵組建了51旅，形成了該部下轄兩個整編旅的規模。
雖然一直謠傳戰鬥力不怎麼樣，但在阜陽大戰中，此役守城的國民黨軍是新整編74師58旅，人民解放軍以中野兩個縱隊加豫皖蘇軍區獨立旅合力圍攻阜陽，且于外圍戰時消滅了駐紮城外準備撤回阜陽的173團的兩個半營。但是，由于敵軍的頑強抵抗，和徐州“剿總”的全力支援，解放軍激戰5晝夜未能攻克阜陽，抱憾而去。