1937年王耀武的51师（辖周志道151旅、李天霞153旅）和俞济时第58师（辖吴继光174旅、邱维达172旅）合并组建了第74军，俞济时任74军第一任军长。
（俞济时）
74军是国民党王牌中最耀眼的明星，荣获“抗日铁军”、“虎贲师”、“御林军”等称号，并且两次荣获国府抗战时期最高奖励——“飞虎旗”。
俞济时在抗战初期曾率领74军屡建功勋。只不过俞济时为人恃才傲物，而且个性十足，武汉会战期间，就曾因看不起薛岳而撂挑子，所幸当时74军战力颇为强悍，因而挽回了战场颓势，因此蒋介石将俞济时调离前线，担任其侍卫长。
（王耀武）
1939年74军出身的王耀武代替俞济时出任军长，自此以后74军整体上下深受王耀武作战风格的影响，以顽强敢战而出名。
（张灵甫）
1947年解放战争中，国民革命军第74军进行整编改造，后改为整编第74师，张灵甫任师长，在山东执行重点进攻的74师冒进，后发现共军有合围己军之意，撤退至孟良崮。
得报后蒋介石认为74师占据着制高点，战斗力强劲，附近又有兵力雄厚的外围部队，欲与华东野战军主力决战，中心开花！但外援被野战军拦截部队拼死阻击，损失惨重未能及时突进。
陈、粟调集华东野战军1纵、4纵、6纵、8纵、9纵五个主力纵队，不惜一切代价在被国军反包围前，以歼灭74师。5月8日在孟良崮被中国人民解放军华东野战军全面合围。最终经过四天激烈鏖战，弹尽援绝，水粮俱无，74师在5月16日全军覆没，师长张灵甫举枪自尽，副师长蔡仁杰、58旅旅长卢醒等亦自杀身亡。
74师全军覆没、师长张灵甫之死的消息传到南京后，对国民党政府以极大的震动。74师被歼，蒋介石哀叹这是“无可补偿的损失”，陈诚、王耀武亦为之痛惜万分。
国防部长徐永昌曾在日记中写道，74师之失，影响军心颇大。当时蒋介石找到王耀武，希望王耀武出面重新组建整编74师，言辞之中颇为恳切，在接到蒋介石的来信以后，王耀武也没办法，只能用尽全力重建。
除了选派以孟良崮战役中因看守飞机场而侥幸逃脱的两个团和负伤治愈的原74师官兵为骨干外，王耀武还抽调了山东警备二旅，以该旅为基干组建了七十四师下属的57旅，而抽调广东航空警备旅组建58旅，另外还有少数残余的整编74师残部以及伤兵组建了51旅，形成了该部下辖两个整编旅的规模。
虽然一直谣传战斗力不怎么样，但在阜阳大战中，此役守城的国民党军是新整编74师58旅，人民解放军以中野两个纵队加豫皖苏军区独立旅合力围攻阜阳，且于外围战时消灭了驻扎城外准备撤回阜阳的173团的两个半营。但是，由于敌军的顽强抵抗，和徐州“剿总”的全力支援，解放军激战5昼夜未能攻克阜阳，抱憾而去。