抗日戰争期間，在薛嶽率領的第九戰區部隊中，有兩支戰鬥力十分強悍的部隊，那就是王耀武率領的國民革命軍74軍，還有李玉堂，方先覺率領的國民革命軍第十軍。74軍号稱是國軍第一主力，被譽為虎贲軍，第十軍由于善于防守，被譽為泰山軍。
世人隻知74軍，但卻不知道在很長的一段曆史時期裡，泰山軍的威名絲毫不亞于74軍。在三次長沙會戰期間，尤其是在第三次長沙會戰，黃埔一期生李玉堂率領的第十軍給予了日軍沉重打擊，很好的配合了薛嶽的天路戰法。第三次長沙會戰結束後，表現最好的預十師師長方先覺晉升第十軍軍長，這位黃埔三期畢業的将領也是員猛将。
1944年，日軍為打通中國大陸通往東南亞的交通線，發動了所謂的“一号作戰計劃”，向河南，湖南，廣西的中國軍隊進行了大規模的進攻，這場戰役又被中國方面稱之為“豫湘桂會戰”。此時正處于抗戰末期，日軍在太平洋戰場上節節敗退，中國共産黨上司的八路軍，新四軍等武裝力量在敵後也頻繁發動大規模的進攻，攻城拔寨，但是國民黨軍卻取得了抗戰以來前所未有的大潰敗。
首先是河南戰場，第一戰區35萬大軍在蔣鼎文，湯恩伯的率領下節節敗退，緻使河南全省淪陷，15萬日軍在37天的時間裡攻下了38座城市。日軍攻下河南之後，25萬大軍立刻進攻湖南，發動衡陽會戰，其中十萬大軍直逼湘西重鎮衡陽。此時守衛衡陽的是方先覺率領的第十軍，第十軍當時由于連續作戰，得不到補充，雖然下轄三個師，但隻有七個團的兵力，加上配屬的暫編54師1個團，一共才有八個團1.7萬人的官兵。戰前蔣介石給方先覺下達指令，守衛兩個星期就是勝利，到時候和援軍前後夾擊日軍。
方先覺接到指令後立刻疏散城内的30萬百姓，同時征調附近的勞工，把能運來的木材全部都運來加強工事，方先覺還下令把衡陽城西南的高地全部削成斷崖，深度高達五米。城牆上構築了大量的碉堡和火力點，城内也修築好了工事。
1944年6月23日淩晨，日軍68師團，116師團直撲衡陽，當時日軍認為三天就能打下衡陽，于是在飛機大炮對衡陽完成轟炸後，立刻向衡陽發動進攻。日軍在久攻不克後，派飛機對城内投擲燃燒彈，當時天氣本來就很熱，再加上熊熊大火的燃燒，使整個衡陽都變得十分燥熱。28日，日軍把預備隊調上來，15個大隊的日軍輪番對衡陽發動進攻，踩着屍體往上沖。在戰鬥最激烈的時候，預十師師長葛先才少将端着機槍掃射，這才擊退了日軍。日軍付出了傷亡5000人的慘烈代價，才前進了一公裡，最後不得不停下來休整。
7月11日，日軍得到了四個野炮大隊，兩個迫擊炮中隊的支援下，再次對衡陽發動進攻，在進攻之前，日軍還向城内投擲了大量的燃燒彈和毒氣彈，由于沒有防毒面具，方先覺隻能使用土辦法，讓官兵用濕毛巾堵住口鼻，但高濃度的芥子氣還是很多士兵喪失了生命。中國軍隊再次進行了激烈抵抗，7月13日，中國守軍擊斃日軍120聯隊聯隊長和爾大佐。雙方經過九天的血戰，日軍傷亡8000餘人，陣亡一名聯隊長，六名大隊長，中隊長幾乎全換了一遍，但還是無法拿下衡陽。
雙方由于戰鬥太激烈，根本來不及掩埋陣亡官兵的遺體，第十軍很多殉國的官兵隻能放在戰壕外面，任憑子彈穿過，日軍的情況也好不到哪裡去，由于日軍屍體堆積如山，日軍根本來不及把陣亡士兵的屍體帶走，隻能砍斷左手代替屍體。兩次進攻失敗之後，消息震動了日本國内，日本天皇大怒，日軍大學營怒斥橫山勇，要求其盡快拿下衡陽。
橫山勇接到指令後，又調來了兩個師團，共十萬日軍把衡陽團團圍住。日軍從三面同時對衡陽發動進攻，飛機大炮對衡陽展開密集的炮火覆寫，第十軍主力此時已經消耗殆盡，傷員高達8000餘人，各部隊連輕傷員，馬夫，夥夫都派了上去，但此時援軍還是無法到達。絕望的方先覺在堅守47天後，向軍委會發了最後一封電報後，準備開槍自殺，但是被副官攔住，繳下了槍支。
第十軍全體官兵在堅守47天後，方先覺為儲存8000多傷兵還有城内百姓的性命，向日軍投降。日軍攻城的十餘萬人，陣亡兩萬，傷亡三萬，第十軍硬是在絕境中打出了一比四的傷亡比例，這在整個抗日戰争期間都是獨一無二的。沒過多久，方先覺等将領就被蔣介石派軍統特工救回，方先覺被授予青天白日勳章一枚。