抗日戰争期間，殲敵數量最多，給予日軍打擊最沉重的軍隊莫過于74軍了，這支部隊也被稱之為虎贲軍，三五部隊，是一支讓日軍聞風喪膽的部隊。但是在抗日戰争期間，還有一支部隊長期能和74軍比肩，這支部隊就是被譽為泰山軍的第十軍。
國民革命軍第十軍在抗戰初期是軍委會直屬的王牌部隊，他和王耀武率領的74軍是薛嶽第九戰區的兩支王牌部隊。在三次長沙會戰中，尤其是第三次長沙會戰期間，薛嶽之是以能夠指揮第九戰區差點把日軍四個師團殲滅在長沙城下，就是因為有李玉堂率領的第十軍充當天爐戰法中爐膛的作用，死死地牽制住了日軍的主力部隊。第三次長沙會戰之後，由于戰果輝煌，第十軍軍長李玉堂升任27集團軍副司令，預十師師長方先覺升任第十軍軍長。
方先覺畢業于黃埔三期，軍事才能很出衆。全面抗戰爆發之後，方先覺先後參加了淞滬會戰，徐州會戰，武漢會戰，三次長沙會戰等戰役，由于才能出衆，作戰勇敢，深受李玉堂的賞識，是李玉堂的左膀右臂，心腹愛将。第三次長沙會戰期間，方先覺率領的預十師殲敵數量最多，是以後來方先覺升任第十軍軍長。
1944年，日軍為大陸交通線，在河南，湖南，廣西向中國軍隊發動了大規模的進攻。河南快速失守之後，湖南便成為了日軍的進攻重點，方先覺奉命率領第十軍守衛戰略重鎮衡陽。衡陽保衛戰之前，當時第十軍由于連續作戰，兵員并沒有得到補給，隻有1.7萬名官兵。但是湖南百姓卻積極幫助軍隊抵抗日軍，湖南百姓自發的組織起來破壞道路，毀掉橋梁，遲滞日軍的進攻速度，切斷日軍的進攻路線。衡陽城内還有3000多名勞工幫助部隊弄來了120萬根木料，配合部隊修築戰壕，散兵坑，暗堡和機槍掩體等工事。
1944年6月28日，日軍第68師團，116師團在強大炮火和航空兵的掩護下，對衡陽發動大規模的進攻，衡陽守軍奮勇抵抗，憑借工事和炮火，給予日軍重大殺傷，擊斃日軍68師團長長佐久間及以下官兵共2000多人。日軍沒有想到中國軍隊抵抗這麼頑強，在久攻不克的情況下，11軍司令官橫山勇下令部隊暫停進攻。
7月11日，日軍在休整多日後，開始對第十軍陣地發動第二輪進攻。日軍轟炸機向城内投擲了大量的炸彈，燃燒彈，毒氣彈，導緻衡陽城内燃起了熊熊大火，鑒于日軍的進攻節奏加快，方先覺指令預十師放棄一線陣地，和第三師協同防守二線陣地。第十軍的防禦正面縮小後，防守強度和火力密度得到了加強，日軍進攻的部隊損失很大，各個聯隊的中隊長幾乎都換了一遍，但還是無法突破第十軍的陣地。19日，因為傷亡太大，橫山勇第二次下達停止進攻的指令。
衡陽久攻不下，嚴重影響了日軍所謂“一号作戰計劃”的程序，在日本國内引起了轟動，日本天皇斥責前方将領指揮不力，日本首相東條英機引咎辭職。橫山勇惱羞成怒之下，調集了四個半師團共十餘萬人的兵力，在7月30日，對衡陽城發動了第三次進攻，日軍還向城内投擲了大量的毒氣彈，緻使我軍大批官兵喪失了抵抗能力被俘。
衡陽保衛戰，方先覺最初接到的指令是死守衡陽10天，但是方先覺守了46天還是沒有看到援軍的影子。戰鬥到最後，第十軍彈盡糧絕，炮兵都改成步兵和日軍激戰，方先覺最後覺得無力回天，想要開槍自殺，但是被副官攔住。最後，日軍要求方先覺率部投降，否則就不能保證城内百姓和第十軍傷兵的安全，方先覺為了保護全城百姓和第十軍數千官兵免遭日軍屠戮，向日軍投降。投降之前，方先覺還和日軍進行周旋，趁機讓一些沒有受傷的官兵和百姓逃出城内。方先覺投降沒多久，他和第十軍的主要将領就被軍統特工秘密接回重慶，蔣介石嘉獎了他們，被授予方先覺等多位将領青天白日勳章，方先覺升任36集團軍中将副總司令。
衡陽保衛戰曆時46天，第十軍1.7萬名官兵以傷亡1.6萬人的慘烈代價打死打傷日軍兩萬多人。在以衡陽保衛戰為核心的衡陽會戰中，中國軍隊共擊斃日軍兩萬多人，傷敵6萬多人，這是抗戰期間一場壯烈的戰鬥，大大鼓舞了全國人民的抗戰熱情，給予了侵略者沉重打擊。