1944年，在抗戰末期，當時的中國發生了一件非常恥辱的大型戰役，這場戰役就是豫湘桂會戰。尤其是在豫湘桂會戰的第一階段，中國第一戰區司令長官蔣鼎文指揮8個集團軍1個兵團共17個軍約40萬人，在第八戰區和空軍（飛機156架）各一部支援下迎戰15萬日軍，但是卻被日軍擊敗，河南全省被日軍占領。
雖然豫湘桂會戰第一階段打的不怎麼樣，但是在第二階段的戰役中，有一支部隊卻打出了中國軍隊的威名，這支部隊就是方先覺率領的泰山軍第十軍。長沙淪陷後，日軍開始進攻衡陽，衡陽城守軍是國軍第10軍，下轄第3師、第190師、預備第十師，實際兵力七個團，加上配屬的暫編54師1個團，總兵力為8個團，1.7萬多人。第十軍軍長方先覺畢業于黃埔三期，是當時國民黨軍中頗為傑出的軍事将領。
具體到衡陽戰場，日軍先後投入橫山勇的11軍的四個師團，即68師團、116師團、 58師團、13師團，約11萬人，空軍有駐嶽陽北部白螺矶的日本第5航空軍全力配合，敵我雙方兵力對比為5.3:1。方先覺最開始接到的指令是死守衡陽15天，蔣介石告訴他守衛15天就是勝利，到時候援軍就會趕到。
1944年6月23日拂曉，日軍第68、116師團撲向衡陽，雙方一開始就打的十分激烈，戰役一直打到27日，衡陽外圍陣地失守，但是陣地上的中國軍隊沒有一人投降，被俘，全部戰死。6月28日，日軍又集結重兵在飛機坦克重炮的掩護下對衡陽發動一輪又一輪的進攻，戰鬥中日軍還多次使用毒氣彈，給中國軍隊造成了不小的傷亡，但是在拼殺五晝夜後，日軍并沒有取得實質性的激戰。由于彈藥，物資耗盡，國軍的增援部隊也紛紛趕到，日軍不得不停下來休整，并派出部隊阻擊國民黨援軍。
7月11日，得到四個野炮大隊，兩個迫擊炮大隊支援的日軍再次對衡陽發動進攻，7月13日，中國守軍擊斃日軍120聯隊聯隊長和爾大佐，日軍還派航空兵向城内投擲燃燒彈，緻使城内燒成了一片火海，到處都是腐臭和毒氣彈的氣味。15個日軍大隊在飛機的掩護下反複沖鋒，但是都被第十軍官兵擊退，在最激烈的時候，預10師師長葛先才赤膊上陣，端着機槍進行掃射，這才擊退了日軍經過連續9晝夜的血戰，日軍68、116師團以傷亡8000人、陣亡聯隊長1名、大隊長6名、幾乎所有的中隊長的代價，也隻是攻占了中國軍隊的外圍陣地。
兩次總攻都以慘烈的失敗告終，日軍在衡陽城下損兵折将的消息傳到國内後，日本天皇牢牢的記住了方先覺的名字，日本大學營對橫山勇進行了嚴厲的斥責。在這種情況下，橫山勇集結四個師團日軍集結了11萬人，從三面同時進攻。原本準備守半個月的第十軍官兵，和日軍打了47的時間，但是援軍還是遲遲沒有趕到，甚至國民黨内部派系鬥争的方先覺感覺到了一陣絕望。
激戰到最後，第十軍1.7萬人，6000人戰死，8000餘人受傷，剩下的都是後勤還有已經彈盡糧絕的殘兵，日軍參戰的11萬人，受傷三萬人，陣亡兩萬人。方先覺率疲憊之師，和日軍激戰47天，打出了一比四的傷亡比例，在整個抗戰期間都是很罕見的戰迹。戰役後期，彈盡糧絕後，方先覺為保護8000多名傷兵，開始和日軍談判，在和日軍談判的時候，又指令一些沒有受傷的官兵趁機突圍，免得和他一起受辱。衡陽保衛戰，日軍雖然取得了勝利，但是直接促使東條英機内閣倒台，三個月後，方先覺和第十軍主要将領被軍統特工救出，蔣介石不但沒有懲罰他，還授予他青天白日勳章一枚，表彰他在衡陽保衛戰期間立下的戰功。