提起抗日戰争，我們的視角大都在共産黨軍隊的身上，其實也沒什麼辦法，因為在抗日戰争中，大部分的國民黨軍隊确實有點差強人意，隻是在人數和武器上往往被稱為精銳，等到真正打起來，經常是掉鍊子。不過也并非所有的國民黨軍隊都是如此，其中一支守在衡陽城的國民黨軍隊就曾讓日本軍隊損失慘重，吃了大虧。
抗日戰争時期，戰火起初并未蔓延到衡陽，是以衡陽也是以而設立了許多工業設施。等到日本進攻衡陽時，它的重要性已經超過了長沙。它首先是鐵路交通的重要中轉站，也是粵漢、湘桂兩條鐵路的聯結點。在公路方面它是西南的中心。而衡陽的飛機場則又是我國東南部空軍基地的中間聯絡站。可以說，如果衡陽失守，那麼無論是從鐵路、公路還是空軍基地哪個方面來說，都會造成極大的損失。這個道理日本明白，國民黨當然也明白。是以日本會不遺餘力地進攻，國民黨會拼盡全力地防守，于是一場最慘烈的保衛戰拉開了序幕。
衡陽有個難得的幸運，那就是衡陽市長是趙君邁，他可是從美國威斯康辛大學畢業的土木系畢業生，是以對于建築一類非常在行，簡直是專業對口。是以衡陽的防禦工事因為趙君邁的存在而非常具有規模，且實用性極強。在趙君邁的帶領下，僅僅一個月的時間，10萬軍民将衡陽打造成了一個重裝要塞。到處都是鐵絲網、暗堡，而每個暗堡之間又有戰壕連接配接。而城周圍的山也都被削成了直立的陡坡，高度最低也有5米，完全無法攀登。就在這樣的防禦準備下，趙君邁在長沙城陷落後，便将市民疏散，而後等待日軍的進攻。
日軍攻陷長沙後，果然直奔衡陽而來。雙方先是互相炮擊，一輪試探過後，日軍開始發起沖擊，不過早在戰壕和暗堡中等待的國軍面對沖擊而至的日軍開始了打靶，可日軍實在兵力過多，很快雙友善展開了肉搏戰。第一輪交戰結束，日軍後退，雙方進入休整期。對于衡陽守軍來說，準備如此充足，而且還有30萬大軍正在增援的路上，隻要按照蔣介石所說，堅持48小時自然就會有部隊前來解圍，是以衡陽守軍完全沒有後顧之憂。而對于日本軍來說，既然能夠3小時攻下長沙，那麼衡陽就算再難啃，也能很快攻陷。
可是事情的發展卻照着雙方預料的反方向而去，孤城内的守軍遲遲等不到增援，持續進攻的日軍久久不能攻下孤城。當時正是雨季，許多傷員因為救治不及時和空氣潮濕而傷口生蛆，痛不欲生。這場雙方都極其看重的攻守戰，就在這樣的絕望和希望的交織中一天天地持續着。當時兩米深的戰壕硬生生被日軍的屍體給填滿了，血水宛若長河在衡陽城外流淌，而漫天的血腥氣味為這場戰争更蒙上了一層慘烈。
日軍本以為數個小時就能拿下的戰鬥卻持續了整整47天，1944年8月7日，衡陽守軍指揮官方先覺确認了守軍已經彈盡糧絕，失去了能夠有組織抵抗的基礎，給蔣介石發了一封"無力再戰，來生再見"的電報，而後便要舉槍自殺，幸而被副官手快救下。之後日本的一個參謀與國軍協商，表示如果國軍投降，不但不會傷害城内的軍民，而且還會對受傷的人進行救治。方先覺見此，帶領殘餘的守軍出了碉堡。
衡陽一戰，國軍以1萬7千人抵抗日軍10萬人的進攻，等到戰争結束，日軍付出了2萬人死亡，6萬人負傷的慘重代價攻下了衡陽城，而此時的衡陽守軍則共犧牲1萬6千餘人。這是抗日戰争中，最為慘烈的一場戰鬥，雖然最終我方未能取勝，但其曆史意義遠遠超出了一座城市所帶來的戰略價值。