1944年1月24日，日軍大學營下達了打通大陸交通線的“一号作戰”指令，由中國派遣軍司令畑俊六擔任“一号作戰”的總指揮。
在日軍進階參謀島貫武治制定的豫湘桂戰略中，日軍動用了18個師團的兵力超過50萬人，戰馬10萬匹、火炮1500門、坦克800輛、汽車1.5萬多輛，戰役的規模遠遠超過了武漢會戰，是日本明治建軍以來，日本陸軍最大的一次作戰行動。
一切準備就緒後，挽救日軍敗局的“一号作戰”行動，開始緊鑼密鼓地展開了，也就是衆人皆知的“豫湘桂戰役”。
1944年5月，負責南線作戰的日軍第11軍司令官橫山勇受命發動湘桂攻勢，攻擊的重點正是湖南地區。
針對日軍的這一行動，中國第九戰區司令長官薛嶽判斷：“日軍隻是一場局部行動，對于長沙毫無威脅。”
但是，當第九戰區情報組織報告說：“日軍有大規模調動的迹象”，薛嶽卻依然不予重視，甚至對國民政府軍事委員會發來的“有關日軍大量集結”的提醒也是置之不理。
在第九戰區，幾乎沒有人敢對薛嶽的指揮能力提出質疑，而這個時候，卻有一個人對薛嶽的排兵布陣十分不滿，他就是第九戰區參謀長趙子立。
中原地區淪陷後，趙子立就判斷日軍下一步一定會向湖南發起進攻，而以第九戰區目前的兵力，是根本無法抵擋住日軍攻勢的。他要求薛嶽立即向國民政府軍事委員會請求支援，結果自己的忠言不但沒被采納，反而還被奚落了一番。
趙子立認為，如果日軍同時加強内外線的兵力，第九戰區若是依然堅持陳舊的戰法，就會有可能全線崩潰。應該向國民政府軍事委員多要一些兵力，然後把決戰地改為衡陽，這樣才能夠穩住戰局。
薛嶽
而薛嶽絲毫聽不進去趙子立的建議，他堅持“以不變應萬變”，認為第九戰區可以輕松擊敗日軍。
5月15日，國民黨軍事委員會向身在長沙的薛嶽發來急電：“有大量日軍集結在鄂南一線，目前正有南移的迹象，随時會進攻長沙。”
此時的薛嶽才終于意識到，日軍真是的要拿長沙開刀了。
5月27日，日軍第一梯隊的5個師團兵分三路向湘北挺進，其中中路日軍強渡新牆河後，于6月15日攻陷株洲，從南翼迂回包圍長沙。
在急劇惡化的形勢下，薛嶽沒有了平時死守長沙的底氣，而是立即撤向了耒陽，指令趙子立來負責城防的事宜。
然而，當趙子立看出了布防漏洞的時候，卻根本指揮不動薛嶽的嫡系第4軍。他原本打算讓第4軍軍長張德能調派全部主力部隊來守衛嶽麓山，但張德能僅調派了一個師的兵力，其餘兩個師依然堅守長沙城。
長沙會戰
6月16日，日軍第34師團與第68師團一部以絕對優勢的兵力成功攻下了嶽麓山，導緻張德能的一個師的守城部隊全線動搖，長沙于兩天後淪陷。
長沙淪陷的當天，蔣介石在重慶緊急召開了軍事會議，主要讨論日軍下一步的作戰企圖，并重新標明一個決戰地點。
參加會議的軍政長官一緻認為，日軍必定會進攻粵漢與湘桂鐵路的交彙點衡陽，一旦衡陽淪陷，國軍不僅在盟國聲譽盡毀，甚至還會影響到美國的軍事援助。
就在這個時候，副總參謀長白崇禧來電說：“為了有足夠的時間組織桂柳會戰，希望有關部隊能夠在衡陽拖住日軍。”
最終，蔣介石确定了“中心防守，兩翼夾擊”的方案，而這個中心正是衡陽。
果然不出所料，在攻陷長沙後，日軍第11軍司令橫山勇的下一個目标就是衡陽。
衡陽位于粵漢鐵路和湘桂鐵路的交彙處，是一個非常重要的交通樞紐，當時許多國民黨的軍政機構和企業商會都集中在這裡。尤其是衡陽機場，還駐紮着美軍的轟炸機群，其戰略價值已經遠遠超過了長沙。
面對日軍的步步緊逼，蔣介石親點方先覺指揮的第10軍來守衛衡陽。
第10軍屬于國民黨中央軍嫡系，号稱“泰山軍”，有着極其兇悍的戰鬥力。在第三次長沙保衛戰中，他們在城内與日軍主力血戰了四個晝夜，為長沙大捷立下了首功，就連衡山勇都對第10軍心有餘悸。
然而，大戰還沒有打響，第10軍的内部就出現了很多問題。
在常德會戰中，由于薛嶽的越級指揮，緻使第10軍的士兵傷亡慘重，方先覺是以與薛嶽産生了沖突，而薛嶽也将方先覺免去職務，派出陳素農接任第10軍軍長。
就在陳素農前往第10軍赴任的途中，日軍發動了湘桂攻勢，國民黨軍事委員會一緻認為，大敵目前，若是臨陣換将，會對我軍不利。
蔣介石
于是，薛嶽隻好讓方先覺繼續代理第10軍軍長一職。
但是，方先覺卻絲毫不買賬，堅決不肯擔任第10軍軍長。當消息傳到了蔣介石的耳朵裡時，他親自給方先覺打來了電話，在電話中痛斥說：“因與長官之私怨，置民族大義于不顧。”
此時的方先覺如夢初醒，當即回答說：“我一定服從指令，積極部署守備衡陽，發揚革命軍人之傳統，堅決抗擊日軍來犯。”
挂斷電話，駐守衡山的第10軍立即趕赴衡陽布防，蔣介石給方先覺的任務是：“守衛衡陽十天至兩周。”
第10軍進入到衡陽城内，受到了當地市民的熱烈歡迎，方先覺随即帶領參謀長孫鳴玉、預10師師長葛先才、190師師長容有略和工兵營營長陸伯臯等進階将領對衡陽地形進行了全面的勘察，積極規劃防禦部署。
國民政府原本在衡陽構築有不少的鋼筋混凝土工事，但方先覺發現，這些防禦工事最初設定的是由三個軍來防守，而此時守備衡陽的隻有第10軍一個軍，而且兵員又是嚴重不足。
第十軍軍長方先覺
方先覺深知，第10軍是根本無法守住衡陽的，于是他緊急調派第3師趕回來增援。直到戰鬥打響，第3師師長周慶祥才帶領部隊匆匆趕到。
由于第10軍的軍炮兵營在昆明換裝的時候，卻被炮兵第1旅強行扣留，方先覺無奈之下隻好向軍委會訴苦，總參謀長何應欽親自下指令讓第10軍軍炮兵營放行，但仍有半個營的裝備被扣下。
最終，這半個炮兵營有驚無險地沖破了日軍的封鎖，在最後時刻完成歸建。
即便如此，守備衡陽的兵力依然面臨着很大的不足，急火攻心的方先覺隻好搶人了。
方先覺是一個思維非常細密的人，由于第10軍缺乏醫護人員，他指令部隊扣留所有路過衡陽的醫療隊，甚至就連軍政部和軍醫署的兩個兵站醫院也都遭到了強行截留。
不僅如此，方先覺還扣留了從長沙敗退下來途經衡陽的第4軍暫54師。
國民黨軍事委員會當然也知道，第10軍的兵力過少，尤其是缺少炮兵，于是特意從第5軍、第46軍和第74軍中分别抽出了一個戰防營、一個山炮連和兩個野炮連配屬給第10軍。
衡陽會戰
至此，衡陽保衛戰戰鬥序列才相對完整起來，主要由第10軍的3個師，以及軍直屬部隊組成。其中有第3師、預10師和第190師共轄9個團，此外還有被扣留下來的負責協防的暫54師，總兵力達到了1.8萬人。
接下來，方先覺要做的事情就是構築防禦工事，經過一番周密的勘察後，他對原有的工事進行了較大程度的改進。
方先覺首先放棄了一些外圍工事，以縮小正面的防禦，城東和城北依托湘江設防；城西北的沼澤水田裡全部注滿水，并在水域之間修築碉堡；在城西南的丘陵地帶構築數道防禦線，各個據點之間以交通壕相連。
除此之外，方先覺還指令将丘陵全部削成斷崖，在頂端修築手榴彈投擲壕。丘陵外圍均修建外壕，外壕前沿用粗大圓木建有三層栅欄，在斷崖和外壕之間全部布設鐵絲網。
盡管衡陽防禦體系的基本架構已經搭建完成，但方先覺并沒有忽視防禦工事中的每一個細節。
中國守軍
作為一名久經沙場的老将，方先覺深知改進工事和提升防禦火力的重要性，他指令工兵營在無法修成斷崖的山丘前，全部挖設壕溝，并在溝底修建地堡。不僅如此，所有的交通壕邊修築碉堡和散兵坑，每座碉堡都設有側擊火力孔。在日軍進攻的時候，這些直射點和側射點能夠形成交叉的火力網。
盡管衡陽的防禦體系已經布置得相當嚴密，但方先覺還是不滿意，因為衡陽城西的地勢平坦，沒有什麼高地。他決定修建四道戰壕，沿線全部拉上鐵絲網，并且布滿地雷。
而在湘江這邊，方先覺命部隊裝備了油桶，随時準備向江中傾倒，以火攻的方式阻止日軍從水中渡江。
與此同時，第10軍的炮兵部隊還對衡陽周圍的丘陵、山地、路口等目标，全部都設定了射擊諸元。
衡陽市市長趙君邁積極動員上萬青年勞工參加工事修建，并無償征用全城的建築材料。此時的衡陽城已經看不到往日官吏的虛僞、商人的奸詐，這裡流淌的全部都是中國人民一緻對外的熱血。
衡陽的士紳和群眾為了保衛自己的家鄉，貢獻出了自己所有的力量，使得整個衡陽城變成了一座軍事堡壘。
6月18日，為了不讓戰火波及到城内的群眾，第10軍的将士們勸慰市民全部疏散，實行空城計劃。
直到6月22日，衡陽城内的幾十萬市民全部疏散完畢，隻留下了千餘名輔助守城軍隊作戰的精壯勞力。
最後，還有兩個最為重要的問題亟待解決，這也是能否成功保衛衡陽的關鍵，一個是武器彈藥是否充足，另一個就是确定防守的重點區域。
對于這個問題，國民黨軍事委員會後勤部長俞飛鵬随即抵達衡陽，親自督辦和協調第10軍的後勤補給，向他們調撥了足以維持兩個星期的糧草和大量的武器彈藥。
其中，就包括了2.8萬枚手榴彈，這些手榴彈在随後的衡陽守衛戰中發揮了極其重要的作用。
抗戰到底
第10軍的後勤補給問題已經得到了解決，但在分析日軍進攻路線的選擇上，将領們都拿捏不準。
美軍顧問賀克準将認為，日軍的主攻方向應該是在地勢平坦的西北區域。
而方先覺則認為，日軍必定主攻西南，假如日軍主攻西北，則極易受到中美空軍的聯合攻擊。相反，衡陽南郊丘陵較多，根據日軍的慣用戰法，他們肯定首先占領高地，然後再圍攻城市。
是以，方先覺最終決定集結重兵防守城南的陣地。
在長沙取得大勝的日軍并沒有停止進兵的步伐，打通湘桂線，接應困守在緬甸、越南的友軍，才是他們此戰的最終目的，此時的日軍第11軍司令官橫山勇已經将戰鬥指揮部推進到了長沙。
早在還沒有長沙戰鬥打響之前，橫山勇就已經下達了“南進衡陽”的指令，秘密派出日軍第68師團和第116師團渡過浏陽河一路南下，直撲衡陽。
日軍空襲衡陽城
6月19日，日軍第116師團從株洲渡過湘江，然後沿着湘江向衡陽推進。而第68師團從石亭向衡陽挺進，戰争的硝煙漸漸彌漫開來。
6月22日，為了給衡陽城内的第10軍一個下馬威，日本第5航空軍首次飛臨衡陽，對城内進行了一頓狂轟濫炸。
盡管中美空軍的實力占據了上風，但随後日軍在湖南加強了航空兵力，中美空軍并沒有完全掌握制空權。
在空軍的掩護下，日軍于當晚進抵衡陽以東約10公裡的泉溪鎮。
第二天下午，日軍大搖大擺地強渡耒河，完全無視對岸的少量國民黨守軍。但他們沒有想到，守軍竟然以猛烈的火力進行阻擊，一場悲壯慘烈的衡陽保衛戰由此正式揭開了大幕。
耒河對岸的部隊是國民黨第10軍第190師568團一營，按照原定的計劃，一營作為前哨警戒部隊，是可以不做出抵抗的。但營長楊濟還是忍耐不住内心的怒火，下令開火，日軍傷亡了近300人，被迫放棄渡河，撤回岸上。
衡陽抗戰紀念城
随後，日軍留下一部分兵力牽制一營部隊，主力部隊則繞至泉溪鎮以南進行渡河。
方先覺眼見日軍的主力大舉來犯，是時候集中兵力進行防禦作戰了，他立刻收縮防線，将第10軍的大部隊撤到防禦工事内進行布防。
當晚，日軍的廣播中聲稱：“皇軍已經殺至衡陽郊外，不日将建功祝捷。”
而重慶的軍事委員會認為，國民黨第10軍的兵力遠在第4軍之下，按照長沙失守的先例，衡陽城最多隻能堅守三天的時間。
就在這個時候，幾乎沒有人看好第10軍，然而重慶的高官們都沒有想到，方先覺和他的部下卻在衡陽創造了世界軍事史上的一個奇迹。