抗日战争期间，歼敌数量最多，给予日军打击最沉重的军队莫过于74军了，这支部队也被称之为虎贲军，三五部队，是一支让日军闻风丧胆的部队。但是在抗日战争期间，还有一支部队长期能和74军比肩，这支部队就是被誉为泰山军的第十军。
国民革命军第十军在抗战初期是军委会直属的王牌部队，他和王耀武率领的74军是薛岳第九战区的两支王牌部队。在三次长沙会战中，尤其是第三次长沙会战期间，薛岳之所以能够指挥第九战区差点把日军四个师团歼灭在长沙城下，就是因为有李玉堂率领的第十军充当天炉战法中炉膛的作用，死死地牵制住了日军的主力部队。第三次长沙会战之后，由于战果辉煌，第十军军长李玉堂升任27集团军副司令，预十师师长方先觉升任第十军军长。
方先觉毕业于黄埔三期，军事才能很出众。全面抗战爆发之后，方先觉先后参加了淞沪会战，徐州会战，武汉会战，三次长沙会战等战役，由于才能出众，作战勇敢，深受李玉堂的赏识，是李玉堂的左膀右臂，心腹爱将。第三次长沙会战期间，方先觉率领的预十师歼敌数量最多，所以后来方先觉升任第十军军长。
1944年，日军为大陆交通线，在河南，湖南，广西向中国军队发动了大规模的进攻。河南快速失守之后，湖南便成为了日军的进攻重点，方先觉奉命率领第十军守卫战略重镇衡阳。衡阳保卫战之前，当时第十军由于连续作战，兵员并没有得到补给，只有1.7万名官兵。但是湖南百姓却积极帮助军队抵抗日军，湖南百姓自发的组织起来破坏道路，毁掉桥梁，迟滞日军的进攻速度，切断日军的进攻路线。衡阳城内还有3000多名工人帮助部队弄来了120万根木料，配合部队修筑战壕，散兵坑，暗堡和机枪掩体等工事。
1944年6月28日，日军第68师团，116师团在强大炮火和航空兵的掩护下，对衡阳发动大规模的进攻，衡阳守军奋勇抵抗，凭借工事和炮火，给予日军重大杀伤，击毙日军68师团长长佐久间及以下官兵共2000多人。日军没有想到中国军队抵抗这么顽强，在久攻不克的情况下，11军司令官横山勇下令部队暂停进攻。
7月11日，日军在休整多日后，开始对第十军阵地发动第二轮进攻。日军轰炸机向城内投掷了大量的炸弹，燃烧弹，毒气弹，导致衡阳城内燃起了熊熊大火，鉴于日军的进攻节奏加快，方先觉命令预十师放弃一线阵地，和第三师协同防守二线阵地。第十军的防御正面缩小后，防守强度和火力密度得到了加强，日军进攻的部队损失很大，各个联队的中队长几乎都换了一遍，但还是无法突破第十军的阵地。19日，因为伤亡太大，横山勇第二次下达停止进攻的命令。
衡阳久攻不下，严重影响了日军所谓“一号作战计划”的进程，在日本国内引起了轰动，日本天皇斥责前方将领指挥不力，日本首相东条英机引咎辞职。横山勇恼羞成怒之下，调集了四个半师团共十余万人的兵力，在7月30日，对衡阳城发动了第三次进攻，日军还向城内投掷了大量的毒气弹，致使我军大批官兵丧失了抵抗能力被俘。
衡阳保卫战，方先觉最初接到的命令是死守衡阳10天，但是方先觉守了46天还是没有看到援军的影子。战斗到最后，第十军弹尽粮绝，炮兵都改成步兵和日军激战，方先觉最后觉得无力回天，想要开枪自杀，但是被副官拦住。最后，日军要求方先觉率部投降，否则就不能保证城内百姓和第十军伤兵的安全，方先觉为了保护全城百姓和第十军数千官兵免遭日军屠戮，向日军投降。投降之前，方先觉还和日军进行周旋，趁机让一些没有受伤的官兵和百姓逃出城内。方先觉投降没多久，他和第十军的主要将领就被军统特工秘密接回重庆，蒋介石嘉奖了他们，被授予方先觉等多位将领青天白日勋章，方先觉升任36集团军中将副总司令。
衡阳保卫战历时46天，第十军1.7万名官兵以伤亡1.6万人的惨烈代价打死打伤日军两万多人。在以衡阳保卫战为核心的衡阳会战中，中国军队共击毙日军两万多人，伤敌6万多人，这是抗战期间一场壮烈的战斗，大大鼓舞了全国人民的抗战热情，给予了侵略者沉重打击。