兴宁二年三月，前燕将李洪攻打许昌，大败晋军。桓温派将领疏通水路，亲自率舟师进兵合肥，准备北伐。这次已是桓温第三次北伐。
然而东晋朝廷不想让桓温北伐。五月，晋廷又以桓温为扬州牧、录尚书事，遣侍中颜旄宣旨，召桓温入朝参政。桓温以中原尚未恢复为由推托。朝廷不许，再次征桓温入朝。桓温军至赭圻（时属宣城郡，今安徽宣城附近），晋廷又诏尚书车灌止之，桓温遂城赭圻而居之，遥领扬州牧。当年，桓温移镇姑孰，以其弟桓豁监荆、扬、雍州军事，镇守荆州。其时桓温权倾天下，遥控朝政。不久，哀帝死，桓温北伐之举暂时搁置。
太和四年，也就是公元369年，桓温正式出兵攻打前燕，进行第三次北伐。这次距离上次北伐已时隔13年，桓温此时年已57岁。这次北伐，桓温军从各方面看都没有短板。东晋在桓温实行“土断”之后，财阜国丰，军粮军资充足，时郗愔所领徐州，其民多劲悍，为精兵所聚之地。就是历史上赫赫有名的“北府兵”兵源地。桓温常说：“京口（徐州治所，今江苏镇江市）酒可饮、兵可用。”后来郗愔听从郗超建议，将军权让给桓温，桓温军力大增。
正因为桓温兵锋强劲，导致他过度自信，在后来的行军作战中他刚愎自用、思维僵化，使晋军一步步落入了深渊。桓温四月发兵后，先命冠军将军毛虎生凿巨野（在今山东巨野北）三百里，引汶水（大汶水）会于清水（古济水自巨野泽以下又称清水）。这条航道后称“桓公渎”。当年天下大旱，运河水太浅。谋士郗超敏锐意识到后勤运粮船可能会搁浅，因而劝阻桓温孤军深入，建议先攻打邺城，或者屯兵河、济，等第二年进兵。
郗超提出的两个理性建议都不被桓温采纳。桓温派建威将军檀玄攻湖陆（山东西南部）。檀玄很快攻下湖陆，擒获燕之宁东将军慕容忠。前燕主派慕容厉率步骑二万在黄墟（河南民权北）迎战晋军，结果大败，慕容厉单骑逃回。桓温前锋邓遐、朱序又大破燕将傅颜于林渚（河南郑州市东北）。
七月，桓温大军进至枋头（今河南浚县）。燕君臣惶恐不安，准备逃往和龙（今辽宁朝阳市）。这时，前燕名臣慕容垂劝阻说：“不然，臣请击之，若战不捷，走未晚也。”意思是：“我出马反抗一下试试，不行再逃也来得及。”燕主命慕容垂为使持节、南讨大都督，率众五万抵御晋军，又使其散骑侍郎乐嵩去向前秦求救。
桓温进军之初，曾派袁真进攻谯、梁之地，并开石门（河南荥阳境）引黄河水入汴渠（河南荥阳西南之索河），沟通淮、泗水以通水运。袁真虽然平定谯、梁之地，但石门却没能打开。这时，桓公渎果然如郗超所料，因为干旱水位下降，不能通运。慕容垂又派燕范阳王慕容德，兰台侍御史刘当率骑兵一万五千驻屯石门，桓温水军的退路及粮食供应都成了问题。
桓温进至枋头，离燕都邺城只有二百里路，但他顿兵枋头，不敢直趋邺城。这时，晋军的形势已很不妙，水运不通，粮草不继，退军已经是必然的了。此后，桓温几次与燕军交战都未取胜，又听说前秦军将至，乃命令烧掉船只，弃掉辎重从陆路退军。晋军为怕燕军在上流放毒，一路上凿井而饮。
晋军退兵，前燕将领都要追击，慕容垂说：“不可，温初退惶恐，必严设警备，简精锐为后拒，击之未必得志，不如缓之。彼幸吾未至，必昼夜疾趋，俟其士众力尽气衰，然后击之，无不克矣。”慕容垂亲率骑兵八千跟踪桓温军队，又派慕容德率精骑四千埋伏于襄邑（河南睢县西）东涧中。
桓温见燕军未来追赶，果然放下戒心，命令晋军兼程而进。慕容垂命令部下急速追赶，在襄邑追上晋军。慕容垂与慕容德前后夹击，大败桓温，晋军被杀者达三万人之多。此后，前秦救兵苟池又于路邀击桓温，晋军又死伤万余人。十月，桓温收拾散卒，驻军于山阳（山东金乡县西北）。桓温的第三次北伐遂以惨败告终。
客观讲，桓温熟悉兵法，也善于用兵，比如他伐蜀途中，曾于鱼腹（四川奉节东）平沙上见诸葛亮用石垒就的八阵图，其“垒石为八行，行相去二丈”，其军中文武皆不识此阵，但桓温一见就说：“此常山蛇势也。”可见他对兵法阵势是很精通的。但桓温还不是一个出类拨萃的军事家，用兵贵在多谋善断，相机而动。桓温于此却略逊一筹，他多次在大好形势下观望不进，虽与他志在立威，无意真正北伐有关，但也反映出他用兵不善于捕捉战机，缺乏灵活性。所以前燕申胤说他：“骄而恃众，怯于应变”。再加上桓温在朝廷逞威多年，过于顺遂，思维僵化，少有机会纠正自身弱点，以至于北伐以惨败收场。