升平五年（361年）五月，晉穆帝司馬聃突然一病不起，駕崩于顯陽殿，時年19歲。由于司馬聘沒有子嗣，褚太後下令說琅琊王司馬丕是朝廷中興以來的正統嫡傳，沒有人比他更适合當皇帝。于是朝廷百官備好皇帝的車駕到琅琊王府迎接司馬懿。司馬丕繼位後、改封東海王司馬奕為琅琊王，大赦天下，改次年為隆和元年。
司馬丕打小迷戀煉丹長生之術，年紀輕輕就熱衷于研究長生之法。當上皇帝不久就因誤食丹藥毒發不能理政，褚太後不得不再次臨朝輔政。
褚太後重新聽政後，與朝中大臣共同謀劃，處理桓溫權力過大的問題，下诏加封桓溫為揚州刺史，并給予其宰相的高位讓他入朝主持政事，試圖以此來剝奪他的兵權。結果，桓溫不但拒絕到建康，反而上疏朝廷請求遷都洛陽，建議将永嘉之亂（307年）以來遷徙流落到江南的群眾全部北遷，以充實黃河以南地區。
桓溫的奏疏讓朝野上下一片嘩然，近半個世紀了，北方移民已經在江南紮下了根基，老一輩人都忘了家鄉是什麼樣，而在南方出生的人根本沒有這個概念。況且中原地區一片廢墟，處于胡人的鐵蹄之下，環境險惡，哪有江南舒适安全?以司馬昱為首的朝中大臣都認為桓溫的提議不可行，可都畏懼桓溫的勢力，沒有人敢率先提出異議。
散騎常侍孫綽于是勇敢地站了出來，上書提出了反對意見，列舉了諸多不宜匆忙遷都的理由。因孫綽隻是個很有名氣的文人，沒有政治背景，桓溫也不好拿他怎麼着。
桓溫不高興，朝廷就得忌憚三分，商議着要派侍中去跟桓溫好好談談，勸他收回主張。揚州刺史王述看到了事情的本質，說∶"不用，桓溫不過是虛張聲勢吓唬朝廷罷了，并不是真想遷都，盡管答應他好了，他自己就不會去。"于是朝廷下诏說∶"得知你想親率三軍收複中原，光複舊都，如果不是有以身殉國的志向，誰能如此!隻是要在廢墟上重建都城，需要時間來經營和治理，這就辛苦你來籌劃和安排了，相信以你的多謀深算，再加上你的勞心勞力，一會有個滿意的結局。"桓溫收到诏書後，遷都之事果然不了了之。
晉哀帝興甯二年（364年）七月，朝廷兩次敦促桓溫入朝主政，這回桓溫倒是上路了，卻是帶着大軍一起來的，司馬昱連忙派尚書車灌前來制止。桓溫則在赭圻（今安徽繁昌縣）駐紮了下來，窺視建康的野心已昭然若揭。
興甯三年（365年）二月，在東晉權臣鬥心眼的時候，前燕在輔政大臣、太宰慕容恪的帶領下，渡過了危機，又回到正常的軌道。于是慕容恪親率燕軍大規模南下，相繼拿下了許昌、洛陽，桓溫上次北伐收複的失地，再次喪失。
司馬昱于是親赴冽洲（今安徽長江中的小島）與桓溫會面，商讨北伐事宜。你桓溫不是要遷都洛陽嗎，如今洛陽丢了，你再去打回來呗，省得天天在旁邊窺伺建康。他還命桓溫移鎮姑孰（今安徽當塗），做出征前的準備就在司馬尋昱離開建康之時，晉哀帝司馬丕因把長生不老藥當飯吃。不幸毒發身亡，時年25歲。此前，侍中高崧就多次勸谏司馬丕說∶"這不是帝王該幹的事，陛下這種做法，就像出現日食月食一樣，可不是好事。"司馬丕已經走火入魔，根本聽不進去。
司馬丕由于濫吃"仙藥"，沒有留下子嗣，褚太後下诏說，司馬奕德才兼備，又是皇帝的弟弟，應當繼承皇位。于是百官到琅琊王府去迎奉司馬奕，司馬奕于二月二十三日即皇帝位，大赦天下，定次年為太和元年，史稱晉廢帝（也稱海西公）。褚太後繼續臨朝攝政。
司馬奕當上皇帝，意味着桓溫已曆成、康、穆、哀四帝，再加上晉廢帝司馬奕，就是五朝元老了。内心發生激烈的鬥争是很自然的，他人安坐建康，什麼都不幹，皇帝一代一代當下去，自己在外奔波勞累，出生入死，到底是為了什麼?自己難道就是為他人作嫁衣的命?有時候，桓溫躺在床上眼睛空洞地突然對親信說;"如果一輩子甘于現狀，默默無聞，将來豈不被文景（晉景帝司馬師、晉文帝司馬昭）笑話!"身邊的人都知道他有篡位之心，都不敢吭氣。有時他半夜醒來，又突然坐起身自言自語∶""一個人既然不能流芳百世，就應該遺臭萬年。"他曾經去過王敦的墓地，對着墳墓長籲短歎。也許正如當初劉恢談所說，他就是個賭徒，沒有十足的把握
不會下注。桓溫此時估計信心還是不足，為此他又專門找到能預測人們貴賤的方術大師杜靈，讓杜靈測一下自己的官位能達到什麼高度。杜靈搖頭晃腦說道∶"明公的功勳舉世無雙，當位極人臣。"杜靈認為這已經很了不得了，卻發現桓溫滿臉不高興。為此，桓溫打算再樹立威名，增大政治籌碼，他在等待機會。
東晉太和二年（367年），前燕輔政大臣、傑出的政治家、軍事家慕容恪死了，前秦朝野都認為燕國隻剩下些無能之輩，準備讨伐。不料自己的後院先起火，苻生的弟弟晉公苻柳以及趙公苻雙聯合另外兩個皇親魏公苻瘦、燕公苻武，分别在蒲坂（今山西南部）、陝城（今河南陝縣一帶）和上卦、安定等地起兵謀反。苻堅不得不分兵前往鎮壓，忙于清理後院。
桓溫也覺得這是讨伐前燕的好機會，可出征前他還要跟朝廷提點條件，暗示想享受點特殊待遇。朝廷經過認真"研究"，于太和三年（368年）給他加授比諸侯王還高一級的特殊禮遇。可還有一支力量讓桓溫感到不放心，
當時，駐守京口重鎮的北府兵骠勇善戰，而統管這支部隊的平北将軍、領徐、兖二州刺史的郗愔腦子還不開竅，沒擺正自己的位置。桓溫曾在公開場合說∶"京口酒可飲，兵可用。"郗愔不知道桓溫是在觊觎京口的軍隊，還以為是在稱贊他。于是寫信給桓溫說要與他一同輔助晉室，率領自己的部隊北上，修複園陵。
當時郗愔的兒子郗超在桓溫的手下任參軍，很清楚桓溫的心思。見到父親的來信後，偷偷拆了先看，不由大吃一驚，把父親的信撕了，自己重新寫了一封，信中稱自已不是将帥之才，不能勝任軍旅重任，而且年老多病，請求找一個悠閑的地方休養，并勸說桓溫接掌京口的兵衆。這令桓溫非常高興，他立刻調任郗愔為冠軍将軍、會稽内史，桓溫自己兼任徐、兖二州刺史。到此，桓溫終于可以放心北伐了。
太和四年（369 年）四月，時年58 歲的東晉大司馬桓溫開始了他的第三次北伐，率領步騎5萬從姑孰出發。桓溫首仗派建威将軍檀玄攻克了胡陸（湖陵城，位于今山東魚台縣東南），生擒了前燕甯東将軍慕容忠。
前燕方面不敢怠慢，任命下邳王慕容厲為征讨大都督，率領步騎兵2 萬迎戰晉軍于黃墟（今河南開封、蘭考一帶），這是東晉與前燕軍隊第一次正面交鋒，一仗下來燕軍大敗，慕容厲隻身逃往邺城。前燕高平太守徐翻舉郡投降。晉軍前鋒鄧遐、朱序又在林渚（今河南新鄭市北）擊敗燕将傅顔。前燕再派樂安王慕容臧率軍抵擋晉軍，慕容臧也接連失利。
七月，桓溫進駐武陽（今山東莘縣東南），前燕兖州刺史孫元是流民出身，見晉軍到來，率領他的宗族起兵接應。桓溫抵達枋頭（今河南浚縣西），前燕朝廷大為恐慌，此前，他們已經派散騎常侍李鳳到前秦求救可前秦方面卻沒有任何消息。燕幽帝慕容睛和太傅慕容評商議着準備放棄國都邺城，逃回龍城（今遼甯朝陽）。緊要關頭，吳王慕容垂挺身而出說道:"别忙，我請求出戰，如果我不能取勝，你們再跑也不晚。"慕容瞠于是讓慕容垂代替慕容臧為南讨大都督，與範陽王慕容德一起率領5萬步騎抵禦桓溫。同時，再派散騎常侍樂嵩到長安求救，條件是答應把虎牢關（今河南荥陽西北汜水鎮）以西的土地割讓給前秦。
苻堅召叢集臣商議，大家的意見基本相同∶"當初桓溫一直打到灞上，燕國袖手旁觀，如今輪到他們挨打，我們為什麼要救?況且燕國又不向我們稱臣，又憑什麼要救他們!"隻有超級謀士王猛不發言。
會後，王猛向苻堅獻策："先出兵與燕國共同擊退晉軍，然後趁燕軍精疲力盡，沒有防備之時，再滅了燕國，這叫先救後取;否則，一旦讓桓溫占據了中原，就會變成大秦的強敵，我們再想染指中原就難了。" 苻堅深表贊同，當即指令将軍苟池和洛州刺史鄧羌領兵兩萬援救前燕。
燕軍并沒有如王猛所料與晉軍死磕，慕容垂隻是在枋頭與桓溫相持，采取避其鋒芒、尋機出擊的辦法。桓溫以前燕降将段思為向導，慕容垂瞧準機會，派将軍悉羅騰在與晉軍交戰中，生擒了段思，接着又斬殺桓溫手下大将、後趙舊将李述，晉軍士氣受挫。
桓溫勞師遠征，又是深入敵境，是很注意後勤運輸問題的，命豫州刺史袁真率部負責打開石門，将黃河水注入睢水，以運送糧草。慕容垂不是等閑之輩，派慕容德率1萬5千騎兵搶先一步占領了石門。袁真無法攻克石門，自然也就無法注水，東晉以水路優勢輸送補給的生命線被掐斷。與此同時，前燕豫州刺史李邦自發率領5000 地方部隊，在晉軍的後方到處騷擾、打伏擊，又切斷了晉軍的陸路糧道。
相持到九月，桓溫的主力還沒與慕容垂正面交戰，就糧草告急，無心戀戰了。又聽說前秦的援兵正在接近。桓溫知道再呆下去隻有死路一條，下令焚燒了所有的船隻，丢棄辎重、铠仗，從陸路撤軍。燕軍衆将都力主追擊，慕容垂說∶"不急。桓溫剛剛撤退，肯定保持高度戒備，必派精銳殿後。此時出擊，未必得手，不如先緩一緩。等他慶幸我們沒有追擊時，必定晝夜兼程，等他的士卒精疲力盡時再出擊，一定大獲全勝。"慕容垂親率8000騎兵，緩緩地尾随着晉軍。
桓溫果然很警覺，撤退途中擔心敵人在上遊放毒，指令士卒鑿井取水，一氣走了700裡，幾天後就改為急行軍，星夜兼程南撤。慕容垂說∶"可以出擊了!"下令快馬加鞭，火速追擊，并命慕容德率4000 精銳騎兵抄小路埋伏在襄邑（今河南睢縣）東面的山澗中。
晉軍走到襄邑時已是精疲力盡，還沒摸清後面到底有多少追兵，前面又遭到伏兵的截擊，全軍頓時崩潰，随即就變成一場大屠殺。燕軍區區8000騎兵，竟然斬殺了3萬晉軍。
桓溫帶着不到一半的殘兵繼續南逃，可才逃到谯城，又遇到恰好趕到該處的前秦援軍，晉軍再遭重創，最後逃回去的不到1萬人。桓溫苦心經營的精銳部隊至此幾乎喪失殆盡，事後他把責任歸咎于袁真，奏貶袁真為平民。袁真不服，上書朝廷申訴，指控桓溫的種種罪狀。
朝廷不敢招惹桓溫，維持原判。袁真一怒之下據壽春城發動叛亂，并同時向前秦和前燕求援。桓溫則退至山陽（今江蘇淮安），朝廷不但不敢追究他的責任，還命侍中羅含帶着牛羊美酒到山陽犒勞他，并任命他兒子桓熙為豫州刺史。不久，桓溫又移鎮廣陵（今江蘇揚州）。這次出兵讓桓溫顔面盡失，從此把北伐兩個字徹底屏蔽。沉悶了一段時間後，有人站出來為他分憂了。郗超私下跟桓溫說∶"明公身居重任，如果不能效仿伊霍（伊尹和霍光）、行廢立之事，就不足以重立威權，震懾天下。"桓溫馬上心領神會，兩人于是關起門窗、落下窗簾，嘀嘀咕咕密謀起來。
郗超考慮到司馬奕謹慎小心，又沒有什麼過錯，認為隻有利用人們看不見的私密之事進行構陷。是以向桓溫獻計∶"我們就說皇上早就患有陽痿，不能生育子嗣，其後宮所生的3個兒子，是寵臣相龍、計好、朱靈寶等人代勞，與田美人、孟美人苟合的，并非皇室血統。"
随後，這些話就在民間迅速傳播開來，人們對這些謠言根本無法辨識真僞，當時又沒有基因鑒定，就算有，那些陰謀家也有100種方法應對，可憐的司馬奕在強勢的權臣面前，就成了代罪羔羊，隻有坐以待斃了。
鹹安元年（371年）十一月十三日，桓溫一反常态突然來到建康，公然向褚太後提出要廢司馬奕為東海王，改立丞相司馬昱為帝，并将預先寫好的诏書呈上。當時，褚太後正在佛堂燒香，内侍報告說;"外有緊急奏章。"褚太後出來，倚着門才把奏章看了幾行，就說∶"謠言一起，我就猜到會有這種事!"看到一半時，那些不堪入目的字眼，讓她實在看不下去了，命内侍找來一支筆，在奏章上批複∶"我不幸遇上百般憂患，感念生者與死者，心如刀割。"桓溫開始時，還擔心褚太後會反對，恐慌到汗流浃背，臉都綠了，等诏書批複下來後，不禁欣喜若狂。兩天後，桓溫召集百官上朝，宣布廢立皇帝之事，百官震驚。桓溫見大家恐慌，自己也跟着一臉茫然，不知如何是好。尚書仆射王彪之見事情已無法挽回，就對桓溫說∶"您要行廢立之事，得按規矩來啊!"
于是命人找來《漢書·霍光傳》，照本宣科，依據霍光廢黜漢昌邑王的過程收回了晉廢帝司馬奕的禦玺绶帶，司馬奕就成了東晉建立以來第一位，也是唯一一位在位期間被廢黜的皇帝。然後由桓溫率領文武百官到會稽王府奉迎司馬昱。司馬昱接受國玺绶帶後，即位為帝，史稱"晉簡文帝"，改年号為"鹹安"。