1927年4月12日，蔣介石為在上海發動反革命武裝政變，他代表着國民黨新右派，屠殺國民黨左派人士和共産黨人，這引起國民黨左派、共産黨人和部分革命元老的不滿。
1927年4月17日，武漢國民政府為蔣介石等人的作為，組織召開了一場臨時會議，國民黨中央執行委員會一緻決定，開除蔣介石的黨籍、解除其一切軍政職務。武漢國民政府列舉了蔣介石的十二大罪狀，其中最重要的一條罪狀便是：
屠殺人民和鎮壓共産黨活動。
到這還沒完，武漢國民政府指令
，國民革命軍的全體将士及革命群眾團體，捉拿蔣介石歸中央，按反革命罪條例懲治。這一系列的處罰決定，得到武漢各界人士的一緻擁護。
逮捕處罰蔣介石的布告，傳得到處都是。通緝令上，有着對蔣介石的懸賞：
活捉蔣介石，賞25萬元；擊斃蔣介石，賞10萬元。
武漢國民政府的重拳出擊，并沒有讓蔣介石多麼惶恐，更沒有束手待斃。蔣介石不是任人拿捏的簡單貨色，武漢那邊一出處罰，他就立即在南京成立新的國民政府。在蔣介石的主持召集下，國民黨右翼分子從4月15日起，在南京召開緊急會議。
暗殺國民黨左派領袖廖仲恺的最大嫌疑人、曾經國民黨三大巨頭之一的胡漢民，從蘇聯回國。胡漢民回國不是來反對譴責蔣介石的，而是來支援他的反共工作的。4月15日，蔣介石訓示警察和軍隊，包圍設在廣州的工會和廣州國民黨辦事處，将包括蘇聯顧問在内的2000餘人全部抓起來，幾名已被證明是共産黨員的黃埔學生，被蔣介石下令當衆處決。
蔣介石的行為，可以說在當時的中國和世界，引起軒然大波，誰也沒想到這位自诩孫中山接班人的蔣光頭，竟然如此肆無忌憚的歹毒。4月18日，也就是武漢國民黨方面正式懸賞抓拿蔣介石的第一天，蔣介石表現出極為強硬的态度，在南京成立了一個與武漢國民政府對立的南京政府。胡漢民被蔣介石推到台前，成了新政府的中央政治會議主席。
是以，從始至終，南京國民政府就不是中央正統，而是自立的僞政權出身。史稱：
“甯漢分裂。”
蔣介石釋出了一篇表明态度的冗長公文，中心意思是：
“我們必須與共産黨決裂。”
這邊天下還沒打下來，就開始鬧内讧、殺功臣了。
蔣介石的作為和南京國民政府的成立，緻使中國再一次陷入漫無目的的黑暗混亂狀态。南京與武漢，一個國民黨左派成立、一個國民黨新右派成立的政府，都宣稱自己是正統的，自己才是真正繼承孫中山先生革命遺志的。而北方，張作霖大權在握，勢力最為強大。此時的中國，陷入新一輪内鬥，一個國家三個政府。革命革着革着，從兩個政府變成三個政府，中國革命還有希望嗎？
南京國民政府的順利成立，讓蔣介石信心大增，認為可以再次發動北伐，進而擷取巨大的聲望和地位。4月24日南京，蔣介石召開陸軍會議，正式提出重新北伐的議案。這次北伐提議，終究是胎死腹中，武漢國民政府是不會容忍南京方面肆意妄為的。效忠武漢方面的革命軍隊，正向南京推進；蔣介石也安排部隊向武漢開進。
複雜的情況，詭異的平衡，要是真開戰，将出現兩敗俱傷的絞肉機局面。而能夠改變這一局勢的，隻有搖擺不定的馮玉祥，馮玉祥倒向哪邊，哪邊就能占據上風，很容易取得碾壓性的勝利。馮玉祥十分享受這種掌控千萬人命運的感覺，他指揮部隊占領隴海線東段，對南京和武漢同時形成威脅。是以，這兩股勢力，必須先向馮玉祥靠攏才行。
馮玉祥的第一順位合作夥伴是武漢國民政府的汪精衛，因為他認為蔣介石此人過于奸詐狡猾，不可信；而且蔣介石民心盡失，惹得天怒人怨，與其合作，容易引火上身。馮玉祥請武漢國民政府派人來鄭州進行協商談判，而直至6月13日，也沒取得實質性進展。汪精衛隻許諾了一些空頭支票，這讓馮玉祥非常不滿。
漸漸地，馮玉祥對武漢失去信心，于是他在6月19日親自前往徐州，與蔣介石會晤。雙方談判2天，順利達成完全一緻的意見。就此，馮玉祥完全倒向南京方面，開始主動向武漢施加軍事壓力。從争取馮玉祥這件事上不難看出，蔣介石是遠比汪精衛更高明的政客。
形勢嚴峻，蔣介石對馮玉祥提出的任何要求都統統答應；他知道，這一關都過不了，談什麼以後；至于這些答應的東西，還不是他自己說了算。反觀汪精衛隻顧着眼前的蠅頭小利。與此同時，汪精衛收到斯大林從蘇聯莫斯科發來的一封電報，大緻内容是：
共産黨接管政權是拓廣革命前景的唯一途徑，希望汪精衛與共産黨攜手前進。
這讓本就敏感焦慮的汪精衛更加難受，蘇聯方面什麼意思？這是在威脅嗎？是想遙控自己、讓自己當傀儡嗎？斯大林發來的電報沒讓中國共産黨的處境更好，而是變得更加糟糕起來。7月15日，汪精衛也發動反革命政變；次日開始屠殺轄境内的共産黨人，蘇聯顧問被迫離開武漢。
汪精衛迫害共産黨人反革命，但并不是說他站到蔣介石那邊，汪精衛指令部隊加速向南京進發。而剛被打敗的孫傳芳，一看國民黨内讧，認為自己又有東山再起的機會，便糾集舊部，對長江北岸蔣介石占領區發動進攻。蔣介石腹背受敵。
出于自己的利益和蔣介石答應自己的條件，馮玉祥出面對雙方進行調解。馮玉祥的調解是有傾向性的，被逼無奈的汪精衛隻得同意和平統一，同意遷都南京的提議。8月上旬，武漢和南京達成合作協定，武漢國民政府也停止辦公，但汪精衛并未停止反蔣行動，制造起一波大過一波的輿論浪潮。
蔣介石為了将局面重新穩住，竟然開始排除異己，眼睛盯在實權派将領李宗仁和白崇禧身上，這引起兩位赫赫戰功的北伐名将的不滿。由此，李宗仁和白崇禧對蔣介石的态度先從支援變成沉默，再從沉默改為反動。為了挽回日漸稀薄的聲譽，蔣介石親赴前線，指揮津浦線戰事，但是慘遭失敗。
這時，國民黨内外反蔣呼聲越來越高，蔣介石深知再撐下去不利于自己，便決定以退為進，在8月13日宣布下野。蔣介石下野後，南京和武漢的合作步伐加快。武漢國民政府正式被合并到南京國民政府，汪精衛卻在裡面沒位置，無奈之下隻好在9月13日也選擇下野。
宣布下野的前一天，蔣介石就帶着2百多名保镖随從回了奉化老家。在這裡，蔣介石雖然還是會收到大量信件，無法從管理國家的瑣事中脫離出來，但他的内心得到難得的甯靜。脫下戎裝的蔣介石，開始思考自己的前半生和未來。蔣介石的第一任妻子毛福梅，隻給他帶來了一個兒子蔣經國；蔣介石很不喜歡毛福梅，用他的原話說：簡直難以忍受她的腳步聲和身影。
遇到第二任妻子陳潔如後，蔣介石便與原配毛福梅離婚了。但陳潔如，也并不是蔣介石心目中最理想的妻子，她不能給蔣介石的仕途帶去任何的幫助。1922年，蔣介石在孫中山家中遇到一位符合自己審美、對政治和局勢獨特且清晰見解、志同道合的女人。
而且她出身顯赫，父親是聲名遠揚的大商賈，兩個姐姐都嫁給了當時很有影響力的人物，她本人也在美國接受過高等教育。對一個野心勃勃的人來說，與這樣的女人結合，才是天作之合、完美夫妻。
這個女人就是宋美齡，她的哥哥宋子文是
國民黨常務委員兼财政部長，也是反蔣激進派；她的大姐宋霭齡嫁給了
武漢國民政府實業部
部長孔祥熙；她的二姐宋慶齡嫁給了“民國國父”孫中山，宋美齡本人也有崇高的政治地位和社會地位。宋美齡還有兩個兄弟宋子良、宋子安，在上海金融界和運輸制造界呼風喚雨。
當時的宋美齡已經訂婚，但蔣介石沒有放棄，采取各種行動拉近關系。兩人結識沒多久，蔣介石就向宋美齡求婚了，宋美齡對蔣介石并不感興趣，便拒絕了，隻是答應做朋友。1922年到1927年，蔣介石不間斷地給宋美齡寫信，隔三岔五進行求婚。
1927年5月，蔣介石以超越過去的鄭重儀式，再次向已經動搖的宋美齡求婚。關于這件事，宋家内部分裂成不同意思的兩派，宋子文堅決反對，宋霭齡夫婦贊成，宋美齡之母因對蔣介石的印象不好也持反對意見。宋母不同意，宋美齡是不可能嫁給蔣介石的。
後來數月時間，蔣介石和宋美齡一同努力；蔣介石将自己對宋美齡的愛公示天下，把一封給宋美齡的情書刊登在一家報紙；宋美齡也在家中做宋子文和宋母的說服。最後宋子文決定不再幹涉此事，随便宋美齡怎樣。蔣介石下野之後，再一次向宋美齡求婚，宋美齡欣然同意。
但是宋美齡告訴蔣介石，兩人結婚還有一大障礙：宋母。單說年齡這一項，蔣介石比宋美齡大11歲，宋母就不太想女兒嫁。蔣介石馬上行動，追到上海見宋母；但宋母不想見他，就跑到日本；蔣介石知道後，追到日本去見宋母，拿出離婚證說自己已經離婚了；最後當着宋母的面發毒誓，保證對宋美齡好，會研讀聖經、接受洗禮，成為一名虔誠的基督教徒。宋母一看自己沒有反對理由，便點頭同意了這門親事。
1927年12月1日，蔣介石和宋美齡正式舉行婚禮，汪精衛、陳果夫、陳立夫、餘國章、何香凝、李德全、譚延闿、美國領事、美國審判長、英軍司令等知名人物來參加了，這讓已下野的蔣介石聲名大振。而蔣介石下野後國民黨政府的局勢不容樂觀，連吃敗仗。這時候，國民黨高層又想起了蔣介石的好。
通過宋子文、宋慶齡、孔祥熙等人的幫助，正在度蜜月的蔣介石接到一個又一個的喜訊，馮玉祥和閻錫山聯名請他主持大局；12月10日，國民黨中央執行委員會，決定恢複蔣介石北伐軍總司令的職務。一場婚姻，讓跌入低谷的蔣介石重回權力中心。