之後，孫中山又重新回到日本。
1897年8月的一天，孫中山在日本橫濱陳少白的寓所，接待了慕名而來的一位日本人宮崎滔天。
宮崎滔天原名寅藏，别号白浪奄滔天，出生在自由民權運動活躍地區的一個“自由民權之家”——日本熊本縣荒尾村一個下級武士的家庭。他少懷大志，早有救世的念頭，對弱肉強食的現狀深惡痛絕，對現今國與國之間的競争甚為憎厭。目睹當時亞洲大部分國家變成歐美侵略者的殖民地和半殖民地，他曾經希望日本能負起挽救亞洲的責任。可是，明治維新後的日本政府，卻成了歐美列強壓迫中國和亞洲一些國家的夥伴，充當了侵華急先鋒。這樣，他把複興亞洲的希望寄托于中國革命事業。他遍訪才俊之士，終于得遇孫逸仙先生。
孫中山通過宮崎和平山周的介紹，不但認識了民黨領袖犬養毅和大畏重信，随後又結識了萱野長知、頭山滿、平岡浩太郎、山田良政、内田良平、福平誠、宗方小太郎等人。
1899年，孫中山往返于東京、橫濱、長崎等地，宣傳革命，結識同志，為了再次策劃武裝起義，派興中會會員畢永年偕同日人平山周等赴湖南、湖北等地聯絡哥老會，提出興中會和哥老會聯合反清的建議。他們在湖南、湖北對哥老會各首領進行了發動。
孫中山命陳少白、鄭士良等人在香港設立會黨機關，與廣東三合會取得密切聯系。
這年冬季，聯絡會黨的工作基本就緒後，興中會便邀約哥老會、三合會各首領在香港集會，陳少白、鄭士良、楊衢雲、畢永年、楊鴻鈞、李雲彪、張堯卿、宮崎寅藏、平山周等人都出席了會議。
會上，議定綱領三則，歃血為盟，興中、三合、哥老三會結成一個大團體，取名“興漢會”，一緻推選孫中山為總會長。
1903年夏至1905年夏，中國的反清革命運動有了進一步發展，反清革命團體秘密地或公開、半公開地進行活動。它們和興中會一樣，共同的目标就是用革命手段推翻清朝政府。這些革命團體中比較有作為的有：1903年5月留日學生成立的“軍國民教育會”，1904年2月由黃興、宋教仁、劉揆一等上司的以兩湖留日學生為中心的“華興會”，7月湖北知識青年曹亞伯、呂大森、劉靜庵等在武昌成立的科學補習所，10月蔡元培、章炳麟（太炎）等上司的以江浙一帶知識分子為主的“光複會”，還有湖北的“日知會”等等。
1905年夏，孫中山從歐洲回到日本。
7月22日，孫中山在東京見到了革命同仁黃興。
黃興，号克強，1874年生于湖南善化縣龍喜鄉涼塘。他是留日學生中才華橫溢的佼佼者。他11歲就萌發力求新知與救亡圖存之志趣。1900年，26歲的黃興參加了自立軍起事的密謀。1902年，他赴日本留學，結識宮崎滔天。次年，他自東京啟程回國，與劉揆一、章士钊、宋教仁、周震鱗等湖南志士發起組織革命團體華興會，被舉為會長。接着他籌劃長沙起義。起義事洩失敗後，化裝成海關辦事人員離開長沙，乘日本輪船避走日本東京，與留日學生組織革命同志會，成了公認的學生領袖。
孫中山、黃興邀約各省有志革命的留學生和旅日華僑70多人，于7月30日下午在東京黑龍會會址集會，共同讨論建立新的革命團體大事。他們中間有興中會、華興會、科學補習是以及其他團體的成員。全國内地17省均有代表到會，這是中國革命者一次史無前例的聚會。
會上，孫中山提議成立中國同盟會(中國國民黨的前身）。中國同盟會應以“驅除鞑虜，恢複中華，創立民國，平均地權”為宗旨。
8月20日，中國同盟會在東京赤坂區召開成立大會，出席會議的有100餘人。黃興首先倡議：“公推孫中山先生為本會總理，不必經選舉手續。”這個倡議，人心所向，衆望所歸。衆人舉手贊成。
孫中山根據章程規定，當場指定黃興為執行部庶務。庶務居協理地位，總理缺席，有全權主持會務。黃興在同盟會中的副領袖地位，也正式确定了下來。從此，人們把孫中山、黃興兩人并稱為“孫黃”。
同盟會章程規定：以東京為同盟會本部所在地；本部下設支部，支部下設分會；國内應設東（上海）、西（重慶）、南（香港）、北（煙台）、中（漢口）5個支部，分轄各省及蒙、藏、新疆等區分會；海外應設南洋、歐洲、美洲、檀香山4個支部。
同盟會成立之後，留日學生相繼加盟的400多人；至1906年末，僅東京一地加盟的已達800多人。不到一年，海内外會員總數迅速擴充到1萬人以上。
在同盟會本部上司機關中，除黃興外，同孫中山最接近的幹部還有胡漢民、汪精衛、朱執信、廖仲恺等人。胡漢民擔任評議部議員，後任執行部書記部書記，汪精衛擔任評議部議長，朱執信擔任評議部議員兼書記，廖仲恺擔任執行部外務部幹事，兼任中國留日學生會會長。
孫中山、黃興和戰友們制定了《中國同盟會革命方略》，加強宣傳工作，發展各地同盟會組織，擴大革命力量，募捐革命經費，準備在國内發動武裝起義。
