一、驅溥出宮迎孫主政
早在擊敗張勳複辟軍時，馮玉祥即主張驅逐溥儀出宮，取消對清室的優待條件，嚴懲複辟兇犯，但被段祺瑞擱置不理。馮玉祥一直認為在中華民國領土内，還存在一個廢清皇帝的小朝廷，不僅是中華民國的恥辱，也是中外野心家時刻企圖利用的禍根。11月4日，經攝政内閣同意，馮玉祥令鹿鐘麟于5日驅逐溥儀出宮，并且修改對清室優待條件，把故宮的寶物收歸國有。這一舉動博得全國上下拍手稱快。北京全城懸挂國旗，表示慶祝。
北京政變後，孫中山接受中國共産黨建議決定離粵北上。10月27日，孫中山向馮玉祥等發電報祝賀并且表示即日北上。馮玉祥立即複電，請早日北來措示建國方針，并派代表特系筆信前往迎接。11月10日，孫中山發表《北上宣言》，提出結束軍閥武裝割據局面、召開國民會議的主張。
曹锟、吳佩孚倒台後，段祺瑞、張作霖互相勾結，在日本帝國主義的支援下，共同抵制孫中山，制止革命力量的發展。11月10日，張作霖抵天津，特邀馮玉祥前往會晤。張作霖、段祺瑞背棄“奉軍不入關”、“孫主政、段主軍”的諾言，不僅調大批奉軍入關，搶占京津地區，而且推舉段祺瑞任臨時執政，組織臨時政府，并且以魯督鄭士琦、晉督閻錫山從津浦、京漢夾擊國民軍相威脅。馮玉祥無奈，遂同意段祺瑞出任執政，但仍寄希望于孫中山北上。11月20日，馮玉祥再次發電敦請孫中山從速北上。
11月24日，段祺瑞就職臨時執政，總攬總統、總理職權于一身，根本排除孫中山過問政權的機會。段祺瑞、張作霖攫奪北京政變勝利果實，馮自忖兵力不敵段、張，而一籌莫展，遂于11月25日提出辭職并通電全國，稱辭職“既可使新酞之展布，枝節不至橫生；更可求諒解于中原，使大局易于收拾”，表露出不得不隐退的苦衷。待12月底孫中山抱病抵京時，馮玉祥已避居京西天台山中。
北京政變後，以李大钊同志為首的中國共産黨北方區委，采取了聯合國民軍，打倒段、張的政策。李大钊對馮玉祥做工作，并派人到國民軍中工作。經李大钊介紹，馮玉祥會見了蘇聯駐華大使加拉罕。馮玉祥決定實施孫中山的聯俄、聯共、扶助農工三大政策，而請蘇聯顧問團在教導團任教，幫助訓練軍隊，并選派軍官到蘇聯學習。馮玉祥自己也聽他們講政治課，并任命共産黨員劉伯堅負責部隊的政治工作。馮玉祥密囑部下，對日益發展的群衆愛國運動要加以保護。
二、開發西北助郭倒奉
段祺瑞為保住執政的寶座，一面憑借張作霖扼制馮玉祥；同時又對馮玉祥略施撫慰，以挾馮自重，避免受制于張作霖。段祺瑞同意馮玉祥擴充兵力為步兵12個師，騎兵兩個師，炮兵兩個旅，交通隊一團，共計約15萬人。後來又任命馮玉祥為西北邊防督辦兼督理甘肅軍務。于是，馮玉祥赴張家口就職，成立了西北邊防督辦公署。派部下劉郁芬、蔣鴻遇率兩個師入甘肅，拟将甘肅經營成根據地。
在這一時期，馮玉祥“以愛民為第一主旨”。他注重發展教育、舉辦實業、整頓财政、整頓交通。在他的許多愛國政績中，有三件特别值得一提。一件是沒收英國人20萬隻羊。一英人擅自開辦公司在當地養羊，以往官吏“懾于外人之勢，不敢幹涉”，馮玉祥了解屬實後，将20萬隻羊全部沒收。第二件是改革貨運辦法。優先運輸中國人的貨物，把外商的貨“屈居其次”。第三件是針鋒相對地回擊日本武官的侮辱性言論。一日本武官談及張家口附近的賜兒山，将它與高麗的沒有樹的秃山相比。馮玉祥認為以被日本滅亡了的高麗比喻中國的山河，是有意侮辱中國，他對日本武官說：“……聽朋友說見過你的母親，說你母親長得很好看，和妓女差不多，雖然我知道她不是……”，日本武官質問：“這是什麼意思？”馮說：“你剛才說的是什麼意思？”日本武官無奈，敗興而去。
這時，馮玉祥拒絕參與張作霖、孫傳芳為争地盤的混戰，而與反對奉、日密約的郭松齡結為聯盟，馮、郭訂立密約：1、排除軍閥專橫，永遠消滅戰禍；2、實行民生政治，改善勞工生活及待遇；3、實行強迫普及教育；4、開發邊境，儲存國土。馮、郭互相規定：1、不得為攘奪權利，向内地各省戰争；2、不得為達前項戰争目的，訂立賣國條約，向外國借款；3、不得引用外國兵力殘殺本國同胞。若違反此規定，所訂密約失效。馮郭聯盟緩解了奉軍對國民軍的嚴重威脅。但是，郭部反對奉張的軍事行動很快失敗，郭松齡及其夫人被處死。馮玉祥收容了郭的餘部。
三、支援“五卅”赴蘇考察
“五卅”慘案發生後，馮玉祥緻電執政府并幾次通電全國，表示“為國赴難，願效前驅”，并詳述廢除不平等條約的必要性。同時，他經常對群衆、士兵進行愛國宣傳，組織西北軍捐款援助罷工勞工。馮玉祥主張以武力反擊帝國主義的屠殺政策。特别在接連發生漢口慘案、沙基慘案之後，更使馮感到中國人民實在忍無可忍，建議全國軍隊和文武機關一緻積極備戰，“當于死亡之中，打開一條血路”。
蓬勃發展的革命群衆運動與國民軍的進步傾向，遭到帝國主義與軍閥勢力的忌恨。他們加劇血腥鎮壓，宣傳國民軍“赤化”。在軍事方面，則由帝國主義撮合張作霖、吳佩孚、孫傳芳、閻錫山、張宗昌等軍閥組成大聯合，妄圖消滅南方的國民黨政府和北方的國民軍。國民軍處于軍閥勢力的包圍中，馮玉祥為了化仇除怨，停止禍國殃民的内戰，也為了轉移軍閥的視線、儲存實力，遂于1926年1月1日通卑辭職。
3月20日，馮玉祥取道庫倫(今烏蘭巴托)赴蘇聯考察。馮玉祥在赴蘇途中，經與徐謙等人交談，決定加入中國國民黨，馮玉祥自稱：“我是一個軍人，不懂政治，更沒有具體辦法，耿耿此心，是仰慕中山先生的為人和主張的。”
5月，馮玉樣抵達莫斯科。在歡迎隊伍中最引起他注目的是東方大學和中山大學的四五百名中國學生。他們排着整齊的隊伍，舉着旗幟和大幅智語，上面寫着：“歡迎人民軍隊的領袖——中國工農運動的捍衛者！”學生們狂熱地高呼着中國國民軍萬歲的口号，使馮玉祥深受感動。他高興地說：“在俄國，我找到了中國将來發展的榜樣。”
馮玉祥被招待住進豪華的飯店，面對講究的飯菜，他想到國内戰友正在艱苦地戰鬥，心中十分不安，不能下咽。他堅持飲食節儉，自己上街買些蘿蔔、大蔥佐餐，拒絕享受美味佳肴。
在莫斯科他會見了蘇共中央上司加裡甯、伏羅希洛夫等人，并進行參觀通路；又與中共中央駐共産國際代表團上司人蔡和森交談了幾天。這一切使馮玉祥對革命有了進一步的了解，也堅定了他繼續參加國民革命的決心。不久，傳來國民軍在南口敗退的消息，馮玉祥十分焦急，于8月中旬，秘密離蘇返國。
馮玉祥去蘇聯時，國民軍已處于四面受敵的形勢。3月21日，國民軍放棄天津，退守北京附近。4月，在帝國主義操縱下軍閥聯盟各軍，謀劃從北京的東北、東南、西南、晉北、熱河等方面分5路向國民軍進攻。4月15日，國民軍有秩序地迅速撤離北京退至南口。南口有早已構築的防禦工事。工事蜿蜒百餘裡，深溝闊壕，前設電網，後置地雷，異常堅固。從5月中旬開始，吳佩孚部、直魯聯軍、奉軍先後進攻南口，雖集中重炮轟擊，也未能得逞。
國民軍約20萬人，在南口與直、奉50餘萬之衆對壘。在北面延慶、赤城、獨石口、沽源、多倫一線與奉軍作戰；在晉北大同、天鎮一線與閻軍對抗，為了防止截斷後方聯絡線，吳佩孚又派人積極圖陝、進攻甘肅，企圖斷絕國民軍後路。
國民軍多方作戰，苦戰近3個月，有生力量傷亡過半，再加給養困難，饷械補充無繼，眼看又将與陝甘斷絕聯絡，于是在8月15日總退卻，向西突圍。以平地泉(集甯)為第一防線，卓資、和林為第二防線。沿途山路崎岖，荒漠連綿，供應奇缺，秩序淩亂，士氣十分低落。韓複榘、石友三等部遂另謀出路接受了閻錫山改編。