1955年，衛立煌在有關方面的周密安排下，回到了祖國大陸。他是内戰以後，海外歸來官職最高的國民黨将軍。衛立煌是憑戰功成為國民黨的進階将領的，不過，因為他在抗戰中明裡暗裡幫助過共産黨，受到國民黨反動的猜忌和監視，雖身為五虎上将，但總被蔣介石處處提防。
抗戰初期，衛立煌親自指揮了忻口戰役，雖然這場戰役最終失敗，但該戰役給了日軍當頭一棒。日軍入關以來，還沒有遭受過如此打擊沉重打擊，僅僅在忻口就損失兵力2萬多人。要不是蔣介石的心腹愛将劉峙在河北潰敗，國軍很有可能在忻口取得大捷。無奈，劉峙一跑，娘子關一丢，嚴重影響了衛立煌的側後，他隻能選擇往後撤，不然就會陷入兩面夾擊之中。忻口會戰最終落個不戰而敗的結局。
真正讓衛立煌揚名海内外的是在1943年，此時他擔任遠征軍司令長官，中國軍隊第2次入緬對日作戰。這次遠征軍戰力暴增，盤踞在緬甸的日軍被逐漸消滅。滇緬公路全線貫通，國際援助這才源源不斷輸入内地。對于衛立煌的能力，史迪威在他的回憶錄中大加稱贊，說他是中國軍隊中最有才幹的将軍。蔣介石也知道他的才幹，把他與陳誠，劉峙、顧祝同、蔣鼎文共稱為國軍五虎上将。不過，其它四位是因為聽話才能上位，而衛立煌是實打實的上位。這五人當中，蔣介石最不放心的是衛立煌，總是處在被提防的狀态。
西安事變後，國共兩黨槍口一緻對外，共同抵抗日本人的入侵。1938年，衛立煌就任第2戰區副司令，協助閻錫山保衛山西。在國難面前，他主張國共平等，軍用物資要平等對待，不能厚此薄彼。衛立煌是站在抗日角度來主張的，但這個舉動遭到了國民黨反動派的猜忌，尤其是蔣介石，他在國難當頭之時還在想方設法不讓共産黨坐大，而自己的虎将居然要把物資平等配置設定，這讓他很是憤怒，認為衛立煌居心不良，讓特務處處進行監視。
抗日戰争勝利後，苦難的中國又陷入了内戰當中，蔣介石手握800萬軍隊，打算花一年時間解決共産黨。不過，讓蔣介石沒想到的是，表面強大的國軍，内部已經腐爛透頂，先是全面開戰失敗，後來重點進攻失敗。而人民解放軍卻是越打越強，人民支援的力度越來越大。很快，東北決戰開打，人民解放軍在東北四處攻城，國軍的地盤越來越小。
1947年8月初，身在南京的蔣介石派心腹愛将陳誠遠赴沈陽，接替已經焦頭爛額的熊式輝。面對國軍在東北的爛攤子，陳誠也是束手無側，一切聽從遠方蔣介石的遙控指揮。2個月後，人民解放軍發動秋季攻勢，陳誠的10萬部隊成了炮灰。1948年元月剛過，陳誠的嫡系新5軍，被解放軍一陣突襲報帳。陳誠感到大勢已去，隻得請求蔣介石再派能将來接替自己。
蔣介石大罵陳誠無能，火速任命剛回國的衛立煌去東北收拾爛攤子。不過，讓蔣介石沒想到的是，衛立煌到了東北，居然置自己的指令不顧，一次次地違抗。蔣介石不想數十萬精銳被一一消滅，他讓衛立煌把主力調到錦州，這樣背靠華北好進行支援。但衛立煌拒絕了，他認為解放軍機動性強，善于運動戰，此時調動，極有可能走不到錦州就全軍覆沒。
後來，解放軍進行關門打狗，要打錦州，蔣介石讓他出兵進行去支援，衛立煌還是不為所動，再後來，廖耀湘兵團被圍，他還是決定不救，氣的蔣介石大罵衛立煌縮頭烏龜。
遼沈戰役中，衛立煌之是以三番五次拒絕執行上面的指令，源于他深知蔣介石的為人。蔣介石喜歡進行越級指揮，常常以密碼行式來釋出指令，根本不顧及戰局的變化 。要是指揮的好還好說，要是出現敗局，那就是下面人無能，必須有人來承責任。衛立煌不願走别人的老路，還是根據自己判斷來決定行動。
1947年11月初，人民解放軍推進到山海關一線，東北全境獲得了解放。蔣介石心情糟糕到了極點，他于26日釋出指令，宣布撤銷衛立煌的一切職務，理由是遲疑不決，坐失戰機。衛立煌被禁于南京一處私宅，終日受到特務的監視。面對東北的失利，國民黨内部開始了推脫，有人趁機散布消息，說衛立煌從抗戰開始就跟共産黨打的火熱，這次在東北按兵不動，是典型的通共行為。要進行嚴懲。不過，這都是心懷不軌的人進行宣傳，沒有什麼證據，國民黨内部無法進行審判。
新中國成立後，衛立煌看不慣蔣介石在台灣進行的秋後算帳行為，選擇從香港回到大陸。為了讓台灣了解大陸的對台方針，他專門在人民日報發表了《告台灣袍澤朋友書》。報中寫出了自己的感受，他說跟蔣介石共事30多年，一心為他賣命打天下，到頭來卻被懷疑和猜忌，真是跟錯了人，希望台灣的同胞早日醒悟過來。