1949年的中国发生了翻天覆地的变化，在这一年，新中国建立，全国大部分地区都被解放，就连蒋介石最后的落脚点台湾都有大批的地下党。早在日本侵略者占据台湾时期，中国共产党就在台湾设立有自己的党支部。
1945年日本投降之后，中共中央立即向原日本人占据的台湾地区，派遣了大批干部，进行革命根据地的建设。曾参加过红军长征、担任过八路军野战政治部敌工部长、时年37岁的蔡孝乾，便以中共台湾省工作委员会书记的身份，被派往了台湾，筹建中共在台湾省的组织。蔡孝乾也是唯一参加过红军长征的台湾人，对台湾当地的情况十分熟悉。
蔡孝乾虽然后来叛变了，但是在到台湾的前几年，还是做了不少成绩的。1946年，蔡孝乾便被派到台湾，主持地下工作。到台湾后，蔡孝乾在台湾组织了多次学生运动和农民运动，给国民党当局施压了很大的压力。
1948年底，蒋介石接连遭受各种打击，军事惨败，币制改革和经济管制失效，国统区对他的反对声音也越来越大，在这种情况下，蒋介石不得不为自己考虑退路，那就是退到台湾岛。其实在1948年6月，蒋介石的长子蒋经国就建议做撤退台湾的准备，但当时蒋介石没有在意，一直到1948年底，局势变得十分恶化，蒋介石才考虑到台湾。
1948年12月29日，蒋介石为了安抚台湾民众，将台湾牢牢控制在自己的手里，命令自己的心腹陈诚担任台湾省主席。12月30日，蒋介石又任命自己的长子蒋经国担任台湾省党部主任委员。
当时在台湾还有一员国民党的名将，此人就是孙立人。孙立人虽然在抗战期间立下过赫赫战功，但是在内战开始后不久，就被排挤到了台湾练兵，一直处于闲置的状态。由一个握有重兵，大权在手的封疆大吏，到到任一个空有其名，远离战场的地方，孙立人的心情变得很低落，不过练兵也是拿他的拿手好戏，他很快就来到了台湾。
1947年10月，孙立人在台湾凤山成立了陆军训练司令部，来台湾之前，孙立人联络新一军几十名税警总团时就跟他的老干部，还挑选了400多名教导总队毕业的学生作为示范教官，他的这一做法，直接把新一军的骨干抽光了，导致新一军的战斗力大大降低。
孙立人负责训练的新兵主要是从台湾征召的年轻学生，还有从大陆逃到台湾的零散部队，以及从上海，广州，北平，武汉招来的7000多名青年，为了吸引大家参军，孙立人还将凤山练兵的过程拍成了纪录片，然后放到戏剧里一起播放，一些年轻的学生看到了凤山练兵的纪录片，都被吸引过去参军了。
孙立人练兵十分严格，孙立人在自己的办公室门口挂着一面镜子，官兵有事见他，必须先整理着装，然后喊报告才能见他。在短短几年的时间里，孙立人就在凤山训练了46万名官兵，这些人后来大都被派到国内各个战场，也是蒋介石能够在台湾立足的保障。
蒋介石在人民解放军百万雄师渡长江后不久，决定去台湾，但却一直住在台湾海峡中流的澎湖群岛，并没有到达台湾本岛。一直到5月21日，陈诚，蒋鼎文，渝鸿钧三人亲自去拜谒蒋介石，蒋介石才准备去台湾本岛。5月26日，蒋介石赶赴台湾，他乘坐的美龄号飞机在上空绕了很长时间，并没有去陈诚控制的台北，而是去了孙立人控制的高雄市。
蒋介石之所以去孙立人这里，是因为当时台湾岛内地下党闹得比较厉害，蔡孝乾在岛内发展了数量众多的群众，蒋介石知道孙立人的才能，知道有孙立人，自己的安全是有保障的。到达高雄后，孙立人率领训练营的官兵亲自去迎接。
到达高雄之后，蒋介石不敢下飞机，孙立人亲自上飞机请他。蒋介石见到孙立人后第一句话就问：“我在此地安全吗？”孙立人回答：“有我在，不用怕！”蒋介石这才在长子蒋经国的搀扶下，战战兢兢地走了下来，为了安抚孙立人，蒋介石立刻在一张纸条上写下“新台币20万，蒋中正。”孙立人后来蒋介石这边钱全部冲了军费。
蒋介石到台湾后，蒋介石立刻让长子蒋经国重新国民党的特务系统，并重建军队的政工制度，蒋经国还兼任国防部政治部主任，进一步控制军队。当时岛内的政治环境十分紧张，再加上当时台湾地下党负责人蔡孝乾被捕后叛变，导致台湾地下党几乎全军覆没，蒋介石又稳定了台湾的局势。
蒋介石到台湾之后，还干了一件事，那就是土地改革。蒋介石规定，一是限定租额，除掉种子、肥料等成本费25%，余下收成的75%由地主和佃农平分，也就是佃农等稳获全年收成的37.5%，这就是著名的“三七五减租”。二是对地主随意解雇佃农进行了限制，规定租期不得少于6年，在这6年里，佃农完全取得土地使用权，每年交地主37.5%地租即可。
蒋介石还颁布二是对地主随意解雇佃农进行了限制，规定租期不得少于6年，在这6年里，佃农完全取得土地使用权，每年交地主37.5%地租即可。这一系列做法缓和的社会矛盾，也压缩了台湾地下党的生存空间。
除此之外，蒋介石还大规模清洗军队将领，有些将领只要表现得有一点不忠诚，就会被排斥在外，孙立人就是一个典型的例子。孙立人虽然在蒋介石到达台湾初期立下了大功，但是却很傲慢，不仅抵制蒋经国的政工制度，还排斥其他的部队。
上海解放前，汤恩伯率领残兵败将溃守台湾地区，接待的任务就落到了孙立人的肩膀上，但是孙立人却不肯将训练营空出来，让给汤恩伯残部居住。蒋介石责孙立人自私，孙立人讲道：“我自私？你才自私，谁不知道汤恩伯的部队是您的嫡系部队，如果共产党打过来，您能往哪里去？只能往太平洋里跳！”蒋介石听后脸色大变，不是侍卫长俞济时出来打圆场。当时的场面一定不可控制。
另外，孙立人的过于清廉也引起了其他将领的不满，最后蒋介石随便找了一个罪名将其软禁起来。在这一系列的措施下，蒋介石将台湾党政军宪特系统又牢牢地控制在了自己的手中，将台湾的局势稳定下来。