1928年6月4日凌晨5点30分，中华民国陆海军大元帅、奉系军阀首领张作霖乘坐的专列经过京奉、南满铁路交叉处的三洞桥时，火车被日本关东军预埋炸药炸毁，张作霖被炸成重伤，送回沈阳后，于当日死去。东北局势此时内有关东军觊觎，外有北伐军虎视，稍有不慎就会陷入乱局，断送张作霖的半生心血。而此时被张作霖寄希望继承大统的张学良尚在北京，留守沈阳的奉系高层鉴于局势复杂，决定秘不发丧，等候张学良归来。
突逢大变，张学良倒是没有惊慌失措，仔细、冷静思考后，他没有立即返回沈阳，而是继续和杨宇霆在北京安排奉军回撤。直至一周后的6月11日，张学良才剃去头发，穿上士兵的灰色军装，搭乘火车秘密出关。
6月19日，张学良一回到沈阳帅府，就仿照张作霖的笔迹代签遗嘱：“余不幸归途遇险，今病势已笃，殆朝暮人间矣……今以奉天重任付之学良，望汝善为料理……”借着这个遗嘱，张学良宣誓就任奉天省军务督办，拿下东三省中最重要的一个省份大权。
当时东北的势力分为三股，张学良以陆大、讲武堂毕业生为嫡系的“土派”，掌握着奉军中最精锐的第三、四方面军；张作霖的把兄弟张作相为首的“旧派”，掌握第五方面军兵权；以参谋长杨宇霆为核心的“洋派”。这其中以张学良的实力最为雄厚，杨宇霆兵权有限，实力最弱。由谁来继承张作霖留下的位子，是摆在奉系面前的一个难题。
张学良经过权衡，与幕僚商议后，决定推举张作相。谁知他竟然对这“东北王”的位子竟坚辞不受，要求改选张学良。原来张作相为人宽厚，资历老、功劳大，虽然在奉系军阀中深孚众望，却颇有自知之明。他知道自己才能有限，不足以应付东北的险恶局势，害怕上台后应对失措，被人拱下台去，这样反倒弄巧成拙；另一方面他也知道张学良自身实力雄厚，未必肯臣服于他。
张学良拥戴张作相有很大一部分原因是形势所迫，并不是完全真心实意，见张作相坚辞不受，便顺水推舟，坐上了总司令的宝座。杨宇霆正在关内布置奉军后撤，见到张学良、张作相联合起来，只好发布通电宣布拥护张学良。但事实上，杨宇霆并不甘心，曾两次在滦州密会白崇禧，希望后者帮他取代张学良。
张学良接任东三省保安总司令后，立即面临一个头疼的问题。关外，日军欲壑难填，觊觎东北全境已久；关内，北伐军节节推进，志在统一全国，压迫东北服从国民政府命令。无论日本，还是国府，都不会再让奉系自主一方；怎样选择事关奉系前途命运。
日本人和张学良有杀父之仇，而且日本在东北的欲望也越来越难以满足，即使他想维持目前关系恐怕日本人也不会答应，而且投靠日本，还会背上卖国的骂名。思前想后，张学良决定归附南京，拿国府做“挡箭牌”，代替自己处理对日交涉。
东北易帜势必侵犯日本利益，日本方面极力反对并不断施压，但由于国民政府和奉系立场坚决，且有英、美等国施压，日本被迫在东北问题上让步，改变原先不惜武力干涉，也要阻止中国统一的立场，称东北易帜为“中国内政问题”。除日本外，奉系内部的杨宇霆、袁金铠等人也反对易帜，但随着事情发展，杨宇霆等人的反对也找不到充足理由，最后只好偃旗息鼓。
1928年12月29日，东北全境降下五色旗，改悬青天白日满地红旗，意味着北洋政府彻底覆灭，国民政府实现全国统一。
外部压力暂时缓解，但是内部矛盾却愈发尖锐，张学良要想成为真正的东北王，还有杨宇霆这道坎需要跨过去。东北易帜时，杨宇霆最初极力反对，与张学良心生嫌隙。杨宇霆是个烟酒不沾，没有嗜好的正统军人，一生自负好胜，对张学良他俨然以保护人的身份自居，在张学良面前指手画脚。另外还和黑龙江省长常荫槐相互勾结，在东北重大问题上，企图以元老身份左右政局，与张学良背道而驰。
对此忍无可忍的张学良决定对杨宇霆动手。1929年1月10日晚，杨、常逼迫张学良成立东北铁路督办公署，要他在任命常荫槐为督办的便笺上签字。这一举动，促使张学良痛下决心，将杨、常处决于“老虎厅”。但杨宇霆毕竟在其父主政时期一直是东北的重臣，据说张学良在下令前一直犹豫不决，三次掷银元问卜后才下了杀杨的决心。
杨宇霆、常荫槐两人被杀，张学良才真正成为新一代“东北王”。1930年5月，中原大战爆发，乘双方打得精疲力竭之际，张学良通电呼吁“各方即日罢兵以纾民困”、“静候（南京）中央措置”，奉军趁机再度入关。10月9日，张学良在沈阳就任全国陆海空军副司令之职，一跃成为手握东北、华北地盘的全国二号人物。