杨宇霆是土生土长的东北人，自小很聪明。辛亥革命前一年，他从日本陆军士官学校毕业。他和小扇子军师徐树铮谈得来,徐树铮目中无人，却很欣赏这位同学。
奉系军阀的小诸葛
杨宇霆回国后,担任东三省陆军讲武堂副官,辛亥革命之后，经徐树铮推荐，成为张作霖的谋士。1916年,袁世凯称帝失败，张作霖想赶走袁世凯派来的段芝贵,杨宇霆暗中谋划,联合冯德麟,赶跑段芝贵,张作霖如愿以偿成为奉天省督军。
张作霖对杨宇霆更加倚重，直接提拔他为奉天督军公署参谋处长、参谋长。
1917年,直系和皖系在北京明争暗斗，杨宇霆趁机联合徐树铮到秦皇岛直接抢劫冯国埠员动头术的一人批牛，这就是民国历史上有名的“秦皇岛截械”事件。这批装备是冯国璋用外国借款买来的一流的好装备。张作霖鸟枪换炮，一口气武装了七个旅，奉系军阀一跃成为北洋军阀俱乐部里的第三大势力。
这一切都是杨宇霆之功。1922 年,第一次直奉战争爆发，由于奉军部队缺乏训练、中高级将领指挥无能，招致全面溃败,撤回关外。
奉军到了生死存亡的关头，张作霖起用杨宇霆，成立东三省陆军整理处，杨宇霆担任整理处的实际负责人。在他的调教下，奉军裁撤大量绿林出身的军官，任用大量新式人才,采用外国办法训练士兵，短短两年时间，战斗力突飞猛进。一大批新派将领开始发挥重要作用,如韩麟春、姜登选、李景林、郭松龄等人受到重用，这四人加上张宗昌，一度被称为奉军五虎将。
1924 年,第二次直奉战争爆发，奉系一举攻破山海关和石门关要塞，再加上直系的冯玉祥倒戈,吴佩孚大败,逃回武汉,张作霖挥师入关,乘势夺得中国的半壁江山。
从东北三省到上海、江苏成为奉系的天下。这次战争胜利是奉系的巅峰，也是张作霖对杨宇霆宠信的巅峰。
人生的顶点，往往便是消沉的开始。杨宇霆任江苏督军没多久就被赶跑，丢掉了江苏的地盘。郭松龄的反叛行动,也让奉军元气大伤。管理和外交的多面手杨宇霆更有出色的管理和外交能力。他到东北的第一个大饭碗，就是担任东三省兵工厂督办。刚刚到任之时,东三省兵工厂还是一个小厂，远远比不上巩县兵工厂、太原兵工厂。但在杨宇霆的整顿之下，东三省兵工厂一度成为全国产量最大、门类最为齐全的兵工厂，不仅有中国技师，外国工程师也不少。1928 年，已经有了 2万人规模,8000 台机器。这座兵工厂年产枪支 6 万多支，大口径火炮 150 门，“九一八”事变之后，光是落在日军手里的枪支就有 50 万支左右,足见其产能之强。而这座工厂从小到大正是杨宇霆一手经办的。
更为难得的是,杨宇霆毕业于日本陆军士官学校,对日本的内情、政界、车界多有了解，仕对日外交上也是一把好手。清末以来，东北的局势和地位比较特殊,夹在日本和俄国之间,两个国家都对东北虎视眈眈。如何在两国之间维持势力平衡,并且保持完整和独立,这是考验东北政界的大难题。张作霖的办法是结好日本,不停赊账,给日本许诺以经济利益,获得日本经济和政治支持,回头再不认账。每每日本领事或是日本公使逼得张作霖急了眼,都是推说去找杨宇霆,杨宇霆再把事情分开来做,慢慢来做,长久下来，日本人没从张作霖和杨宇霆手上捞到什么便宜。
民国学者蒋廷黻到东北研究考察，结识了杨宇霆。杨宇霆对日本的政策表述被记了下来。他认为,东北的既定政策是,避免和日本公开冲突，他让日本从其创办企业中获得好处，目的是要比日本进步快。“中国人一天天地多起来，不能反对我们在东北办教育,创立中国学校。日本最低限度不能反对我们发展农业。在许多方面,中日的利益是并行不悖的。你们关内的同胞没有力量予我们军事援助，也不必促使我们和日本公开冲突。”
这段有真实资料记载的往事，足以证明杨宇霆在对日外交上是清醒的,也是高明的。