1918年9月张作霖来到天津，徐树铮和杨宇霆赶来参见，哪知他们一进门，带来的几个马弃就被张作霖的人给缴械了。
杨宇霆
张作霖把眼一瞪：“徐树铮，杨宇霆，你们还敢来见我！”
“老将，您这是？”徐树铮、杨宇霍不免煌惑起来。
张作霖说：“小徐呀，我这次来是要查查你的账。”
“账？”徐树铮心里一惊。
“啊，账！军费、军火账。”张作霖说的声音不大，可一字字都像刀子一样直扎向徐树铮的心窝。
徐树铮看了看杨宇霆，见他默不作声，就壮着胆子说：“怎么老将你这是不信任我小徐吗？我可没少给你们奉军卖力呀。”
徐树铮
“你少来这一套。我问你，在洛阳、信阳那4个旅是怎么回事？说！”
“老将，我们准备训练好了，再向您报告。”杨宇霆把“报告两个字说得很重。
“报告？哼，我要不问，你们一辈子也不他妈会报告。”张作霖又盯了两人一眼，杨宇霆的脑袋奋拉了下来，徐树铮的脖子还在梗着张作霖恨不得一枪把他们毙了，但又觉得不能莽撞，就说：“看在芝老（指的是段祺瑞）的面子上，我不要你们的命，可你们在奉军里头也就算干到头了，从今天起，请另谋高就吧。为了给你们点儿面子明天在报上先发个辞呈。”张作霖和徐树铮的关系从此破裂。
原来徐树铮是“一朝权在手，便把令来行”的人，他要借机抓自己的枪杆子。他和日本士官学校的同学杨宇霆商量了一阵，就背着张作霖秘密编练了4个补充旅的新兵，说是用奉军淘汰的枪械装备，实际是奉军武库中最好的装备。他把这4个旅放在洛阳和信阳两地训练。此外，徐树铮还以奉军的名义代领军费515万元，奉军实收只有180余万元，绝大部分用在编练参战军和新国会的选举上。
张景惠
俗话说，没有不透风的墙。这件事让奉军前敌湘西司令张景惠知道了，他就向沈阳拍密电，要求回奉面报军情。张作霖照准之后，张景惠于9月回到了奉天，添枝加叶地报告了徐树铮要取代奉军，编练4旅及要让奉军参加决战的紧急情况。
张作霖一听火冒三丈，刻不容缓地向京奉铁路局要了一列专车，带着一团卫队，星夜赶到天津。
第二天，京津各报上就登出了消息：徐树铮已辞奉军副司令职由孙烈臣继任；杨宇霆辞去奉军参谋长职，由秦华升任。