之后，张作霖很为清廷剿灭了些土匪队伍，虽然官依然不大，可是他的队伍却迅速扩充起来，到了日俄战争前夕，他的队伍已扩充至两千余人，名义上归地方官指挥调遣，可是没有他张作霖的命令，地方官连一个兵也调不走，这支队伍姓“张”。
随后的日俄战争中，张作霖的队伍进一步得到扩充，实力也增强了，而且由于搭上了日本的线，便是连官府也不敢轻易将他踢开了，徐世昌就任东三省总督之后，对于张作霖这样的地方实力派人物，也只能采取拉拢安抚的手段，不过为了保险起见，徐世昌奏请清廷，将北洋军第三镇调到东北，名义上是“剿匪”，但实际上是监视像张作霖这样的地头蛇，为东三省改制保驾护航，与此同时，徐世昌也大玩平衡手段，将冯德麟、马龙潭、吴俊升提拔起来，让他们互相监视，互相牵制，这些人中，有行伍出身，也有绿林出身，都是操枪弄棒的武夫，如果局势稳定的话，他们都会被徐世昌玩弄于股掌之间。
但是局势并不稳定，“戊申革命”爆发，清廷倒台，共和政府建立，可是共和之后，全国局势持续动荡，随着南北实力派的对峙，力量平衡发生了变化，首先是北洋第三镇撤回关内，使徐世昌失去了可靠的后盾，接着，张作霖、冯德麟的队伍也被袁世凯调到山海关，分别改编为北洋陆军第十六师、第十七师，结果，留奉天的吴俊升立刻变得无人制约，幸好此人胸无大志，徐世昌倒也并不担心，而且还有一个马龙潭盯着他，这东三省目前还是维持得住的，但也仅仅只是维持而已，想要有所兴革，却是指望不上的。
当初袁世凯调张作霖、冯德麟南下山海关的时候，徐世昌就曾对此有异议，他看来，目前这种局势不稳的情况下，从东三省抽调过多兵力，会削弱地方武力，给土匪、列强以可乘之机，但是他的意见没有被袁世凯采纳，袁世凯饮鸩止渴，徐世昌也只能仰天长叹了。
现袁世凯病危，徐世昌被任命为代理大总统，事情似乎出现了转机，于是，徐世昌决定改变袁世凯的战略，将张作霖的第十六师再调回东北，弹压地面，这既是维护东三省稳定的措施，同时也可以借此举动向南方的实力派传递一个和解信号，使他们停止北进，全心全意的与北洋举行和谈。
张作霖的北洋陆军第十六师原本是奉了袁世凯的命令，打算山海关换装日本武器，然后与冯德麟的第十七师一同坐火车，顺着铁路南下河南，去攻打信阳，但是由于战略上北洋方面出现了分歧，陆军部代理总长段祺瑞主张加强王士珍东南第一军的力量，再加上铁路运力不足，所以终南下京汉线的只有冯德麟的第十七师，而张作霖的第十六师则塘沽以北的芦台一带驻扎，等候命令，也等待车皮，看看到底应该是去河南，还是应该去江苏。
徐世昌的专列路过芦台，张作霖特意带着几名亲信火车站欢迎这位任的民国大总统，也正因此，徐世昌这才得知第十六师并没有去河南，于是临时改变日程，决定芦台多逗留几个小时，检阅一下张作霖的部队。
不过这场检阅确实让徐世昌有些失望，张作霖的第十六师是由巡防营改编而来，而这支巡防营的前身又是一支绿林武装，匪气很重，而且由于扩充部队的时候又吸收了大量东北绿林武装，使整个部队看上去就像一支纪律涣散的乌合之众，虽然他们装备着较先进的日制武器，但是徐世昌这个北洋军元老看来，这支军队是不能上战场的，上了战场也打不了胜仗，这就是炮灰。
当然，徐世昌来检阅部队的目的并不是看能不能调到南方去与联合阵线作战，而是对张作霖等人进行拉拢，并将第十六师调回东北，维持局面，他不是没有想过将这支部队带去京城，但是仔细权衡之后，他还是决定避免刺激北洋将领。
根据徐世昌前段日子得到的消息，“关外八旗”近一段时间很是活跃，有传闻说他们打算近期策划武装叛乱，这种传闻并非空穴来风，前段日子吴俊升的巡防营接连拦截了几支向蒙古草原走私日本军火的商队，也其中发现了日本浪人，对于这一局面，徐世昌很是忧虑，他并不担心那帮连保守机密都不懂的“关外八旗”，他真正担心的是日本人。
虽然现日本与英国一样，同为北洋的金主，但是作为政坛人物，作为东三省总督，徐世昌太清楚日本人的心思了，当初清廷之所以派他去东三省主持改制，主要目的就是为了对付日本人，自从日俄战争中击败俄国之后，日本的野心空前膨胀，他们独霸东北地区的企图非常明显，不仅引起了清廷的担忧，也引起了美国、英国的不满，也正因此，清廷派徐世昌出关之前特意给了一个“锦囊妙计”，那就是“以夷制夷”，用欧美列强制约日本。
为了实现这个“以夷制夷”战略，徐世昌上任之后，立即着手制订一个雄心勃勃的“东三省实业发展计划”，不仅要大修铁路，还要组建一家东三省实业银行，为此，他主动寻求与英国、美国合作，也正因此，他与