徐树铮倒是没看到军心已失，而是看到了对方海军居然绕过了双方交战的滦县，而是准备直取天津，这才立即下令撤军，趁着秦皇岛还没有被攻占的时机撤军。皖系大军撤退，丢弃枪炮补给粮食无数，赵增福的部队追到了滦县便撤了回去不再向南。
王茂如此时给部队的命令就是不占直隶一寸土地，不招惹直系军队——如果一举打败了皖系，不管是直系还是日本人，肯定都不允许东北边军称雄。因此王茂如下令见好就收，而这次皖系与东北边军的战争只持续了十二天，双方实际死伤不大。皖系军队除了田中玉损失了三个混成旅，徐树铮在山海关前损失四千多士兵外，也就是姜桂题的热河得而复失了。
赵增福率军撤回山海关后，蒋方震认为皖系和东北军之战暂时告一段落，皖系势必不敢继续进攻了，这场不算战争的战争已经结束了，于是将第八师调回沈阳防止日本人趁机攻占沈阳。而右翼军毛子平则率军趁机南下进入占领热河，稳定了热河之后留下一个热河武装警察旅，率领军队向西进攻察哈尔。田中玉把士兵都退回到长城以南全力防守张北县张恒府，并立即向段祺瑞求救，向西北张作霖求救。
岂料到毛子平根本不想越过长城，只是虚张声势而已，让田中玉没时间组织起反击来，困在城中不敢出来。而他则派骑兵抵达察哈尔左翼，并向锡林郭勒盟的乌珠穆沁左右旗、浩齐特左右旗、阿巴嘎纳尔左右旗，阿巴嘎左右旗、苏尼特左右旗，以及察哈尔部商都旗、太仆寺左右旗、察哈尔部正蓝旗、正白旗、镶白旗、正黄旗各部逼近，要求各部归顺东北边军政府。这些旗都是小旗，人数稀少，有的一千多人，有的较多的四千多人，士兵才几十个几百个的都有，哪能抗拒得了东北边防军啊，于是纷纷表示归顺。随后毛子平率领军队撤去，并没有多做停留，田中玉见丢了贫瘠的草原沙漠，对他并无影响，长呼出一口气放下心来。
北洋陆军第五师张树元部此时刚刚过天津，第一件事居然是帮着徐树铮收拢队伍，这边刚收拢好队伍，那边田中玉战败，几天之后田中玉发求援令。徐树铮令张树元率领第五师北上支援田中玉，张树元的第五师刚刚抵达怀来县，即便得知东北军撤去关外了。张树元的第五师战斗力并不强，而他本人一直贪墨军饷。
但是他这个人很有意思，大肆贪墨军饷的同时却非常节俭，甚至连军服上都打着补丁，颇得段祺瑞重视，一直以来以为他是勤俭典范。张树元不愿作战，尤其是兵出关外，他所部可是步兵，拉着大炮跑到蒙古草原吗？听说对方大将毛子平是骑兵出身，想也不用想他们定然以骑兵为主，以步兵对战人家骑兵，那岂不是脑子缺根弦。
当然张树元不想出关的另一个原因还是他对徐树铮不满，小子对他们这些老将一点也不尊重，何苦为他擦屁股，便也撤回了山东。张树元撤兵之后，其他督军也陆陆续续撤兵回去了，报纸上轰轰烈烈的皖系北伐竟然如此快速地失败——应该说是熄灭了。皖系实力大损，但仍然把持中央，直系趁机崛起了。
这次皖黑之战皖系闹得挺欢但是败得很快，东北军打胜之后立即撤军，并没有趁机进关，只是占了察哈尔的长城以北蒙古地方。尽管是占据了大片土地，但那里全都是草场和沙漠，税收极少，还都是蒙古的王爷贵族，极难管理，收上来的税仅仅占察哈尔省收入的十分之一。田中玉也不想打了，那地方穷的鸟不拉屎，被他们占了就占了吧。
只是段祺瑞此时很是尴尬，张牙舞爪地调集军队北上，却被打得灰头土脸，徐树铮这个人谋略的确高，但却不适合带兵作战。迄今为止他还没有真正带兵打过硬仗，就算在海参崴他更多的还是周旋于日本人、美国人和沙俄人之间，临阵经验甚至还不如张敬尧这个常败将军。说好听一些，他就是一个高级参谋，说不好听就是纸上谈兵之辈。但所幸的是皖系主力部队撤退及时，东北边军也回到了关外，两方相安无事东北军也没有提出什么过分要求让皖系保存了颜面。
靳云鹏跑到徐树铮面前指着他的鼻子大骂：“你小子不是信誓旦旦必定给东北边军一个教训吗？现在谁得到教训了？”
徐树铮冷着脸不理会他，心中对他非常气恨，打算寻一个由头把他从陆军总长上赶下来。