外蒙古，与内蒙古紧密相连，面积多大180万平方公里，一直以来都归清镇府管辖。清朝末年，沙俄不断侵吞清朝领土，外蒙古渐渐地脱离了清朝管辖，在沙俄的支持下，搞独立。

1919年的6月份，徐树铮一边命令边防陆军向外蒙古进军，一边亲自跑到外蒙古首府库伦（现在的乌兰巴托），给外蒙古当权者谈判，迫使其签字，同意撤销自制（也就是不搞独立了）。

之后由于北洋军阀各派争斗，徐树铮被排挤于门外，被迫开始了流亡海外的生活。1925年段祺瑞重新掌权后，应段祺瑞的邀请，徐树铮回国。见完段祺瑞后，段对徐树铮说，此时局势险恶，希望他能离开北京，南下暂避祸乱。

徐树铮也答应了。当徐树铮启程的时候，段祺瑞的桌子上有一张字条，上面写着十个字：“又铮万不可南去，去必死”十个字，段祺瑞忙把字条给徐树铮，徐树铮看后哈哈大笑，不屑一顾。

12月30日凌晨2点，当徐树铮乘坐的火车到达廊坊后，国民军第五师师长张之江率人截住火车，枪杀了徐树铮。段祺瑞听后大为悲痛，但此时他受制于人，无奈没法为徐树铮报仇。徐树铮死后葬在安徽萧县白土镇醴泉村，如今的墓前杂草丛生，石刻也段成好多截，有的也不知却向，不免让人感到心寒。