外蒙古，與內蒙古緊密相連，面積多大180萬平方公里，一直以來都歸清鎮府管轄。清朝末年，沙俄不斷侵吞清朝領土，外蒙古漸漸地脫離了清朝管轄，在沙俄的支持下，搞獨立。

1919年的6月份，徐樹錚一邊命令邊防陸軍向外蒙古進軍，一邊親自跑到外蒙古首府庫倫（現在的烏蘭巴托），給外蒙古當權者談判，迫使其簽字，同意撤銷自制（也就是不搞獨立了）。

之後由於北洋軍閥各派爭鬥，徐樹錚被排擠於門外，被迫開始了流亡海外的生活。1925年段祺瑞重新掌權後，應段祺瑞的邀請，徐樹錚回國。見完段祺瑞後，段對徐樹錚說，此時局勢險惡，希望他能離開北京，南下暫避禍亂。

徐樹錚也答應了。當徐樹錚啓程的時候，段祺瑞的桌子上有一張字條，上面寫着十個字：“又錚萬不可南去，去必死”十個字，段祺瑞忙把字條給徐樹錚，徐樹錚看後哈哈大笑，不屑一顧。

12月30日凌晨2點，當徐樹錚乘坐的火車到達廊坊後，國民軍第五師師長張之江率人截住火車，槍殺了徐樹錚。段祺瑞聽後大爲悲痛，但此時他受制於人，無奈沒法爲徐樹錚報仇。徐樹錚死後葬在安徽蕭縣白土鎮醴泉村，如今的墓前雜草叢生，石刻也段成好多截，有的也不知卻向，不免讓人感到心寒。