1894年中日甲午戰爭中，淮軍爲主體的中國軍隊一敗塗地，一塌糊塗。相比之下，北洋水師雖然也輸了，但好歹還能抵抗一陣，在經歷了明治維新之後按照歐洲方式訓練和裝備起來的日本陸軍表現出色，而清軍幾乎毫無抵抗能力，日軍一路勢如破竹，從朝鮮半島一直追殺清軍到遼東一帶，如果不是列強幹預，幾乎就要直接兵臨北京城下了。

痛定思痛，在朝鮮戰爭結束之後，清廷意識到，不僅八旗兵靠不住、綠營兵靠不住、淮軍也靠不住了，軍事現代化勢在必行，無論是訓練還是裝備水平，都必須步日本的後塵，開始向歐洲列強學習，決心開始編練新式陸軍。此時的清廷柱石之臣李鴻章、張之洞等人都紛紛上書，建議朝廷痛下決心，開始編練新式陸軍，走強軍之路。

曾在朝鮮與日本打過交道，對日本頗有了解的袁世凱出身淮軍世家，於是被選中了，奉命在天津小站練兵，就是訓練新式陸軍。一開始只有一鎮，後來逐步擴大爲六鎮，也就是北洋六鎮，成爲北洋軍閥的搖籃。這時的小站練兵還是叫武衛右軍，名義上直屬於朝廷，但實際上由北洋大臣負責管理，所以後來又叫北洋軍，和其他的新式陸軍區別開。

小站練兵之後，到八國聯軍入侵的時候，實際上已經形成戰鬥力了。但在八國聯軍入侵的時候，慈禧太后和光緒帝倉皇西逃西安，而這時候袁世凱卻參加了李鴻章、劉坤一和張之洞等人發起的東南互保，置朝廷的安全於不顧。反而是遠道而來的甘軍董福祥部和天津的武毅軍進行了堅決抵抗，雖然說戰鬥力一般，但畢竟盡了力，肯爲朝廷擋槍。

辛丑條約簽完之後，到1904年，朝廷重臣和各地大員都紛紛上書，要求朝廷進行改革，而其中的一個重要內容就是進行強軍改革，按照歐洲的新式陸軍大量編練陸軍。到1907年之後，清廷下詔開始進行新政改革，大多數改革都沒有真正落實，或者大打折扣，或者虎頭蛇尾，但讓各省自己籌錢，普遍編練新式陸軍，卻落實得比較好，多數省份十分積極的執行了。

各省在編練新式陸軍的時候，一個重要的內容就是需要大量招募在歐洲或者日本學習過現代軍事知識的軍官，來充當各級幹部。這其中，日本陸軍士官學校的畢業生在國內所佔比例最高。這也不難理解，正如日本人自己剛開始吸引中國人赴日留學時說的那樣，離得近，花費低，加上日本人這時候很喜歡宣傳的同文同種，吸引了不少人赴日留學。

而在1905年廢除科舉制之後，大量原本打算讀書考科舉的讀書人，只好轉而尋求其它的出路，其中一個重要的出路就是出國留洋。而在當時的情況下，就業前途最好、用人需求最大的，就是各種軍事人才。這也就導致大量出國留學的讀書人，轉而棄文從武，學習軍事去了，回國之後直接進入各省的新軍充任各級幹部。

日本當時因爲中國留學生數量比較大，也是革命思想醞釀和傳播的重點地區，孫中山、章太炎等人就一直在日本活動，宣傳革命思想，在留學生羣體中影響很大，使其中不少人接受了反滿革命的思想，回國之後從事祕密活動。後來就有不少人是留日學生，比如閻錫山、蔡鍔、委員長等人，都是在日本學習過軍事的，而且蔡鍔回國之後還在廣西創辦了陸軍小學。

而且，因爲各地的新軍從一開始就是地方主導編練的，對朝廷的認同和忠誠度都很低。所以，各地的新軍在辛亥革命發生之後，都是率先開始發動起來，舉行革命，地方官員要麼自己直接參加革命，要麼因爲反對革命而被起義軍所殺，或者逃走，新軍的軍官就直接出任地方軍政長官。比如黎元洪，就是在武昌起義之後被起義軍從牀下拖出來，應讓他當了督軍。