1894年中日甲午战争中，淮军为主体的中国军队一败涂地，一塌糊涂。相比之下，北洋水师虽然也输了，但好歹还能抵抗一阵，在经历了明治维新之后按照欧洲方式训练和装备起来的日本陆军表现出色，而清军几乎毫无抵抗能力，日军一路势如破竹，从朝鲜半岛一直追杀清军到辽东一带，如果不是列强干预，几乎就要直接兵临北京城下了。

痛定思痛，在朝鲜战争结束之后，清廷意识到，不仅八旗兵靠不住、绿营兵靠不住、淮军也靠不住了，军事现代化势在必行，无论是训练还是装备水平，都必须步日本的后尘，开始向欧洲列强学习，决心开始编练新式陆军。此时的清廷柱石之臣李鸿章、张之洞等人都纷纷上书，建议朝廷痛下决心，开始编练新式陆军，走强军之路。

曾在朝鲜与日本打过交道，对日本颇有了解的袁世凯出身淮军世家，于是被选中了，奉命在天津小站练兵，就是训练新式陆军。一开始只有一镇，后来逐步扩大为六镇，也就是北洋六镇，成为北洋军阀的摇篮。这时的小站练兵还是叫武卫右军，名义上直属于朝廷，但实际上由北洋大臣负责管理，所以后来又叫北洋军，和其他的新式陆军区别开。

小站练兵之后，到八国联军入侵的时候，实际上已经形成战斗力了。但在八国联军入侵的时候，慈禧太后和光绪帝仓皇西逃西安，而这时候袁世凯却参加了李鸿章、刘坤一和张之洞等人发起的东南互保，置朝廷的安全于不顾。反而是远道而来的甘军董福祥部和天津的武毅军进行了坚决抵抗，虽然说战斗力一般，但毕竟尽了力，肯为朝廷挡枪。

辛丑条约签完之后，到1904年，朝廷重臣和各地大员都纷纷上书，要求朝廷进行改革，而其中的一个重要内容就是进行强军改革，按照欧洲的新式陆军大量编练陆军。到1907年之后，清廷下诏开始进行新政改革，大多数改革都没有真正落实，或者大打折扣，或者虎头蛇尾，但让各省自己筹钱，普遍编练新式陆军，却落实得比较好，多数省份十分积极的执行了。

各省在编练新式陆军的时候，一个重要的内容就是需要大量招募在欧洲或者日本学习过现代军事知识的军官，来充当各级干部。这其中，日本陆军士官学校的毕业生在国内所占比例最高。这也不难理解，正如日本人自己刚开始吸引中国人赴日留学时说的那样，离得近，花费低，加上日本人这时候很喜欢宣传的同文同种，吸引了不少人赴日留学。

而在1905年废除科举制之后，大量原本打算读书考科举的读书人，只好转而寻求其它的出路，其中一个重要的出路就是出国留洋。而在当时的情况下，就业前途最好、用人需求最大的，就是各种军事人才。这也就导致大量出国留学的读书人，转而弃文从武，学习军事去了，回国之后直接进入各省的新军充任各级干部。

日本当时因为中国留学生数量比较大，也是革命思想酝酿和传播的重点地区，孙中山、章太炎等人就一直在日本活动，宣传革命思想，在留学生群体中影响很大，使其中不少人接受了反满革命的思想，回国之后从事秘密活动。后来就有不少人是留日学生，比如阎锡山、蔡锷、委员长等人，都是在日本学习过军事的，而且蔡锷回国之后还在广西创办了陆军小学。

而且，因为各地的新军从一开始就是地方主导编练的，对朝廷的认同和忠诚度都很低。所以，各地的新军在辛亥革命发生之后，都是率先开始发动起来，举行革命，地方官员要么自己直接参加革命，要么因为反对革命而被起义军所杀，或者逃走，新军的军官就直接出任地方军政长官。比如黎元洪，就是在武昌起义之后被起义军从床下拖出来，应让他当了督军。