1895-1899 年，袁世凱在天津小站編練新軍，是以袁氏爲首的北洋六鎮形成的胚胎期，後來追隨袁氏的許多軍隊頭目，如段祺瑞、王士珍、馮國璋、曹錕、盧永祥、段芝貴、張勳、倪嗣沖等都是這個時期參與到北洋新軍的編練，併成爲袁世凱在軍事上的骨幹成員，無形中形成一個小站集團。辛丑條約以後，清政府尤爲重視編練新軍，併發布上諭：“前因各省制兵防勇，甚爲疲弱，業經通諭各督撫認真裁汰，另練有用之兵。因念練兵必先選將，而將才端由教育而成，自應廣建武備學堂，挑選練習，用儲腹心干城之選。但學堂成效，既非旦夕可期，其各省之設有學堂者，學成之員，現尚不敷分調，唯有仍就原有將拚，擇其樸實勤奮者，遴選折用。著各省將軍督撫，將原有各營，嚴行裁汰，精選若干營，分爲常備、續備、巡警等軍，一律操習新式槍炮，認真訓練，以成勁旅。”36在全國的編練新軍的熱潮中，袁世凱在保定進行北洋常備軍的建設。

1902 年 6月 21 日，光緒二十八年五月十六日，袁世凱湊請成立專門機構——軍政司，用來專門督練軍隊，陸續建成 5 個鎮和 1 個京旗常備軍。在編練北洋常備軍的過程中，袁世凱憑藉任直隸總督兼練兵處會辦大臣的職務之便迅速加強北洋常備軍的建設，除京旗常備軍以外，其餘五鎮的兵權全部掌握在以袁世凱爲首的小站集團的手中。他在光緒三十一年（1905 年）正月二十二日上奏中提請：“所有常備軍鎮擬即一律改爲陸軍各鎮：

1.原京旗常備軍改稱爲北洋陸軍第一鎮，由鳳山任統制。駐京北仰山窪。

2.原北洋常備軍第一鎮改稱爲北洋陸軍第二鎮，由王英楷任統制。駐永平及山海關附近。

3.原北洋常備軍第三鎮改稱爲北洋陸軍第三鎮，由曹錕任統制。駐保定。

4.原北洋常備軍第二鎮改稱爲北洋陸軍第四鎮，由吳鳳嶺任統制。駐馬廠。

5.原北洋常備軍第五鎮改稱爲北洋陸軍第五鎮，由吳長純任統制。駐山東濟南、濰縣。

6.原北洋常備軍第四鎮改稱爲北洋陸軍第六鎮，由王士珍任統制。駐南苑。”

至此，以袁世凱爲首的北洋六鎮的建立，標誌着作爲軍事集團的北洋軍閥開始逐漸形成。除這支練成的軍隊外，清政府原計劃在全國各地編練新軍三十六鎮，直到清政府垮臺，也沒能實現。這是因爲清政府已無財力完成三十六鎮新軍的編練，據統計：“北洋六鎮年需款 9042000 餘兩”如果清政府全國三十六鎮兵力全部編練成功，每年需白銀五千四百萬兩，而清政府每年的財政收入只有八千多萬兩。此時，袁世凱憑藉擔任直隸總督、北洋大臣兼任練兵大臣的職務，借清政府練兵之機進一步擴充自己控制的北洋六鎮的實力，並於光緒三十一年（1905 年）、光緒三十二年（1906 年）分別舉行河間秋操、彰德秋操，一方面向朝廷彙報訓練新軍的成果，說明朝廷練兵的銀子沒有白白花掉，另一方面藉機彰顯軍事實力，爲自己增加政治資本。

北洋六鎮的建立和兩次會操成功，充分證明了袁世凱是這支軍隊的實際控制人，而非清廷。儘管他很注意弱化清政府對自身的猜忌，比如，袁世凱在署理直隸總督時，通過挑選三千八旗子弟增加新軍訓練，並保奏滿族人鐵良擔任京旗練兵翼長，直接參與新建陸軍的訓練；在朝廷成立督練新軍處時，他極力擁戴慶親王奕劻擔任督練大臣，而自己甘願退居其次，巧妙的利用滿洲貴族爲自己做掩護，這樣在擴充自身軍力的同時又避開不必要的麻煩。但他的軍事實力快速增強還是引起清朝統治者和滿洲貴族的猜忌，這主要表現在，袁世凱在1906 年的兩次湊請“開去兼差”的奏摺，朝廷給予的不同答覆。

光緒三十一年十二月十九日（1906 年 1 月 13 日）奏：“嗣是家艱國難，更迭相尋，憂患餘生，疾病間作，腦力侵損，血氣耗虧，雖在壯年，鬢髮早白，構思稍過，輒至眩暈，常恐薄植孱軀，不復能勝艱鉅，聖主不棄，倚任逾隆，畀以兵權，授以疆寄，過多功寡，恩重報輕。……無如心雖有餘，力苦不足，既鮮過人之識，又乏兼人之能，加以近年更歷諸艱，智慮精神，俱駸駸乎日減一日，而身兼之差計尚八九……設或過失出於無心，疏虞乘於弗覺，一身之嬰譴不足惜，國家之鑄錯何以堪。……一、訓練旗兵一差，應請開去也。一、會辦練兵一差，應請開去也。一、會議商約一差，應請開去也。一、督辦津鎮鐵路一差，應請開去也。”

這一時期正值河間秋操之後沒過多久，清廷對袁世凱訓練北洋六鎮新軍甚爲滿意，並沒有過多擔憂袁氏傭兵自重，所以光緒三十一年十二月二十三日上諭：“袁世凱奏請開去兼差一折。現在時事艱難，正資整頓，該督公忠素著，任事實心，仍著統籌兼顧，妥爲經理，以副委任，毋庸固辭。欽此。”但是，在經歷了光緒三十二年（1906 年）九月的彰德秋操後，清廷對袁世凱的態度有所轉變。彰德秋操規模宏大，袁氏對彰德秋操給予很高評價：“此次復舉數省已編之軍隊，萃集一處而運用之，使皆服從於中央統一號令之下，尤爲創從前所未有，系四方之瞻聽”，“以視去年河間一役，規模閎遠，殆爲過之。”

這次會操表明：每年開支餉銀 900 餘萬兩的北洋六鎮早已在袁世凱直接掌握之中，又使數省已編之軍都服從於袁世凱的統一號令之下，袁氏的權勢達到新的高峯，北洋六鎮在國內政局中已具有舉足輕重的地位。這樣便引起清朝統治者的猜忌和防備，與此同時，袁世凱並不滿足於現有權力，而是借清政府改革中央官制，設立巡警部之機，推薦嫡系徐世昌、趙秉鈞任巡警部尚書、侍郎，並於慶親王奕劻相互勾結，“覬覦朝政”。正在此時，軍機大臣瞿鴻禨利用一部分滿族親貴的猜忌心理和朝野輿論，建議清廷把北洋六鎮的統帥權收歸中央。

這一建議，得到清廷最高統治者的支持，並於光緒三十二年九月二十日（1906年 11 月 6 日）設立陸軍部，負責全國練兵事宜。這項舉措是清廷從中央機構對舊軍制進行的一次改革，也是對袁世凱權力的防範和打擊。袁氏本人也在這次鬥爭中切實感受到自己的“權勢”已引起清廷最高統治者的猜忌，便以退爲進，於光緒三十二年十月初三（1906 年 11 月 18 日）主動上奏《懇請開去各項兼差折》：“自古權勢之所集，每易爲指摘之所歸。今幸聖明在上，衆正盈廷，臣原無庸過慮及此。況臣向以愚忠自矢，夙蒙聖主優容逾格，信用不疑，自當力任怨勞，義無所避。而臣獨不免私憂過計者，非徒爲滿盈足誡，顛墜堪虞，良以國步方屯，大廈非一木所能支，臣川賴同舟之共濟。而人思靖獻，誰不如臣。若重寄加於身，則疑謗將騰猜嫌之漸，政界亦云非幸。昔曾國藩嘗奏稱，臣一人權位太重，恐開斯世爭權競勢之風，等語。臣區區之愚，竊亦慮此。……而臣所兼各差，如參預政務，如會辦練兵事務及辦理京旗練兵等差，如督辦電政、如督辦津鎮鐵路、督辦山海關內外鐵路、督辦京漢鐵路各差，如會議商約一差。以上臣兼差八項，擬請旨一併開去。”很快，清廷即對袁氏的奏摺做了批覆：“該督任事實心，辦理均尚妥協，現在改定官制，各專責成，著照所請，開去各項兼。

此時，正值清政府宣佈成立陸軍部負責全國練兵事宜之際，使“所有各省新軍，均歸該部統轄”，由滿族人鐵良任尚書，壽勳、蔭昌分任左右侍郎，王英楷署理右侍郎。這次軍事機構上的改革，對袁世凱北洋六鎮的軍權是一次分割，迫使袁世凱不得不在光緒三十二年十月初三（1906 年十一月十七日）上奏商請北洋六鎮的管轄事宜：“查陸軍第一鎮，系臣會同尚書臣鐵良督率訓練。第二、第三、第四、第五、第六等鎮系專由臣督練。現鐵良已補授陸軍部尚書，第一鎮本系京旗兵丁，應歸部臣專管。第三鎮駐紮保定府暨奉天錦州府一帶，第五鎮駐紮山東濟南府暨維縣一帶，第六鎮宿衛宮門並駐紮南苑、海淀一帶，現在未設軍統，各該鎮均擬請歸陸軍部直接管轄，毋庸由臣督練。第二鎮駐紮永平府暨附近山海關一帶，第四鎮駐紮天津附近之馬廠、小站一帶。值此客軍尚未盡撤，大局尚未全定，直境幅員遼闊，控制彈壓，須賴重兵，所有第二、第四兩鎮，擬請仍歸臣統轄督練，以資策應。”，清廷很快給予批覆，再次重申軍隊全部歸陸軍部統轄，第二、第四兩鎮，暫時由袁氏調遣訓練。

不久，清廷發佈上諭，免去袁世凱直隸總督兼北洋大臣職務，調京擔任外務部尚書，補授軍機大臣。袁氏深知這是清廷慣用的明升暗降之手法，“陽雖重用之，而陰實預防之也” 。雖然袁氏再三懇請慈禧太后收回成命，但未獲允許，只得謝恩赴任。袁氏雖然離開了直隸，不再直接管理北洋六鎮的軍隊，但這些北洋六鎮的將領都是袁氏一手提拔，堪稱心腹。以袁世凱爲中心的北洋勢力並不以袁氏的官職調動而發生變化。