衆所周知，軍一級的編制一直是戰略層次的軍事編制，因爲是軍的編組是戰略層面的，所以軍一級編制並不是固定的，經常會出於戰略要求對部隊進行不同的組合，所以正常情況（和平年代）軍一級編制是不存在的。

清朝未年，全國開始編練新軍，清政府要求每一個省編練一鎮（師）新軍，同時直隸附近編練六鎮（師）新軍。整體軍事構架是：每個省有一個國防師的部隊駐防，清政府有六個國防師。武昌起義爆發，清政府調動直隸2個國防師組建成軍南下鎮壓起義軍，這是民國時期第一次採用軍一級編制的軍事行動。北洋時期，各地軍閥都是掌握1個國防師，同時自己組建幾個省防師，只有出現軍事行動才組建成軍。

1926年國民黨爲了進行北伐才組建國民革命軍，最初只有8個軍，戰爭的進行中擴展成40幾個軍，但隨着北伐戰爭的結束，國民黨軍隊開始裁軍組建國防師，所以纔出現30年代軍改師，比如：第一軍改編爲第一師，同時國軍部隊開始打造德械師。

1937年，抗日戰爭爆發，國軍爲了對日作戰開始組建成軍，比較有代表性的是74軍是由58師與51師在淞滬戰場上組建立而成了的，而三大德械師也是在淞滬戰場上升級成軍的。直至45年抗戰勝利國軍部隊又開始“軍改師”，例如：74軍改成了整編74師。

解放軍戰爭時期，最初解放軍的部隊主要也是以師（旅）一級存在的，隨後開始組建縱隊參加戰爭。48年部隊統一編制，縱隊改稱軍，其上設置兵團，一個兵團下轄2-3個軍，軍下轄3個師。

50-60年代，解放軍開始進行軍事改革，最先撤銷了兵團建制。70年代因爲解放軍的軍編制內只有3個步兵師，當時炮兵師和坦克師則歸屬於軍區之管轄，所以71年開始以軍“代管”坦克師的形式進行部隊合成化試點。直到1985年的裁軍和改革解放軍的36個軍合併爲24個集團軍，坦克師和炮兵師被加強到集團軍內，軍這一編制形式在解放軍內已基本不存在了，但從習慣上大家還是將“集團軍”誤稱爲“軍”。