众所周知，军一级的编制一直是战略层次的军事编制，因为是军的编组是战略层面的，所以军一级编制并不是固定的，经常会出于战略要求对部队进行不同的组合，所以正常情况（和平年代）军一级编制是不存在的。

清朝未年，全国开始编练新军，清政府要求每一个省编练一镇（师）新军，同时直隶附近编练六镇（师）新军。整体军事构架是：每个省有一个国防师的部队驻防，清政府有六个国防师。武昌起义爆发，清政府调动直隶2个国防师组建成军南下镇压起义军，这是民国时期第一次采用军一级编制的军事行动。北洋时期，各地军阀都是掌握1个国防师，同时自己组建几个省防师，只有出现军事行动才组建成军。

1926年国民党为了进行北伐才组建国民革命军，最初只有8个军，战争的进行中扩展成40几个军，但随着北伐战争的结束，国民党军队开始裁军组建国防师，所以才出现30年代军改师，比如：第一军改编为第一师，同时国军部队开始打造德械师。

1937年，抗日战争爆发，国军为了对日作战开始组建成军，比较有代表性的是74军是由58师与51师在淞沪战场上组建立而成了的，而三大德械师也是在淞沪战场上升级成军的。直至45年抗战胜利国军部队又开始“军改师”，例如：74军改成了整编74师。

解放军战争时期，最初解放军的部队主要也是以师（旅）一级存在的，随后开始组建纵队参加战争。48年部队统一编制，纵队改称军，其上设置兵团，一个兵团下辖2-3个军，军下辖3个师。

50-60年代，解放军开始进行军事改革，最先撤销了兵团建制。70年代因为解放军的军编制内只有3个步兵师，当时炮兵师和坦克师则归属于军区之管辖，所以71年开始以军“代管”坦克师的形式进行部队合成化试点。直到1985年的裁军和改革解放军的36个军合并为24个集团军，坦克师和炮兵师被加强到集团军内，军这一编制形式在解放军内已基本不存在了，但从习惯上大家还是将“集团军”误称为“军”。