第29军的名声从长城抗战起，就随着那首慷慨激昂的“大刀向鬼子们的头上砍去”而闻名全国。1937年卢沟桥事变时，该军因为打响全面抗战第一枪而名垂史册，但此时这个军的编制却远非一般的军可比，其统辖总兵力超过10万人，以至于在一些报刊文章里，该军都被记载成“第29路军”。

第29军并非第29集团军

不要小看“第29军”和“第29路军”这一字之差，因为两者决不能混为一谈，“某某路军”编制比军一级要高。1937年8月22日，红军根据国共两党达成的协议被改编为第八路军后不到1个月。9月11日，国民政府军事委员会调整全国军队部署，直接将八路军改称第18集团军，也就是说这个“路军”的编制实际上就是后来的集团军。

但把第29军误会成“第29路军”也情有可原，毕竟韩复榘从冯玉祥西北军集团叛逃时，带走了麾下的第3路军10万人枪，最后该军下属共计3个军。另外，同为西北军出身的孙连仲第26路军，总兵力仅4万余人，宋哲元这1个军就超过他一倍还多。

第29军系西北军两路大军合编而成

第29军的前身，其实是西北军孙良诚第2路军和宋哲元第4路军残部合编而成，中原大战后，杨虎城部陕军投靠蒋介石，占领了从中原进入陕西的重要通道——潼关。曾经拥兵40万的西北军分崩离析，大部投靠蒋介石，仅剩7万残兵北渡黄河，进入山西，后来被主持北方军队编遣及受降任务的张学良全部收编。

张学良也算厚道，没有将这些西北军败兵尽数打散吞并，而是将他们整编成东北边防军第3军，不过在考虑军长人选时，张学良认为孙良诚毕竟是冯玉祥嫡系，一向对冯言听计从；而宋哲元是中途加入的旁系，将来更好驾驭，因此决定“用宋弃孙”，全权授予宋哲元担负缩编这两路残兵。

整编时设立两个军官教育团

1931年1月16日，宋哲元通过裁强留弱、保留嫡系的做法，从这7万残兵中精选3万8千余人组成东北边防军第3军，宋哲元任军长，西北军老将秦德纯、刘汝明任副军长。为了安置裁汰下来的军官，宋哲元在军直属部队中设了两个军官教育团，这也为后来部队扩编打下了基础。

1931年6月17日，东北边防军第3军正式改番号为第29军，由宋哲元继续担任军长，并由国民政府军政部正式任命冯治安、张自忠为该军所属第37师和第38师师长。由于张学良仅负责承担1万5千人的薪饷，“山西王”阎锡山又是出了名的“铁算盘”、“老抠儿”，所以第29军的日子过得紧巴巴的，部队长期处于动荡不安的状态。不过，在宋哲元等人的勉力维持下，第29军终于还是坚持了下来。

察哈尔民众抗日同盟军10万人被其收编

1933年长城抗战爆发后，为保卫华北，不使日军突破长城沿线，第29军奉命参战，先后在喜峰口、罗文峪等地苦战数月，因组织大刀队夜袭，成功歼灭上千日军而名震一时。恰在此时，西北军的开创者冯玉祥在察哈尔招募组建了“察哈尔民众抗日同盟军”，在察东地区沉重打击日伪军，收复多伦等多处城镇，各地青年深受鼓舞，踊跃参军，部队很快发展到10万余人。

不过，蒋介石十分担心冯玉祥借助抗日同盟军东山再起，紧急调遣重兵展开军事围剿的手段。试图彻底消灭同盟军。为了避免新的内战，冯玉祥被迫于8月5日通电全国，表示“完全收缩军事，政权归之政府，复土交之国人”，并请已经成为抗日名将的老部下宋哲元前往张家口“善后”，希望宋接收同盟军余部，同时也继续维持西北军系统的存在。

获得地盘后补满4个师编制

宋哲元此时虽然已经拥有了数万部队和察哈尔省地盘，但在全国各路大小军阀中毕竟还排不上号，加上日寇对华北地区步步紧逼，因此蒋介石也就同意宋收编“抗日同盟军”余部，以便为将来全面抗战增添助力。在冯玉祥的嘱托和蒋介石的默许下，宋哲元首先在原有第37、38师的基础上，又增设第132师、暂编第2师，随后又以察哈尔省主席的名义将同盟军未消化部分陆续缩编为省防军。

经过为时年的整编、改编和缩编，宋哲元将自己的嫡系部队扩编为26个团，将同盟军余部缩编为10个团。1935年，华北局势日益紧张，随着丧权辱国的《何梅协定》、《秦土协定》的签订，中央军、东北军势力被迫南撤，改由第29军接防北平、天津两市以及河北省大部分地区。宋哲元本人任河北省政府主席，张自忠任察哈尔省政府主席，秦德纯任北平市市长，原西北军总参议萧振瀛任天津市市长。

进驻平津后增编8个独立旅

在获得平、津、冀、察四地后，第29军的财政收入呈翻倍增长，宋哲元趁机大量从欧洲进口武器装备，扩建修械所，自产武器弹药，在第29军的建制下陆续增编了8个独立旅，并以河北省政府的名义组建冀北、冀南两个保安支队。截至1936年12月，宋麾下的第29军已经成为一支拥有4个师、23个旅的庞大部队，其中正规军达到8万人，省保安武装力量逾2万人。

如此庞大的队伍，仅以一个军的番号对外实属夸张，却也是当时国民政府应对华北复杂局势的无奈之举。