清代自入关后，国家的正规军是八旗和绿营，皇帝就是最高统帅。可时间发展到了咸丰时，这个局面被打破了。此后，清代的皇帝虽然是名义上最高的统帅，然而军权却大部分落在地方督抚手里，而这个头就是曾国藩开的。

太平天国运动爆发后，本来就很虚弱的八旗和绿营军队不堪一击，地方士绅们对清政府的军事力量感到失望的同时，不得不依靠自身的力量来保护地方利益。于是，他们便利用自己家族组织或地方势力组成非官方的地方武装，与太平军对抗。

1852年，曾国藩回到家乡，着手领导地方团练。但是不久，他发现团练远不是太平军的对手，而且团练自身组织也存在种种弊端。于是，他自作主张重建起一支新式地方军队，这就是湘军的开始。很快，曾国藩便依靠这支地方武装肃清了太平军在湖南的势力。

最初，湘军建立的目的主要是对抗湖南地区的太平军，因此在初期湘军也不过是一支地方武装。后来，湘军越出湖南在东南各省纵横驰骋，成为对抗太平军的主力，成为维系清朝统治的主要军事力量，这是曾国藩与清政府当时都未料想到的。

湘军之所以能成为一股强大的政治军事力量，与其特殊的组织形态与发展过程有关。它既不同于一般的团练，也不是受清政府直接指挥的正规军，它是曾国藩一手创立的私人武装，其特征主要有四个方面：

一是兵为将有。清政府的绿营兵是世袭兵制，兵为国有。将领平时各驻其府，遇事由皇帝下令，率兵征战，事后则兵将各归其所，兵将并无私谊，难以结党营私。曾国藩改世兵制为募兵制，规定士兵归将领所有，统领由大帅挑选，营官由统领挑选，层层招募，各有宗派，上下一气。这样，兵权不再是国家所有，而是落入将帅个人的手中。

二是私谊至上。由于湘军是自行招募而成，将存兵存，将亡兵撤，其上下之间的厉害关系颇为一致。将领在招募士兵的过程中，十分重视利用同乡或家族关系。整个湘军都是依靠这种私人关系来维持的，这就助长了湘军的派性观念。曾国藩本人就十分重视这一点，无论是战时调兵遣将还是平时向朝廷举荐官员，他都强调从私人关系出发。

三是军饷自筹。八旗兵和绿营兵的兵饷由朝廷提供。湘军初建时，军饷由朝廷提供一部分，后来曾国藩发现中央财政枯竭，索取无望，于是决定自筹钱款。湘军军饷一般由大帅就地自筹，然后自上而下发，事后向朝廷核报。自筹军饷不仅提高了湘军的团结，而且也增强了湘军的独立性。

曾国藩本人后来承认：我朝之制，一省所入之款，报明听后调拨，疆吏不得专擅。自军兴以来，各省丁漕等款，纷纷奏留，供本省军需，于是户部之权日轻，疆吏之权日重。

四是各尊其长。由于从招募到发饷、升官都是曾国藩说了算，在湘军中便养成一种风气，除非是招募、选拨过自己的顶头上司，其他人无论官职大小，地位高低皆拒不从命。因此，不仅湘军以外的人无法指挥，即使湘军内部亦必须层层下令，除了曾国藩，任何人难于越级指挥下级部队。

上面所说的湘军的四个特点，奠定了它在近代中国私人半私人军队先驱的地位。换句话说，曾国藩就是近代军阀的鼻祖。

随着湘军的节节胜利，曾国藩的地位不断上升，最终实授两江总督并节制四省军务。湘军集团兴起后，以曾国藩为首的汉人开始掌握了地方军政实权，打破了满洲贵族一统天下的局面。同治以后，湘军将领中就有13人做了总督，13人做了巡抚，而其后的李鸿章、左宗棠而是权倾朝野。

尽管攻克金陵后，曾国藩大力裁撤湘军，可是地方督抚专权的这个病症已经生成，朝廷再也无法遏制，这也就埋下了日后中央与地方、满与汉的新一轮权力斗争的祸根。继曾国藩之后的淮系集团和北洋集团，正是传承了湘军的基因，并最终形成近代军阀政治。