在开国将领中，十几岁投身革命到比比皆是，但从小受父亲影响走上革命道路的不多见，但郑维山就是其中之一。他在红军时，经历过失利，曾乞讨回到延安，12年后灭掉让他失利的马家军，又成为傅作义的克星。

郑维山，是大别山走出来的将领，早年他父亲也是一位革命者，在其影响下走上了革命道路，黄麻起义是他12岁，并担任了儿童团队长、赤卫队副指导员。直到15岁，他带领70多人参加了鄂豫皖的红四方面军。

郑维山加入红军主力后，他很幸运成徐向前的传令兵，在徐的影响下郑维山进步很快，不久升为了班长、连指导员，参加了三次反围剿战斗。第四次反围剿，红四方面军西撤川陕，由于郑维山作战勇敢，同一年内升为了团政委、师政委。此时，他在18岁。

在川陕地区，他打了与川军较量打了多次打胜仗。在1936年是郑维山最艰难的一年，他率部接应红二方面军，爬了三次雪山、过了三次草地。在几个方面军会师后，红四方面军被改编为西路军出征，中途遇到马步芳的马家军袭扰，造成西路军失利，郑维山是少数死里逃生的指挥员。

他在负伤后，在老乡的救治下躲过了马家军，等伤病好一些后，去陕北寻找大部队。他一路乞讨，按下决心一定为死去的战友报仇。

抵达延安后，他先在抗大任教。抗战爆发后，他抗大分校副校长、团长、军分区副司令等职；解放时期，他人晋察冀野战军纵队司令，在清风店战役取得了歼敌1.7万人，又首开解放大城市石家庄的先例。

1948年1月，他与傅作义赖以起家的35军交战，在诱敌之下，灭掉35军一个师7000余人，气得傅作义扬言报此仇。同年11月张家口战役时，郑维山再次把傅作义35军包围在新保安，最终导致35军全军覆没。

1949年，郑维山3纵被改编为63军开赴大西北与兄弟部队解放太原、兰州等大城市。在兰州战役时，他面对的是马步芳的马家军，曾经西路军的仇敌。在此次作战时，马步芳的主力被全歼，唯一让马步芳逃走，留下遗憾。但他也告慰了西路军牺牲的战役。

新中国成立后，他被派往朝鲜作战，担任兵团副司令、代司令等职，指挥了金城战役。1952年他被评为副兵团级，被授予中将，是一位能文能武的战将。