1955年4月，原华东军区下辖的山东军区改称为济南军区，并升格为大军区建制。当时的济南军区下辖山东和徐海地区的陆军、公安军、特种兵、守备部队等武装力量，担负着山东和河南的防务。在济南军区成立之后，被任命为军区司令员的是杨得志。杨得志是湖南株洲人，参加过红一方面军长征，立下了很多战功，先后担任过红1团团长、红1师副师长、红2师师长等系列职务。

全面抗战时期，红2师改编为八路军第115师第685团，杨得志出任团长，后来还担任八路军第115师第343旅副旅长、代理旅长，冀鲁豫支队支队长，八路军第2纵队司令员，冀鲁豫军区司令员，开辟创建了冀鲁豫抗日根据地。在全面抗战后期，杨得志因为工作需要，被调回到延安，后来出任陕甘宁晋绥联防军教导第1旅旅长一职。

抗战胜利之后，杨得志主要在华北地区工作，历任晋察冀野战军司令员、华北军区第二兵团司令员、第十九兵团司令员。在解放战争中，杨得志率领所属部队参加了平津战役、太原战役等解放华北地区系列重大战役，后来杨得志率领的第十九兵团划归第一野战军，杨得志又率领部队参加了陇东战役、兰州战役和宁夏战役等解放西北地区系列重大战役，战功尤为显赫。

建国之后，杨得志率领的第十九兵团兼陕西省军区，后来第十九兵团又被编入志愿军序列，参加了抗美援朝。在抗美援朝时期，杨得志历任志愿军第十九兵团司令员，志愿军副司令员、司令员。1954年，杨得志从朝鲜回国之后，很快被安排到军事学院战役系学习并兼任该系主任。到了1955年4月，随着济南军区的成立，当时仍在参加学习的杨得志，被任命为济南军区司令员。

济南军区司令员杨得志在军事学院参加学习，由谁来代理济南军区司令员呢？是王新亭。王新亭是湖北孝感人，他参加过红四方面军长征，曾经担任过红9军政治部主任、红四方面军政治部组织部部长等系列重要职务。全面抗战爆发之后，红四方面军改编为八路军第129师，王新亭继续在八路军第129师工作，担任过八路军第386旅政委，而旅长就是大名鼎鼎的陈赓。

抗日战争胜利之后，王新亭最初在中原地区工作，担任晋冀鲁豫野战军第八纵队司令员一职。后来，为了加强华北地区的军事力量，王新亭率领的晋冀鲁豫野战军第八纵队，划归华北军区建制，隶属于华北军区第一兵团战斗序列。1949年初，华北军区第一兵团改编为第十八兵团，王新亭先后担任第十八兵团第60军军长、第十八兵团第一副司令员。在这一时期，王新亭率领部队参加了临汾战役、晋中战役、太原战役，后来转战西北地区和西南地区，参加了兰州战役、成都战役等重大战役。

建国之后，王新亭一直在西南军区工作，历任西南军区政治部副主任、主任，西南军区副政治委员兼政治部主任。1955年4月，六个大军区改划为十二个大军区，因为济南军区司令员杨得志在军事学院学习，暂时无法履职，因此王新亭被调到济南军区出任代理司令员。在1955年9月，我军实行军衔制度的时候，杨得志和王新亭都被授予了上将军衔。后来到了1957年9月前后，王新亭被安排到高等军事学院速成系学习，不久出任军事科学院副政委。几乎与此同时，杨得志从军事学院战役系毕业，赴任济南军区司令员。