1942年5月，日军准确获悉了由八路军副总指挥彭德怀、八路军总部副参谋长兼野战指挥部参谋长左权、野战政治部主任罗瑞卿等领导同志率领的八路军总部确切地址，5月25日凌晨，数万日军精锐部队将八路军总部包围在辽县麻田以东的南艾铺一带。被包围的八路军总部机关还有：野战政治部、后勤部、北方局及其党校、新华日报社等机关数千人。人数虽多，但都是非战斗人员。

在突围过程中，彭老总受了伤，左权副参谋长坚持留下，指挥北方局机关和党校的非战斗人员突围。左权将军在到达山西辽县(现左权县)的十字岭顶峰十几米时，被日军炮弹击中，不幸牺牲。左权将军是黄埔军校一期毕业，在苏联莫斯科中山大学和伏龙芝军事学院学习深造过，红军时期当过军长、红一军团参谋长，是一名极其优秀的军事指挥家，他的牺牲，是我党我军重大损失。

更为重要的，他是我党我军中国著名游击战术创造人之一，坚持华北敌后抗战的很多战略战术，都有他提出来的，且自抗战以来，他一直是彭总的得力助手，他牺牲前，朱老总已经回延安了，他牺牲后，八路军总部的军事指挥工作，急需一名优秀的军事指挥家，来协助彭老总工作。

选谁好呢？彭老总第一个想到的，是叶剑英，不过，他也知道，叶帅当时任军委参谋长，主席是不会放他来的。第二个，他想到的，是第三元帅。第三元帅1942年初，已经从苏联回国了，如果他来八路军总部，协助老彭工作，是最好不过的。此提议在延安讨论时，朱老总也是同意的，不过，却被否决了。否决这人，不是主席，而是当时中央的总负责人张闻天同志。张闻天同志为什么要否决呢？当时，张闻天是这么说的，第三元帅如果能去，是最合适不过的。不过，他的身体情况，目前看来，还没有完全恢复好，八路军总部处于前方，战斗生活条件都十分艰苦，依第三元帅目前的身体状况，恐怕不能适应，还是不要让他去为好。

最终，接替左权出任八路军总部副参谋长兼前敌指挥部参谋长人选的，是彭总提出的第三人选，也是他平江起义时的老伙伴，红三军团时的老搭档滕代远同志。