第二次世界大战爆发后，法西斯德国的军队很快就席卷了中欧、西欧大陆、北欧和巴尔干半岛，1941年，德国控制了欧洲包括法国、波兰西部、荷兰、挪威等16个国家的人力、物力资源。而这时的全世界，只有英国在独自和法西斯轴心国作战，这让希特勒感到有机会腾出手来对付东边的大国苏联了，而德国的情报机构对苏联的错误判断，也让希特勒认为苏联是非常容易对付的国家，便开始着手制定入侵苏联的计划，计划代号：巴巴罗萨作战。

巴巴罗萨计划是集中大量兵力，以“闪电战”从数个方向实施迅猛而深远的突击，占领苏联首都莫斯科、苏联第二和第三大城市列宁格勒和基辅等，把苏联红军的主力消灭在苏联西部地区，尔后向苏联腹地长驱直入，进抵阿尔汉格尔斯克、伏尔加河、阿斯特拉罕一线，并用空军摧毁乌拉尔工业区，从而击败苏联。对此计划，斯大林也得获得了相关情报的，那是在1941年5月1日，莫斯科红场举行阅兵式纪念国际劳动节，当时，英国等国和苏联间谍多次向斯大林汇报，德国将在1941年夏进攻苏联，但斯大林认为，英国和德国的战争见分晓之前，德国还没有能力进犯苏联。他甚至怀疑，这是英国间谍为了将苏联拉入对德作战的陷阱而捏造的。

1941年6月22日，纳粹德国突然进攻苏联，打得苏军措手不及，损失惨重。为了抵御侵略，6月23日，苏联成立最高统帅部大本营。朱可夫成为7名成员之一。是年7月29日，作为总参谋长的朱可夫建议斯大林放弃基辅，进行战略转移，将兵力集中到莫斯科附近，全力保卫莫斯科。这个建议刚说出，斯大林便厉声说：“把基辅交给敌人，亏你想得出!简直是胡说八道!”朱可夫忍不住反驳：“斯大林同志，如果您认为我这个总参谋长只会胡说八道的话，您把我的职务撤销好了，把我派到前线去，或许在那里我会对祖国有点用处。”

在场的人都愣了，当时斯大林在苏联是绝对的权威啊!房间里静得吓人，好半天斯大林才说了一句话：“朱可夫同志，冷静些。请你先出去。我一会儿叫你再进来。”朱可夫推门而出。半个小时之后。斯大林把朱可夫叫到办公室来，说：“朱可夫同志，我们方才商量了一下，决定解除你的职务。我想让你到前线去。”朱可夫说：“到哪个部队?”斯大林说：“你愿意到哪儿?”朱可夫回答：“我可以做任何工作。指挥一个师，一个军，一个集团军，一个方面军——只要祖国需要。”斯大林一听，朱可夫还有气，就说：“我从现在开始，任命你方预备队方面军司令员。你准备什么时候去?”朱可夫说： “1个小时之后，我离开莫斯科。”结果，一意孤行的斯大林，最终看到的是基辅战役中苏军第5、第21、第37、第26集团军共43个师被消灭，第40、第38集团军之一部被歼灭，43个师被消灭。