第二次世界大戰爆發後，法西斯德國的軍隊很快就席捲了中歐、西歐大陸、北歐和巴爾幹半島，1941年，德國控制了歐洲包括法國、波蘭西部、荷蘭、挪威等16個國家的人力、物力資源。而這時的全世界，只有英國在獨自和法西斯軸心國作戰，這讓希特勒感到有機會騰出手來對付東邊的大國蘇聯了，而德國的情報機構對蘇聯的錯誤判斷，也讓希特勒認爲蘇聯是非常容易對付的國家，便開始着手製定入侵蘇聯的計劃，計劃代號：巴巴羅薩作戰。

巴巴羅薩計劃是集中大量兵力，以“閃電戰”從數個方向實施迅猛而深遠的突擊，佔領蘇聯首都莫斯科、蘇聯第二和第三大城市列寧格勒和基輔等，把蘇聯紅軍的主力消滅在蘇聯西部地區，爾後向蘇聯腹地長驅直入，進抵阿爾漢格爾斯克、伏爾加河、阿斯特拉罕一線，並用空軍摧毀烏拉爾工業區，從而擊敗蘇聯。對此計劃，斯大林也得獲得了相關情報的，那是在1941年5月1日，莫斯科紅場舉行閱兵式紀念國際勞動節，當時，英國等國和蘇聯間諜多次向斯大林彙報，德國將在1941年夏進攻蘇聯，但斯大林認爲，英國和德國的戰爭見分曉之前，德國還沒有能力進犯蘇聯。他甚至懷疑，這是英國間諜爲了將蘇聯拉入對德作戰的陷阱而捏造的。

1941年6月22日，納粹德國突然進攻蘇聯，打得蘇軍措手不及，損失慘重。爲了抵禦侵略，6月23日，蘇聯成立最高統帥部大本營。朱可夫成爲7名成員之一。是年7月29日，作爲總參謀長的朱可夫建議斯大林放棄基輔，進行戰略轉移，將兵力集中到莫斯科附近，全力保衛莫斯科。這個建議剛說出，斯大林便厲聲說：“把基輔交給敵人，虧你想得出!簡直是胡說八道!”朱可夫忍不住反駁：“斯大林同志，如果您認爲我這個總參謀長只會胡說八道的話，您把我的職務撤銷好了，把我派到前線去，或許在那裏我會對祖國有點用處。”

在場的人都愣了，當時斯大林在蘇聯是絕對的權威啊!房間裏靜得嚇人，好半天斯大林才說了一句話：“朱可夫同志，冷靜些。請你先出去。我一會兒叫你再進來。”朱可夫推門而出。半個小時之後。斯大林把朱可夫叫到辦公室來，說：“朱可夫同志，我們方纔商量了一下，決定解除你的職務。我想讓你到前線去。”朱可夫說：“到哪個部隊?”斯大林說：“你願意到哪兒?”朱可夫回答：“我可以做任何工作。指揮一個師，一個軍，一個集團軍，一個方面軍——只要祖國需要。”斯大林一聽，朱可夫還有氣，就說：“我從現在開始，任命你方預備隊方面軍司令員。你準備什麼時候去?”朱可夫說： “1個小時之後，我離開莫斯科。”結果，一意孤行的斯大林，最終看到的是基輔戰役中蘇軍第5、第21、第37、第26集團軍共43個師被消滅，第40、第38集團軍之一部被殲滅，43個師被消滅。