蔚縣歷史悠久，唐堯開始把我國分爲九州，蔚縣屬冀州地。虞舜時，將我國分爲十二州，蔚縣屬幷州。夏禹從頭分九國爲九州，蔚縣又回屬冀州。在殷商時期，蔚縣稱代國(定都今代王城)，依屬冀州。

秦始皇二十六年(公元前221年)，將全國分爲郡和縣，蔚縣稱代郡。

西漢時屬幷州，轄桑乾、代、道人、當城、高柳、馬城、班氏，延陵，且如、平邑、陽原、東安陽、參合、平舒、靈丘、廣昌、滷城、狋示十八縣。漢高祖初，曾置代國。

玉皇閣

從史籍考證看，蔚州的設置和轄境是有改變的、有移徙的。追溯蔚州最早建置於東魏永安中(公元528-530年)改懷荒、御夷二鎮(分別在張北縣與赤城縣北)置，寄治幷州鄔縣界。《我國曆史地圖集》北朝·東魏地圖(武定四年，公元546年)中蔚州治，即標定在此。正如清朝順治十六年版《蔚州志·奇蹟》載：“蔚州廢城：在平遙西北二十五里，後魏遷蔚州民居此，州廢。

隋朝大業三年(公元607年)，罷蔚州置雁門郡，爲雁門郡靈丘縣地。隋末，陷於突厥。唐朝武德六年(公元623年)重製蔚州，寄治幷州陽曲縣。貞觀五年(公元631年)，破突厥，復故地，移治靈丘縣，屬河東道。開元十二年，(公元724年)置安邊縣(治今蔚縣城)。天定元年(公元742年)，改蔚州爲安邊郡，並自靈丘移州治於安邊城。