第二年即309年春正月，太史令宣于修劝刘渊说：“看天象，晋室还有一些日子。但是不出三年，陛下一定会攻克洛阳。不过蒲子道路崎岖，难以保持长久的安宁；而平阳气势里有一股紫气，又是唐尧的旧都，请陛下迁都平阳。”刘渊觉得有理，便迁都平阳，大赦，改元河瑞。

三月，司马越弟弟高密王司马略去世，晋怀帝任命晋初名流山涛的儿子山简为征南将军、代替司马略负责荆、湘、交、广四州军事，镇守襄阳。山简嗜酒如命，不恤政事，又害怕前任刺史刘弘的儿子刘璠很得民心，会对自己造成威胁，便请朝廷召刘璠入京任职。晋怀帝于是下诏征刘璠入朝为越骑校尉。南边几个州因此也开始动乱，父老百姓无不追思已故荆州刺史刘弘。

不久，司马越从荥阳回到京师。中书监王敦跟亲信说：“太傅一贯擅权，但选用的大臣人选，尚书却还用以前的制度来裁决。今天他回到朝廷来，必定要杀某些人。”当晋怀帝还是太弟时，和中庶子缪播关系密切，即位后，即任命谬播为中书监，弟弟缪胤为太仆卿，把他们当做心腹。晋怀帝舅舅王延、以及大臣何绥和高堂冲，与谬播兄弟共同参与朝政机密。司马越怀疑这些人和他有二心，司马越心腹刘舆和潘滔便劝他把缪播等人都杀了。司马越于是诬告缪播等人想要作乱，派遣部将王秉率领甲士三千入宫，当着晋怀帝的面把缪播和何绥等十多人都抓了起来，交付廷尉杀掉。晋怀帝想救他们却无能为力，只有叹息流泪而已。

何绥是何曾的孙子。当初，何曾曾侍奉晋武帝宴席。席退之后，他跟几个儿子说：“主上虽然开创大业，然而我每次在宴席上见到他，从来没听他谈过国家大事和长远计划，都是说些平生常事。这实在不是为子孙谋福利而该做的事，只是为自己而已。我怕他的后嗣将会很危险！你们这一辈也许没事。”说着指着几个孙子道：“你们这一代灾难恐怕难免。”到何绥和缪播等人同时被杀时，他的长兄何嵩哭着道：“我祖父实在太圣明了！”何曾本人生活非常奢侈，每天吃饭就要花掉一万多钱，还讲不知从何处下筷。儿子何劭，每天要吃掉二万。何绥和弟弟何机与何羡则更为奢侈；给他人的书信，词礼简单傲慢。河内人王尼看了何绥的书信后跟人说：“伯蔚身居乱世，却如此矜豪，这样怎能避免灾难？”有人说：“如果何伯蔚听到先生的话，必定会加害于先生。”王尼说：“当伯蔚听到我的话时，自己已经死了！”到永嘉末年，何氏已经全死光了。

司马越任命王衍为太尉，王敦为扬州刺史。潘滔劝司马越道：“明公今天让处仲（王敦字）镇守江外，假如他放任自己豪强的野心，那将等于放纵贼人。”司马越不听从他的劝告。

司马越自己辞去兖州牧，光领司徒。司马越因为近来的许多变故，多数是由殿里尚书省引起的，便上奏，请将宫廷宿卫中有侯爵以上爵位的人通通免职。当时殿中武官多数封侯，于是基本都被解除职务，然后流着眼泪出宫了。司马越派亲信何伦和王秉带领他东海国的几百士兵入宫宿卫。

左积弩将军朱诞因为也被司马越免职出朝，一怒之下，便去投奔刘渊，详细陈述洛阳有多么虚弱，劝刘渊进攻洛京。刘渊便任命朱诞为前锋都督，任命灭晋大将军刘景为大都督，带兵进攻并攻下了黎阳。