即位卢怀慎与姚崇同为宰相。卢怀慎为人清正廉明，擅于指陈朝政得失和识别人才，但是却不擅于处理具体事务。

一次，姚崇因儿子去世请假十天。省中事务堆积如山，卢怀慎不能决断，姚崇回来后一天便处理完了。卢怀慎知道自己才能不及姚崇，便想玄宗请求致仕，玄宗说：“朕以天下事委姚崇，以卿坐镇雅俗耳。”

卢怀慎不善于处理具体事务是出了名的，以至于被当时人称为伴食宰相。然而启沃君王，推荐人才又何尝不是一种才能。

王夫之将卢怀慎与宋璟、张九龄并称，说：开元之世，以清贞位居宰相者三：宋璟清而劲，卢怀慎清而慎，张九龄清而和，远声色，绝货利，卓然立于有唐三百余年之中，而朝廷乃知有廉耻，天下藉以又安，开元之盛，汉唐莫及焉。

虽位居宰辅，卢怀慎生活却极为简朴，以至于妻女常常处于饥寒之中。他所得到的俸禄及朝廷赏赐，也是常常接济别人，往往得到钱财便散尽了。

卢怀慎之节俭从下面可窥一斑。一次卢怀慎病了，宋璟和卢从愿去看他，但见铺盖单薄破旧，门上没有门帘。当时风雨交加，只能拿草席挂在门口挡风雨。吃饭时，只有两碗蒸豆再加几碗蔬菜而已。

临别时，卢对宋璟和卢从愿说：“当今皇上圣明，急于让天下大治。然而时间长了后，对政事难免有些倦怠，恐怕奸邪之人会乘机钻空子。你们常在天子身边，要时时提醒诤谏。”

玄宗即位后，结束了武则天到睿宗时期的混乱局面。才几年，国家蒸蒸日上。社会上不免出现过于追求精巧、精致、飘逸的生活方式，长期以往不免骄奢淫逸，贪图享乐以至于不思进取。

正是因为如此，玄宗才说让卢怀慎来镇雅俗。所谓雅俗，也即风雅的习气。可惜早起的玄宗懂得这个道理，励精求治，到了晚期却带头享受生活，甚至把自己的儿媳妇都睡了。