李德裕是赵郡赞皇人，因为父亲李吉甫是中书侍郎，所以他从小在父亲的影响下饱读诗书，胸怀大志。不过李德裕并不喜欢参加科考，是因为家庭的原因才得以进入仕途的。

从小李德裕就表现出了自己的不凡资质，包括唐宪宗在内的许多人都被对他非常赞赏，唐宪宗还时常把他抱坐在自己的膝上。入仕后，因为父亲李吉甫升任宰相，为了避嫌，李德裕便到藩镇去任职。元和十五年，被召入翰林院担任翰林学士后，和李绅、元稹交情深厚，他们三人都才华出众，故而被当时的人们称为“三俊”。之后李德裕的仕途还算顺利，先后担任屯田员外郎、考功郎中、知制诰、中书舍人等职。

到了中唐时期，朝廷之上牛党和李党两派士大夫开始了前后将近四十年年的朋党之争，就是历史上著名的“牛李党争”。因为牛僧孺和李宗闵参加科考是针砭时弊，考官将他们推荐给了唐宪宗，当时是宰相的李吉甫便到唐宪宗面前哭诉牛李二人揭露自己的短处，认为他们与考官有私情。于是唐宪宗将考官降职，也没有提拔牛李二人。不料朝中一片哗然，大臣们都为牛李叫屈，并且认为是李吉甫嫉妒贤能，不得已，唐宪宗便把李吉甫贬为了淮南节度使。

之后牛僧孺和李德裕都入朝为官，以李吉甫的事情为导火索，牛僧孺等人与科举出身的官员结成一派，李德裕等人与士族出身的官员结成一派。牛党得势，便趁机打击李党；李党得势时也趁机排挤牛党，两派之间的明争暗斗，就连皇帝也感到头疼。但是等到唐玄宗继位后，李德裕失势，牛党趁机极力排挤李德裕，使得李德裕被贬谪为闲官。

不过李德裕在朝中并不是专注于膨胀之争，也做了许多实事。保利年间，亳州一带据说出产的圣水包治百病，可以让患病的人喝下就痊愈。消息传来传去，越来越像真的。李德裕便在大市场召集百姓，让人用锅装满了所谓的圣水，又放了五斤猪肉进去煮，李德裕对百姓说：“如果这真的是圣水的话，猪肉就不会起任何的变化！”结果不一会儿，猪肉都被煮的烂熟，谣言随即平息。

到了太和六年，唐文宗将李德裕召回，拜为兵部尚书，一年后官拜宰相。但是好景不长，李德裕因为为人正直受到了奸臣排挤，又被贬谪。直到开成五年，唐武宗继位，又将李德裕从淮南召回，再拜宰相。巧合的是，李德裕父亲李吉甫两人都是五十一岁出征淮南，五十四岁又被征召回朝，再次拜相。之后五年，李德裕外攘回纥，内平泽潞，裁汰冗官，制驭宦官，功绩显赫，又被拜为太尉，封为赵国公。此间唐武宗和李德裕的君臣相知也成为了晚唐绝唱。后唐武宗病逝，唐宣宗继位，唐玄宗素来厌恶李德裕，加上奸臣谗言，李德裕被贬死崖州。

据说曾经李德裕像一个僧人探问前尘，僧人说他会被贬责，但是仍会被召回，还说李德裕的一生注定要吃一万只羊，而还有五百只羊没吃完，所以一定能再回朝廷。十几日后振武节度使送了李德裕五百只羊，他大惊失色，忙问僧人：“这些羊我不吃可以免去灾祸吗？”僧人道：“羊已送到，即是你不吃，也已经是归你所有了。”不久李德裕果然被扁到了崖州并死在了那里。后人便用“食万羊”这个典故来表示听天由命，不必强求富贵。