北京大學圖書館與國家級重點文物保護單位“燕園”之“未名湖區”近在咫尺，地段的南、北、東三面都是與燕園老區風格一致的仿古清式大屋頂的二、三層樓宇，只有西面是文革期間所建的較爲簡陋的平頂式四層老圖書館。北大校方擬在它的東面建新館，以作爲其主體，並給新開闢的東校門一個適當的對景。

當時北京建築業界正處在前任市長被撤換，不需再勉強在樓上加“大屋頂”、“小亭子”的時期，可以自由發揮。關肇鄴應邀參加了此次設計競賽，他認爲建築是百年大計，不應以個人好惡爲指導思想，而應考慮建築的性質、使用、需要，與周圍環境和諧得體。他所交出的方案被評委及校領導一致接受，成爲實施方案。

新樓最大限度地壓縮用地，避免拆除兩棟1951年所建的教學樓。新樓平面呈凸字形，在四層樓的中部加了一個傳統式大殿，並冠以大屋頂，它採取唐式屋頂，出檐深遠而簡化了斗拱系統，以顯示其結構的力度感。新館總體上較周圍建築高大，但在和諧的範圍之內，兩側設置了高亭式學術廳和展覽廳以及作爲消防通道的透空式爬山廊，巧妙地增加了空間層次，構成了與周圍原有建築之間尺度上的和諧過渡。