建筑

1931年在文津街北平图书馆新馆落成（即今国家图书馆分馆），文津街新馆是当时远东最先进的图书馆之一，共耗费银元二百四十余万元，皆来自退还的庚子赔款，占地面积七十六亩，建筑外观是华丽的中国传统宫殿式结构，内部设施则全部为当时最先进的西式设备，较之美国国会图书馆决不逊色，有学人记载“单是它那中央大厅两侧下楼梯的卫生间，铺地六角小瓷砖，外面看不到里面里面能看到外面的窗玻璃，一色都是美国货，比北京饭店的还讲究”。

北平图书馆最初由原京师图书馆分馆与京师通俗图书馆合并合而成。合并前，二者均为当时北京政府教育部于1913年创办。1926年5月，奉部令改京师图书馆分馆为京师第一普通图书馆，改京师通俗图书馆为京师第二普通图书馆。1927年7月二馆合并，改称京师第一普通图书馆，馆址在宣武门内头发胡同22号前翰林院讲习馆旧址。1928年11月，由北平特别市教育局接管，改名北平特别市立第一普通图书馆。1932年，教育局裁并，图书馆改属社会局。1933年改称北平市立第一普通图书馆。日伪统治时期称北京市立第一普通图书馆。北京解放前夕，又称北平市立图书馆，在此期间，1917年建立于中山公园内的图书阅览所（曾改名京师第三普通图书馆、革命图书馆和中山图书馆）也合并过来，成为市馆的分馆和儿童图书馆。1949年前，该馆藏书约10万余册，分类方法均采用刘国均中国图书分类法，借阅方式为馆内阅览与馆外借书。阅览室初时分公众阅览室、新闻阅览室、儿童阅览室，借书有机关保证与押金借书两种方式

图书馆

当时的北平图书馆下设二会八部，分别为：购书委员会、编纂委员会、总务部、采访部、编纂部、阅览部、善本部、金石部、舆图部和期刊部，馆藏书籍包括中文、满文、蒙文、日文、西文普通书籍逾四十万册；宋元明清刊本、写本、抄本古籍逾三万册；金石拓片逾八千幅；舆图八千余幅；此外还有寄存图书六千余种三万余册。其中包括了《四库全书》等珍贵收藏。

值得一提的是，当时的北平图书馆是免费面向社会公众开放的，市民无需交纳任何费用，只需每次在图书馆入口处领取具有借书证性质的门牌就可以在图书馆中任意借书阅览，但并不提供外借。另外，图书馆对进馆读者的衣着有着严格的要求，读者必须着中式长衫或者西式衬衫西裤并衣着整洁方可入内，否则就要被挡在图书馆的大门之外。

变革

1942年1月2日，华北政务委员会教育总署接管国立北平图书馆，并更名为国立北京图书馆。1945年抗日战争结束后，该馆复名国立北平图书馆。

中华人民共和国成立后，于1950年3月6日国立北平图书馆更名为国立北京图书馆，1951年6月12日更名为北京图书馆，成为中华人民共和国唯一的国家图书馆。1987年，北京图书馆新馆在白石桥路（今中关村南大街）落成，该建筑还曾被评为“八十年代北京十大建筑”榜首，馆名由邓小平题写。1998年12月12日北京图书馆更名为中国国家图书馆，1999年4月16日由当时的中共中央总书记、国家主席江泽民题写馆名。