该建筑由曾在英国留学的中国建筑师沈琪主持设计,用清朝慈禧太后挪用的海军经费修颐和园剩下的款项做资金,由中国营造厂施工建造。楼群皆为西洋古典形式。其中间的主楼为欧洲古典式灰砖楼,前后面三间楼门,中部门厅以上三层,两侧及翼楼均为二层,外檐为联拱柱廊。楼体满布精细的砖雕花饰,门窗、天花、地板和护壁板全用优质木材精雕细作,华丽壮观,表现出欧洲折中主义风格。主楼的东、西、北面各有一座楼房,形成一组楼群。在这组楼群的东西两边各有一组风格相同的建筑。东部作为海军部,西部作为陆军部。大门在主楼前,朝南,面阔五间,灰筒瓦悬山大脊顶,中间三间开门的中国木构建筑形式,东西山墙外露七架梁。门前有3米多高石狮一对,隔街对面有一座悬山顶砖雕大影壁。反映了二十世纪初中国建筑设计和营造施工的高超水平。西洋古典建筑风格如此大胆地运用于新建的清廷军事衙署,也体现出西风东渐的历史时代的奇异心态。
该建筑群东部原为康熙帝九子允禟的府第。允禟于1726年(雍正四年)被禁锢致死。1733年(雍正十一年)雍正帝赐允禟宅第于五子弘昼,为和亲;西部原为顺治帝五子常宁的恭亲,到清末时已递降为公府,分别由两府后裔承熙、溥廉居此,因此两府被时人称为承公府、廉公府,再晚则又分别称为德公府(承熙孙德茂)、毓公府(溥廉子毓璋)。1885年,清朝创办了海军衙门,海军事务。中日甲午战争后北洋水师全军覆没后,清政府撤消了已无海军的海军衙门。1906年(光绪三十二年),清朝政府“改定官制以为立宪预备”,实行“新政”,改兵部为陆军部,将兵部、练兵处、太仆寺合并为陆军部,1906年清政府用慈禧挪用的海军经费修颐和园剩下的款项兴建了东西两组西洋巴洛克式砖木结构楼房,西部为陆军部,东部为陆军部所属的贵胄学堂。1907年(宣统元年)清政府重建海军部,撤消贵胄学堂,后将贵胄学堂改为海军部。自此该建筑群形成为清末陆军部和海军部建筑群。
中华民国成立后,袁世凯在1912年将总统府和国务院设于此。1924一1926年为段祺瑞执政府驻地。1926年3月18日,学生在此地的大门前请愿时与军警发生冲突,死亡多人,发生了震惊中外的“三·一八”惨案。1928年后,这里改为北平卫戍区司令部。“七七事变”前,为宋哲元二十九军军部及冀察政务委员会所在地。1937年,日军侵占北平,西院、东院分别由日本华北驻军总司令部和特务机关“兴亚院”使用。抗战胜利后,国民政府接管,改为十一战区长官司令部、国民党北平警备司令部等。1949年,中华人民共和国成立后用作中国人民大学校舍。1978年起,西院主楼属中国人民大学书报资料中心和清史研究所,后配楼仍为宿舍;东院楼群则划归中国社会科学院的所属日、俄、亚太、拉美、西亚非等多个国际问题类研究所的办公地。1984年,该建筑以“段祺瑞执政府旧址”名称被列为北京市文物保护单位。2006年5月被国务院定为第六批全国文物保护单位。同时更名为“清陆军部和海军部旧址”。