其任务主要有二方面:一是实行科学研究;二是指导、联络、奖励学术研究。设有特任级院长一人,其下设行政、研究、评议三机构。
理、化、工三研究所设在上海,其余各所均设于南京,并在南京成贤街旧法制局内设立总办事处(北极阁新址落成后,办事处迁往新址办公),以办理全院一般行政事宜。抗战期间,中央研究院各研究所分设于重庆、北碚、李庄、昆明四区。抗战胜利后,数学研究所筹备处、物理研究所、化学研究所、动物研究所、植物研究所、医学研究所筹备处、工学研究所、心理学研究所等八单位,暂设于上海,总办事处及天文、地质、气象、历史语言、社会科学等五研究所,共六单位,设于南京。
中央研究院设院长一人,综理全院行政事宜一人,承院长之命,处理全院行政事宜。研究所设所长务,并指导研究事宜。综理所中央研究院的首任院长是蔡元培,继任院长为朱家骅。总干事先后为杨杏佛、丁文江、朱家骅、任鸿隽、傅斯年、叶企孙、李书华、萨本栋和钱临照。
中央研究院设有学术评议会,为民国高学术评议机构。1935年6月19日,成立第一届评议会。1948年4月1日,中央研究院第二届评议会第五届年会选举产生第一届院士81人,其中数理组院士28人,生物组院士25人,人文组院士28人。
1948年12月,中央研究院开始向台湾搬迁。除总办事处、数学以及历史语言研究所较完整地迁台外,其余各研究所大都留在南京和上海。在中央研究院81名院士中,迁至台湾的仅有凌鸿勋、林可胜、傅斯年、董作宾、李济、王世杰、吴稚晖7人,在国外的有陈省身、李书华、赵元任、汪敬熙、胡适、吴大猷等12人,其余五十余人(除萨本栋等人去世外)均留在了大陆。1949年10月,中央研究院留在大陆的各机构都被中国科学院接收。
北京东路39号(原鸡鸣寺路1号)是中央研究院总办事处以及地质研究所、历史语言研究所和社会科学研究所所在地。
总办事处大楼坐北朝南,是一座仿明清宫殿式的建筑。大门两侧及围墙东侧共建有三座方形攒尖顶警卫室,其风格与大楼一致。大楼建于1947年,由基泰工程司杨廷宝建筑师设计,新金记康号营造厂建造。大楼高三层,建筑面积3000平方米,钢筋混凝土结构,单檐歇山顶,屋面覆盖绿色琉璃筒瓦,梁枋和檐口部分均仿木结构,漆以彩绘,清水砖墙,花格门窗,建筑外形具有浓郁的民族风格。
大楼建筑平面呈"T"字形,入口处建有二层门廊及装饰门套,经过穿堂来到后面突出部分,便是一座三层书库;前楼西侧建有小型演讲厅,为学术活动场所;前楼中间部分采用内廊式布置,内廊南北两侧为办公、科研用房。
地质研究所,位于中央研究院总办事处大楼的西北方,现为中国科学院南京地质古生物研究所和古生物陈列室所在地。
地质研究所大楼门朝东南,是一座仿明清宫殿式建筑。楼前有两层石阶,石阶之间有一座休息小平台,石阶上部为一大平台,大楼就建在这个大平台上。大楼由基泰工程司建筑师杨廷宝设计,朱森记营造厂承建。大楼建于1931年,依山而建,高二层,钢筋混凝土结构,建筑面积约一千平方米,建筑平面呈"凸"字形。单檐歇山顶,屋面覆盖绿色琉璃瓦,梁枋及檐口部分为仿木结构,漆以彩绘。大楼前部,建有一座亭式门廊,两侧有栏杆,门廊雕梁画栋。一楼中部设有地质标本陈列室,其余为制作、资料、科研、办公用房。在大楼东南角地下室内,建有锅炉房。1932-1937年李四光曾在此主持工作。1951-1953年李四光曾担任该所所长。
位于中央研究院大院内总办事处大楼的正北面,现为中国科学院南京地质古生物研究所。
大楼为仿明清宫殿式建筑,由基泰工程司建筑师杨廷宝设计,六合营造厂承建。大楼建于1936年,高三层,钢筋混凝土结构,建筑面积1700平方米。建筑平面呈长方形,单檐歇山顶,屋面覆盖绿色琉璃瓦,外墙上部为清水青砖墙,下部采用水泥仿假石粉刷。大楼朝南,入口处建有一座仿木结构的单层门廊。在大楼的东西两侧,各辟有一个侧门。大楼两端为阅览室和小型书库,其余部分为办公、研究用房。
位于中央研究院总办事处大楼的东北面,现为中科院南京地质古生物研究所办公楼。大楼建于1931年,高三层,人字顶,红砖墙,坐北朝南,西南角有蔡元培先生题写的奠基碑。
1993年,中央研究院建筑群被列为南京市文物保护单位。