国立中央博物院创始於1933年，位于南京城东中山门内半山园旗地。1933年国民政府教育部成立「国立中央博物院筹备处」时，拟建「人文」﹑「工艺」﹑「自然」三大馆，1936年动工兴建。一年後日军占领南京时第一期工程仅完成大半，直到战後的1948年，才将刘敦桢设计的「人文馆」竣工开放，即现南京博物院仿辽代风格的大殿。规划中的另外两馆因时局原因未能实现。
　　1948年，国民政府将北京故宫、南京中央图书馆、中央研究院历史语言研究所和中央博物院的文物精品运至台湾，成立国立中央博物图书院馆联合管理处。1965年在台北落成新馆，定名为「中山博物院」，又名国立故宫博物院。
　　1950年，中央博物院南京部分改名为南京博物院。现在的门牌号码是中山东路312号。
　　此外，北平历史博物馆（今中国历史博物馆）曾一度归属于中央博物院建制而成为中央博物院北平分院。