院士制度起源于欧洲，20世纪初，随着中西文化交流进程加速，“科学”、“科学家”、“学会”、“科学院”等科学新名词开始出现在报刊上。1928年国民党政府成立中央研究院，1946年决定建立院士制度，1948年第一批院士产生，共81人。

新中国成立后，中国科学院酝酿建立学部制。1954年，中科院开始筹备建立物理学数学化学部、生物学地学部、技术科学部和哲学社会科学部，其中自然科学方面共推选出172名科学家为学部委员。1955年6月，中国科学院学部成立大会在京召开，正式宣布成立学部。

1993年10月19日，国务院常务会议决定中国科学院学部委员改称为中国科学院院士。

1993年，在王大珩、师昌绪等学部委员的倡议下，成立了中国工程院。自1997年起，中国科学院与中国工程院同步进行每两年一次的院士增选工作，增选院士每两年进行一次。

1998年7月1日起，中国科学院、中国工程院实行“资深院士”制度，年满80周岁的两院院士将被授予 “中国科学院资深院士”或“中国工程院资深院士”称号。

两院同时还实行外籍院士制度。