地質研究所聘李四光為所長，翁文灝、葉良輔、徐淵摩等為研究員。
氣象研究所聘竺可楨為所長，胡煥庸等為研究員。
天文研究所聘請俞青鬆為所長，陳遵媯、高平子為研究員。
心理研究所由康鉞任所長。
人文方麵，曆史語言所由傅斯年任所長，陳寅恪、趙元任、李濟分彆任曆史組、語言組、考古組主任，研究員有陳垣、劉半農、徐中舒、羅常培、史祿國白俄學者等。
社會科學研究所由楊端六任所長，後由蔡元培本人兼任。經濟組主任楊杏佛，研究員楊端六、吳定良，特約研究員劉大鈞、王璡、何廉、蔣廷黻等。法製組主任王雲五，特約研究員周鯁生、王世傑、胡長青等。社會組主任陳翰笙，研究員王濟昌，特約研究員陶孟和；民族組主任蔡元培，研究員有德國學者但澤、淩純聲。
蔡元培所聘請的研究人員，幾乎囊括了當時中國科學界的頂級精英。
在研究院的行政管理上，蔡元培也始終把握專家治院的原則。研究院內總管行政事務的最初為秘書長，後改稱為總乾事。蔡元培聘請的第一任總乾事是楊杏佛。
楊杏佛早年加入同盟會，並曾在孫中山的臨時南京政府中任職，後赴美國留學，攻讀機械工程、工商管理、經濟。歸國後，長期協助蔡元培工作，是蔡元培創建中央研究院的最得力的助手。
蔡元培曾說“我素來寬容而迂緩，楊君精悍而機警，正可以他之長補我之短。”
1933年，楊杏佛遭國民黨特務暗殺，物理學家丁西林短期代任總乾事一職，繼由地質學家丁文江接任總乾事。
丁文江早年留學英國攻讀動物學和地質學，1922年參與發起成立中國地質學會，與翁文灝合著《第一次中國礦業紀要》。他是一個精於科學又長於事務管理的科學家，1934年任中央研究院總乾事後在科研組織管理方麵實施了一係列富有成效的改革。蔡元培稱他是一位“有辦事才能的科學家”，“我國現代稀有的人物”。
作為一院之長的蔡元培給自己的角色定位，就是為科研人員竭儘所能地創造學術研究條件和空間。各所的學者要去全國各地進行科學調研，蔡元培總是和國民黨的各地方軍政要員積極接洽，要求他們儘力協助。
對自己聘任的專家學者，蔡元培則用人不疑。
時任社會科學研究所社會組主任的陳翰笙回憶“蔡先生是院長兼社會科學研究所所長，但所內的具體工作，全都放手讓我主持，從不乾擾。重要事務，由我去向他報告，他仔細地、認真地、虛心地聽取報告，先征求我的處理意見，然後由他提出具體辦法來同我商榷……我去信請教時，他都親筆回信，具體而切實，從沒有訓人的口吻。他不僅對我是這樣，他對中央研究院每一個工作人員，不論職位高低，都以謙虛誠懇的態度平等相待。”
蔡元培領導創建中國研究院，是他繼擔任民國教育總長、北大校長之後，對於中國文教科研事業所做的又一個豐碑式功績，以至有人評價，這是“蔡先生對於我國學術之最大貢獻”。
1949年，國民黨當局遷台。12月，曆史語言研究所的全部以及數學研究所的部分共二千多箱重要圖書、文物、儀器、設備運往台灣，遷至台北的台灣大學，暫存在桃園縣楊梅鎮（今桃園市楊梅區）火車站倉庫。其餘研究所皆留置於中國大陸，並發展為後來中國科學院之主體（中國科學院早期的外文譯名亦一直沿用acadeia??si
ica，現多采用英語chi
ese??acadey??of??scie
ces，但仍有部分研究所沿用拉丁文譯法）。
由於多數院士及中央研究院第一屆院士會議所選出之第三屆評議員32人都留在大陸或留置國外，在台者僅有吳大猷、朱家驊、淩鴻勳、李先聞、吳敬恒、胡適、傅斯年、李濟、董作賓、王世傑、王寵惠等人，不足法定人數，兩會無法召集並行使職權，在一段時間裡，台“中研院”陷入半停頓狀態。
1954年，經朱家驊多方奔走，在台北市南港區現址營建院區。植物研究所在台“複所”。
1955年，成立中央研究院近代史研究所及中央研究院近民族研究所籌備處。
1957年，多方討論出“以報到登記人數為實有全體人數”之辦法並呈奉台灣當局領導人令準，於4月2日在台舉行第二次院士會議，4月3日舉行第三屆評議會首次會議。
同年12月，胡適繼朱家驊之後擔任院長，次年正式就職。化學研究所在台“複所”。
經胡適、王世傑、錢思亮、吳大猷、李遠哲、翁啟惠等院長之戮力經營，台灣的“中央研究院”逐漸形成了今日之規模。
這為後話。