世上最傷心事莫過於白發人送黑發人，愛女蔡威廉的早逝對蔡元培打擊是沉重的。他以悼念亡妻的習慣性模式，寫了一篇文章《哀長女蔡威廉文》。
1940年3月3日清晨，蔡元培在寓所起床時，倏覺頭暈目眩，失足仆地，口吐鮮血。
家人急召醫生診治。由於這一天是星期天，商務印書館特約西醫朱惠康至中午才趕到。後來，瑪麗醫院內科主任淩醫生也應請前來會診，疑為胃疾，建議住院治療。
翌日，由周夫人和朱醫生侍伴，送蔡元培過海到跑馬地香港養和醫院救治。
抵達醫院不久，蔡元培即大量排血，陷入昏迷狀態。雖然中外醫師悉心救治，施以輸血等措施，但蔡元培終以年高體弱，於3月5日9時45分與世長辭，終年73歲。
後來醫生推斷“其摔倒在地，傷及內部，導致胃瘤出血，乃不治之因。”
當診治醫生互相爭辯，試圖將蔡元培從死亡線上拉回來時，他卻對自己的生死並不看重，隻管喃喃自語。
因說話模糊不清，身邊照顧他的周新（蔡元培內侄）隻是零星地聽見，“世界上種種事故，都是由於人們各為己利。……我們要以道德救國，學術救國……”
這便是一代大師留在塵世最後的言語。
一位名人說過，在這個世界上，有的人是不會死的，因為他的精神永存。
蔡元培當屬於這樣的人。
蔡元培在香港病逝，引起全國各界人士的震驚和痛惜。3月7日，蔡元培遺體在香港摩理臣山道福祿壽殯儀館入殮，香港各界敬送挽聯。
國民黨中央海外部部長吳鐵城代表國民黨的最高領袖蔣介石主祭，前往致祭的各界人士有300餘人。
同日，潤之先生和中共中央也分彆發來唁電，潤之先生在唁電中稱蔡元培為“學界泰鬥，人世楷模”，中共中央稱蔡為“老成碩望”“勳勞卓著”，對他的逝世深表哀悼。
隨後，在中國的西南大後方、西北的延安以及海外，軍政、教育等各界人士舉行了隆重的紀念活動。
3月10日是出殯的日子，香港前往執紼者竟達5000餘人。
蔡元培的靈柩最後被安葬在香港島南端的香港仔華人永遠墓地。
墓前立著京師大學堂校友葉恭綽所書碑刻“蔡孑民先生之墓。”
全國各界人士紛紛舉行了悼念活動，多家報刊載文讚譽他的功德，各主要黨派和團體及各界名流紛紛致電吊唁。
民國政府發布褒揚令，稱蔡為“高年碩學”“萬流景仰”。
悼念期間，各界人士所送挽聯，蔚為大觀。
在後印行於世的《哀挽錄》中，有一聯雲
打開思想牢獄，解放千年知識囚徒，主將美育承宗教；
推動時代巨輪，成功一世人民哲匠，卻尊自由為學風。
曾分彆在武漢和廣州國民政府擔任過外交部長的陳友仁的挽聯雲
薄元首而不為亮節高風千秋曾有幾輩；
容百家之並起宏模雅量當代祗見斯人。
中共中央周恩來的挽聯雲
從排滿到抗日戰爭，先生之誌在民族革命；
從五四到人權同盟，先生之行在民主自由。
蔡元培病逝兩年後，五十二歲的周峻帶著兒女回到了上海華山路的住所。
蔡元培當年去香港時，將家藏的數百箱書寄存在上海科學社，隻帶去了一批常用書和大量手稿。可惜，那些常用書已在戰亂中損失殆儘，而手稿幸虧周峻將之縫進了被絮裡，才躲過一劫。
蔡元培給妻子子女留下了大量的精神財富，遺產卻幾乎為零。
其實蔡元培名聲在外位居要職，找他走人情、通關係、送禮的也不是少數，他若想從中謀利易如反掌，但他一生廉潔。
1936年恰逢蔡元培七十大壽，他的學生和朋友們見先生為國家、為教育奔波操勞一生，卻始終居無定所，所藏書籍也分散在北京、上海各地，於是想要集資建一房屋作為壽禮，好讓他頤養天年。但這番美意被蔡元培婉言謝絕了。
剛正清廉的蔡元培，死後落了個一貧如洗的結果。他在香港治病所花費的那一千多元醫藥費，周峻都無法湊出。甚至於喪葬費她都愁得快要去典當衣物了，後來還是王雲五伸出援手代籌的。
新中國成立後，周峻獨自一人撫養子女著實不易。首任上海市長陳毅知情後，作出決定，特批將華山路的一幢房屋供蔡元培子孫後代永久居住。