蔣介石常來慈湖行館小住。到了那裏，他總是要說起奉化，說起溪口……1969年8月，在陽明山上發生的那場車禍，使蔣介石的身體受到嚴重損害。蔣介石夫婦當時立即被送往醫院急救。經醫生檢查，蔣介石的胸口受到的撞擊最為厲害，心髒部位明顯擴大。從此，蔣介石的身體狀況每況愈下，心髒病越來越嚴重，後來不得不住進台北“榮民總醫院”進行長期治療。所謂“榮民”，在台灣是指退役官兵，人稱退伍老兵。“榮民”的家屬則稱“榮眷”。為了照顧好退伍老兵，台灣各地都設有“榮民服務處”。
台北“榮民總醫院”創辦於1958年，最初設病床六百張，服務對象為退除役官兵，所以叫“榮民醫院”，簡稱“榮總”。後來逐漸擴大為廣大民眾服務。醫院也不斷擴建，成為台灣醫療設備最好、醫術最高的醫院、知名度最高的醫院。正因為這樣，“榮總”也成為台灣政要——也就是大陸所稱“高幹”的保健醫院。就連“總統”生病，也總是在這裏醫治。台北“榮民總醫院”為蔣介石專設豪華病房，擁有一流的醫療設備。
台北“榮民總醫院”在台北市北投區石牌路二段2011號。另外，還在台中、高雄建立了“榮民分院”，以便就近為台灣中部、南部的“榮民”服務。
1974年11月23日，聖誕節前夕，病情日益沉重，蔣介石從“榮民總醫院”搬回士林官邸，在家接受治療。
1975年3月，宋美齡從美國請來醫生為蔣介石做肺髒穿刺手術。醫生從蔣介石肺部抽出大量膿水，但是蔣介石從此高燒不退，心髒多次停搏。尤其是在3月26日，蔣介石病情轉危，經過三小時的搶救才從死亡邊緣回到人間。蔣介石自知來日不多，口授遺囑。蔣介石吩咐，死後安厝於慈湖，將來安葬於南京紫金山麓中山陵旁。
1975年4月5日，正值清明節。那天上午，蔣經國和往常一樣，一大早便到士林官邸看望病危中的父親。那時候蔣介石神誌清楚，還能與蔣經國交談。到了下午，蔣介石變得煩躁。晚上八時多，已經回到七海官邸的蔣經國接到電話，得知蔣介石病情突然惡化，連忙趕往士林官邸。蔣介石經搶救無效，於11時50分去世。
蔣經國在日記中這麼寫道：
“憶晨向父親請安之時，父親已起身坐於輪椅，見兒至，父親麵帶笑容，兒心甚安。因兒已久未見父親笑容矣。父親並問及清明節以及張伯苓先生百歲誕辰之事。當兒辭退時，父囑曰：‘你應好好多休息’。兒聆此言心中忽然有說不出的感觸。誰知這就是對兒之最後叮嚀。餘竟日有不安之感。傍晚再探父病情形，似無變化，惟覺得煩躁。六時許，稍事休息，八時半三探父病，時已開始惡化，在睡眠中心髒微弱，開始停止呼吸，經數小時之急救無效。”
據“榮民總院”蔣介石病情醫療小組報告：
傍晚八時十五分，蔣公的病情極度惡化。醫生發現蔣公脈搏突然轉慢，於是急用電話通知經國先生。當經國先生趕到時，蔣公心跳已不規則，血壓下降，情形甚危。當即醫生施行人工呼吸，乃至運用藥物和電極直接刺入心肌，刺激心髒跳動，心髒與呼吸恢複正常。但四至五分鍾後，心髒再度停止跳動。十一時五十分，蔣公雙目瞳孔放大，經搶救無效，終年八十八歲。
蔣介石從1927年“四·一二”政變到1949年敗退，統治中國大陸達22年。此後，從1949年退往台灣到1975年病逝，又統治台灣達26年。
蔣介石彌留之際，宋美齡與長子蔣經國、次子蔣緯國、孫子蔣孝武、蔣孝勇都在側守候。
病逝之後，“副總統”嚴家淦等台灣黨政大員趕往士林官邸瞻仰蔣介石遺容。
考慮到士林官邸不便對外，4月6日淩晨，蔣介石移靈至榮民總院，以供各界吊唁。當蔣介石的遺體被侍衛抬上榮民總院的救護車之際，雷聲大作，暴雨驟至。移靈車隊在傾盆大雨之中緩緩而行。當車隊行駛到中山北路時，大雨急收，雷聲消匿。