經過周詳的考察，洛克菲勒決定建立一所獨立的研究機構。1901年，洛克菲勒醫學研究所不動聲色地成立了。
與以往的做法不同的是，洛克菲勒同意以自己的姓氏命名這家機構，這也能從中看出他對醫學機構寄予的厚望。不過，由於這個醫學機構帶有某種實驗性，洛克菲勒不想讓人們希望它能突然創出奇葩，所以研究機構在創立時相當簡仆，完全看不出其支持者便是大富豪洛克菲勒。
洛克菲勒為醫學研究所設立了一筆專用資金，用以招聘最出色的人才。他說：“我雖然有錢，但隻有將錢用在那些有主見、有想象力和有勇氣的人身上，並幫助他們做出成績，我的錢才算對人類有價值。”
洛克菲勒為醫學研究所定下的規矩是：召集才華出眾的人，把他們從瑣事中解脫出來，不施加任何壓力與幹涉，任由他們去異想天開，盡興發揮。洛克菲勒認為，科學家隻有在自由與寬鬆的工作環境中，才能創造出奇葩。
醫學研究所很快招聘到許多醫學界的精英。後來的事實證明，這個醫學中心是洛克菲勒除了標準石油公司之外的另一個傑作，醫學研究所成果卓越，成為諾貝爾獎得主的搖籃。
洛克菲勒從不幹涉研究所的自主權，他讓科學家而不是那些外行的理事來管理開支。他也很少去視察自己的傑作，因為他不想占用別人寶貴的時間。
有一天，洛克菲勒父子恰好途經研究所附近，小洛克菲勒提議道：“爸爸，你還從沒有去過研究所呢！我們乘出租車過去看看吧！”
洛克菲勒勉強答應了兒子的建議。不過，等到了研究所外麵時，他表示隻從車裏看一眼就夠了。在小洛克菲勒的一再催促下，這位大富翁終於走進了自己花錢建起來的機構。在一位工作人員的陪同下，父子倆略略參觀了一下，表達了謝意便匆匆離開了。
許多人難以想象，洛克菲勒與那些喜歡前呼後擁、大肆張揚的富人們何其不同，雖然他在商業領域遭人攻擊與謾罵，可是在慈善方麵卻顯得如此高尚與謙遜。
1904年冬天，洛克菲勒醫學研究中心在治療流行性腦膜炎方麵取得了舉世矚目的成就，挽救了成百上千人的生命，這讓洛克菲勒感到有必要進一步向研究所加大捐贈力度。
1908年，洛克菲勒決定出錢為研究所建一座有60個床位及一間有9個床位的隔離病房的附屬醫院。這個醫院在兩年後開張，免費為患有小兒麻痹症、大葉性肺炎、梅毒、心髒病和嬰兒腸道病等病患提供治療。雖然醫院專為洛克菲勒家庭在頂樓準備了五間專用病房，但他們從未享受過這種特權。
洛克菲勒醫學研究所的成功，使得許多人對這位富豪的評價大為改觀。有人說，洛克菲勒在醫學事業方麵的成功與其在石油業的成功一樣，都恰逢絕佳的時機。洛克菲勒捐錢成立醫學研究所時，正是醫學作為一門學科日臻成熟，並且有無限發展機會之時。與自己的其他捐贈相比，醫學研究所的成功可謂是極為引人注目的，這讓洛克菲勒備感欣慰。
即使是那些與洛克菲勒積怨甚深的人，也對醫學研究所給予了真心誠意的讚揚。有人認為，洛克菲勒找到了一個恰當的方式，讓他的金錢造福於世上的每一個人，因為醫學研究的價值是世上具有普遍意義的價值，對於每個活著的人而言，都是意義極其重大的。
據統計，洛克菲勒總共為醫學研究所捐贈了6100萬美元，而這個研究所也不斷地將驚喜帶給世人，成為世界上研究疾病起因和治療方法的最好機構。
僅在20世紀70年代，這裏就有16個人獲得了諾貝爾獎。1965年，研究所出於自身發展需求，正式更名為洛克菲勒大學，專授博士學位和提供研究員基金。
還是在1901年時，洛克菲勒就意識到創辦一個基金會可能是一個不錯的辦法。“我們可以成立一個信托基金會，派一些願意為慈善事業終生奮鬥的人去那裏工作，我們可以親自協助他們，讓我們的慈善事業得到妥善、有效的管理。”他兒子建議道。