jest najbardziej znany ze swojej pracy charytatywnej po tym, jak jego ojciec, między innymi, założył Rockefeller University (wówczas znany jako Rockefeller Institute for Medical Research) w 1901 r.i Rockefeller Foundation w 1913 r. Ponadto poparł odbudowę kolonialnego Williamsburga w Wirginii i przeznaczył na Organizację Narodów Zjednoczonych 8,5 miliona dolarów na zakup gruntów pod swoją siedzibę w Nowym Jorku.
jako zagorzały przedstawiciel ruchu ekumenicznego przekazał znaczne kwoty w ciągu swojego życia instytucjom protestanckim i baptystycznym, w tym Federalnej Radzie kościołów, seminarium Teologicznemu Unii, Katedrze Św. Jana Teologa i Kościołowi Riverside.
w 1924 roku Rockefeller został przyjęty do Akademii Sztuk Pięknych jako członek zagraniczny. Od 1931 roku był wybranym członkiem American Philosophical Society.
wykazał duże zainteresowanie ochroną przyrody i kupił ziemię pod kilka amerykańskich parków narodowych, w tym Park Narodowy Grand Teton, Park Narodowy Acadia, Park Narodowy Great Smoky Mountains, Park Narodowy Yosemite i Park Narodowy Shenandoah. W 1972 r.został pośmiertnie uhonorowany, nazywając na jego cześć John D. Rockefeller Jr. Memorial Boulevard Road między Grand Teton National Park a Yellowstone National Park. Jego imię noszą również Góry Rockefellera i Płaskowyż Rockefellera na Antarktydzie.