On je nejlépe známý pro jeho charitativní práce, poté, co jeho otec založil Rockefeller University (tehdy ještě známý jako Rockefeller Institute for Medical Research) v roce 1901 a Rockefellerova Nadace v r. 1913, v neposlední řadě na jeho popud. Podporoval také obnovu koloniálního Williamsburgu ve Virginii a daroval 8,5 milionu dolarů Organizaci spojených národů na nákup pozemků pro jejich sídlo v New Yorku.
přesvědčen, zástupce ekumenické hnutí, věnoval značné částky na Protestantské a Baptist institucí v celém jeho životě, včetně Federální Rady Církví, Union Theological Seminary, Cathedral of Saint John the Divine a Riverside Church.
v roce 1924 byl Rockefeller přijat do Académie des Beaux-Arts jako zahraniční člen. Od roku 1931 byl zvoleným členem Americké filozofické společnosti.
měl silný zájem na zachování a koupil půdu pro několik Amerických národních parků, včetně Grand Teton National Park, Acadia National Park, Great Smoky Mountains National Park, Yosemite National Park a Národní Park Shenandoah. V roce 1972 byl posmrtně poctěn památným parkem Johna D. Rockefellera Jr. mezi Národním parkem Grand Teton a Yellowstonským národním parkem. Rockefellerovy hory a Rockefellerova plošina v Antarktidě také nesou jeho jméno.