han er bedst kendt for sine velgørende værker, efter at hans far grundlagde Rockefeller University (dengang stadig kendt som Rockefeller Institute for Medical Research) i 1901 og Rockefeller Foundation i 1913, ikke mindst på hans initiativ. Han støttede også restaureringen af koloniale Vilhelmsburg i Virginia og donerede 8,5 millioner dollars til FN for at købe jorden til deres hovedkvarter.
som en overbevist repræsentant for den økumeniske bevægelse donerede han betydelige summer til protestantiske og baptistiske institutioner gennem hele sit liv, herunder Federal Council of Churches, Union Theological Seminary, Cathedral of Saint John The Divine og Riverside Church.i 1924 blev Rockefeller optaget i den akademiske verden som udenlandsk medlem. Siden 1931 var han valgt medlem af American Philosophical Society.han havde en stærk interesse i bevarelse og købte jord til flere amerikanske nationalparker, herunder Grand Teton National Park, Acadia National Park, Great Smoky Mountains National Park, Yosemite National Park og Shenandoah National Park. I 1972 blev han posthumt hædret af John D. Rockefeller Jr. Memorial Parkvej mellem Grand Teton National Park og Gulsten National Park blev opkaldt efter ham. Rockefeller-bjergene og Rockefeller-plateauet i Antarktis bærer også hans navn.