Il est surtout connu pour ses œuvres caritatives, après que son père a fondé L’Université Rockefeller (alors appelée Rockefeller Institute for Medical Research) en 1901 et la Fondation Rockefeller en 1913. Il a également soutenu la restauration du Colonial Williamsburg en Virginie et a donné 8,5 millions de dollars aux Nations Unies pour acquérir le terrain pour leur siège à New York.
en tant que fervent représentant du mouvement œcuménique, il a fait don, tout au long de sa vie, d’importantes sommes d’argent à des institutions protestantes et baptistes, dont le Federal Council of Churches, L’Union Theological Seminary, la Cathedral of Saint John the Divine et Riverside Church.
en 1924, Rockefeller est admis à l’Académie des Beaux-Arts en tant que membre étranger. Depuis 1931, il a été élu membre de L’American Philosophical Society.
Il S’intéressait beaucoup à la conservation et achetait des terres pour plusieurs parcs nationaux américains, dont le parc national de Grand Teton, le parc national de L’Acadia, le parc national des Great Smoky Mountains, le parc national de Yosemite et le parc national de Shenandoah. En 1972, il a été honoré à titre posthume par John D. Rockefeller Jr. Memorial Parkway entre le parc national de Grand Teton et le parc national de Yellowstone a été nommé d’après lui. Les montagnes de Rockefeller et le Plateau de Rockefeller en Antarctique portent également son nom.