Rockefeller 1839. július 8-án született Richmondban, hugenotta eredetű német bevándorló családban. Apja, aki saját készítésű gyógyelixírrel házalt, még saját gyermekeit is becsapta, hogy úgymond az életre nevelje őket. Rockefellerre legalább ekkora hatást gyakorolt hívő baptista anyja is, aki a vallásos értékeket plántálta belé. Rockefeller már fiatalon bizonyságot adott kiváló üzleti érzékéről: hétévesen pulykákat nevelt és eladta őket, néhány évvel később már pénzt kölcsönzött a szomszédoknak, tisztes kamatra. Ekkor vált meggyőződésévé, hogy inkább a pénz szolgálja őt, mint ő a pénzt.
Tizenhat évesen könyvelőként állt munkába, s hamarosan kiderült, hogy ragyogóan tud fejben számolni, e képességének nagy hasznát vette később. Az üzleti élet csínját-bínját kitanulva húszévesen önálló bizományos vállalkozásba fogott, de a polgárháború idején az addig virágzó üzlet pangani kezdett. Rockefeller új lehetőségeket keresett, és 1863-ban belevágott az olajüzletbe ? a fekete folyadék 1859-ben tört fel először a földből Pennsylvaniában. 1862-től fektetett be olajfinomítókba, majd testvérével és még néhány üzletemberrel együtt 1870-ben megalapította a híres-hírhedt Standard Oil Companyt.
Rockefeller kezdettől a cég élén állt, és óriási vagyonra tett szert. Riválisait felvásárolta, a vasutaktól kedvezményes szállítási árakat csikart ki, tevékenységét fokozatosan az egész országra kiterjesztette. Ő hozta létre az első modern trösztöt, kezében tartotta az amerikai olajipart, nála összpontosult az olajszállítás 90 százaléka. A cég gazdasági monopóliumát semmi sem fenyegette, ugyanakkor a törvényesség határán táncoló, könyörtelen módszerei népszerűtlenné, s így politikailag sebezhetővé tették. 1890-ben az első amerikai trösztellenes törvényt a Standard Oilra szabva hozták, bár a célt, a tröszt hatalmának korlátozását ekkor még nem érték el. 1911-ben aztán a legfelsőbb bíróság monopóliumnak minősítette a Standard Oilt, amelyet 37 cégre daraboltak fel.
Rockefeller az 1890-es évek elején gyakorlatilag visszavonult az üzlettől. Erre több oka is volt: a megfeszített munka miatt egészsége megromlott, haja kihullott, ugyanakkor vagyona akkorára nőtt, hogy problémája már inkább a pénz elköltése, mint megszerzése lett. Vagyonát a századfordulón 900 millió (akkori) dollárra becsülték, ezzel ő volt a világ leggazdagabb embere, s az inflációval kiigazítva ma is helye lenne az első húszban.
A múlt század elejétől kezdve a hívő baptista Rockefeller az emberbaráti tevékenységnek szentelte magát. A halálakor készült összegzés szerint 530 millió dollárt adományozott nevelési, egészségügyi és tudományos célokra, így a világ legnagyobb emberbarátjának is nevezték. Ő alapította a chicagói egyetemet, orvostudományokat támogató alapítványából nőtt ki a mai Rockefeller Egyetem New Yorkban, az általa létrehozott Rockefeller Alapítvány az oktatási rendszer javítását támogatta. Tanítónő feleségétől öt gyermeke született, az üzletet egyetlen fia, ifjabb John D. Rockefeller vitte tovább. Unokája, Nelson Rockefeller Gerald Ford alatt az Egyesült Államok alelnöke volt, egy másik unokája, Winthrop Arkansas állam kormányzóságáig vitte, dédunokája, Jay Rockefeller a szenátus tagja.
A milliárdost élete utolsó éveiben már csak az a cél vezérelte, hogy megélje századik születésnapját. Három lakóhelyén három orvosa volt, napi huszonnégy órában ápolónők vigyáztak rá. Tudományos alapon összeállított étrendjének nagy részét a világ minden részéről beszerzett vagy saját birtokán termesztett zöldségek tették ki, erőlevesét e célra nevelt bárányból készítették, inni speciális tejterméket ivott. Házai teli voltak különleges orvosi berendezésekkel, s mindig ott időzött, ahol éppen a legjobbnak ítélte a klímát. A végén erőkímélés céljából már kerekes székben közlekedett, vagy karban vitték, az emeletek között lift járt. Napirendje szigorúan kötött volt: hétkor ébredt, kilenckor feküdt le, ugyanabban az időpontban étkezett és pihent.
Az áhított száz évből még kettő hiányzott, amikor 1937. május 23-án, 98 évesen meghalt. A halál hirtelen érte: egy nappal korábban orvosai arról biztosították fiát, hogy apja kiváló állapotban van, így családtagjai közül senki sem állt halálos ágyánál.
Rockefeller alakító részese volt Amerika iparosodásának, láthatta, amint a lovakat felváltják az autók, a szekereket a vasutak és megélhette a repülőgépek megjelenését is. Emlékét nem csak alapítványai őrzik: Walt Disney ? Amerikában szinte ismeretlen ? Dagobert bácsijának riválisát, John D. Rockerduckot a legenda szerint róla mintázták.