Rockefeller 1839'da New York Eyaleti'nin kırsal kesiminde dünyaya geldi ve yaklaşık bütün bir yüzyıl, 1937 yılına kadar yaşadı. Babası William Rockefeller, kereste ve tuz ticaretiyle uğraşan, sonradan ailesiyle Ohio'ya göç etmiş biriydi. Ohio'ya yerleştikten sonra, ismini "Dr. William Rockefeller"e dönüştürüp bitkisel ve patentli ilaç satımına başladı. Baba Rockefeller sık sık aileyi bırakıp uzun zaman ortadan kayboluyordu. Bazılarının söylediğine göre, Kanada'da ikinci bir eşi ve başka bir ailesi daha vardı.
Oğul Rockefeller'in karakteri ise daha çok küçük yaştan belliydi. Dindar, kafasının dikine giden, sebatlı, çok dikkatli, ayrıntılara önem veren, hesap işlerine -özellikle parayla ilgili olanlara- aklı eren ve meraklı birisiydi. Yedi yaşına geldiğinde, başarıyla sonuçlanan ilk serüvenine yönelmişti bile. Bu hindi satışı işiydi. Daha çok küçükken babası hem ona hem de diğer kardeşlerine ticaret için gereken becerileri öğretmeye koyuldu. Bir söylentiye göre, "çocuklara ticaret öğretiyorum" diye sağda solda övünür, "Onların canına okuyup her fırsatta dayak atıyorum. Onları adam etmek istiyorum" derdi. Ortaokuldayken genç Rockefeller'in en başarılı olduğu ders matematikti. Okul idaresi zihin aritmetiğine yani toplayıp çıkarmayı akıldan çabucak yapma yeteneğine, öncelikle önem veriyordu. Bu konuda ise Rockefeller en önde geliyor, rakip tanımıyordu. "Büyük bir şeyleri" yapabilmek dileğiyle Rockefeller onaltı yaşındayken bir sevkıyat firma sında çalışmak üzere Cleveland'a gitti. 1859 yılında kendi işini kurup ticaret yapmak için Maurice Clark'la ortak oldu. İç Savaş nedeni ile ve Batı'nın iskana açılışından dolayı o günlerde "talep" artmıştı. Rockefeller firması bu durumdan yararlanarak refah yolunda ilerlemeye başladı. Daha sonraki günlerde bir gün Maurice Clark, deneyimlerine dayanarak, Rockefeller'in "son derece metotlu bir insan" olduğunu söyleyecektir. Rockefeller'in "kendi kendine konuşmak" gibi bir huyu vardı. Kendi kendine konuşur, kendine danışır, dualar okur, tuzağa düşmemesi için kendi kendini uyarırdı. Pratik olduğu kadar da dürüst bir insandı. Firma büyüdükçe Rockefeller bu huyuna giderek daha fazla sarıldı. Firma Ohio'da buğday, Michigan tuzu ve lllinois domuz eti ticareti yapıyordu. Albay Drake'in keşfinden sonraki iki yıl içinde, artık Clark ve Rockefeller firması da, diğerleri gibi Pennsylvania petrol işine girişmiş ve bu işten para kazanır duruma gelmişti. 1863 yılında Cleveland'a yeni bir demiryolu hattı bağlanmıştı. Bu bağlantı nedeniyle kentte yaşayan iş sahipleri hayallerini bir kez daha petrol konusuna ve çabucak zengin olma öykülerine yöneltmişti. Cleveland'a giden demiryolu rayları boyunca her bir istasyonda yeni rafineriter açılıyordu. Rafinerilerden birçoğu sermaye yönünden çok çaresiz durumda olduğu halde, bir tek rafineri bunlardan farklıydı. Bu Rockefeller ve Clark'ın sahip oldukları rafineriyde Başlangıçta Rockefeller rafineri işinin üretim işinde sadece yeni bir yan iş olacağını düşündüyse de, bir sene için de rafinerinin kar getirdiğini görerek bu fikrini değiştirdi. Günler geçiyor ve takvimler 1865 yılını gösteriyordu. Açık arttırma işi çoktan geride kalmış ve Rockefeller Clark'ı saf dışı etmişti. Artık orta derecede varlıklı genç bir adamdı ve Cleveland'daki otuz rafinerinin en büyüğünün sahibi, tek hakimi ve efendisiydi.