Hadaramut'tan Endülüs'e göç eden bir ailenin üyesi olan İbn-i Haldun, yine İspanyolların baskıları ile Hicri 7. Yüzyıl'da Tunus'a gelip yerleşen ailede 1332 yılında dünyaya gelmiştir. Haldun ailesi Yemen'de olduğu gibi Endülüs'te ve Tunus'ta pek çok önemli insan yetiştirmişse de, bunların içinde Ebu Zeyd Abdurrahman bin Muhammed bin Haldun Hadaramî (Abdürrahman bini Haldun) kadar kalıcı bir ün ve eser sahibi olan yoktur.
Bilginin ilk eğitimi, yaşadığı çevrenin geleneklerine uygun olarak Kur'an dersleri ile başlamıştır. Tunus'ta Ebû Abdullah Muhammed bin Said bin El-Ensârî'den ders aldığını, Kıraat-i Seb'a da başarı gösterdiğini, yirmi bir defa bu gayretle Kur'an hatmettiğini kendi sözlerinden öğreniyoruz. Kur'an tahsilinden sonra fıkıh ve hukuk derslerine başlayan İbn-i Haldun, İslâm âleminde meşhur El-Tefassî, El-Muvatta, El-Teshil, El-Muhtasar adlı ve pek çok fakih ve hukukçu tarafından yazılmış eserleri incelemiş, kendisinin kullandığı kelimelerle "ezberlememiş, sadece anlayarak okumuş"tur.
Cezayir hâkimi Ebûl-Hasan'ın 748 H. tarihinde Tunus'a uğraması, genç bilginin hayatında yeni bir dönemin başlangıcı sayılabilecek derecede önemlidir: Ebû-l-Hasan'ın yanında birçok bilginler, hocalar, fıkıhçılar bulunmaktadır. Ebû-l-Hasan'ın başkâtibi Ebû Muhammed Abdülmüheymin El Hadarami'nin öğrencisi oldu, onun gözetiminde ve rehberliğinde birçok eser okudu.