Romalılar Yemen’i “Arabia Felix”[3] diye isimlendirdiler. Yemen, gerçekten de Arap Yarımadası’nın yerleşime, tarıma ve hayvancılığa en uygun bölgesiydi. Bu yüzden yarımadadaki ilk yerleşim, ilk krallık, ilk medeniyet Yemen merkezli tezahür etti.
İbrahim ve İsmail peygamberlerin inşa ettiği Kâbe’nin çevresinde yerleşen Cürhümlüler Yemen’den göç ederek Zemzem suyunun etrafında yurt tutan bir kabileydi. Peygamber’in doğumundan kısa bir süre önce Kâbe’yi yıkarak Arap Yarımadası’na Hristiyanlığı hâkim kılmak isteyen, ancak kendisi ve fillerle desteklediği ordusu “Ebabil” kuşlarının saldırısıyla telef olan Ebrehe, Yemen hâkimiydi.
Yemen’de uzunca bir süre Hristiyanlık, bir dönem Yahudilik hâkim olmuşsa da İslam’ın yayıldığı yedinci yüzyıla kadar putperestlik de yaşamaya devam etti. Din, özgürlüğüne düşkün kabileleri bir arada tutmanın, ülkeyi tek yönetim altında toplamanın en etkili aracıydı. İslam hâkimiyeti altındaki Yemen’de zaman içinde kırsal kuzeyde Zeydî Şiilik, şehirleşmiş güneyde Sünnilik toplumsal taban buldu.