Hadım Süleyman Paşa tarafından 1539'da Osmanlı topraklarına katılan Yemen, aynı yıl Zebid ve Aden'i içine alan salyaneli bir eyalet olarak düzenlendi. 16. yüzyıl sonlarında Zeydi imamlarının başlattığı ayaklanma merkezi denetimi zayıflattı ve 1635'e değin eyalete beylerbeyi atanamadı. Batıdaki toprakların 17. yüzyılın ikinci yarısında İmam Kasım'ın yönetimine girmesinden sonra güneydeki Aden sancağı bir beylerbeylik konumuna getirildi. 19. yüzyıl başlarına değin ulaşım güçlüğü, doğal engeller ve etnik sorunlar yüzünden, Yemen'in salyaneli eyalet düzenine kavuşması sağlanamadı. Mısır valisi Kavalalı Mehmet Ali Paşa 1834'te Yemen'i Mısır'a bağlamak istediyse de başaramadı. Osmanlı hükümeti, eyaleti bir süre el-Ariş şeriflerine bıraktı. Aynı dönemde İngilizler de Aden'i işgal etti.
1849'da yeniden Osmanlı egemenliğine giren Yemen, önce eyalet, arada sancak (mutasarrıflık), 1867'den sonra da 1918'de değin Osmanlı sınırları içinde kaldı.