I. İmadeddin Zengi'nin doğum yeri ve tarihi kesin olarak bilinmemektedir. 1123 yılında askeri bir merkez olan Vasit'in yöneticiliğine atandı. 1127'de Musul valiliğine getirildi. Selçuklu sultanı II. Mahmud'un oğulları Alp Arslan ve Ferrurşah'ın eğitilmesi görevini üstlendiğinden kendisine atabeylik ünvanı verildi.
Basra valisiyken Abbasi halifesinin ayaklanmasını bastırdığı için Selçuklu hükümdarı II. Mahmud tarafından 1127'de Musul, 1128'de Halep atabeyliklerine tayin edildi. Bu dönemde Bağdat üzerine akınlar yaptıysa da başarılı olamadı.
1137'de Haçlıların kontrolü altında bulunan Bar'rin Kalesi'ni ele geçirdi. Daha sonra Suriye'ye sefere çıkan Bizans İmparatoru II. İoannes'in ordusunu izleyerek büyük baskınlar gerçekleştirdi. Ekim 1139'da Şam'ı kuşattı. Şehrin bölgedeki Haçlılardan yardım istemesi üzerine kuşatmayı kaldırarak Musul'a döndü.
Kuzey Irak'ta egemenliğini sağlamlaştıran İmameddin Zengi, Selçuklu Sultanı I. Mesud ile olası bir savaş tehlikesini kendisine bağlılığını bildirerek önledi. 1144 yılında Urfa'yı alarak buradaki Haçlı hakimiyetine son verdi.
Daha sonra Caber Kalesi'ni kuşattığı sırada Yarenkeş isimli Frank kökenli hadım bir köle tarafından öldürüldü. İmameddin Zengi, Suriye ve Irak'ta bağımsız bir yönetim kurmuş, Haçlılara karşı Müslümanları örgütlemiştir. Ölümünün ardından yerine Musul'da büyük oğlu I. Seyfeddin Gazi, Halep'te ise küçük oğlu Nureddin Mahmud geçmiştir.