Yemen'in Havlân kabilesindendir. Künyesiyle meşhur olup kendisinin ve babasının adı hususunda ihtilâf edilmiştir. Bazı kaynaklarda Muâviye devrinde (661-680) müslüman olduğu kaydedilmekteyse de (Buhârî, V, 59) Hz. Peygamber zamanında, hatta bir rivayete göre Şevval 8'de (Şubat 630) müslüman olmuştur. Yemen'den Medine'ye giderken Resûl-i Ekrem'in vefat ettiğini öğrendi. Onu göremediği için tâbiîlerin arasında yer aldı. Hz. Ebû Bekir devrinde Medine'ye yerleşti. Hemen bütün kaynaklarda Ebû Müslim'in Yemen'den ayrılış sebebiyle ilgili olarak kaydedilen rivayete göre San'a'da peygamberliğini ilân eden Esved el-Ansî, Ebû Müslim'i saflarına alarak onun itibarından faydalanmak istemiş, Ebû Müslim'in bunu reddetmesi üzerine büyük bir ateş yaktırarak onu içine attırmış, ancak ateşin Ebû Müslim'e tesir etmediğini görünce etrafındakilerin tavsiyesine uyarak onu Yemen'i terketmeye zorlamıştır. Bu olay hakkında geniş bilgi veren bazı kaynaklarda, Ebû Müslim'i Mescid-i Nebevî'de gören Hz. Ömer'in onunla ilgilendiği, Yemen'deki olaylar hakkında bilgi aldıktan sonra kendisinin Ebû Müslim olduğunu tahmin ettiği ve onu kucaklayıp ağladığı, Halife Hz. Ebû Bekir'in de kendisini tanımaktan memnuniyet duyduğu zikredilmektedir. Ebû Müslim el-Havlânî, daha sonra Dımaşk yakınlarındaki Dâriyyâ köyüne yerleştiği için Şamlılar'dan sayılmakta, özellikle onların güzel Kur'an okuyanlarından biri olduğu söylenmektedir. Hz. Ömer, Muâz b. Cebel, Ebû Ubeyde b. Cerrâh, Ebû Zer el-Gıfârî, Ubâde b. Sâmit, Avf b. Mâlik ve Muâviye b. Ebû Süfyân'dan hadis rivayet etmiş, kendisinden de amcazadesi Ebû İdrîs el-Havlânî, Cübeyr b. Nüfeyr, Ebü'l-Âliye er-Riyâhî, Atâ b. Ebû Rebâh gibi tâbiî âlimleri rivayette bulunmuşlardır. İbn Sa'd, Yahyâ b. Maîn ve İclî onun sika* olduğunu söylemektedirler. Fakat Ebû Müslim'in, Muâz b. Cebel'e sevgisini ifade ettiğine dair el-Müsned'de bulunan bir hadisten başka muteber hadis kitaplarında rivayetleri yer almamıştır.
Sıffîn Vak'ası'nda Muâviye tarafında yer alan Ebû Müslim Bizanslılar'la yapılan çeşitli savaşlara katıldı. Onun bu savaşlarda bizzat bulunması İslâm askerlerine cesaret verdiğinden kumandanlar kendisini öncü kuvvetlere emîr tayin ederlerdi. Bizanslılar'la yapılan savaşların birinde şehid oldu. Dâriyyâ'da ona nisbet edilen ve halkın ziyaretgâhı olan bir mezar bulunduğu kaynaklarda zikredilmektedir.
Tâbiîn neslinin meşhur sekiz zâhidinden biri olan Ebû Müslim, sıkıntı çektirilmeyen nefsin Allah'ın huzurunda sahibinden şikâyetçi, ibadetlerle yorulan nefsin ise hoşnut olacağını, nitekim semiz atların yarışta zorlandığını, idmanlı atların ise daha iyi koştuğunu söylerdi. İbadet ettiği yere bir kamçı asmıştı; canı ibadet etmek istemediği zaman bacaklarına bir iki kamçı vururdu. Dünyaya değer vermezdi. Bir gün mescidde toplanmış bir cemaat gördü; zikirle meşgul olduklarını sanarak yanlarına oturdu. Dinle ilgisi olmayan konulardan bahsettiklerini öğrenince onlara şöyle dedi: "Sizin yanınızda benim halim neye benziyor biliyor musunuz? Sağanağa tutulan adam etrafta sığınacak yer ararken bir kapı görür ve hemen içeri dalar. Bir de bakar ki binanın tavanı yoktur." Kaynaklarda, duasının ve bedduasının makbul olduğuna dair birçok olay ve kendisine nisbet edilen pek çok keramet zikredilmektedir.
Devlet adamlarının karşısına çıkıp onları uyarmaktan çekinmezdi. Birkaç defa ikaz ettiği Muâviye'ye bir defasında "ey ecîr" (işçi) diye hitap etti. Yanındakilerin "ey emîr" demesi gerektiğini söylemeleri üzerine Muâviye onun konuşmasını istedi. Ebû Müslim de ona öğüt verdi ve âdil olmasını tavsiye etti. Medine'de bulunduğu sırada Hz. Osman'ın aleyhinde konuşan birini duyunca Medineliler'e Semûd kavminden daha kötü olduklarını, çünkü Semûd kavminin Allah'ın devesini, kendilerinin ise Allah'ın halifesini öldürdüklerini söylemişti.
Ümmetin hakîmi diye de anılan Ebû Müslim'in pek çok hikmetli sözünden biri şöyledir: "Yeryüzündeki âlimler gökyüzündeki yıldızlara benzer. Ortaya çıkarlarsa halk onlara bakarak gideceği yönü bulur; ortaya çıkmazlarsa şaşırıp kalır. Sâlih kişiler de yoldaki işaretlere benzer; âhiret yolcusu onlar sayesinde şaşırmadan yoluna devam eder."
Kaynak: Türkiye Diyanet Vakfı İslam Ansiklopedisi