Henüz iki yaşındayken babasını kaybeden ve öksüz kalan Hz. Müştak; medrese tahsilini görmüş daha sonrada Şems?i Bitlis'in yanında tahsiline devam etmiştir.
Müzik ve şairliğe olan yakınlığı sebebi ile Hacı Hasan Şirvani'nin yanında eğitim görüp mutasavvıf bir şair olarak yetişen Müştak-i Bitlisi, sürekli seyahat etmeyi sevdiğinden şiirlerinde de buna geniş bir yer vermiştir.
Erzurum, Ankara, Ayaş, Bağdat, Hicaz ve İstanbul'a bir kaç defa gidiş geliş yapmıştır. Şiirlerinde birlik, beraberlik ve vatan sevgisini geniş ölçüde işlemiştir. Müştak Hazretleri'nin divanı, baştan başa tasavvufidir. 1847 yılında basılan divanında, her beyit her kıtasında bir rumuz ve işaret vardır.
Keramet sahibi, ~|~gerçek bir veli ve gerçek bir sufi olan Müştak-i Bitlisi 1247 H. 1832. M. yılında İstanbul'dan ayrılarak Bitlis'e dönerken yol uğrağı Muş'a varır. Muş'ta bir kaç gün eğlenir. Ancak orada saltanat süren Alaaddin Paşa Müştek Efendi'yi çekemez, sarayla yakınlığını bildiği ve halka zulüm etmesi nedeniyle durumun saraya iletilebileceği korkusu ve de saltanatının yıkılacağını düşünerek Müştak -i Bitlisi'yi boğdurarak ölümüne neden olur.
Bu nedenle Müştak Hazretleri'nin kabri, Muş il Merkezinde Abdurrahim Yeşilbaş isimli şahsın evinin avlusunta tek mezar olarak bulunur. Mezarın zemininden 30 cm. yükseklikte beton bir sandukası olup kaldelerin etrafı ve üzeri demir kafesle çevrelemiştir.