Mutki İlçesi tarih çağları boyunca Asur, Pers, İskender Roma ve Bizans İmparatorluklarının hakimiyetinde bulunmuş, daha sonra Müslüman Araplar tarafından alınmıştır. Daha sonra birkaç defa Müslümanlar ile Bizanslar arasında el değiştiren bu topraklar 1071 Malazgirt Zaferi'nden sonra Anadolu'ya başlayan büyük Türk göçünün ilk durak yerlerinden biri olmuş ve Akkoyunlu, İlhanlılar gibi çeşitli Türk beyliklerinin idaresi altında kalmıştır.1514 Çaldıran Zaferinden sonra Osmanlı Devletinin topraklarına katılmış, Birinci Dünya Savaşı sırasında Ermeni ve Ruslar tarafından işgal edilmiş ve 16 Nisan 1916 yılında işgalden kurtarılmıştır.
İlçemiz 21 Haziran 1867 tarihli Vilayet Talimatnamesiyle (Takvim-i Vekayi 25 Haziran 1867 tarih ve 886 sayılı nüsha) merkezi Erzurum'da olan Erzurum Vilayetinin Muş Sancağının bir alt birimi ( muhtemelen kazası) olarak kurulmuştur. İlçe merkezi önceleri Rabat denilen yerde iken, 1883 yılında Meydan Bucağına bağlı Açıkalan köyüne taşınmıştır. İlçe merkezi 2 yıl bu köyde kaldıktan sonra aynı bucağa bağlı Salman köyüne taşınmış,Salman köyünde 3 yıl kaldıktan sonra tekrar ilk kurulduğu yer olan Açıkalan köyüne alınmıştır. Merkez, 1890 yılında İlçeye bağlı Sekiliyazı köyüne, 1920 yılında da Akıncı köyüne getirilmiştir.