1944 yılında Sivas ili Divriği ilçesi Mursal köyünde dünyaya geldi. 1958 yılında bağlama çalmaya başladı. Bağlamaya ilişkin temel bilgileri köyünde bulunan Abbas ustadan öğrendi. İlk yıllarda başka aşıkların eserlerini ve yöresel türküleri seslendirdi.
1969 yılında ilk plağı olan “Asrı gurbet harab etmiş köyümü” çıktı. Bugüne kadar 103 plak ve 87 kaseti yayınlandı. 2160 eseri bulunmakta ve bunların 550 tanesi başka sanatçılar tarafından seslendirildi.
1969 dan bu yana sadece kendi eserlerini seslendiriyor. Eserlerini hazırlarken genellikle önce şiir olarak yazıp sonra onları besteliyor. Ancak doğaçlamada çalıp söylüyor, 1971 yılında İstanbul Tepebaşında yapılan ve tüm ozanların katıldığı bir atışma yarışmasında birinci seçildi.
Geçim sıkıntısı nedeniyle göç etmek zorunda kalır ve 1973 de Ankaraya yerleşti. Aşık Veysel ve Aşık Mahzuni onu en çok etkileyen aşıklardır. Uzun sap bağlama çalıyor ve bağlamasını hüseyni düzenine akort ediyor.
“Baykuşlara kalan köy” ve “Sorma efendim” adında iki kitabı yayımlandı ve diğer eserlerini de 10 cilt kitap halinde yayınlamayı düşünmektedir.
Memur emeklisi ve 4 çocuk babası olan Ali Kızıltuğ halen Ankara’da ikamet etmekte ve kendisini şöyle özetliyor: “Ne yarimden vazgeçtim, ne sazımdan vazgeçtim, ne de vatanımdan vazgeçtim. Nasıl Mursal’dan geldiysem, o nazlım, sefil, tertemiz bir köylü çocuğu isem şimdide aynıyım…”.