Ali Küçük Çumra'nın Apa köyünde dünyaya geldi.
İlk öğrenimini memleketinde tamamlayan Küçük, daha sonra Konya İmam-Hatip okuluna kaydoldu. Buradaki eğitimini 1972 senesinde bitirdi ve üç sene Çumra Merkez Kur'an Kursu'nda Kur'an Kursu öğretmenliği yaptı.
Buradaki vazifesinden sonra Selçuk Üniversitesi'nde eğitimini sürdüren Küçük, Sosyal Bilimler Bölümü'nden mezun oldu ve aynı üniversitenin İlahiyat Fakültesi'ni de bitirdi.
6 sene kadar Avrupa'da din görevlisi olarak çalıştı.
Türkiye'ye döndükten sonra Konya'da pek çok vakıf, dernek ve sosyal gönüllü kuruluşlar bünyesinde çalışmalarını devam ettirdi.
Bu arada sürekli Kur'an ve sünnet öğrenme ve öğretme çabası içinde oldu.
İnsanlığın Allah'ın indirdiklerine uyduğu takdirde sıkıntılardan kurtulacağına kesin inancı, Konya'da ve Türkiye'nin birçok şehrinde yaptığı dersler neticesinde toplumun vahiyden çok uzak olduğunu görmesi, kendilerine vahiy ulaştırdığı insanlardan aldığı, "Kur'an'ı ve Kur'an üzerine yazılmış eserleri anlayamıyoruz" şeklindeki ifadeleri, Ali Küçük Hoca’yı Kur'an tefsiri yazmaya şevk etti.
Allah'ın yardımıyla her kesimin, ilkokul seviyesinde öğrenim görmüş Müslümanların dahi zorlanmadan anlayabileceği bir tefsir yazmayı gerçekleştirdi.
Türkiye'nin hemen hemen bütün dindar radyolarında, tefsir ve hadis dersleri yayınlanmaktadır. Ribat, İlk Adım dergileri ve Vahdet gazetesinde de yazıları yayınlandı. İyi derecede Almanca, Fransızca, Arapça bilen Ali Küçük Hoca, evli ve 6 çocuk babasıdır.
Ali Küçük hoca, 6 Kasım 2017 tarihinde irtihal etti.