Ayhan Yılmaz, Ünersiteye kadar öğrenimini Gaziantep'te tamamladı. Ankara Üniversitesi Ticari İlimler Bölümü’nü bırakarak 1984 yılında Gaziantep'te tarım ürünleri ve yem sanayi ticaretine başladı. Yılmaz bu işe 2004 yılında Belediye Başkanı olana kadar devam etti. Ayhan Yılaz evli ve 3 çocuk babası. 2019'da yapılacak olan yerel seçimlerde AK Parti Kilis Musabeyli Belediye Başkan Adayı oldu.