Yılmaz Büyükerşen, 8 Kasım 1937'de Eskişehir'de doğdu. Atatürk Lisesi'nde tahsil gördü. 1962 senesinde Eskişehir İktisadi ve Ticari İlimler Akademisi'nden mezun oldu. 1968'de doçent, 1973'de de profesörlüğe yükseldi. 1976 yılında da mezun olduğu akademinin başkanlığına seçildi. 1982 senesinde de Anadolu Üniversitesi'nin rektörlüğüne tayin edildi. Bununla beraber Türkiye'nin ilk Sinema ve Televizyon Okulu'nun oluşturulmasına öncülük etti. Ayrıca Eskişehir'de ikinci üniversitesinin kurulmasında da büyük rol oynadı.
Yılmaz Büyükerşen, 18 Nisan 1999 tarihinde yapılan seçimlerde Demokratik Sol Parti'den (DSP) Eskişehir büyükşehir belediye başkanı oldu. 2004-2009 seçimlerinde de yeniden aynı göreve geldi. 27 Ocak 2011'de de istifa etmesini isteyen DSP yönetiminin talebine uyarak partiden istifa etti. Ardından 27 Şubat 2011'de Cumhuriyet Halk Partisi'ne (CHP) katıldı.
2004'te de DSP eski Genel Başkanı Bülent Ecevit tarafından yapılan genel başkanlık teklifini geri çevirdi. Öte yandan Ayhan Şahenk Vakfı'nda yönetim kurulu üyeliği de yapan Büyükerşen, aynı zamanda Kanal D'nin kurucularındandır.
Yılmaz Büyükerşen, güzel sanatlara olan yatkınlığını rektörlüğü döneminde üniversitelere açtığı bölümler ve özel yaşamında yaptığı balmumu heykellerde göstermiştir. Belediye başkanlığı döneminde ise Eskişehir'e koyduğu heykeller ile sanata ilgisini belli etmiştir. Ancak bu heykeller zaman zaman halkın tepkisini çekmiştir. Öte yandan Büyükerşen, 19 Mayıs 2013 tarihinde kendi adını taşıyan Türkiye'nin ilk balmumu heykel müzesini açmıştır.