Yılmaz Büyükerşen, lisans eğitimini 1962 yılında Eskişehir İktisadi ve Ticari İlimler Akademisi'nde tamamlamıştır. Aynı üniversitede akademik kariyerini sürdürmüş, 1973'te profesör unvanını almıştır. 1976'da Akademi Başkanlığı'na seçilen Büyükerşen, 1970'li yıllarda Eskişehir'de Türkiye'nin ilk Sinema ve Televizyon Yüksek Okulu'nu, ardından Türkiye'nin ilk renkli TV stüdyo ve yayın sistemini kurmuştur. 1982'de Anadolu Üniversitesi Rektörü olarak atanmış, kuruluşu ardından Radyo ve Televizyon Yüksek Kurulu Üyeliği ile iki dönem için Başkanlık görevlerini üstlenmiştir.
“Türkiye İçin Açıköğretim Modeli” projesini 1982'de gerçekleştiren Büyükerşen, 1993'ten itibaren dört yıl süreyle Türkiye Eğitim Gönüllüleri Vakfı'nın Yönetim Kurulu Başkanlığı’nı yapmıştır. 1999 yerel seçimlerinde Eskişehir Büyükşehir Belediye Başkanlığı’na seçilmiştir.