1936 yılında Eskişehir'de dünyaya geldi. 1962 yılında Eskişehir İktisadi ve Ticari İlimler Akademisinin ilk mezunları arasında yer aldı. Öğrencilik yıllarında çeşitli gazetelerde muhabirlik, yazarlık, karikatüristlik ve yazı işleri müdürlüğü yaptı. Öğrenci arkadaşları ile birlikte kan satarak elde edilen sermaye ile Oda tiyatrosunun ve onu takiben Belediye tiyatrosunun kuruluşunu sağladı. Mezuniyetini takiben aynı yıl Akademinin Maliye Kürsüsüne asistan oldu.
1966 yılında Doktor, 1968 yılında Doçent oldu. Aynı yıl Akademi Başkan Yardımcılığına getirilen BÜYÜKERŞEN, 1973 yılında Profesörlüğe yükseltildi. 1976 yılında Eskişehir İktisadi ve İdari İlimler Akademisi Başkanlığına seçildi. Başkanlık süresinin bitimi olan 1980 yılında yapılan seçimlerde yeniden Akademi Başkanlığına getirildi.
Radyo ve Televizyonun eğitim ve kültür hayatında kullanılması için yaptığı çalışmalarla Ankara'daki TRT yayınlarının İstanbul'dan sonra ikinci il olarak Eskişehir'den izlenmesi için önce Akademi'de TV verici istasyonu ile siyah-beyaz eğitim stüdyolarını, daha sonra da Türkiye'de ilk renkli TV sistemini Eskişehir'de kurdu.
1971'de İletişim Teknolojisinin eğitimde kullanılmasına ve Uzaktan Öğretim ile buna ilişkin, yöntemlerin Açıköğretim Modeli şeklinde, Türk Eğitim sisteminde yer almasına ilişkin olarak başlattığı çalışmalar ve 1973 yılında Eğitimin yaygınlaştırılması amacıyla hazırladığı "Türkiye için Açıköğretim Modeli" projesi YÖK Kanunu ve 41 sayılı Kanun Hükmündeki Kararname ile Açıköğretim Fakültesi olarak ülke çapında ve Batı Avrupa'nın 6 ülkesi ile Kuzey Kıbrıs'taki Türkler için uygulamaya konuldu.
1982 yılında Yükseköğretim Kanunu ile üniversitelerin yeniden düzenlenmesini takiben, Cumhurbaşkanı tarafından Anadolu Üniversitesi Rektörlüğüne getirilen Prof. Dr. Yılmaz BÜYÜKERŞEN, döneminin bitiminde 1987 yılında tekrar ikinci kez Cumhurbaşkanı tarafından Rektörlüğe atandı. Bu görevin yanı sıra, "Radyo ve Televizyon Yüksek Kurulu" üyeliği ve kurulun 2 dönem Başkanlığını yaptı daha sonra, 1993 yılında Yüksek Kurul yerine RTÜK Kanunun çıkarılması ile görevinden ayrıldı.
Akademi Başkanlığı sırasında, öğrencilerin kültürel donanımları için kurduğu atölye, stüdyo ve klüplerde, heykel, grafik, resim, müzik, folklor, film ve fotoğraf çalışmalarına bizzat katılan ve yöneten Yılmaz BÜYÜKERŞEN, Türkiye'nin ilk "Sinema ve televizyon Okulu"nun kuruluşunu da Eskişehir'de gerçekleştirdi.
Akademi Başkanlığı sırasında başlattığı kültür ve sanat çalışmalarını Rektör olunca "Uygulamalı Güzel Sanatlar Yüksek Okulu" (daha sonra fakülte), "İletişim Bilimleri Fakültesi", "Devlet Konservatuarı" ve "Edebiyat Fakültesi" adı altında kurumlaştırdı.
BÜYÜKERŞEN'in tasarısına ve tercihine göre şekillenen Anadolu Üniversitesi Kampüsü'ndeki tesislerde birisi büyük operalara elverişli olmak üzere, değişik büyüklükte 7 adet sahneli salon, 3 adet sergi galerisi bulunmaktadır.
Üniversite kampüsünün peyzaj mimarisine de önem veren BÜYÜKERŞEN, aynı zamanda bizzat heykel sanatı ile uğraşmaktadır. Atatürk'ün doğumunun 100. yılının kutlandığı 1981 yılında Eskişehir'in 100 köyüne hediye ettiği büstler ile Mihallıççık, Mahmudiye, Seyitgazi ilçeleri ile Gemlik'in Karacaali ve Kapaklı köylerindeki Atatürk heykelleri BÜYÜKERŞEN'in imzasını taşımaktadır.
1992 yılında yapılan Rektörlük seçiminde en yüksek oyu alması sonucu tekrar Cumhurbaşkanı tarafından Rektörlüğe atanan Prof. Dr. Yılmaz BÜYÜKERŞEN'in bu görevi, YÖK kanununa ilave edilen "iki dönemden fazla rektörlük yapılamaz" hükmü nedeniyle sona erdirildi.
Akademi Başkanlığı ile Rektörlüğü sırasında çeşitli eğitim, araştırma ve yayın kurumlarının kuruluşunu sağlayan, Anadolu Üniversitesini, bünyesinden 3 yeni üniversite çıkacak kadar büyüten, çeşitli kitap ve makaleleri olan ve 1993 yılından sonra Anadolu Uzaktan Öğretim Anabilim Dalı Başkanlığının yanı sıra İletişim Bilimleri Enstitüsü Müdürlüğü görevinde de bulunan BÜYÜKERŞEN, kurucuları arasında yer aldığı "Türkiye Eğitim Gönüllüleri Vakfı"nın Yönetim Kurulu Başkanlığı yapmış olup, bütün Türkiye'de "Çağdaş Halkevleri ve Köy Enstitüleri Modeli" diye nitelendirilen "Eğitim Parkları" ve "Semt Eğitim Birimleri"nin kuruluş çalışmalarını sürdürmüştür.
18 Nisan 1999 seçimlerinde, oyların %44'ünü alarak, DSP listesinden Eskişehir Büyükşehir Belediye Başkanlığına seçilen BÜYÜKERŞEN, aynı zamanda Avrupa komisyonu Yerel ve Bölgesel yönetimler kongresi Türk Delegasyonu Başkanlığına getirildi ve 2004 yılına kadar bu görevini sürdürdü.
Büyükşehir Belediye Başkanı olarak Eskişehir'de "Kentsel Gelişim Projeleri" paketini uygulamaya koyan BÜYÜKERŞEN, Porsuk Çayı'nın sulama kanallarının ıslahı ile içinde botlarla ulaşımın başlatılması, taşıt ve yaya köprülerinin yenilenerek afet riskinin azaltılması, kentiçi ulaşımında Hafif Raylı Sistemin kurulması, tarihi Odunpazarı Evlerinin yeniden düzenlenmesi ve restorasyonunu, Kalabak İçme Suyunu 45 km'lik isale hattı ve depolarının modernize edilip, şişeleme fabrikası kurularak yurtiçi ve yurtdışı satışı, Kapalı Pazar Marketlerin başlatılması, Büyük Park ve Kent Parklarının yapılıp, şehrin heykellerle donatılması, Beton Malzeme Üretim Fabrikası ile Akıllı Kartla Su Sayaçları Üretim Tesisleri, Ekmek Fabrikası ve çeşitli konularda mal ve hizmet üretimi yapan Belediye Şirketlerinin, kadınlar ve çocuklar için beceri kursları veren eğitim merkezlerinin kurulması gibi hizmetleri gerçekleştirilmiştir.
Bunların yanısıra, Haller Gençlik Merkezini, Şehir Tiyatrolarını, Belediye Senfoni Orkestrasını kurup, Opera ve Tiyatro Binalarını gerçekleştiren BÜYÜKERŞEN, kente hizmetleri ile ilgili çeşitli ödüller almıştır.
28 Mart 2004 yerel seçimlerinde yine DSP adayı olarak oyların %45'ini alarak ikinci kez Büyükşehir Belediye Başkanlığına seçilen Prof. Dr. Yılmaz BÜYÜKERŞEN evli ve iki çocuk, bir torun sahibidir.