Yılmaz Büyükerşen, 1 Temmuz 1937’de Eskişehir’de doğdu. Eğitimini 1962 yılında Eskişehir İktisadi ve Ticari İlimler Akademisi’nde tamamlayarak okulun ilk mezunları arasında yer aldı. Öğrencilik yıllarında gazetecilikle ilgilendi; muhabirlikten yazarlığa, karikatüristlikten yazı işleri müdürlüğüne kadar farklı görevler üstlendi. Aynı dönemde arkadaşlarıyla birlikte kurduğu tiyatro girişimleri, şehrin kültür hayatına önemli katkılar sağladı.
Akademik kariyerine mezuniyetinin hemen ardından aynı kurumda asistan olarak başlayan Büyükerşen, 1966’da doktor, 1968’de doçent unvanını aldı. Aynı yıl akademi başkan yardımcılığı görevine getirildi ve 1973’te profesör oldu. 1976’da akademi başkanı seçilen Büyükerşen, 1980’de yapılan seçimlerde bu görevini sürdürdü.
1982’de yükseköğretim sisteminde yapılan düzenlemeler sonrasında Anadolu Üniversitesi rektörlüğüne atanan Büyükerşen, 1987’de ikinci kez aynı göreve getirildi. Ayrıca Radyo ve Televizyon Yüksek Kurulu üyeliği ve başkanlığı yaptı. 1992’de yeniden rektör olarak atansa da, mevzuat değişikliği nedeniyle görev süresi sona erdi.
Siyasete atılan Büyükerşen, 1999 Türkiye yerel seçimleri’nde oyların %44’ünü alarak Eskişehir Büyükşehir Belediye Başkanı seçildi. Sonraki seçimlerde de halkın desteğini koruyarak 2004, 2009, 2014 ve 2019 yıllarında yeniden başkanlığa seçildi ve uzun süreli görev yapan yerel yöneticilerden biri oldu.
Belediye başkanlığı döneminde Eskişehir’in çehresini değiştiren projelere imza attı. Kent içi raylı sistemin kurulması, Porsuk Çayı’nın temizlenip çevresinin düzenlenmesi, köprülerin yenilenmesi ve geniş yeşil alanların oluşturulması bu çalışmalar arasında yer aldı. Ayrıca senfoni orkestrası, şehir tiyatroları, müzeler, kültür merkezleri ve bilim odaklı tesisler gibi pek çok projeyi hayata geçirerek kentin kültürel ve sosyal yapısını güçlendirdi. Özellikle Yılmaz Büyükerşen Balmumu Heykeller Müzesi Türkiye’deki özgün müze örneklerinden biri olarak öne çıktı.
Evli olan Yılmaz Büyükerşen, iki çocuk ve iki torun sahibidir. Uzun yıllara yayılan akademik ve idari kariyeriyle, hem eğitim hem de yerel yönetim alanında önemli izler bırakmıştır.