Zeki Toçoğlu, 1955 yılında Adapazarı’nda doğmuştur. İlköğrenimini Serdivan’da, ortaokul ve lise eğitimini ise Adapazarı’nda tamamlamıştır.
Yükseköğrenimini 1980 yılında İstanbul Yüksek İslam Enstitüsü’nde bitiren Toçoğlu, mezuniyetinin ardından eğitim alanında görevler üstlenmiştir. Malatya’nın Hekimhan ilçesinde iki yıl, ardından Adapazarı İmam Hatip Lisesi’nde beş yıl öğretmenlik yapmıştır.
1986-1992 yılları arasında Milli Eğitim Bakanlığı Din Öğretimi Genel Müdürlüğü’nde şef ve şube müdürü olarak görev alan Toçoğlu, kamu yönetimi alanında idari tecrübe kazanmıştır.
1992 yılının sonunda Sakarya Üniversitesi bünyesine geçerek Kütüphane ve Dokümantasyon Daire Başkanlığı görevini üstlenmiş, daha sonra altı yıl boyunca İlahiyat Fakültesi’nde fakülte sekreterliği yapmıştır.
Siyasi kariyerine 1999 yerel seçimlerinde adım atan Toçoğlu, Serdivan Belediye Başkanı seçilmiştir. 2004 yılında yeniden aynı göreve getirilmiş, yerel yönetimdeki başarısı ile dikkat çekmiştir.
2009 ve 2014 yıllarında gerçekleştirilen yerel seçimlerde ise Adalet ve Kalkınma Partisi’nden aday olarak Sakarya Büyükşehir Belediye Başkanı seçilmiştir. Bu süreçte iki dönem boyunca şehrin belediye başkanlığı görevini yürütmüştür.