1944 yılında Ankara'nın Keskin ilçesinde dünyaya gelen Erdem, babası Ali Bey ve annesi Satı Hanım’ın oğludur. 1967 yılında İstanbul Teknik Üniversitesi’nden İnşaat Yüksek Mühendisi olarak mezun olmuştur. Aynı yıl Devlet Planlama Teşkilatı’nda (DPT) araştırmacı olarak göreve başlamış, 1980 yılına kadar burada araştırmacı ve uzman olarak görev almıştır.
Erdem, yurtdışında da eğitim alarak kendini geliştirmiştir. İngiltere’de Southhampton Üniversitesi’nde Birleşmiş Milletler bursuyla ekonomi masterı yapmış, Fransa’da ise Proje Planlama alanında lisans öğrenimi görmüştür.
1984 yılında ANAP iktidarının desteğiyle Toplu Konut ve Kamu Ortaklığı İdaresi’nin kurulmasına öncülük etmiş ve Başkanlık görevini üstlenmiştir. Aynı yıl Savunma Sanayii Müsteşarlığı’nın kurulmasında da etkin rol oynamış ve müsteşar olarak görev almıştır. Ayrıca Başbakanlık Baş Danışmanlığı yapmıştır.
Kariyerinin ilerleyen yıllarında büyükelçi unvanını da kazanan Erdem, Cumhurbaşkanlığı Genel Sekreter Yardımcılığı, Avrupa Konseyi Sosyal Kalkınma Fonu Yönetim Kurulu üyeliği gibi önemli görevlerde bulunmuş, aynı zamanda THY ve Vakıfbank Yönetim Kurulu Üyeliği yapmıştır. KÖYTEKS ve STM gibi kurumlarda da Yönetim Kurulu Başkanlığı görevini üstlenmiştir.
1999-2002 yılları arasında Türkiye Büyük Millet Meclisi Genel Sekreteri olarak görev almış, bu süreçte parlamenter sistemin işleyişine önemli katkılarda bulunmuştur. 2002 ve 2007 yıllarında AK Parti’den Kırıkkale Milletvekili seçilen Erdem, NATO Parlamenter Asamblesi Türk Grubu Başkanlığı görevini de üstlenmiştir.
Evli ve üç çocuk babası olan Erdem, hem Türkiye’de hem de uluslararası alanda kazandığı deneyimlerle önemli bir devlet adamı olarak tanınmaktadır.