Burdurun Gölhisar ilçesinde 1970 yılında doğan Kanyılmaz, ilk, orta ve lise öğrenimini Zonguldak İli Karadeniz Ereğli'de tamamladı.
1993 yılında Selçuk Üniversitesi iktisadi ve İdari Bilimler Fakültesi Kamu Yönetimi Bölümünden mezun olan Kanyılmaz, 1996 - 2000 yılları arasında Kilis Valiliği'nde İl Planlama Uzman Yardımcısı olarak görev yaparken, 2000 yılında Mülki İdare Amirliği görevine başlamış olup, sırasıyla; Yozgat/Çandır, Tunceli/Pülümür, Yozgat/Şefaatli, Şanlıurfa/Viranşehir, Kahramanmaraş/Pazarcık ilçelerinde Kaymakamlık görevlerinde bulundu.
Şanlıurfa Vali Yardımcısı, Saruhanlı Kaymakamı, Şebinkarahisar Kaymakamı ve son olarak Kütahya/Tavşanlı Kaymakamı olarak da görev yapan Erdoğan Kanyılmaz, evli ve 2 çocuk babası.