23 Mayıs 1967'de Bayburt'ta doğdu. Dokuz Eylül Üniversitesi İktisadi ve İdari Bilimler Fakültesi İşletme Bölümünü bitirdi. İstanbul Üniversitesi Muhasebe Enstitüsünü Denetim Uzmanı olarak bitirdikten sonra, Hastings College'ta İşletmecilik üzerine eğitim gördü. Marmara Üniversitesi Bankacılık ve Sigortacılık Enstitüsünde yüksek lisansını ve doktorasını tamamladı.
Esbank TAŞ'de Müfettiş Yardımcısı, Müfettiş, Şube Müdürü ve Genel Müdür Yardımcısı olarak görev yaptıktan sonra Türkiye Halk Bankası A.Ş.'de Genel Müdür Yardımcısı olarak görev aldı.
1 Kasım 2015 genel seçimlerinde 26. Dönem AK Parti Bayburt Milletvekili olarak seçilen Kavcıoğlu, bu görevi süresince TBMM Plan ve Bütçe Komisyonu Üyesi ve Parlamentolar Arası Birlik (PAB) Türk Grubu Üyesi olarak çalışmalarda bulundu. Kavcıoğlu, Ağustos 2018’den sonra T.VakıfBank T.A.O. Yönetim Kurulu Başkan Vekilliği ve T.VakıfBank T.A.O. iştiraklerinden Vakıf Gayrimenkul Yatırım Ortaklığı’nda Yönetim Kurulu Başkanlığı görevlerinde bulunmuştur.
20 Mart 2021 tarihinde Naci Ağbal görevinden alınıp, yerine Kavcıoğlu Merkez Bankası Başkanı olarak atanmıştır. Görevden alma ve atama 375 sayılı Kanun Hükmünde Kararnamenin ek 35'inci maddesi ile 3 sayılı Cumhurbaşkanlığı Kararnamesi'nin 2'inci maddesi kapsamında gerçekleştirilmiştir.