1969 Nevşehir ili Kozaklı ilçesinde doğan Yılmaz, ilk ve orta öğrenimini orada tamamladıktan sonra 1988 yılında Marmara Üniversitesi Fen-Edebiyat Fakültesi Tarih Bölümünü kazanıp 1993’de mezun oldu. 1991-92 arasında Prof. Dr. Murat Çizakça’nın Osmanlı Tarihinde Bursa Para Vakıfları adlı çalışmasında asistanlık yaptı.

1993 yılında Bilkent Üniversitesi Ekonomi ve Sosyal Bilimler Enstitüsüne bağlı olarak Tarih Bölümü Osmanlı Tarihi Kürsüsü’nde Master programına kabul edilip, 1994 yılında aldığı burs ile araştırma yapmak üzere Oxford Üniversitesi Center for İslamic Studies’e gitti. 1995 yılında halen çalışmakta olduğu fakültenin Yakınçağ Tarihi Anabilim Dalı’nda Araştırma Görevlisi oldu. Aynı Anabilim Dalı’nda doktora yapmaktadır.