Ağılbaşı köyüne ilk yerleşenler Tatar Türkleridir. Arşiv kayıtlarında 1853-1856 Osmanlı-Rus Kırım Savaşı'ndan sonra Anadolu'ya göç eden Tatar Türklerinden bazılarının 50 hane ve 200 nüfusun Ağılbaşı Köyüne yerleştirildiği geçmektedir. Köye Kurtuluş Savaşı yıllarında Ermeni Katliamından kaçan bir kısım ailelerde Erzurum ve Sivas dolaylarından gelerek yerleşmiştir. Köyün eski adı Mandıra olup daha sonraki yıllarda Ağılbaşı olarak değiştirilmiştir.