Zeynel Abidin Hazretlerinin Kayseri’ye geliş sebebi; Zeynel Abidin Hazretleri 1349 yılında Medine de doğmuştur. Medine de ki ilim adamlarından maddi ve manevi ilim tahsili edinen Zeynel Abidin Hazretleri 1369 yılında babası Ahmet Şemsettin Efendinin vefat etmesi üzere halkı irşat için birçok memleketleri dolaşmış nihayet Anadolu’ya gelerek 1397 yılında Kayseri’ye yerleşmiştir.
İlhanlılar ve daha sonra gelen beylikler döneminde Bağdat ve Basra’da bazı rufani şeyh ve dervişler Anadolu’ya gelerek Amasya, Tokat ve Kayseri’ye yerleşmişler, tekke ve zaviyeler açarak halka irşatla meşgul olmuşlardır. İşte bu dönemde Kayseri’ye gelen Zeynel Abidin Hazretleri kendisini rufani cemaatinin içinde bulmuştur.
Türbe; Zeynel Abidin Hazretlerinin vefatına müteakip hizmet verdiği rufani tekkesi yakınlarındaki mezarlığı defnedilmiş, ölümünden 127 yıl sonra 1557 yılında üzerine mütevazi bir türbe yapılmış zamanla kıyılan bu türbe, II. Abdülhamit zamanında 1885 tarihinde yeniden yaptırılmıştır.