Kars’a gelen vatandaşların ilk ziyaret ettikleri yerlerden birisi olan Kars Kalesi içerisinde bulunan Celal Baba Türbesi’nin camları kırılmış, kapısı açık bir şekilde kaderine terk edilmiş vaziyette bulunuyor. 

Önceki dönemlerde içerisinde hocası ve bekçisi bulunan Celal baba Türbesi, günümüzde kaderine terk edilmiş, kapısı açık, kırılan camları bezlerle kapatılmış türbe, ziyaretçilerini üzüyor. 

Türbenin sahipsiz kaldığını ifade eden vatandaşlar, “Geçmişte burada bir hoca, bir de kalenin bekçisi vardı. Ancak şuanda ne bekçi ne de hoca var. Celal Baba Türbesi’ni ziyaret ettik. Kuranımızı okuduk, duamızı ettik. Eskiden türbenin hocası kuran okurdu. Bizlere Celal babayı anlatırdı. Şimdi camları kırılmış, kapısı açık bir şekilde bırakılmış” dediler. 
 Kars Kaleiçi Mahallesi Kars Kalesi ‘nin içerisinde kalenin güneyindeki giriş kapısının arka kısmında bulunana ve 12. Yüzyılda Kıpçak-Gürcü istilasında şehit düştüğü söylenen ve kalenin manevi sahibi sayılan Celal Baba’nın mezarı çini kubbeli iken , 1878 yılından sonra Rus istilacıları tarafından tahrip edilmiş. 1579 yılından sonra Lala Mustafa Paşa tarafından onarılan türbenin üzerindeki levha da, ‘Kahraman Celal Baba burada yatar M . 1239’ yazısı bulunuyor. 

Kars Kalesi’ni ziyaret edenlerin ilk uğrak yeri olan türbe, her gün yüzlerce vatandaş tarafından ziyaret ediliyor. Kaleyi gelen vatandaşlar önce türbeyi ziyaret ediyor, ardından da kaleyi geziyor.