AZİZ NERSES KİLİSESİ: Rumkale’nin güneyinde yer alan hükümranlık kilisesini 1173’te Şair Aziz Nerses yaptırmıştır. 18. Yüzyılda Rumkale’yi ziyaret eden Richard Peacock bu yapıdan ”Gotik” tarzda küçük ama güzel bir kilise olarak bahsetmiştir.
Doğu-batı doğrultusunda yer alan kilise, dikdörtgen planlı, üç nefli ve üç apsisli bir yapıdadır. Batı tarafında narteks yer alır. Sadece absisin doğu cephesinin bir bölümü toprak üzerindedir. Doğu cephesinin orta kısmında silmeli çerçevenin iki yanında birbirine benzer kabartmalı levhalar bulunmaktadır. Sol levhada haç ve rumi süslemenin olduğu kabartmanın altında başlarını geriye çevirmiş karşılıklı duran iki aslan, sağ levhada ise iki palmet arasında başını sağa çevirmiş, kanatlarını açmış bir kartal kabartması bulunur. Bu kilise İslami dönemde cami olarak kullanılmıştır.