Üst üste sıralanmış peynir kalıplarını andıran ilginç kaya oluşumları nedeniyle bu adla anılmaktadır. Kuzu Limanı’nın doğusunda bulunan Peynir Kayalıkları’nı karadan görmek mümkün olmadığı için tekne ile denizden görülebilmektedir.
Adanın, görsel şölen sunan bu doğal oluşumlarıyla ilgili, koyun ve keçi sürüleri olan zengin, inatçı, cimri ve yaşlı bir kadınla ilgili bir efsane bile dillendirilmektedir. Paylaşma duygusu gelişmemiş bu yaşlı kadın, kızdırdığı tanrının gazabına uğramış, dondurucu kar, yağmur ve rüzgârlar karşısında yaptığı peynir kalıpları taşa dönüşmüştür.