Karaköy'de Tünel girişinden meydan yönünde ikinci sokak olan Perçemli sokakta bulunan bu sinagogun 1671'den beri mevcut olduğu ifade edilir. Bulunduğu sokağın eski adı Zülf-ü arus’un halk arasında kısaltılmış şekli olan Zülfaris unvanı ile anılan, ancak Hahambaşılık kayıtlarında yalnızca Kal Kadoş Galata olarak belirtilen bu sinagogun bugünkü binası 1823 yılında inşa edilmiştir. Zülf-ü arus, Osmanlıca sözlüğe göre, gelin perçemi anlamına gelmektedir. Sayısız düğüne ve dolayısıyla geline tanık olan bu sokağın ismi daha sonra Perçemli olarak değiştirildi. 1890'da Banker Kamondo ailesinin yardımı ile tamir edilen sinagogun 1904 yılı başında Yahudi olan ve olmayan ziyaretçilere mahcup olmamak için iç ve dış restorasyonu kararlaştırıldı.
Sayısız sevinçli ve acıklı törene sahne olan Zülfaris'in tarihinde anlamlı anlardan biri, Ağustos 1856'da Kırım Savaşı'nda Rusya'ya karşı Osmanlı yanında yer alan Fransız ordusunda şehit düşen Yahudi askerler anısına düzenlenen ve Kurmay Albay Garbi Bey komutasında bir askeri müfrezenin de hazır bulunduğu anma törenidir.
Bir diğer tarihi ani, 24 Ocak 1909 günü 86 delegenin Zülfaris'te toplanarak Meşrutiyet'in ilanı ile beraber makamından istifa eden Hahambaşı Kaymakamı Moşe Levi'nin yerine ilk kez bir Hahambaşı seçimidir.
1962 Aralık ayında tekrar bir tamirat geçiren ve 1985 yılında, cemaat azlığından, hizmete kapatılan sinagog 1992 kutlama etkinlikleri programı dâhilinde 500. Yıl Vakfı tarafından, bütünlüğü aynen korunarak, Türk Musevileri Müzesi olarak düzenlendi ve 25 Kasım 2001 tarihinde açılışı yapılarak hizmete girdi.