Taksim Sıraselviler Caddesinde bulunan özel sağlık kurumu, Prusya Elçiliği hekimlerinden Dr.Georg Hermann Ritter von Mühling'in (1826-1907) önerisi üzerine İstanbul'daki D.W.V Alman Hayır Cemiyeti'nin katkılarıyla 6 Nisan 1846 tarihinde kurulmuştur. Hastane için gereken arsa ve bina Alman Protestan Kiliseleri Topluluğu tarafından sağlanmıştır. Sıraselviler'de sadece 5 yatakla hizmete giren hastanenin kısa bir süre sonra ihtiyaçları karşılayamadığı görüldüğünden aynı yılın kasım ayında daha geniş bir ev kiralanmıştır. Hastane 1851'de Sakız Sokağı'na 1853'de de Telgraf Sokağı'na, taşınmış ve içinde taş bir bina bulunan bir arsa da satın alınarak hastaneye eklenmştir. Kırım Savaşı (1854-1856) sırasında hasta sayısı artınca 1856'da Halilpaşa arsası adı verilen bugünkü hastane sahasının içine ek bir bina yapılmıştır.
Hastane 1874'de at nalı şeklinde dizilmiş üç binadan oluşuyordu. Hastane Alman Hayırseverler Cemiyeti tarafından Alman Elçiliği'nden bir temsilci ile birlikte ve cemiyet üyeleri ücretsiz tedavi edilmekteydi. Hastaların büyük bölümü İstanbul'a gelen Alman gemiciler, yoksul Almanlardan oluşuyordu. İstanbul halkından da büyük talep vardı.
I.Dünya Savaşı sırasında (1914-1918) Almanya'dan hekimler getirtilmiş ve bir doğum servisinin açılması düşünülmüş fakat savaş yüzünden gerçekleştirilememiştir. Savaş sırasında 1917'de ana bina sivil hizmete bırakılmış çocuk ve erkek servislerine ait 72 yatak askeri birliklere verilmiştir. Savaşta yaralanan Türk ve Alman askerler hastanede tedavi edilmişler, sterilizasyon bölümünün bir kısmı da bizleri temizlemek için bir tebhirhane haline dönüştürülmüştür. Çocuk servisinin yerine, 1918 de Moda'da biryer kiralanarak 20 yataklı bir çocuk servisi faaliyete geçirilmiştir.
I.Dünya Savaşının bitiminde imzalanan mütarekename uyarınca bütün Alman ve Avusturyalılar İstanbul'u terk etmişler ve 2 Şubat 1919 da hastanede İngiliz hekim ve hemşireler çalışmaya başlamıştır. Bu tarihten sonra İngilizler hastanede asker barındırmışlardır. 1925-1928 yıllarında da hastaneyi Amerikalılar kullanmıştır. Kaiserwerth rahibe hemşireleri ancak 1931 de Alman hastanesine geri gelmişlerdir. Kaiserswerth Vakfı 1973 te dağılınca hastane Alman Federal Cumhuriyeti Dışişleri Bakanlığına bağlanmıştır.
Eylül 1992 de Almanya ile Türkiye arasında imzalanan bir protokole göre Alman Federal Cumhuriyeti, Alman Hastanesi üzerindeki bütün haklarını ve kullanım imkanlarını İstanbul Erkek Liseliler Eğitim Vakfına devretmiştir.