7 Nisan 1922'de Erfurt'ta doğdu. 1941'de Berlin Üniversitesi'nde İslâmî Araştırmalar sahasında doktora yaptı. 1946-54 yılları arasında Marburg Üniversite'nde, 1954-59 yılları arasında da Ankara İlahiyat Fakültesi'nde Dinler Tarihi dersleri verdi. Bonn ve Harvard Üniversitelerinde çalıştı, çeşitli ülkelerde konferanslar verdi. Schimmel 26 Ocak 2003 günü Bonn'da hayata gözlerini yumdu.
Çok sayıda uluslararası ödülün sahibi olan, çeşitli ilmî kuruluşlarda başkanlık ve üyelik yapan Schimmel, Almanca, İngilizce ve Türkçe olmak üzere 80'den fazla yayına imza attı, Arapça, Farsça, Urduca, Türkçe ve Sindçe'den Almanca'ya çeviriler yaptı. Schimmel'in çalışmaları özellikle tasavvuf ve tasavvuf büyüklerinden de özellikle Mevlânâ, İbn Atâullah ve Hallâc üzerinde yoğunlaşmaktadır.