Gotha yakınlarındaki Friedrichswerth’te doğdu. Orta öğreniminin ardından yeni başlayan II. Dünya Savaşı sebebiyle askere alındı ve askerliğini deniz kuvvetlerinde yaptı (1940-1946). Savaştan sonra Karlsruhe Teknik Üniversitesi’nde mimarlık okudu; K. Wulzinger, O. Reuhter ve A. Tschira gibi hocalardan yapı tarihi dersleri aldı. 1951’de okulunu ve 1954’te Baden’deki erken sanayi yapılarıyla ilgili olarak hazırladığı doktora tezini tamamladı. 1952 yılından itibaren Suriye’de bazı arkeoloji kazılarına katıldı. 1955-1956’da kazandığı bir bursla Yakındoğu, İtalya ve Yunanistan’ın antik yerleşmelerine B. Andreae, E. Berger, J. Schafer, O. Lendle ve W. Nagel’le birlikte çıktıkları uzun bilimsel geziler yaptı.
1956’da İstanbul’daki Alman Arkeoloji Enstitüsü’ne uzman olarak tayin edildi; 1962 yılına kadar kaldığı şehrin tarihî yapılarını ve topografyasını yakından inceleme fırsatı buldu. 1962-1967 yılları arasında yürüttüğü Kahire’deki Alman Arkeoloji Enstitüsü’nün ikinci müdürlüğü sırasında şehrin tarihî dokusunu inceledi ve aynı zamanda Türkiye’deki araştırmalarını sürdürdü. 1965’te okuduğu üniversitede doçent, 1967’de profesör oldu. 1976’da Alman Arkeoloji Enstitüsü’nün müdürlüğüne tayin edilerek tekrar İstanbul’a geldi ve 1988 yılında emekli oluncaya kadar bu görevine devam etti. 1976-1986 yılları arasında İstanbul Üniversitesi Edebiyat Fakültesi Klasik Arkeoloji Bölümü’nde mimarlık tarihi dersleri verdi. Bu sırada Milet ve Priene kazılarını yürüttü ve Batı Anadolu’daki Selçuklu ve Beylikler devri mimarisiyle ilgilendi. Emekli olduktan sonra Almanya’ya dönerek Darmstadt ve Frankfurt üniversitelerinde hocalık yapmayı sürdürmekle birlikte Türkiye ile alâkasını kesmeyip gerek yönettiği kazılar gerekse basılmış halini göremediği İstanbul Limanı hakkındaki son kitabı için sık sık geri geldi ve 25 Mart 1991’de İstanbul’da öldü. Birçok ödül sahibi olan ve çeşitli bilimsel kuruluşlara üye seçilen Müller-Wiener için Istanbuler Mitteilungen’in XXXIX. cildi armağan olarak yayımlanmıştır (1989).