Eğitimi kimya mühendisliği üzerine tamamlayan Simmel, 1943 yılından başlayarak 2. Dünya Savaşı'nın sonuna kadar araştırmacı olarak çalıştı. 2. Dünya Savaşı'nın sona ermesinden sonra, Amerikan askeri hükümeti adına çevirmen olarak çalıştı.
Viyana'da yayınlanan "Welt am Abend" gazetesinde incelemeler ve hikayeler yayımladı. Ailesinin yarısını Nazi toplama kamplarında yitiren Simmel, yaşamı boyunca faşizme ve ırkçılığa karşı mücadele etti. 1950'li yılların başında, "Munich illustrated Quick in Europe and America" için muhabir olarak çalışmaya başladı. Johannes Mario Simmel, çok sayıda roman ve senaryo yazdı.
İlk başarısını 1960 yılında yayımlanan ''Es muss nicht immer Kavier sein'' adlı roman ile kazandı. Kitapları dünya çapında milyonlarca adet satılan Simmel'in romanlarının birçoğu 1960 ve 1970 yıllarında filme çekildi. İçlerinde Award of Excellence of the Society of Writers of United Nations, ödülünün de bulunduğu çok sayıda ödül kazanan Simmel 3 kez evlendi.
Hayatının son günlerini, İsviçre'nin Zürih kenti yakınlarındaki Zug kasabasında bir bakım evinde geçiren Johannes Mario Simmel, 1 Ocak 2009 tarihinde öldü.