Konstantin von Neurath, Tübingen ve Berlin'de hukuk okudu. 1897 yılında mezun olduktan sonra memleketinde yerel bir hukuk firmasında çalıştı. 1901 Berlin'de Dışişleri Bakanlığı için çalıştı. 1903 yılında Muavin Konsolos olarak ilk ve Legationsrat (elçilik müşaviri) olarak 1909 yılında Londra'da Alman büyükelçiliğine atandı. 1904 yılında İngiltere'de Württemberg Galler Prensini ziyaretinin ardından, Kral II. William Lord Chamberlain gibi, Royal Victorian Order Fahri Şövalye Grand Cross madalyası aldı. Neurath'ın kariyeri kararlı Dışişleri Bakanı Alfred von Kiderlen-Waechter tarafından geliştirilmiştir.
30 Mayıs 1901'de Neurath, Stuttgart'da Marie Auguste von Filseck Moser (1875-1960) ile evlendi. Oğlu Konstantin, 1902 yılında doğdu. 1904 yılında kızı Winifred doğdu.
I. Dünya Savaşı sırasında 1916 yılına kadar bir piyade alayı ile birlikte subay olarak görev yaptı. Savaş sırasına ağır yaralandı ve kendisine Aralık 1914 yılında Demir Haç madalyası verildi.
1901'de diplomatik göreve girdi ve ülke içinde ve dışında çeşitli görevler aldı. 1914'den 1916'ya kadar İstanbul'da büyükelçilik müşaviri oldu. 1919 yılında Cumhurbaşkanı Friedrich Ebert'in onayı ile Danimarka Kopenhag'da elçiliğe atandı. 1921'e kadar elçilik görevinde bulundu. 1922 yılından 1930 yılına kadar Roma'ya büyükelçi oldu. 1930 yılında Londra'da elçilik başına döndü. Neurath, 1932 yılında Almanya'ya geri çağrıldı ve Haziran aylarında Başbakan Franz von Papen'in altında "Barons Kabinesi" nde Dışişleri Bakanı oldu. 1937 yılında Neurath, Nazi Partisi'ne üyesi oldu. Kenedisine Altın Parti Rozeti verildi ve SS-Gruppenführer onursal unvanları da verildi. 1938'e de Dışişleri bakanlığı görevini Joachim von Ribbentrop'a devretti.
Hitler, Çekoslovakya'nın Alman işgali üzerine uluslararası öfkeyi yatıştırmak için kısmen Neurath'ı seçti. Yakın zamanda Prag Kalesi'ne geldikten sonra Neurath sert bir şekilde basın sansürü uyguladı ve siyasi partiler ve sendikalar yasaklandı. Ekim ve Kasım 1939'da öğrencilerin protestosu üzerine sert bir darbe emretti. 1200 öğrenci protestocu kamplara gitti ve dokuzu idam edildi. Ayrıca Nuremberg Mahkemeleri'ne göre Yahudilere yönelik zulümleri denetledi.
Adolf Hitler 1938'de Atatürk'ün cenazesine onu göndermiş ve Konstantin von Neurath Mustafa Kemal Atatürk'ün cenazesinde bizzat hazır bulunmuştu.[1][2]
Freiherr von Neurath Nürnberg mahkemelerinde savaş suçlusu olarak yargılanarak 15 yıl ağır hapse mahkûm edildi ama sağlık sorunları göz önünde bulundurularak Kasım 1954'te tahliye edilmiştir. 1956'da Enzweihingen'de 83 yaşında ölmüştür.