Teknik direktörlüğe 1987 yılında Ankaragücü ile başlayan Fatih Terim, 1989 yılında Göztepe'nin başına geçti. Daha sonra sırasıyla 1990 yılında hem U21 takımının teknik direktörlüğünü hem de A Milli Takım'ın yardımcı antrenörlüğünü yapan Terim, 27 Ekim 1996'da A Milli Takım'ın teknik direktörlüğünü üstlendi.
Ay-Yıldızlılar'da 3 yıl görev yaptıktan sonra 1 Temmuz 1996'da Galatasaray'ın başına geçen Terim, 4 sene üst üste şampiyonluk yaşadı. Fatih Terim, 1 Temmuz 2000 tarihinde ise ilk kez yurtdışına çıktı ve Fiorentina ile sözleşme imzaladı.
Fiorentina'nın başında 28 maça çıkan Terim, 25 Şubat 2001'de görevinden ayrıldı. Sonrasında ise 2001/02 sezonunun başında Milan ile anlaşan tecrübeli teknik direktör, 2.08'lik puan ortalaması yakalamasına rağmen 5 Kasım 2001'de İtalyan devinden ayrıldı.
2002/03 sezonunun başında yeniden Galatasaray'a gelen Fatih Terim, 24 Mart 2004'te takımdan ayrıldı ve 17 Ağustos 2005 tarihinde A Milli Takım ile anlaştı.
20 Ekim 2009'da kırmızı - beyazlı ekiple yollarını ayıran Terim, 14 Temmuz 2011'de Galatasaray ile anlaşmaya vardı. Sarı - kırmızılılarda geçirdiği 2 sezonun ardından yeniden bir ayrılık yaşayan Fatih Terim, 22 Ağustos 2013 tarihinde bir kez daha A Milli Takım'ın başına geçti. 4 yıl boyunca görevini sürdüren Fatih Terim, son olarak 22 Aralık 2017'de tekrar Galatasaray ile anlaşmıştı.
'İmparator' lakaplı hoca, 10 Ocak 2022'de Burak Elmas yönetimiyle yaşadığı anlaşmazlığın ardından görevinden ayrılmıştı.