İtalyan teknik direktör, kariyerine 1983'te başladı. 1990 yılına dek İtalya'da alt liglerdeki takımları çalıştıran Zaccheroni, 1990'da yine bir İtalyan kulübü olan Venezia'nın başına geçti.
Ardından sırasıyla Bologna F.C. 1909 ve Cozenza'da teknik direktörlük yapan Zaccheroni, en büyük çıkışını Udinese Calcio'da gerçekleştirdi. 1997-98 sezonunda Udinese Calcio'yu Serie A'da üçüncü yapan teknik adam, bu başarının sonrasında 1998'te A.C. Milan'ın başına geçti. Takımı 1998-99 sezonunda Serie A'da şampiyonluğa taşıyan Alberto Zaccheroni, 1999 yılında "Serie A'da Yılın Teknik Direktörü" seçildi. A.C. Milan'da üst üste alınan başarısız sonuçların ardından 2001 yılında görevden alındı.
A.C. Milan'da görevden alınmasının sonrasında, S.S. Lazio ve Inter Milan'ı çalıştıran Zaccheroni, bu takımlarda da başarı elde edemedi. 2006'da Torino'nun başına geçen İtalyan teknik direktörün görevine 2007'nın Şubat ayında son verildi. 2010'da da Juventus'un başına geçti.30 Ağustos 2010 tarihinden beri Japonya Milli Futbol Takımında teknik direktörlük görevini yapmaktadır.