Hyypiä, Finlandiya U-21 takımı ile 27 kez maça çıktı. Finlandiya millî takımı için ilk kez formayı 7 Kasım 1992'de 19 yaşında Tunus'a karşı giydi. Hyypiä Finlandiya millî takımı ile 105 maça çıktı ve Finlandiya tarihinin en çok forma giyen 2.futbolcusu unvanına sahip. 12 Ekim 2010 tarihinde Macaristan'a karşı oynanan maçtan sonra millî takımı brıaktığını açıkladı.
Hyypiä Finlandiya Futbol Federasyonu'nda antrenörlük olarak teknik direktör kariyerine başladı. 15 Mayıs 2012 tarihinde takım menajeri Lewandowski tarafından 2015 yılına kadar Bayer 04 Leverkusen'in teknik direktör olacağını açıklasa da 2014 Nisan'ında görevine son verildi.