Kariyerine ağabeyi Mika Kaurismäki ile birlikte yönetmenlik yaparak başladı. Bağımsız bir yönetmen olarak ilk filmi, Dostoyevski'nin Suç ve Ceza'sının günümüz Helsinki'sinde geçen bir versiyonudur. (1983). Leningrad Cowboys Go America filmiyle dünya çapında ün elde etti.
2017'de 67. Berlin Film Festivali'nde En İyi Yönetmen ödülünü Toivon tuolla puolen (The Other Side of Hope) filmiyle aldı.
Çok etkilendiği yönetmenler Jean-Pierre Melville ve Robert Bresson gibi sade oyunculuğa ve mesajlarını aktarmak için basit sinema dilini kullanmaya inanır. Eleştirmenler onda Rainer Werner Fassbinder etkileri de görmüş olsa da, Kaurismäki yakın zamana dek hiç Fassbinder filmi izlememiş olduğunu belirtti. Filmlerinin, Leningrad Cowboys Go America'da da cameosu olan Jim Jarmusch'un filmleri gibi, fazla altı çizilmeyen eşsiz bir mizahi yanı vardır. Jarmusch da, Night on Earth filminin Helsinki'de geçen bölümünde Kaurismäki oyuncularına yer verdi.
Daha çok işçi sınıfının yaşadığı Kallio'da geçen Calamari Union ile Shadows in Paradise, Ariel ve The Match Factory Girl filmlerinden oluşan üçleme gibi pek çok eseri, memleketi Helsinki'yi merkez alır. Onun gözünden Helsinki, hem eleştirel anlamda hem özellikle romantik değildir. Gerçekten, karakterler genellikle Helsinki'den nasıl da kaçmak istediklerinden söz eder: Kimisi Güney Amerika'da sona erer (Ariel), diğerleri Estonya'da. (Kalamari Union ve Take Care of Your Scarf Tatjana) Son filmleri bile çoğunlukla 1980'lerde geçer.