Köstebek, Massachusetts Eyalet Polisinin şehrin en büyük suç organizasyonunu çökertmek için geniş çaplı bir mücadele başlattığı Güney Bostonda geçiyor. Amaç, güçlü mafya babası Frank Costellonun (Jack Nicholson) egemenliğine içeriden bir müdahaleyle son vermektir. Güney Bostonda büyümüş olan genç çaylak Billy Costigana (Leonardo DiCaprio), Costellonun çetesine sızma görevi verilir. Billy, Costellonun güvenini kazanmaya çalışırken, Güney Yakasının sokaklarından gelen bir başka genç polis Colin Sullivan (Matt Damon) da eyalet polis teşkilatında basamakları hızla tırmanmaktadır. Üstlerinin bilmediği şey, Colinin Costello için çalıştığı ve suç patronunun polisin hep bir adım önünde olmasını sağladığıdır. Her iki adam da, içine sızdıkları organizasyonun planları ve karşı planları hakkında bilgi toplarken, sürdürdükleri çifte yaşamları yüzünden oldukça zorlanmaktadırlar. Ama hem gangsterler hem polisler aralarında bir köstebek olduğunu anlayınca, Billy ve Colin sürekli olarak düşman tarafından yakalanma tehlikesiyle karşı karşıya kalırlar.