Dans le Los Angeles des années 50, le chef de la police a décidé de confisquer le crime organisé, à son seul profit. Du coup, il ne tolère aucune concurrence.
Trois policiers, qui ignorent l'activité criminelle de leur chef, vont contribuer à le démasquer, en dépit de leurs divergences et de leur personnalité différente :
- le lieutenant-inspecteur Edmund Jennings (Guy Pearce), jeune policier ambitieux, à cheval sur le règlement mais aussi très futé;
- « Bud » White (Russell Crowe), qui n'hésite pas à se servir de ses poings mais qui sait aussi réfléchir.
- le sergent-inspecteur Jack Vincennes (Kevin Spacey), flic désillusionné, un peu corrompu, qui trouve dans cette affaire l'occasion de retrouver un sens à son métier.
Le film foisonne de personnages colorés et l'intrigue est passionnante.
Jack Vincennes, parce qu'il s'approche trop de la vérité, est tué par son chef. Avant de mourir, il prononce un nom : "Rollo Tomasi". Or, ce nom est celui que donne le jeune sergent Jennings au gangster fantôme, à celui qu'on attrape jamais. Jennings et Vincennes étaient donc les seuls à connaître ce nom - symbole.
Le chef de la police, et c'est là son erreur fatale, intrigué voire inquiet par ce nom, demande à Vincennes d'enquêter sur "Rollo Tomasi"... le gansgter qui n'existe pas.