Washington D.C., 2054. In zes jaar tijd is het aantal moorden in de Amerikaanse hoofdstad teruggedrongen tot nul. Dat is te danken aan de speciale politie-eenheid PreCrime, die elke poging tot moord voorkomt door daders te arresteren nog voor ze kunnen toeslaan.

De film Minority Report (2002), geregisseerd door Steven Spielberg, is losjes gebaseerd op het boek The Minority Report (1956) van de Amerikaanse sciencefictionschrijver Philip K. Dick. De kijker volgt John Anderton, de gedreven politiechef van PreCrime, gespeeld door Tom Cruise.

Het PreCrime-mechanisme rust op de voorspellende gaven van drie mensen, de zogenoemde precogs. Als kinderen van drugverslaafden zijn ze geboren met zwaar hersenletsel, waardoor ze ’s nachts dromen van gruwelijke moordpartijen. Al snel blijken dit niet zomaar nachtmerries, maar visioenen van toekomstige moorden. Zeer handig dus voor de afdeling Moordzaken.

In het hart van de PreCrime-afdeling worden de drie precogs kunstmatig in slaap gehouden. Wanneer ze dromen over een moord, wordt deze gevisualiseerd in videobeelden. Daarmee gaan Anderton en zijn team aan de slag. Het systeem identificeert de dader en het slachtoffer, zij de locatie van het misdrijf. Ter plekke arresteert het team van Anderton de dader in spe. Zonder proces wordt de arrestant in coma gebracht en gevangengezet.

‘PreCrime, it works!’, luidt de campagneslogan. Ook chef Anderton gelooft heilig in PreCrime. Maar wanneer de precogs hem identificeren als dader van een toekomstige moord, ontdekt de voortvluchtige Anderton de fundamentele zwakheden van een ogenschijnlijk waterdicht systeem.

Politie van de toekomst

Surveillance is de politie van de toekomst: ze lost geen gepleegde, maar toekomstige misdrijven op. Veiligheidsdiensten trachten ongewenst gedrag, zoals terrorisme of moord, onschadelijk te maken voor het plaatsvindt. Dat zien we ook in Minority Report, waar PreCrime burgers oppakt voor de intentie tot moord - niet voor de daad zelf. Surveillance draait schuld en straf dus eigenlijk om – of beter: stelt niet de daad, maar de intentie strafbaar.

Waar PreCrime profiteert van de gaven van de precogs, maken onze veiligheidsdiensten gebruik van een andere technologie, namelijk: algoritmen. In toenemende mate behoort tot de werkwijze van politiecorpsen, waarbij algoritmen misdaden ‘voorspellen’ met behulp van verzamelde data. Op basis van deze schattingen van waar, wanneer en door wie misdrijven kunnen worden gepleegd neemt de politie preventieve maatregelen, zoals het volgen van burgers met een risicoprofiel of het fouilleren van voorbijgangers op een zekere stoep.

Een mens is geen bal

Minority Report laat zien wat het gevaar is van het op voorhand criminaliseren van burgers. Want: een voorspelling geeft nog geen garantie van de uitkomst, of ze nu door een precog of een algoritme wordt gedaan.

‘It is not the future if you stop it. Isn’t that a fundamental paradox?’, observeert FBI-agent Danny Witwer, die namens het ministerie van Justitie de integriteit van PreCrime onderzoekt. Daarop rolt chef Anderton hem een bal toe over zijn bureau. Witwer vangt hem op. ‘Why’d you catch that?’, vraagt Anderton. ‘Because it was going to fall,’ antwoordt Witwer. Waarop Anderton sneert: ‘The fact that you prevented it from falling doesn’t change the fact that it was going to fall.’

Zijn collega’s vallen Anderton bij. Maar de scène legt juist het zwaktebod van predestinatie bloot: het gaat niet om ballen, maar om mensen. PreCrime gaat ervanuit dat het voorgespiegelde lot van een dader net zo onontkoombaar is als het vallen van een bal. Het mechanisme zou waterdicht zijn: ‘PreCrime, it works!’

Maar het tegendeel blijkt waar wanneer Anderton niet de man vermoordt zoals was voorzien. De precogs zaten ernaast, waardoor het systeem in één klap zijn betrouwbaarheid kwijt is. PreCrime wordt stopgezet.

Blind vertrouwen

Minority Report waarschuwt voor een blind vertrouwen in technologie. Ook algoritmen zijn door mensen bedacht. ‘How do we know that the algorithms used for prediction do not reflect the biases of their authors?’, vraagt technologiecriticus Evgeny Morozov in zijn boek To Save Everything, Click Here. Een retorische vraag: elke technologie die belooft menselijk gedrag te voorspellen moet gezien worden voor wat ze is – een veelbelovend, maar niet onfeilbaar hulpmiddel.

Minority Report toont ons de mogelijke gevolgen van blind vertrouwen in technologie: surveillance kan toekomstige misdrijven maar ook de verkeerde persoon

Introductie: Zo kunnen we beter over surveillance praten Vorige week was het een jaar geleden dat Edward Snowden met zijn NSA-onthullingen het debat over surveillance op gang bracht. Erg creatief blijken we in dat debat niet te zijn: in de VS, en in Nederland, is ‘Big Brother’ zo’n beetje de enige gebruikte metafoor voor een overheid die haar burgers in de gaten houdt. Maar George Orwells 1984 dekt de lading niet: wie het debat over toezicht, veiligheid en privacy beter wil voeren, heeft andere metaforen nodig. Lees hier de introductie van de serie Surveillance Metaforen Aflevering 1: De Cirkel van Dave Eggers Nina Polak bespreekt De Cirkel van Dave Eggers. Anders dan in Orwell’s 1984 laat deze roman zien dat surveillance niet per se iets hoeft te zijn wat van bovenaf wordt opgelegd, integendeel: in een wereld waarin alles met elkaar delen een must is, verwordt surveillance tot iets waaraan iedereen bijdraagt. Lees hier aflevering 1 in de serie Surveillance Metaforen Aflevering 2: Het Proces van Franz Kafka In ‘Het Proces’ van Franz Kafka wordt duidelijk dat surveillance niet per sé uit kwade bedoelingen hoeft voort te komen, om toch grote schade aan te richten, schrijft Lynn Berger. Lees hier: De staat hoeft niet kwaadwillend te zijn om kwaad te doen, leert Het Proces van Franz Kafka Aflevering 3: Little Brother van Cory Doctorow Maurits Martijn bespreekt de roman Little Brother, van Cory Doctorow, die laat zien dat de burger in een surveillancestaat nog niet machteloos hoeft te zijn. Lees hier: Iedereen heeft het over Big Brother, maar vlak Little Brother niet uit Aflevering 4: WE van Yevgeny Zamyatin De roman ‘We’ van Yevgeny Zamyatin gaat over sousveillance – en over wat er gebeurt als niet alleen de staat, maar iedereen elkaar kan bekijken. Dimitri Tokmetzis bespreekt. Lees hier: De inspiratiebron van 1984 toont de zachte dwang van technologie Aflevering 5: Corpus Delicti van Juli Zeh Bij surveillance denken we al snel aan toezicht, ingegeven door een obsessie met terrorisme en veiligheid. Maar het kan evengoed voortkomen uit de wens de gezondheid en het welzijn van burgers te dienen, schrijft Tomas Vanheste in zijn bespreking van Corpus Delicti van Juli Zeh. Lees hier: Dit meesterlijke boek laat zien waar een ziekelijk verlangen naar gezondheid toe leidt