Washington D.C., 2054. In zes jaar tijd is het aantal moorden in de Amerikaanse hoofdstad teruggedrongen tot nul. Dat is te danken aan de speciale politie-eenheid PreCrime, die elke poging tot moord voorkomt door daders te arresteren nog voor ze kunnen toeslaan.
De film Minority Report (2002), geregisseerd door Steven Spielberg, is losjes gebaseerd op het boek The Minority Report (1956) van de Amerikaanse sciencefictionschrijver Philip K. Dick. De kijker volgt John Anderton, de gedreven politiechef van PreCrime, gespeeld door Tom Cruise.
Het PreCrime-mechanisme rust op de voorspellende gaven van drie mensen, de zogenoemde precogs. Als kinderen van drugverslaafden zijn ze geboren met zwaar hersenletsel, waardoor ze ’s nachts dromen van gruwelijke moordpartijen. Al snel blijken dit niet zomaar nachtmerries, maar visioenen van toekomstige moorden. Zeer handig dus voor de afdeling Moordzaken.
In het hart van de PreCrime-afdeling worden de drie precogs kunstmatig in slaap gehouden. Wanneer ze dromen over een moord, wordt deze gevisualiseerd in videobeelden. Daarmee gaan Anderton en zijn team aan de slag. Het systeem identificeert de dader en het slachtoffer, zij de locatie van het misdrijf. Ter plekke arresteert het team van Anderton de dader in spe. Zonder proces wordt de arrestant in coma gebracht en gevangengezet.
‘PreCrime, it works!’, luidt de campagneslogan. Ook chef Anderton gelooft heilig in PreCrime. Maar wanneer de precogs hem identificeren als dader van een toekomstige moord, ontdekt de voortvluchtige Anderton de fundamentele zwakheden van een ogenschijnlijk waterdicht systeem.
Politie van de toekomst
Surveillance is de politie van de toekomst: ze lost geen gepleegde, maar toekomstige misdrijven op. Veiligheidsdiensten trachten ongewenst gedrag, zoals terrorisme of moord, onschadelijk te maken voor het plaatsvindt. Dat zien we ook in Minority Report, waar PreCrime burgers oppakt voor de intentie tot moord - niet voor de daad zelf. Surveillance draait schuld en straf dus eigenlijk om – of beter: stelt niet de daad, maar de intentie strafbaar.
Waar PreCrime profiteert van de gaven van de precogs, maken onze veiligheidsdiensten gebruik van een andere technologie, namelijk: algoritmen. In toenemende mate behoort predictive policing tot de werkwijze van politiecorpsen, waarbij algoritmen misdaden ‘voorspellen’ met behulp van verzamelde data. Op basis van deze schattingen van waar, wanneer en door wie misdrijven kunnen worden gepleegd neemt de politie preventieve maatregelen, zoals het volgen van burgers met een risicoprofiel of het fouilleren van voorbijgangers op een zekere stoep.
Een mens is geen bal
Minority Report laat zien wat het gevaar is van het op voorhand criminaliseren van burgers. Want: een voorspelling geeft nog geen garantie van de uitkomst, of ze nu door een precog of een algoritme wordt gedaan.
‘It is not the future if you stop it. Isn’t that a fundamental paradox?’, observeert FBI-agent Danny Witwer, die namens het ministerie van Justitie de integriteit van PreCrime onderzoekt. Daarop rolt chef Anderton hem een bal toe over zijn bureau. Witwer vangt hem op. ‘Why’d you catch that?’, vraagt Anderton. ‘Because it was going to fall,’ antwoordt Witwer. Waarop Anderton sneert: ‘The fact that you prevented it from falling doesn’t change the fact that it was going to fall.’
Zijn collega’s vallen Anderton bij. Maar de scène legt juist het zwaktebod van predestinatie bloot: het gaat niet om ballen, maar om mensen. PreCrime gaat ervanuit dat het voorgespiegelde lot van een dader net zo onontkoombaar is als het vallen van een bal. Het mechanisme zou waterdicht zijn: ‘PreCrime, it works!’
Maar het tegendeel blijkt waar wanneer Anderton niet de man vermoordt zoals was voorzien. De precogs zaten ernaast, waardoor het systeem in één klap zijn betrouwbaarheid kwijt is. PreCrime wordt stopgezet.
Blind vertrouwen
Minority Report waarschuwt voor een blind vertrouwen in technologie. Ook algoritmen zijn door mensen bedacht. ‘How do we know that the algorithms used for prediction do not reflect the biases of their authors?’, vraagt technologiecriticus Evgeny Morozov in zijn boek To Save Everything, Click Here. Een retorische vraag: elke technologie die belooft menselijk gedrag te voorspellen moet gezien worden voor wat ze is – een veelbelovend, maar niet onfeilbaar hulpmiddel.
Minority Report toont ons de mogelijke gevolgen van blind vertrouwen in technologie: surveillance kan toekomstige misdrijven voorkomen, maar ook de verkeerde persoon veroordelen.
Introductie: Zo kunnen we beter over surveillance praten Vorige week was het een jaar geleden dat Edward Snowden met zijn NSA-onthullingen het debat over surveillance op gang bracht. Erg creatief blijken we in dat debat niet te zijn: in de VS, en in Nederland, is ‘Big Brother’ zo’n beetje de enige gebruikte metafoor voor een overheid die haar burgers in de gaten houdt. Maar George Orwells 1984 dekt de lading niet: wie het debat over toezicht, veiligheid en privacy beter wil voeren, heeft andere metaforen nodig. Aflevering 1: De Cirkel van Dave Eggers Nina Polak bespreekt De Cirkel van Dave Eggers. Anders dan in Orwell’s 1984 laat deze roman zien dat surveillance niet per se iets hoeft te zijn wat van bovenaf wordt opgelegd, integendeel: in een wereld waarin alles met elkaar delen een must is, verwordt surveillance tot iets waaraan iedereen bijdraagt. Aflevering 2: Het Proces van Franz Kafka In ‘Het Proces’ van Franz Kafka wordt duidelijk dat surveillance niet per sé uit kwade bedoelingen hoeft voort te komen, om toch grote schade aan te richten, schrijft Lynn Berger. Aflevering 3: Little Brother van Cory Doctorow Maurits Martijn bespreekt de roman Little Brother, van Cory Doctorow, die laat zien dat de burger in een surveillancestaat nog niet machteloos hoeft te zijn. Aflevering 4: WE van Yevgeny Zamyatin De roman ‘We’ van Yevgeny Zamyatin gaat over sousveillance – en over wat er gebeurt als niet alleen de staat, maar iedereen elkaar kan bekijken. Dimitri Tokmetzis bespreekt. Aflevering 5: Corpus Delicti van Juli Zeh Bij surveillance denken we al snel aan toezicht, ingegeven door een obsessie met terrorisme en veiligheid. Maar het kan evengoed voortkomen uit de wens de gezondheid en het welzijn van burgers te dienen, schrijft Tomas Vanheste in zijn bespreking van Corpus Delicti van Juli Zeh.Dit verhaal heb je gratis gelezen, maar het maken van dit verhaal kost tijd en geld. Steun ons en maak meer verhalen mogelijk voorbij de waan van de dag.
Al vanaf het begin worden we gefinancierd door onze leden en zijn we volledig advertentievrij en onafhankelijk. We maken diepgravende, verbindende en optimistische verhalen die inzicht geven in hoe de wereld werkt. Zodat je niet alleen begrijpt wat er gebeurt, maar ook waarom het gebeurt.
Juist nu in tijden van toenemende onzekerheid en wantrouwen is er grote behoefte aan verhalen die voorbij de waan van de dag gaan. Verhalen die verdieping en verbinding brengen. Verhalen niet gericht op het sensationele, maar op het fundamentele. Dankzij onze leden kunnen wij verhalen blijven maken voor zoveel mogelijk mensen. Word ook lid!