In Minority Report veroordeelt technologie de verkeerden

Washington D.C., 2054. In zes jaar tijd is het aantal moorden in de Amerikaanse hoofdstad teruggedrongen tot nul. Dat is te danken aan de speciale politie-eenheid PreCrime, die elke poging tot moord voorkomt door daders te arresteren nog voor ze kunnen toeslaan.

De film Minority Report (2002), geregisseerd door Steven Spielberg, is losjes gebaseerd op het boek The Minority Report (1956) van de Amerikaanse sciencefictionschrijver Philip K. Dick. De kijker volgt John Anderton, de gedreven politiechef van PreCrime, gespeeld door Tom Cruise.

Het PreCrime-mechanisme rust op de voorspellende gaven van drie mensen, de zogenoemde precogs. Als kinderen van drugverslaafden zijn ze geboren met zwaar hersenletsel, waardoor ze ’s nachts dromen van gruwelijke moordpartijen. Al snel blijken dit niet zomaar nachtmerries, maar visioenen van toekomstige moorden. Zeer handig dus voor de afdeling Moordzaken.

In het hart van de PreCrime-afdeling worden de drie precogs kunstmatig in slaap gehouden. Wanneer ze dromen over een moord, wordt deze gevisualiseerd in videobeelden. Daarmee gaan Anderton en zijn team aan de slag. Het systeem identificeert de dader en het slachtoffer, zij de locatie van het misdrijf. Ter plekke arresteert het team van Anderton de dader in spe. Zonder proces wordt de arrestant in coma gebracht en gevangengezet.

‘PreCrime, it works!’, luidt de campagneslogan. Ook chef Anderton gelooft heilig in PreCrime. Maar wanneer de precogs hem identificeren als dader van een toekomstige moord, ontdekt de voortvluchtige Anderton de fundamentele zwakheden van een ogenschijnlijk waterdicht systeem.

Politie van de toekomst

Surveillance is de politie van de toekomst: ze lost geen gepleegde, maar toekomstige misdrijven op. Veiligheidsdiensten trachten ongewenst gedrag, zoals terrorisme of moord, onschadelijk te maken voor het plaatsvindt. Dat zien we ook in Minority Report, waar PreCrime burgers oppakt voor de intentie tot moord - niet voor de daad zelf. Surveillance draait schuld en straf dus eigenlijk om – of beter: stelt niet de daad, maar de intentie strafbaar.

Waar PreCrime profiteert van de gaven van de precogs, maken onze veiligheidsdiensten gebruik van een andere technologie, namelijk: algoritmen. In toenemende mate behoort predictive policing tot de werkwijze van politiecorpsen, waarbij algoritmen misdaden ‘voorspellen’ met behulp van verzamelde data. Op basis van deze schattingen van waar, wanneer en door wie misdrijven kunnen worden gepleegd neemt de politie preventieve maatregelen, zoals het volgen van burgers met een risicoprofiel of het fouilleren van voorbijgangers op een zekere stoep.

Een mens is geen bal

Minority Report laat zien wat het gevaar is van het op voorhand criminaliseren van burgers. Want: een voorspelling geeft nog geen garantie van de uitkomst, of ze nu door een precog of een algoritme wordt gedaan.

‘It is not the future if you stop it. Isn’t that a fundamental paradox?’, observeert FBI-agent Danny Witwer, die namens het ministerie van Justitie de integriteit van PreCrime onderzoekt. Daarop rolt chef Anderton hem een bal toe over zijn bureau. Witwer vangt hem op. ‘Why’d you catch that?’, vraagt Anderton. ‘Because it was going to fall,’ antwoordt Witwer. Waarop Anderton sneert: ‘The fact that you prevented it from falling doesn’t change the fact that it was going to fall.’

Zijn collega’s vallen Anderton bij. Maar de scène legt juist het zwaktebod van predestinatie bloot: het gaat niet om ballen, maar om mensen. PreCrime gaat ervanuit dat het voorgespiegelde lot van een dader net zo onontkoombaar is als het vallen van een bal. Het mechanisme zou waterdicht zijn: ‘PreCrime, it works!’

Maar het tegendeel blijkt waar wanneer Anderton niet de man vermoordt zoals was voorzien. De precogs zaten ernaast, waardoor het systeem in één klap zijn betrouwbaarheid kwijt is. PreCrime wordt stopgezet.

Blind vertrouwen

Minority Report waarschuwt voor een blind vertrouwen in technologie. Ook algoritmen zijn door mensen bedacht. ‘How do we know that the algorithms used for prediction do not reflect the biases of their authors?’, vraagt technologiecriticus Evgeny Morozov in zijn boek To Save Everything, Click Here. Een retorische vraag: elke technologie die belooft menselijk gedrag te voorspellen moet gezien worden voor wat ze is – een veelbelovend, maar niet onfeilbaar hulpmiddel.

Minority Report toont ons de mogelijke gevolgen van blind vertrouwen in technologie: surveillance kan toekomstige misdrijven voorkomen, maar ook de verkeerde persoon veroordelen.