Hoe data gelijkwaardigheid, solidariteit en rechtszekerheid kunnen ondermijnen

Er lijkt eindelijk iets te kantelen. Privacy is ineens een belangrijk onderwerp. ING kondigt aan inzicht in klantendata te willen verkopen, het regent klachten en het plan wordt op de lange baan geschoven. Facebook koopt WhatsApp voor een astronomisch bedrag en veroorzaakt daarmee een vlucht van klanten naar andere berichtenservices die privacyvriendelijker zouden zijn. En de onthullingen van Edward Snowden leiden in verschillende landen tot felle discussies over de doorgeslagen balans tussen veiligheid en privacy. 

It’s not privacy, stupid. It’s data

In de maatschappelijke discussie wordt privacy meestal platgeslagen tot het recht ‘iets te verbergen’. Dat je je mag afschermen voor de blik van bedrijven, overheden en medeburgers. En dat je zelf mag bepalen wat er met je persoonsgegevens gebeurt, in het bijzonder dat je mag weigeren ze weg te geven. 

Maar daarmee mist er een belangrijk punt in de discussie: we leven allang in een informatiemaatschappij. Het gebruik van persoonsgegevens is een voorwaarde voor het goed functioneren van publieke voorzieningen en private diensten. Je kunt ervoor kiezen niet mee te doen, maar je mist daarmee ook het vele goede dat de informatiemaatschappij brengt: gemak, efficiëncy, kostenbesparingen, entertainment en empowerment. 

Wie wil er nog zonder zijn smartphone? Of de OV-chipkaart? Of de vele internetdiensten die gratis zijn, omdat adverteerders gepersonaliseerde aanbiedingen kunnen doen.

De huidige discussie negeert het feit dat de informatiemaatschappij zich vooral kenmerkt door de groei van datastromen. Persoonlijke gegevens worden continu gegenereerd, verplaatst, verrijkt en - wat vaak wordt vergeten - gebruikt voor beslissingen over jou door bedrijven en overheden. Langs enkele snelwegen worden alle kentekens gescand en opgeslagen, om geanalyseerd te worden op reispatronen. Of te worden overgedragen aan de Belastingdienst.

Ook marketeers hebben al jaren door hoe informatie circuleert en wat je er allemaal mee kan doen: onderscheppen, bewerken en gebruiken om vervolgens meer grip te krijgen op consumenten en hun koopgedrag. Niet voor niets zingt er een spreuk rond in marketingkringen: meten is weten is voorspellen is beheersen. Dat zou wel eens dé slogan kunnen zijn van de informatiemaatschappij waarin we leven. 

Meten waar je bent en wat je doet

Steeds meer van wat we doen, wie we zijn en waar we ons bevinden wordt gezien en gemeten. Neem je smartphone. Dat is allang geen simpele telefoon meer, maar een verzameling sensoren. Je gps registreert continu waar de smartphone (en meestal jij dus) zich bevindt. Het besturingssysteem en sommige apps leggen vast met wie je communiceert en op welk moment. De wifi en bluetooth laten continu aan andere apparaten weten dat de smartphone in de buurt is, bijvoorbeeld bij welke schap in een winkel. Dat is surveillance.

Surveillance heeft een slechte naam. Ze roept associaties op van politiek toezicht, zoals in 1984, George Orwells krachtige dystopie. Alle partijleden staan in dat boek onder continu toezicht van het ‘telescherm.’ Controleurs kunnen zo op afstand ongezien en op ieder moment meekijken wat iemand doet in huis of op kantoor, op straat of in bad, in de kantine of in het buurthuis. Onduidelijk is echter óf de controleurs daadwerkelijk controleren.

Naarmate sensoren en opslagapparaten kleiner en goedkoper worden, groeien de mogelijkheden om elkaar in de gaten te houden en vast te leggen

Dit is panoptische surveillance. Het toezicht is gecentraliseerd: de bekekenen kunnen niet terugkijken. Cameratoezicht is, bijvoorbeeld, panoptische surveillance.

Maar er zijn ook andere vormen, zoals dataveillance. Steeds meer surveillance vindt niet in de fysieke ruimte plaats, maar in databases. De weerslag van ons doen en laten ligt in toenemende mate opgeslagen, ver weg in de cloud. Je surfgedrag wordt onderschept en vastgelegd, net zoals betalingen, reizen met het openbaar vervoer en, met de opkomst van digitale televisie, waar je naar kijkt.

Daarbij worden we niet alleen bekeken door overheden en bedrijven. We houden ook elkáár in de gaten: sousveillance. Naarmate sensoren en opslagapparaten kleiner en goedkoper worden, groeien de mogelijkheden daarvoor enorm. Denk aan Google Glass, of smartphones. Geregeld duiken er gênante foto’s en filmpjes op van mensen die viraal gaan op Facebook of Geenstijl.

Tot slot maken we onszelf ook steeds zichtbaarder. De quantified self-beweging is hier een extreem voorbeeld van. Miljoenen mensen registreren continu allerlei lichaamsfuncties, zoals slaap, sportprestaties, beweging, eten en drinken. De quantifiers proberen in die data patronen te vinden die aanwijzingen geven naar self improvement. 

Er wordt dus gigantisch veel data gegenereerd en verzameld. En hier houdt de privacydiscussie doorgaans op. Gek genoeg is er maar weinig aandacht voor wat overheden en bedrijven met al die surveillancedata en meetgegevens doen.

Weten wat de data zeggen

Er wordt vaak gesproken dat we leven in een tijd van Big Data. Big Data is een term die niet zozeer iets zegt over de omvang van databases, maar eerder over de groeiende mogelijkheden om inzichten te krijgen uit verschillende soorten data. Lang werden verzamelde data opgeslagen in zogenoemde silo’s: op zichzelf staande databases, die los van elkaar stonden. De data uit de ene silo konden niet zomaar gecombineerd worden met data in de andere. Net zo goed dat de opslagcapaciteit van data toeneemt (Moore’s Law), neemt ook de mogelijkheid toe data te vervoeren over netwerken. 

Die netwerken zorgen ervoor dat data gecombineerd en verrijkt kunnen worden. De Belastingdienst hoeft niet alleen zijn eigen administratie door te vlooien om eventuele fraude op te zoeken. De dienst doorzoekt ook sociale media van belastingplichtigen, of vraagt informatie op over gescande kentekens bij de politie.

Een bedrijf als Experian, in Nederland nauwelijks bekend, verzamelt uit zoveel verschillende openbare bronnen informatie, dat het zeer gedetailleerde socio-economische en demografische profielen heeft van alle Nederlandse huishoudens. Aan de hand van deze data bepalen andere bedrijven weer of je bijvoorbeeld kredietwaardig bent.

Wat veel mensen niet beseffen is dat eenmaal opgeslagen data continu worden gebruikt. Van burgers en consumenten worden digitale dossiers gemaakt, bijgehouden en geanalyseerd. Robeco gebruikt dit soort dossiers bijvoorbeeld om psychologische profielen te maken van mensen die financiële producten afnemen. De verkoopmedewerker weet daarmee snel de juiste tone of voice te bepalen, om het juiste financiële product aan de juiste klant te verkopen.

Voorspellen, beter dan genezen?

Een belangrijk kenmerk van moderne surveillance is ook dat zij niet gericht is op verleden of heden, maar op de toekomst.

Stel je het volgende scenario eens voor. In 2054 houdt de politie-afdeling PreCrime misdrijven tegen voordat ze gepleegd worden. Met behulp van ‘precogs’, mutanten die de toekomst zien, kunnen politiemensen voorspellen wanneer bijvoorbeeld een moord zal plaatsvinden. Voordat de dader toeslaat, snellen politie-eenheden naar het plaats delict in spe en houden de boosdoener aan. Die zal op basis van zijn moordlustige intenties veroordeeld worden.

Dit scenario is nu nog voorbehouden aan de sciencefictionfilm Minority Report, maar het is meer dan sciencefiction en verretoekomstmuziek. 

Steeds meer politiekorpsen in de Verenigde Staten doen namelijk al aan predictive policing: voorspellend politiewerk. Het idee erachter is simpel: waarom zou je al gepleegde misdrijven oplossen als je ze ook kan voorspellen en dus voorkomen?

Voordat de dader toeslaat, snellen politie-eenheden naar het plaats delict in spe en houden de boosdoener aan. Die zal op basis van zijn moordlustige intenties veroordeeld worden

De Amerikaanse statisticus Richard Berk ploos de afgelopen vijf jaar tienduizenden straf- en reclasseringsdossiers uit op zoek naar interessante correlaties. Hij claimt accurater dan wie ook te kunnen voorspellen welke gevangene na vrijlating de fout ingaat. De data onthullen nog meer. Zijn team van de Universiteit van Pennsylvania kan acht van de honderd moorden voorspellen. Niet waar of wanneer een moord wordt gepleegd, maar wel wie erbij betrokken zullen zijn.

In Washington en Philadelphia wordt Berks voorspellingstechniek al gebruikt om de mate van surveillance van ex-gevangenen te bepalen. Er zijn plannen om de risicoschattingen ook te gebruiken voor de strafbepaling, maar dat is nog omstreden. Ook in Nederland worden de mogelijkheden van  predictive policing verkend. 

Je ziet dit gebruik van risicoscores steeds vaker. In sommige Digitale Dossiers Jeugdgezondheidszorg krijgen kinderen een kleurtje: groen is niets aan de hand, oranje is scherper opletten en rood betekent ingrijpen. Op vliegvelden worden reizigers ingedeeld in ‘onverdachten’ en ‘potentiële terroristen.’ Bedrijven beoordelen mogelijke klanten op potentiële life time value: wat voor type klant is het en wat levert hij op de lange termijn op?

Sommige werkgevers in de Verenigde Staten krijgen zoveel sollicitatiebrieven dat ze de eerste selectie maken op basis van credit scores. In Amerika heeft iedereen een credit score, een getal dat de mate van kredietwaardigheid aangeeft en goedkoop en eenvoudig opvraagbaar is. Voorkomen is immers beter dan genezen.

Beheersen van het individu

Maar dit preventiedenken is slechts een deel van de verklaring waarom we zoveel willen meten, weten en voorspellen. Het is ons maakbaarheidsgeloof dat hier achter zit.

In zijn boek De nieuwe wanorde: globalisering en het einde van de maakbare samenleving, stelt filosoof René Boomkens dat dit maakbaarheidsgeloof door de jaren van kleur is verschoven.

Hij schrijft: ‘Al decennialang is de overheid aan het ‘dereguleren,’ ‘privatiseren’ en ‘liberaliseren,’ maar geconfronteerd met de verontrustende toename van onveiligheidsgevoelens onder de bevolking en met de groter wordende onrust rond integratie, moslimfundamentalisme, en criminaliteit onder tweedegeneratiemigrantenjongeren ontpoppen de overheid en de politiek zich plotseling als kampioenen van de maakbare samenleving. Dat is echter geen maakbaarheid die, zoals in de jaren zestig en zeventig, in het teken staat van emancipatie, vooruitgang en solidariteit, maar een die in het teken staat van surveillance, controle, misdaad – en terreurpreventie, bewaking, zero tolerance, spreidingsbeleid, inperking van privacy, kortweg: van het herstel van een autoritaire, gesloten samenleving.’

Dat hernieuwde maakbaarheidsgeloof richt zich niet meer op de samenleving als geheel, zoals Joop den Uyl voorzag met zijn wens tot spreiding van kennis, macht en inkomen. Dat geloof richt zich tot het individu dat tegengehouden, gestimuleerd of bijgestuurd moet worden om tot gewenst en productief gedrag te komen.

Het is dé belofte van gepersonaliseerde data, persoonlijke digitale dossiers en de opkomst van sensoren die om de mens zijn gebouwd: individuele datastromen kunnen het individu bijsturen. 

Met een algoritme in discussie

We zouden surveillance dus anders moeten beoordelen. Het is meer dan kijken of bekeken worden: het is voorspellen, beheersen en sturen. De Canadese hoogleraar David Lyon heeft hier een interessante visie op ontwikkeld. Volgens hem is surveillance social sorting. Doordat surveillance steeds meer geautomatiseerd wordt, is het mogelijk om mensen in te delen in verschillende categorieën, opdat ze verschillend behandeld kunnen worden.

Zo is het volstrekt normaal geworden mensen in te delen in risicoklassen. Marketeers delen ons in in groepen die verschillende mate van service genieten. Verzekeraars proberen aan de hand van data risico’s in te schatten en de bijbehorende premies te berekenen. De mens wordt in toenemende mate in hokjes gestopt en in richtingen geduwd.

Als we dit in gedachten houden, komt een aantal discussies dat we de afgelopen jaren hebben gevoerd opeens in een heel ander daglicht te staan.

Het Digitaal Dossier Jeugdgezondheidszorg, bijvoorbeeld, is niet enkel een vervanging van het papieren dossier dat privacyproblemen oproept. Het dossier is een profileringssysteem dat kinderen en gezinnen indeelt in verschillende risicoklassen. Het probleem is dus niet privacy, maar discriminatie en een geschonden onschuldpresumptie.

Het Elektronisch Patiëntendossier (EPD) is niet enkel een vervanging van het papieren medisch dossier. Het is een database waarmee epidemiologen tot nieuwe inzichten kunnen komen. Maar het is ook een dossier dat in handen van verzekeraars zal ontaarden in een profileringssysteem, waarmee de winstgevende klanten kunnen worden gescheiden van de verliesgevende. Het EPD zet niet alleen privacy onder druk, maar ook het solidariteitsbeginsel in de zorg. Om over discriminatie nog maar te zwijgen.

Grote bedrijven die veel informatie over je bezitten en daaruit allerlei gedragsinzichten kunnen genereren, verwerven de macht ons te manipuleren en zwakke plekken te zoeken die we zelf niet eens kennen. En ze gebruiken daarvoor techniek die voor de gewone consument een black box is. Als de bank je een lening weigert, dan is die beslissing waarschijnlijk door een algoritme genomen. Als je om opheldering vraagt, krijg je te horen ‘dat de computer het zegt.’

En probeer maar eens met een algoritme in discussie te gaan.

Het gaat niet om wat we te verbergen hebben, maar om welke waarden we koesteren

De groeiende rol van informatie in onze samenleving heeft dus maar ten dele met privacy te maken. De privacydiscussie is ontoereikend om de diepere problemen die de verwerking van data veroorzaken te bespreken. De discussie moet niet alleen gaan over ‘iets te verbergen’ hebben. Hij moet gaan over discriminatie, solidariteit, eerlijkheid, onschuldpresumptie, kortom, over het soort samenleving waarin we willen leven.

Maar bovenal moet de discussie gaan over wat we denken te kunnen beheersen. De reflex om bij problemen automatisch meer data te verzamelen, leidt heel vaak tot problemen. Het is flauw om daarbij met een beschuldigende vinger alleen te wijzen naar overheid en bedrijven. Die reflex - om maatregelen en service te eisen, liefst voor een prikkie - zit net zo goed bij ons, gewone burgers.

Dit artikel is een bewerking van de lezing die ik onlangs op mijn correspondentavond heb gehouden.