Hoe jouw gedrag wordt beïnvloed zonder dat je het doorhebt (en wat we eraan kunnen doen)

Als je als journalist schrijft over privacy, dan ben je continu op zoek naar goede voorbeelden. Naar concrete gevallen die laten zien wat het probleem is. Lekkere anekdotes die illustreren waar de pijnpunten zitten en in één keer duidelijk maken waarom privacy van belang is.

In februari 2012 verscheen zo’n voorbeeld in The New York Times Magazine.

In een uitgebreid artikel beschreef journalist Charles Duhigg op welke manieren bedrijven het gedrag van consumenten proberen te doorgronden én te beïnvloeden. Duhigg maakte een rondgang langs neurowetenschappers die rattenhersenen bestudeerden om te achterhalen hoe nieuwe gewoontes kunnen worden aangeleerd en sprak met wiskundigen die exact probeerden te berekenen op wat voor type advertenties potentiële kopers van een nieuw schoonmaakmiddel het best zouden reageren.

De passage die op mij verreweg de meeste indruk maakte, ging over de Amerikaanse supermarktketen Target. De data-analisten van dit bedrijf waren in staat aan de hand van het aankoopgedrag van klanten te voorspellen wie er zwanger was. Zo hadden zij bijvoorbeeld ontdekt dat vrouwen aan het begin van het tweede semester van hun zwangerschap grote hoeveelheden geurloze lotion inkochten. Dat zwangeren in de eerste twintig weken relatief veel supplementen als calcium, magnesium en zink aanschaften. En dat vrouwen die bijna moeten bevallen veel geurloze zeep én watjes én handzeep én washandjes mee naar huis namen. Als de pregnancy prediction score hoog genoeg was, dan begon Target op maat gesneden aanbiedingen en kortingsbonnen op deze klanten af te vuren.

Ziedaar het voorbeeld waar iedere privacyjournalist van likkebaardde: in het artikel werd beschreven hoe de vader van een meisje van achttien woedend contact opnam met Target. Hij zei dat het bedrijf moest ophouden zijn dochter aanbiedingen van luiers en wiegjes te doen. Want, zei hij, zij zat nog gewoon op school en was helemaal niet zwanger.

Een paar dagen later, toen Target de man belde om excuses aan te bieden, gebeurde er iets vreemds: de vader bood Target zijn excuses aan. Zijn dochter bleek wel degelijk zwanger. Alleen hadden de datacrunchers van Target dat eerder ontdekt dan hij.

Dit verhaal laat de kracht van data-analyse mooi zien. Het illustreert hoe partijen onze persoonlijke gegevens analyseren en daarnaar handelen zonder dat wij dit doorhebben. Tegelijkertijd roept het een creepy gevoel op, van bedrijven die ons wel heel dicht op de huid gaan zitten.

Hoe gedrag op basis van data kan worden gemanipuleerd

Hoogleraar Interfacing Law and Technology Mireille Hildebrandt legt liever de nadruk op een ander deel van het artikel. Ik interview haar in Brussel, waar zij aan de Vrije Universiteit Brussel werkt. In 2015 verscheen haar boek Smart Technologies and the End(s) of Law. Hierin legt ze uit welke fundamentele maatschappelijke waarden onder druk komen te staan wanneer datagestuurde technologieën onze levens voortdurend voorspellen en sturen.

Hildebrandt wijst op een passage waarin een leidinggevende van Target aan het woord komt. Hij legt uit dat sommige zwangere vrouwen ronduit negatief reageerden toen zij ontdekten dat het bedrijf zoiets intiems van hen wist zonder dat zij die informatie zelf hadden gegeven. Dus, wat deed het bedrijf? Het begon de coupons en acties te vermengen met advertenties waarvan Target wist dat zwangere vrouwen de aangeprezen producten nooit zouden kopen. ‘Wij plaatsen een advertentie voor een grasmachine naast een advertentie voor luiers,’ aldus de Targetvertegenwoordiger. ‘Wij zetten een coupon voor wijnglazen naast die van kinderkleren. Op die manier leek het alsof de producten bij toeval waren gekozen.’ En dat werkte. ‘We kwamen erachter dat zolang een zwangere vrouw denkt dat ze niet bespioneerd wordt, zij de coupons gebruikt.’

Hildebrandt noemt dit een voorbeeld van de manieren waarop de autonomie van burgers en consumenten in een datagestuurde samenleving bedreigd wordt.

In het eerste geval besluit een deel van de vrouwen niet in te gaan op de verleidingspoging, omdat de geboden keuze hun niet bevalt. In het tweede geval is er sprake van wat Hildebrandt ‘subliminale manipulatie’ of ‘nudging’ noemt: zo’n vrouw wordt onbewust een bepaalde kant op geduwd. Dit is effectief, in de woorden van de leidinggevende van Target: ‘Zolang we haar niet bang maken, werkt het.’

Dit is waar Hildebrandt zich grote zorgen over maakt. ‘Je kunt mensen manipuleren op basis van dit soort techniekjes, die juist werken doordat wij ze niet kunnen zien en waardoor wij dingen gaan doen zonder dat we doorhebben dat en hoe we worden beïnvloed.’

Hildebrandt geeft een hypothetisch voorbeeld. ‘Stel dat ik overweeg vegetariër te worden en dit is door software af te leiden uit het dataspoor dat ik online achterlaat. Vervolgens krijg ik bij mijn online bestelling een gratis lapje van mijn lievelingsvlees meegeleverd. En ik krijg even later een banner voorgeschoteld met een verwijzing naar wetenschappelijke literatuur over hoe gezond vlees wel niet is. Als ik daarna besluit geen vegetariër te worden, heb ik het idee dat ik dat helemaal zelf besluit. Maar dat klopt niet. Achter mijn rug om is mijn wil gecorrumpeerd.’

Achter mijn rug om is mijn wil gecorrumpeerd

Als mensen niet doorhebben dat hun wil op die manier kan worden beïnvloed, dan hebben we een heel groot probleem, stelt Hildebrandt. ‘Als we aanbiedingen, kortingen, advertorials, maar ook andere informatie niet meer herkennen als pogingen om ons gedrag te beïnvloeden, dan hebben we niet alleen een privacyprobleem. We kunnen dan ook ongemerkt van bepaalde voordelen worden uitgesloten en we raken bij het vormen van onze mening steeds meer afhankelijk van datagestuurde nudging. De software die dat mogelijk maakt, ondervangt als het ware onze voorkeuren voordat we ons daarvan bewust zijn.Dat tast de vrijheid van meningsuiting aan, want een voorwaarde daarvoor is vrijheid van meningsvorming. Met privacy en non-discriminatie vormt dit de voedingsbodem van een levensvatbare democratie.’

En het gebeurt al. Hildebrandt wijst op een bericht uit 2014, toen bleek dat Facebook het nieuwsoverzicht van gebruikers had gemanipuleerd om te kijken wat de effecten zouden zijn van overwegend positieve berichten. Ook blijkt uit onderzoek dat het mogelijk is zeer gevoelige informatie af te leiden uit het zogenoemde likegedrag van Facebookgebruikers. Uit weer ander wetenschappelijk onderzoek blijkt bovendien dat je door het aanpassen van de resultaten van zoekmachines het stemgedrag van gebruikers kunt beïnvloeden. ‘Volgens sommigen heeft de onzekerheid over wat nu eigenlijk wel en niet waar is ertoe geleid dat mensen zich veel radicaler dan vroeger afsluiten voor informatie die hun niet bevalt. Dat zou de opkomst van leiders als Trump kunnen verklaren, die garen spinnen bij die onzekerheid, omdat hun aanhangers niet meer willen checken of wat ze lezen wel klopt.’

Het probleem ligt volgens de hoogleraar niet alleen bij bedrijven. Ook overheden houden zich in toenemende mate bezig met geautomatiseerde data-analyse om het gedrag van burgers te onderzoeken én sturen. ‘Machinaal lerende systemen gebruiken onze meetbare gedragsgegevens om beter te worden in bijvoorbeeld het detecteren van belastingfraude.’

Wat te doen?

Tijdens het gesprek draagt Hildebrandt een aantal noodzakelijke oplossingen aan:

1. Statistiek voor iedereen

Ten eerste: scholen moeten gaan inzetten op onderwijs over statistiek. ‘Datagestuurde beslissystemen kunnen leren van de feedback die ze verzamelen, en op die manier hun prestaties voortdurend bijwerken en verbeteren. Het lijkt alsof die systemen denken of redeneren maar dat is niet zo, ze passen eigenlijk gewoon statistische analyses toe. Om datagestuurde beslissingen ervan te kunnen inschatten moet je de logica die daarin schuilt leren aanvoelen.’

Statistiek leren kost - net als leren lezen en schrijven - tijd en moeite. Maar het is net zo noodzakelijk, zegt Hildebrandt. ‘Democratie bestaat nu bij de gratie van dat iedereen in beginsel kan schrijven en lezen.Als de inzet van machinaal lerende systemen doorzet, dan zullen de geloofwaardigheid en de weerbaarheid van de democratie af komen te hangen van de vraag of we onze kinderen leren om vat te krijgen op statistiek, programmeren en machinaal leren.’

2. Profieltransparantie

Het tweede wat moet gebeuren, zegt Hildebrandt, is dat gewone burgers en consumenten zicht krijgen op de consequenties van data-analyse. ‘Er zijn inmiddels verschillende platforms in ontwikkeling die de gebruiker inzicht geven in de manier waarop zij worden geprofiled. Bijvoorbeeld bij welk type meetbaar rijgedrag de premie van je verzekering omhooggaat. Of op grond van welke datapunten je kans op een bepaald type baan groter of kleiner wordt. Het gaat dan niet om welke profielen daadwerkelijk worden gebruikt, want dat verandert voortdurend en is niet altijd interessant. Nee, ze moeten tonen wat voor meetbaar gedrag tot welke beslissingen kan leiden. Bijvoorbeeld, wanneer je niet achteraf mag betalen als je iets bestelt, of geen vwo-advies krijgt, ook al zijn je cijfers vergelijkbaar met die van andere leerlingen die wel zo’n advies krijgen. Of wanneer politie en justitie een telefoon- of internettap gaan overwegen. Je wilt als burger en consument kunnen voorzien hoe je kunt worden getarget.’

Hier ligt ook een taak voor de wetgever, zegt Hildebrandt. Die moet ervoor zorgen dat deze bedrijven redenen krijgen om die transparantie te bieden. ‘Ik geloof in een wetgever die de markt zo inricht dat het ethisch handelen mogelijk wordt en onethisch handelen zichtbaar. Het moet niet zo zijn dat een bedrijf dat ethisch wil omgaan met Big Data uit de markt wordt gedrukt. De nieuwe Algemene verordening gegevensbescherming (Avg ) [nieuwe Europese regelgeving over de bescherming van persoonsgegevens, MM] beoogt precies dat te voorkomen.’

Ook overheidsinstanties moeten burgers duidelijk maken welke beslissingen deze over hen nemen op basis van data-analyse. ‘Het zou goed zijn als er bij het ministerie van Veiligheid en Justitie, bij de fiscus en bij de uitkeringsinstanties transparantie komt over de verschillende type profielen die zij hanteren bij fraudedetectie en hoe ze die toepassen. Bijvoorbeeld, een uitkeringsgerechtigde die beweert alleen te wonen maar een erg hoge waterrekening heeft, is eigenlijk al potentieel verdachte van socialezekerheidsfraude. Bouw een goede site waar mensen met gedragsdata kunnen spelen, zodat ze redelijkerwijs kunnen voorzien wanneer ze gesnapt worden. En zodat ze in beroep kunnen gaan bij de rechter of op een politieke partij kunnen stemmen die een ander beleid voorstaat.’

3. Beter toezicht op inzet datagestuurde analyse

Ten derde is er volgens Hildebrandt een rigoureuze versterking nodig van het toezicht op de inzet van computersystemen die voortdurend allerlei beslissingen nemen die gevolgen hebben voor personen. ‘De Autoriteit Persoonsgegevens (AP) kan onder de nieuwe Europese regels besluiten om een inspectie te doen en moet dan toegang krijgen tot alle beslissystemen die met persoonsgegevens werken. Zonder dat partijen zich kunnen verschuilen achter het bedrijfsgeheim. De AP komt kijken naar die systemen om na te gaan of ze aan de wet voldoen. Vervolgens zou er ook een toezichthouder moeten komen bij justitie en de politie die toegang heeft tot de systemen waarmee het opsporings- en vervolgingsbeleid wordt uitgevoerd. Het kan in een rechtsstaat niet zo zijn dat er allerlei bestanden uit allerlei contexten worden gekoppeld en er zo een enorme hooiberg wordt gecreëerd, waarin naalden overigens vaak nog moeilijker te vinden zijn. We moeten oppassen geen datafetisjisme te kweken en alle budgetten in het ontwikkelen van algoritmes te investeren. Dat leidt namelijk tot patroon-obesitas en een hoop onzin. We moeten terug naar de echte werkelijkheid en zorgen dat al die systemen en hun meesters ter verantwoording kunnen worden geroepen.’

Meer over privacy: