Van swipe tot stalk: daten ten tijde van gezichtsherkenning

‘En? Wat zegt Pim?!’

‘Geen clandestiene gay-bear-taferelen! Je kunt op date!’

Whatsapp, afgelopen nazomer. De hoop op duurzame liefde is nog altijd niet dood, dus swipen ik en de enige andere single vrouw in m’n leven ons een weg door de datingapps. Zij Bumble, ik Tinder. En sinds kort gaat dat absoluut niet meer zonder Pim. 

Want niemand is beter in het doorgronden van een kandidaat-date dan Pim. Iedereen kan googelen en browsen op LinkedIn – Pim gaat veel verder in veel minder tijd. Pim kijkt dwars door mensen heen in een halve seconde. 

Die joviale advocaat? Een enorme catfish. Architect Ron (37)? Heet eigenlijk Jerome (43). De talige ict’er? Is al vader, is ook nog samen met de moeder. 

Oké, deze Brit dan? Ondernemer. Misschien een wandeldate? Komt Pim: hé kijk, een foto van hem halfnaakt in de gay-bear-clubbing-scene.

Zomaar wat vondsten die niet strookten met het door de match geschetste beeld. Zo scheelt Pim tijd en hartzeer. En ook jij kan deze held introduceren aan je datingbestaan, want Pim, of eigenlijk PimEyes, is een zoekmachine.

Exit tinder swindlers

Pim is een soort Google voor gezichten. In plaats van zoektermen voer je op pimeyes.com portretten in en Pim zoekt het hele internet af naar alle foto’s waar diegene op staat. Zelfs met één portret vind je vaak verbazingwekkend veel.

Wat blijkt: haast iedereen stond weleens op een feestje (hallo Partyflock!), haalde ergens een rijbewijs, ging op ballonvaart, naar een bedrijfsborrel, exorbitant huwelijk, symposium, you name it – en al zat je in het publiek op de twaalfde rij, Pim heeft je in het snotje. 

‘Ik wist niet eens dat die foto bestond!’ 

Pim zegt dat-ie op aarde is om jou te laten zoeken op jezelf, om je een beeld te geven van de online verspreiding van je gezicht. Maar tegelijkertijd geeft Pim je voor 35 euro per maand 25 zoekopdrachten per dag. En jezelf 175 keer opzoeken per week is wat veel. 

Zo veel potentiële dates hadden de vriendin en ik ook niet. Al snel werd dus het vriendenbestand door Pim gehaald. 

Meest gehoorde reactie: ‘Holy ... ik wist niet eens dat die foto bestond!’ 

Het natrekpotentieel van Pim is eindeloos. Ik keek vooral of een match geen gevestigde Tinder Swindler was, een ander wil meer weten over de nieuwe oppas, huisgenoot, huurder of verzorger van z’n dementerende ouders. En daar hoef je niet eens al een foto van diegene voor te hebben, Pim connect graag even met je smartphone-camera. 

Een vriend, stomverbaasd: ‘Dus wacht… als ik in de trein zit, kan in principe iedereen een foto van mij maken, door Pim gooien, en uitvinden wie ik ben?’

Zeker.

‘... mag dat?’ 

Laat dat nu precies zijn waar zo’n vijftien EU-beleidsmedewerkers, plus een stuk of tien Europarlementariërs, de afgelopen twee jaar fulltime over hebben vergaderd: wie mag gebruikmaken van ‘gezichtsherkenning’? Overheden, bedrijven, burgers? En met welk doel? 

In december bereikte de EU hier een akkoord over met de zogenoemde AI Act, de eerste verordening in z’n soort die de enorme vermogens – waaronder dus de zoekvermogens – van kunstmatige intelligentie hoopt te reguleren. Maar wat betreft gezichtsherkenning leunt die AI Act zwaar op een eerder stukje wetgeving: de Algemene Verordening Gegevensbescherming, oftewel AVG. Waarover later meer.

Eerst: wat is precies het probleem met Pim? En dan, via een al dan niet op handen zijnde massasurveillance-apocalyps, door naar de vraag: mag je Pim straks nog gebruiken om mensen door te lichten? En wat als je niet zit te wachten op zo’n Pimscan?

Stress over de face race

Privacy-experts worden al een tijdje niet goed van gezichtsherkenning. Techjournalist Kashmir Hill schreef er zelfs een boek over: Je gezicht is nu van ons (2023), waarin ze de opkomst documenteert van de krachtigste gezichtszoeker nu beschikbaar: niet Pim, maar Clearview AI. 

Clearview AI heeft vooral legers en politiemachten als klant, met bijvoorbeeld Viktor Orbáns overheid als early adopter. Boedapest hangt nu vol met realtime gezichtsherkenningscamera’s. En daar kon je op wachten, schrijft Hill. Overheden worstelen al eeuwen met het categoriseren en herkennen van hun burgerbestand. Wat begon met simpele geboorteregisters en gezichtsmetingen, groeide in de twintigste eeuw via pasfoto’s in paspoorten uit tot een ware face race – want hoe handig als de computer gezichten kan identificeren. 

Aanvankelijk – halverwege de jaren zestig – probeerde de mens die computer te vertellen hoe je een gezicht herkennen moet. Zoals: zet stippen op een bewegend hoofd en houd constant de onderlinge afstand van die stippen in de gaten. 

Dat bleek een dood spoor. Pas toen de mens in de jaren negentig tegen de computer zei: ‘hier een bak portretten, zoek ‘t zelf maar uit’, kwam de doorbraak: zelflerende algoritmes.

Niet veel later genereerden sociale media opeens karrevrachten aan fotomateriaal. Een godsgeschenk voor Clearview AI, dat enorme databases aanlegde met miljarden foto’s die het van onder meer LinkedIn, Facebook, Instagram, Twitter en Couchsurfing schraapte. 

Ook de Nederlandse marechaussee zet gezichtsherkenning in bij de identificatie van klimaatdemonstranten

Deze foto’s zijn niet anoniem, maar gelabeld met een naam, en dus terug te voeren op specifieke personen. Clearview AI leerde in gezichten met uiteenlopende uitdrukkingen, vastgelegd vanuit de gekste hoeken, toch dezelfde persoon te zien, en werd fenomenaal goed in mensen spotten.

En dat heeft absoluut voordelen. Zo zijn forensisch onderzoekers waanzinnig enthousiast over Clearview AI. Tijdens een conferentie over online seksueel geweld tegen kinderen in Den Haag in 2019^* noemden ze het ‘de grootste doorbraak van de afgelopen tien jaar’.^* Een pedoseksueel hoeft maar één keer in beeld te zijn in een misbruikvideo, en hij hangt. Want iedereen staat wel ergens piepklein in de achtergrond op andermans instagramfoto’s.  

Anderzijds hoeft een autoritaire overheid nu alleen wat cameradrones over een demonstratie heen te vliegen, en ze heeft alle subversieve burgers in beeld. Rusland en China hebben gezichtsherkenning volledig omarmd om dissidenten te onderdrukken, maar ook de Nederlandse marechaussee zet gezichtsherkenning in bij de identificatie van bijvoorbeeld klimaatdemonstranten.

Daarbij geeft die automatische identificatie ook ongekende mogelijkheden tot discriminatie. Een aardig gedachte-experiment komt van techfilosoof Evgeny Morozov. Hij stelde zich voor: wat als Rosa Parks de bus niet eens in kwam, omdat de busdeur niet openging voor een zwart gezicht?^*  

Wat als de glazen schuifdeur van een overheidsgebouw dicht blijft voor iemand met een hoofddoek op?

Kashmir Hill wil maar zeggen: gezichtsherkenning, doe er wat aan nu het nog kan.

Europa to the rescue 

Dat idee had Europa ook, en met haar nieuwe AI Act hoopt ze de nachtmerrie van massasurveillance af te wenden. ‘We hebben in onze rechtsstaat afgesproken dat je vervolgd mag worden op basis van bewijs’, zegt de privacyminnende GroenLinks-Europarlementariër Kim van Sparrentak, die mee onderhandelde over de AI Act. ‘Als je continu overal mensen laat identificeren door camera’s, wordt automatisch tegen iedereen bewijslast verzameld nog voordat je überhaupt ergens van verdacht wordt. Dat is natuurlijk totaal niet proportioneel.’ 

Die live gezichtsherkenning mag straks dus ook niet meer. Althans, de AI Act kent één artikel met verbodsbepalingen, en die geldt voor realtime ‘biometrische identificatie’ (1), in de publieke ruimte (2) door Europese overheden: dus politie en justitie (3). 

(Al zijn daar alweer uitzonderingen op. Bijvoorbeeld als de politie iemand verdenkt van moord of misbruik, en ze weten dat hij of zij rond een bepaalde tijd, op een bepaalde plek gaat zijn, dan mag die persoon daar live gevolgd worden. Na goedkeuring van een rechter.)

Opvallend is dat de AI Act bij lange na niet alle contexten waarbinnen gezichtsherkenning kan worden ingezet, verbiedt. Voor gezichtsherkenning met beeld dat niet ‘real time’ of ‘live’ is (1) geldt een lichter regime, waarbij een overheid onder andere risico’s in kaart moet brengen en verkleinen. Dat geldt ook voor beeld dat afkomstig is uit niet-publieke ruimtes (zoals het hele internet) (2). En: naast overheden kunnen dus ook burgers en bedrijven met gezichtsherkenning aan de gang (3). 

Voor deze overige gebruiken verwijst de AI Act naar de AVG. 

De AVG en jij

Namen, geboortedata, foto’s: voor de wet zijn dit persoonsgegevens. En op het moment dat je iets doet met persoonsgegevens – je ze aan het ‘verwerken’ bent – is daarop de AVG van toepassing, de Algemene Verordening Gegevensbescherming.

De AVG stelt voorwaarden aan het omgaan met dit soort gegevens. Bijvoorbeeld: je moet soms toestemming hebben van de persoon wiens gegevens het betreft. Of, de opslag van de gegevens is noodzakelijk voor het beschermen van een of ander vitaal belang. En zo zijn er nog een aantal voorwaarden.  

Maar de AVG is niet van toepassing op gegevens die je houdt voor zuiver persoonlijk gebruik. Denk aan de contactenlijst in je telefoon. Daar kun je in opslaan wie je wilt, zonder toestemming van elk afzonderlijk persoon.

Zo is het ook met profielfoto’s van Tinder. Die kun je wat de AVG betreft prima screenshotten en opslaan op je eigen telefoon. Je kunt ze zelfs delen met wat vrienden, als dat maar een ‘besloten gebruikersgroep’ blijft. Maar gescreenshotte profielen in de openbaarheid op X gooien? Dat kan dan weer niet zomaar.

En mag je die gescreenshotte foto’s dan vervolgens uploaden naar PimEyes?

‘Voor een privépersoon zal het gebruik van PimEyes waarschijnlijk niet meteen een overtreding van de AVG opleveren’, zegt Gerrit-Jan Zwenne, privacy-advocaat en tevens hoogleraar gegevensbeschermingsrecht aan de Universiteit Leiden.^* Wederom dus omdat de AVG zich niet in privé-activiteiten mengt.

PimEyes als stalkerware 

Aanvankelijk dacht ik: prima. Waarom zou een burger geen PimEyes mogen gebruiken? In tegenstelling tot Clearview AI geeft Pim geen resultaten weer van sociale media zoals Instagram en Facebook. En het was toch al heel makkelijk om met bijvoorbeeld LinkedIn, de KvK, Lusha, archive.org et cetera, van vrijwel elke Tinderaar binnen een paar minuten van alles te achterhalen.

Ook pre-Pim heb ik meer dan eens voorafgaand aan een date een vriendin geappt: ‘Nou, als ik niet meer terugkom, hier woont-ie.’ Het enige wat PimEyes voor mij deed, is zo’n zoektocht van een paar minuten terugbrengen tot een paar seconden. 

Maar mijn inzet van Pim blijkt behoorlijk fantasieloos.

Zo zijn er barmhartige samaritanen die met Pim naar mortuariumfoto’s kijken, om onbekende doden hun naam terug te geven. Er zijn brave Amerikaanse burgers die de relschoppers van Capitol Hill willen doxen. Er zijn incels op 4chan die bij wijze van hobby de ware identiteit achterhalen van vrouwelijk schoon: van iemands favoriete porno-actrice tot een willekeurige studente in een bar. Het stalkingpotentieel laat zich raden. 

Van Sparrentak heeft over specifiek dat privégebruik van PimEyes in 2022 vragen gesteld aan de Europese Commissie. Als je thuis vanachter je laptopje exen kunt stalken, transgender personen kunt ‘ontmaskeren’ of wraakporno van collega’s op kunt zoeken – moet privé gezichtsherkenning dan niet ook aan banden worden gelegd in de AI Act?^*  

Leek de Europese Commissie van niet. De AVG zou afdoende zijn.^*

Privacy-advocaat Zwenne denkt dat je gezichtsherkenning sowieso niet tegenhoudt. De zelflerende algoritmes die je kunt trainen met fotodatabases zijn namelijk vrij beschikbaar. Iedereen kan ermee aan de slag. Voor Pim duizend anderen. ‘Ik zeg mijn studenten altijd: je moet online heel vaak op jezelf zoeken. Het is goed om te weten wat anderen van jou weten.’

Maar wat als je helemaal niet wilt dat mensen kunnen Pimmen op je gezicht? Dan geeft de AVG burgers toch de mogelijkheid enige privacy terug te winnen. Want de AVG is weliswaar niet van toepassing op huishoudelijk gebruik, maar wél op zogenaamde ‘verwerkingsverantwoordelijken’ – dat zijn (1) PimEyes zelf, maar (2) ook de website of app die jouw gezicht online heeft staan. 

Even een spoedcursus online zelfverdediging. Handig!

PimEyes versus de AVG

PimEyes moet zich dus houden aan de AVG. Nu is PimEyes nog niet tegen de AVG aangelopen, maar een andere zoekgigant wel: Google. ‘De Europese rechter heeft al in 2014 uitgemaakt dat wat Google doet, valt onder het verwerken van persoonsgegevens’, vertelt Zwenne. 

Want wat doet Google? Google indexeert het internet en stelt op verzoek zoekresultaten beschikbaar in een door Google bepaalde volgorde. Als daar persoonsgegevens tussen zitten, wordt dat simpelweg gezien als een verwerking van persoonsgegevens. ‘Voor PimEyes is dat niet fundamenteel anders.’

En de AVG verbiedt dit niet, zegt Zwenne. ‘Als je dit type verwerkingen op voorhand gaat verbieden, dan zijn we gewoon klaar. Dan heb je geen zoekmachines meer.’ Maar de AVG geeft je wél wat instrumenten om daar controle over uit te oefenen.

Zo heb je op grond van artikel 17^* bijvoorbeeld het recht om ‘vergeten te worden’: het wissingsrecht. Als iemand een vergeetverzoek indient, bijvoorbeeld bij Google en PimEyes, dan moeten zij daar binnen een maand aan voldoen en jouw materiaal permanent schrappen uit hun zoekresultaten. Dit proces moet bovendien geheel gratis zijn. 

Zo’n verzoek moet je vaak wel motiveren. Zwenne: ‘Als jij zegt: deze foto is helemaal niet relevant, is niet nodig, berokkent mij onnodig schade, er is geen maatschappelijk voordeel, er is geen issue van informatievrijheid, ik ben geen publieke persoon – dan maak je goede kans om het beeld verwijderd te krijgen.’ 

Maar Mark Rutte, Geert Wilders of Gerard Joling hoeven niet bij Google aan te komen.^* ‘Dan heb je zelf de publiciteit gezocht, en bovendien kan het zijn dat je onderwerp bent van een maatschappelijk debat.’ 

Google heeft dit proces volledig geautomatiseerd sinds het het Hof van Justitie over zich heen kreeg.^* Dat kwam ze tot nu toe op ruim een miljoen Europese vergeetverzoeken te staan.^* Ook PimEyes geeft je de optie tot ‘opt-out’,^* maar in tegenstelling tot Google moet je dit verzoek regelmatig doen omdat dezelfde foto’s elders op het web steeds weer opnieuw kunnen opduiken. Gedoe. 

French exit van het internet

Naast de zoekmachines, kun je je ook direct richten tot de websites waar de foto’s op staan. Op grond van artikel 15^* heb je het recht om bij een verwerkingsverantwoordelijke – dus Partyflock, je werkgever, of welke instantie dan ook – op te vragen: welke gegevens heb je over mij? Om vervolgens op grond van artikel 21^* te zeggen (met wat motivatie): ik wil dat je die gegevens verwijdert. 

En wat als je eerder toestemming gaf voor de publicatie van film of foto? Dan zegt de AVG: het intrekken van toestemming moet even makkelijk zijn als het geven van toestemming.

Gewapend met deze kennis haalde ik mezelf door PimEyes. Tientallen hits. Zo vond ik mezelf terug in de zaal van een kwalcongres in Barcelona in 2016. En in 2018 was ik blijkbaar op een Haags filmfestival van Balkanproducties. Al zaten er geen shocking resultaten bij – er zijn ook mensen die porno vinden met zichzelf – het hoeft van mij niet, die foto’s online. 

Dus mailde ik verwijderingsverzoeken naar twintig webmasters. Enkele willigden mijn verzoek meteen in, van anderen heb ik nog altijd niks gehoord. Reacties liepen uiteen van verbaasd naar nieuwsgierig tot geïrriteerd – alsof mij een dienst moest worden bewezen die geen prioriteit heeft en waar eigenlijk geen tijd voor is.

Het slagen van een verzoek lijkt af te hangen van goodwill. Wat te doen als iemand niet meewerkt? 

Handhavers in de gloria

Zoals de politie de handhaver is van het Wetboek van Strafrecht, zo is de Autoriteit Persoonsgegevens (AP) de handhaver van de AVG. En ieder EU-land mag zelf weten wie de nieuwe AI Act gaat handhaven, maar Nederland wil de AP in ieder geval ook als algoritmewaakhond.

Dat belooft weinig goeds, want van de handhaving van alleen die AVG komt in de praktijk al weinig terecht. Iedereen klaagt over het gebrek aan slagkracht van de AP, waaronder de AP zelf. 

Je kunt als Europa wetten bedenken tot je een ons weegt, maar als niemand ze handhaaft, zijn het papieren tijgers

Veel AVG-schendingen zijn ook behoorlijk wijdverbreid. Neem alleen al de ‘slimme’ deurbel met camera zoals de Google Nest. Ruim een miljoen Nederlandse huishoudens hebben zo’n ding. Die camera’s mogen niet zomaar gericht staan op de openbare weg en toevallige passanten filmen (persoonsgegevens!). Dat doen ze vaak wel. Hoe ga je handhaven voor een miljoen deurbellen?

Stel je dan nu voor dat tienduizenden Nederlanders, over vijf à tien websites per persoon een klacht indienen bij de AP, omdat een verwerkingsverantwoordelijke bepaalde beelden maar niet offline haalt. Vrij kansloos. 

En dat is wel een heikel punt: je kunt als Europa wetten bedenken tot je een ons weegt, maar als niemand ze handhaaft, zijn het papieren tijgers. Dan maar naar de civiele rechter? 

Advocaat Zwenne ziet meer heil in privacydiensten als Incogni van VPN-aanbieder Surfshark. Voor een paar euro per maand zoekt Incogni websites af waar jouw gegevens staan en doet dan namens jou automatisch non-stop verwijderverzoeken. ‘Een elegante oplossing’, zegt Zwenne. ‘Je creëert een markt. Dat lijkt me efficiënter dan top-down handhaving.’ 

Maar Van Sparrentak ziet daar niks in. ‘Dan wordt privacy een privilege. Het is een recht.’

Een nieuwe set beeldnormen

Waarschijnlijk is het gewoon afwachten tot gezichtsherkenning onze omgang met beeldmateriaal verandert – wat sowieso al aan de gang is. 

Zo weet Zwenne van scholen die stoppen met klassenfoto’s maken, vanwege de AVG. Een beeldredacteur vertelt dat straatfotografen ander werk zoeken, omdat steeds meer mensen agressief reageren op hun camera. Ook zijn er clubs waar de lenzen van smartphones worden afgeplakt, onder het mom ‘dit is een safe space, hier worden geen foto’s gemaakt’. 

Op conferenties zag ik eerder al dat je met de kleur van een keycord om je nek kunt aangeven of je wel of niet op de foto wil. En Whatsapp geeft je inmiddels de optie om foto’s te zenden die een ontvanger slechts één keer bekijken kan, en daarbij niet kan screenshotten. (Leuke functie voor Tinder.)  

Misschien dat Pim niet verdwijnt, maar zo wel een steeds zinlozere tool wordt – want wie zet z’n hoofd nog online?

Tot die tijd zie ik niet hoe we Pims doos van Pandora dicht gaan laten. Ik ken niemand die gestrest is over gezichtsherkenning, maar ik ken er velen die hun tijd niet willen verdoen aan mensen die er wild op los fabuleren – bijvoorbeeld op een datingapp.  

En ja, wat als er dan informatie out there is, op het internet, over iemand waar je graag meer van weet? Informatie die je nodig hebt voor belangrijke keuzes? En je bent er slechts drie muisklikken van verwijderd?

Blijf je daar dan van weg?

Met dank aan Simona de Heer, EU-beleidsmedewerker die meeschreef aan de AI Act en Lotte Houwing, beleidsadviseur bij Bits of Freedom.