Welkom in de privacyhel die AI heet
Wat een tijden!
Ik zag hoe demonstranten in de Verenigde Staten een zelfrijdende taxi sloopten omdat die hen bespioneerde. Ik hoorde Alexander Klöpping bij Eva Jinek vertellen wat zijn AI allemaal over hem weet. Ik las over het ‘geheime apparaat’ waarmee ChatGPT-bouwer OpenAI* het leven en de omgeving van zijn gebruikers registreert. Op De Correspondent trof ik een enthousiaste toekomstfantasie aan over een AI-tool die meekijkt met onze appgesprekken – en ik moest terugdenken aan de eerste jaren van de OV-chipkaart.
Dát waren nog eens tijden.
Toen die zo’n twintig jaar geleden werd geïntroduceerd, waren privacyclubs en mensenrechtenridders woest. Het idee alleen al: miljoenen reizigers die een kaart met een chipje bij zich moesten dragen dat hun reisgedrag vastlegde in een database. Dat kon niet, dat mocht niet.
Bits of Freedom gaf de NS in 2007 dan ook een Big Brother Award, een jaarlijkse prijs voor de grootste privacyschender, omdat het bedrijf ‘alle respect voor privacy’ uit het oog was verloren. De Commissie Bescherming Persoonsgegevens verzette zich er jarenlang tegen, omdat het systeem ‘straks precies kan nagaan wie op welke trajecten en tijdstippen hebben gereisd’, aldus een woordvoerder in 2007,* toen de kaart inmiddels door honderdduizenden reizigers werd gebruikt.
Stapsgewijze uitholling van privacy
Die OV-chipkaartzorgen komen nu nogal archaïsch over.
Dat komt, zeggen de Nederlandse juristen Bert-Jaap Koops en Ronald Leenes,* doordat onze verwachting van privacy afneemt en meebeweegt met de technologie. Mensen passen zich aan de mogelijkheden van nieuwe technologieën aan en omdat die in de regel ‘meer gericht zijn op het delen en monitoren van informatie dan op het afschermen ervan’, spreken de auteurs van een ‘stapsgewijze uitholling van privacy’.
Neem de smartphone. In het jaar dat de chipkaart een Big Brother Award kreeg, kwam óók de iPhone op de markt en sindsdien draagt (nagenoeg) iedereen een met apps, chips en sensoren volgepropt apparaat op zak dat elke stap, klik en zucht bijhoudt. We zijn er – bewust of onbewust – aan gewend geraakt dagelijks uren technologie te gebruiken die onze offline en online gedragingen registreert en naar honderden databases stuurt. Van een paar reisbewegingen per dag naar tientallen datapunten per minuut.
En nu zijn we klaar voor de volgende fase. Luister je naar de CEO’s van techbedrijven en andere AI-verkopers, dan voorzien zij een wereld waarin zo veel mogelijk data geregistreerd en geanalyseerd wordt.
De belofte is: hoe meer data, hoe beter de AI jou en jouw omgeving kent, hoe beter de AI jou kan bedienen.
En dus bouwt niet alleen OpenAI een kek apparaat met datastofzuigerfunctie; Meta (Facebook, Instagram) verkocht al miljoenen smart-Ray-Ban-brillen* met camera en microfoon, waarmee je kunt praten, en waaraan je vragen kunt stellen en opdrachten kunt geven. Ook Google is zo’n slimme bril* aan het ontwikkelen. Ondertussen maakt AI-software van Microsoft screenshots van alles wat je op je computer doet en voedt Meta zijn AI met al jouw berichten van Facebook en Instagram.*
Sla een deuk in een zelfrijdende taxi
Noem het: totale surveillance. En bedenk erbij: de AI van de grote techbedrijven is al gebouwd op de berg persoonlijke data die de grote techbedrijven verzamelden (samen met de boeken, teksten en films die zij ongevraagd jatten). ‘AI is geboren uit surveillance’,* verwoordt Meredith Whittaker van Signal het eloquent.
Zo lijkt het wel een natuurlijk, evolutionair proces: iedere technologie overtreft de datahonger van haar voorgangers en verschuift zo stap voor stap de grens van wat wij normaal vinden. Vergeleken met een smartphone lijkt de OV-chipkaart opeens een kuise bibliotheekpas.
Maar zo hoeft het niet te werken. De toekomst die Alexander Klöpping en Sam Altman ons voorschotelen is niet onvermijdelijk. Er kunnen andere keuzes gemaakt worden. Wij hoeven niet passief aan het Silicon Valley-infuus te hangen.
Makkelijk is dat niet – de push richting de vermeende onvermijdelijkheid is sterk – maar met genoeg kracht sla je uiteindelijk wel een deuk in die zelfrijdende taxi.
Deze column verscheen eerder in mijn nieuwsbrief over de macht, de mythes en de mogelijkheden van technologie. Meld je hier aan als je die nieuwsbrief elke twee weken in je inbox wilt ontvangen.