De macht, de mythes en de mogelijkheden van technologie: 10 jaar techjournalistiek bij De Correspondent

Technologie is macht

‘Technologie is een materialisatie van macht’, aldus techcriticus Jathan Sadowski. Dat klinkt wat marxistisch, en dat is het ook – én het is waar. Technologie is een middel om macht te krijgen, te consolideren of uit te oefenen.

Ik heb veel geschreven over de wereld van de geheime diensten – een van de domeinen waar dit het meest zichtbaar is. Kennis is macht en technologie is voor de diensten het middel om die kennis te vergaren – van de Russische veiligheidsdienst die gevoelige data van alle Nederlandse sporters in Sotsji verzamelde tot het Chinese ministerie dat Nederlandse emotieherkenningssoftware kocht.

Dat is iets van alle tijden, zo ontdekte ik tijdens het spannendste en leukste onderzoek dat ik deed, samen met inlichtingenexpert Cees Wiebes:

Dat technologie een machtsmiddel is, zie je ook aan de huidige geopolitieke strijd over chips en kunstmatige intelligentie. Je ziet het aan de greep van grote techbedrijven op het onderwijs en andere cruciale onderdelen van de samenleving en economie.

Je ziet ook wat er gebeurt als je te afhankelijk wordt van technologie van anderen. ‘Soevereiniteit’ is – terecht – een van de politieke buzzwoorden in Brussel. Omdat de Europese Unie steeds minder zelf maakt – van chips tot mondkapjes – moet ze leunen op andere landen, en is er ook veel kennis (en dus macht) weggevloeid.

Macht was ook een van de rode draden in Je hebt wél iets te verbergen (2016), het boek over privacy en surveillance dat ik samen met Dimitri Tokmetzis schreef.

Het gaat over de manier waarop overheden en bedrijven persoonlijke informatie verzamelen, welke gevolgen dat heeft en waarom wij ons daar zorgen over moeten maken.

Een van de belangrijkste redenen is de machtsdisbalans tussen de verzamelaars en individuen, ‘tussen ons en de technologieën om ons heen; tussen ons en de bedrijven wier producten en diensten we gebruiken en tussen ons en de overheden waar we als burgers afhankelijk van zijn. Wij doorgronden hen nauwelijks, terwijl zij ons tot in onze diepste vezels leren kennen’.

Technologie is mythes

Over technologie gaan veel verhalen rond, over wat het doet, wat het kan en wat het verandert. Veel van die verhalen kloppen niet; het zijn mythes.

Een jaar geleden werd ons bijvoorbeeld voorgeschoteld dat de ‘metaverse’ de nieuwe digitale revolutie zou zijn die onze levens voorgoed zou veranderen.^* De metaverse is (was?) ‘een parallel, virtueel domein dat alle digitale technologieën omspant en zelfs een groot deel van de fysieke wereld zal overnemen’.^* Consultancybureau McKinsey voorspelde dat de metaversemarkt in 2030 5 biljoen dollar (!)^* waard zou zijn en gaf de hype nog maar eens een slinger. Investeerders pompten tientallen miljarden in dit vage idee.

Inmiddels is de metaverse zo goed^* als^* dood,^* maar heeft het alweer plaatsgemaakt voor een nieuw verhaal: kunstmatige intelligentie. Meta, het bedrijf dat eerst Facebook heette, toen ‘Meta’ vanwege de metaverse, zet nu vol in op AI.^*

En hoe zou het toch met de blockchain zijn?

Daarom probeer ik technologieën te demythologiseren als het kan. Door bijvoorbeeld te laten zien dat veel ‘kunstmatige intelligentie’ alleen maar kunstmatig lijkt, en in werkelijkheid mogelijk wordt gemaakt door onzichtbare en menselijke arbeid. Door uit te leggen waarom de verhalen die techbedrijven over zichzelf vertellen vaak niet kloppen. Door te ontdekken dat er weinig slims is aan smart cities en dat ‘open’ in ‘open source’ meestal ‘gesloten’ betekent.

Een van de hardnekkigste mythes van de afgelopen tien jaar is het idee dat het internet een hoogst effectieve beïnvloedingsmachine is. In de fysieke wereld zijn wij ongrijpbare en ambigue wezens; online zouden wij kenbaar, voorspelbaar en daarmee manipuleerbaar zijn. Zo kneedbaar als klei.

Voor voorstanders van deze mythe vormt de online-advertentiemarkt hét bewijs dat dit een keiharde werkelijkheid is. Want wat verklaart anders die honderden miljarden die adverteerders eraan uitgeven en die Google en Facebook ermee verdienen? En bovendien: we kunnen nu toch alles meten, en we meten toch ook alles?

Nou, met collega Jesse Frederik ontdekte ik dat de online-advertentiemarkt geteisterd wordt door wat statistici een ‘selectie-effect’ noemen. Er gebeurt iets – mensen klikken, kijken en kopen – maar dat komt niet door de advertentie: het zijn mensen die sowieso al zouden klikken, kijken of kopen. Dit selectie-effect wordt verward met een advertentie-effect – het idee dat mensen klikken, kijken en kopen doordat ze een advertentie hebben gezien.

‘Het is heel moeilijk om het gedrag van mensen te veranderen door ze plaatjes en filmpjes te laten zien die ze niet willen zien’, aldus de econoom Garrett Johnson, die veel onderzoek deed naar de effectiviteit van online ads. ‘Wat mij frustreert is het magische denken. Alsof [...] we allemaal lemmingen zijn die zo van een klif rennen. We zijn helemaal niet zo machteloos.’

Technologie is mogelijkheden

Of ik antitechnologie ben? Die vraag krijg ik weleens onder een stuk of na een praatje. Soms is het geen vraag, maar een verwijt. Schrijf ik een kritisch artikel over smart cities of kunstmatige intelligentie, dan is er altijd wel iemand die zegt dat ik tegen vooruitgang ben, of tegen innovatie.

Dan ben ik een ‘luddiet’, een scheldwoord vernoemd naar de negentiende-eeuwse Britse wevers die zich verzetten tegen de komst van geautomatiseerde weefapparaten door de machines met hun sloophamers te lijf te gaan. Totdat het Britse leger in 1816 meedogenloos ingreep. De automatisering zette door. De luddieten verloren hun strijd.

Zo gek is het dus niet dat de Britse wevers symbool zijn komen te staan voor nutteloos verzet tegen de onvermijdelijke toekomst.^*

Maar je kunt de geschiedenis van de luddieten ook anders lezen . Ze waren namelijk niet antitechnologie, integendeel: de ambachtslieden gebruikten geavanceerde apparaten om hun werk te kunnen doen. Nee, zij waren tegen bepaalde technologieën die hun bazen inzetten om hen te vervangen. ‘Zij richtten hun sloophamers op die technologie die hen werkloos maakte of hun lonen deed dalen. Ze vielen de machines aan, maar bestreden de werkloosheid en de armoede [...]’, schreef ik erover. 

De ons voorgestelde toekomst is niet onvermijdelijk, is de boodschap van de luddieten. Verzet is niet nutteloos.

Met een beetje fantasie kun je de luddieten zien als critici van technologie als manifestatie van macht. Hun strijd richt zich op de mythe dat technologie per definitie vooruitgang betekent.

Ik sluit mij dan ook graag aan bij een clubje journalisten, onderzoekers en activisten dat de naam ‘luddiet’ als geuzennaam draagt. Wat ik interessant vind aan deze neo-luddieten is dat zij niet alleen – in woord – dingen kapotmaken, maar ook nadenken over wat te bouwen, en op welk fundament.

Boos zijn op Big Tech is populair deze dagen, maar die kritiek is vaak weinig verrassend. Dan gaat het over problemen als privacy, nepnieuws, manipulatie, machtsmisbruik. Of over oplossingen als miljardenboetes, mededingingsrecht, regulering en nieuwe wetten. Belangrijk, maar ze zijn vooral gericht op de vraag hoe het huidige systeem beter kan werken. 

Luddieten vragen: kan het ook anders?

Ja, dat kan.