Kunstmatige intelligentie is menselijker dan het lijkt. Wie zitten erachter?

Elke zomer is het weer zover: New Yorkers drommen en masse naar het witte strand van Jones Beach State Park. Hier, aan de Atlantische Oceaan, kun je zonnebaden, een concertje pakken, een potje midgetgolf spelen. Even weg van de drukte van de stad.

Maar dan moet je er wel eerst komen. En met die heenweg is iets vreemds aan de hand. Want op de Southern State Parkway, een snelweg die leidt naar Jones Beach, zijn de viaducten laag. Heel laag: gemiddeld nog geen drie meter.^*

Niet alle viaducten hier zijn zo laag, alleen de oudste. Die uit de tijd dat de Parkway werd aangelegd, de jaren twintig van de vorige eeuw. Het gebied was toen niet meer dan een moeras. Stormde het een beetje, dan liep het onmiddellijk onder.

Maar Robert Moses, de bedenker van het park, had iets groots voor ogen. De jonge stedenbouwkundige voer keer op keer met een bootje van de baai aan de overkant naar het strand.^* Daar keek hij uit over de oceaan, in de verte de lichtjes van de stad. Terug in de bewoonde wereld tuurde hij in de bibliotheek naar kaarten van de stad.

En toen bedacht hij het: hij zou snelwegen aanleggen en zo het strand ontsluiten voor iedereen. Het idee was om letterlijk een parkway te maken: een weg door een park. Weg van de stad, weelderige bermen links en rechts, aan het eind een prachtig strand. Die lage viaducten moesten bijdragen aan dat romantische gevoel. Het zou de weg ontoegankelijk maken voor grote, lawaaierige voertuigen.

Alleen: zo werd de weg ook ontoegankelijk voor bussen. En laat dat nu net het voertuig zijn waarmee in die tijd arme Amerikanen – onder wie veel Afro-Amerikanen – zich verplaatsten. Het resultaat? Jones Beach, met zijn prachtige stranden, was ontoegankelijk voor deze groepen.

Toeval? Niet volgens Moses’ biograaf Robert Caro. Caro won een Pulitzer voor The Power Broker, het enorme boekwerk dat hij schreef over de stedenbouwkundige. Moses was ‘de meest racistische man’ die hij ooit had ontmoet, vertelde hij later.^*

Sidney Shapiro, een ingenieur die voor Moses werkte, vertelde Caro dat Moses hem de uitdrukkelijke opdracht had gegeven de viaducten extra laag te houden. Zo moesten armere groepen – en daarmee veel Afro-Amerikanen, die Moses als ‘vies’ bestempelde – buiten de deur worden gehouden. Moses probeerde over zijn graf te regeren, vertelde Shapiro. ‘Hij hield zich bezig met wetgeving, maar hij wist dat je wetten later weer kon aanpassen. Bij een brug kan dat niet.’

De viaducten op de Southern State Parkway waren stuk voor stuk gestolde vooroordelen.

Technologie is niet neutraal

Het verhaal van Moses laat zien: technologie is mensenwerk. Moses’ ideeën hadden gevolgen voor de bouwwerken die hij maakte en daarmee voor de levens van de mensen die ze wilden gebruiken.

Zijn ideeën hebben nog altijd invloed, precies zoals hij wenste. Nog altijd gebeuren er op de Southern State Parkway ongelukken met bussen en vrachtwagens waarvan de bovenkant eraf wordt geschraapt omdat chauffeurs niet doorhebben dat ze niet welkom zijn op deze snelweg. En nog altijd is het strand lastig te bereiken voor mensen zonder auto.^*

Ook onze moderne technologie is verre van neutraal. Neem je smartphone. Die wordt zo verslavend mogelijk gemaakt. Van fruitmachine-achtige felle kleurtjes tot notificaties die je op de hoogte brengen van elke scheet die je netwerk laat – als je maar zo lang mogelijk aan je scherm geplakt blijft. Dat komt allemaal door het financiële belang van techbedrijven. Hoe meer jij op je telefoon zit, hoe meer ze verdienen.

Hoe meer jij op je telefoon zit, hoe meer techbedrijven verdienen

Maar technologie is ook bevooroordeeld op een manier die verder gaat dan bedrijfsmatige overwegingen. Wat dacht je van spraakassistenten, die lange tijd enkel met een vrouwenstem beschikbaar waren? Of van de gezichtsherkenningssoftware die geen zwarte gezichten herkent? Ook onze moderne technologie bestaat uit gestolde vooroordelen.

Dat kun je de technologie trouwens niet kwalijk nemen. Die luistert – als je zo’n menselijke term al kunt gebruiken – slechts naar de makers. Die bedenken dat Siri een vrouw moet zijn. En gebruiken foto-databases die overwegend witte gezichten bevatten.

Dat maakt techneuten niet meteen tot Mosessen – ze doen dit niet per se bewust. Al zijn er uitzonderingen. Cathy O’Neil beschrijft in haar boek Weapons of Math Destruction hoe schimmige universiteiten in Amerika algoritmes gebruiken die zich richten op kwetsbare groepen. Met op maat gemaakte advertenties proberen ze werklozen, bijstandsmoeders of ex-gedetineerden een opleiding aan te smeren.

Dat levert geld op voor de universiteit, want de Amerikaanse overheid geeft subsidie voor deze groepen, maar helpt de studenten geen stap verder, want een diploma van dit soort scholen is vrijwel waardeloos. Maar daar komen die studenten vaak pas achter als ze al een berg schulden hebben opgebouwd.

Kortom: achter technologie zitten mensen met idealen en blinde vlekken, belangen en vooroordelen. En dat heeft gevolgen. Daarom wil ik, met jullie, die mensen beter leren kennen.

Maar eerst: wie ben ik?

Voor wie mij nog niet kent: goed om mij eerst wat beter te leren kennen. Al van jongs af aan ben ik gefascineerd door cijfers, dus koos ik voor de studie econometrie – een combinatie van economie en statistiek. Niet alleen vond ik cijfers leuk, ze gaven me ook houvast. Schoolcijfers, calorieën, de weegschaal – ze functioneerden als objectieve graadmeters van mijn leven.

Maar tijdens mijn promotie-onderzoek begon mijn beeld van cijfers te wankelen. Ik deed onderzoek in Bolivia, waarvoor ik zo’n 240 mensen vroeg naar hun geluk en hun ideeën over de inkomensongelijkheid in hun land. Nu ik een kijkje achter de schermen kreeg begon ik te twijfelen over de objectiviteit van cijfers. Ik was geïnteresseerd in geluk. Ik dacht dat geluk meetbaar was. Ik vond het belangrijk om dat in Bolivia te doen.

Achter die cijfers zaten mijn eigen waardeoordelen. Die waren niet per se fout, maar zeker niet objectief. Hoe zat het dan, begon ik me af te vragen, met de cijfers die ons leven beïnvloeden? De economische cijfers? De gezondheidsonderzoeken? De schoolcijfers?

Na mijn promotie begon ik me in die vragen te verdiepen als correspondent Ontcijferen bij De Correspondent. De werkplek trok me aan omdat er bij De Correspondent over journalistiek werd gedacht zoals ik intussen dacht over cijfers: objectiviteit is onmogelijk, dus kun je maar beter de mensen erachter leren kennen.

Youtube plaatst cookies bij het bekijken van deze video Bekijk video op Youtube

Mijn zoektocht naar de mens achter de cijfers culmineerde in 2018 in Het bestverkochte boek ooit (met deze titel), dat in 2020 verschijnt in het Engels als The Number Bias.

De belangrijkste conclusie: cijfers zijn niet heilig. Ze worden beïnvloed door vergissingen, belangen en overtuigingen van de mensen die ze verzamelen en verspreiden – de wetenschappers, bedrijfslieden, politici en journalisten. En die van ons, cijferconsumenten. Want ook wij zij niet onschuldig, laten ons verleiden en misleiden. Sterker nog, we laten ons leiden door cijfers.

Lang verhaal kort: cijfers zijn mensenwerk.

Kunstmatige intelligentie

Terug naar de technologie. Ik wil dus de mensen die achter onze moderne technologie zitten beter leren kennen. En waar kan ik mijn blik dan beter op richten dan op dé hype van dit moment: kunstmatige intelligentie (AI). Een logisch vervolg op mijn eerdere werk, aangezien AI vaak gaat over het slim crunchen van bergen cijfers.

Want laat je niet misleiden door het magische aura dat rond AI hangt. De naam is vaak een aantrekkelijke verpakking voor iets wat bij velen onmiddellijk gaapreflexen of acute paniek opwekt: wiskunde en statistiek. Bijna alles wat je op dit moment leest over AI gaat eigenlijk over machine learning – het gebruik van algoritmes en statistische modellen om een machine een taak te laten uitvoeren, zonder daarbij gebruik te maken van expliciete regels.

De afgelopen jaren zijn grote stappen gezet op het gebied van machine learning. Het bekendste succesverhaal is AlphaGo, dat door DeepMind werd ontwikkeld om het bordspel go te spelen. In 2016 won het computerprogramma van achttienmalig wereldkampioen Lee Sedol. En zo zijn er meer successen: modellen die kankercellen kunnen detecteren, die gezichten kunnen herkennen en – jawel – die kunnen raden wat jij hierna op Netflix wilt kijken.

Als je de hype mag geloven, gaat AI elk facet van ons leven doordringen

Zulke verhalen hebben ervoor gezorgd dat AI een hype is geworden. AI-startups halen steeds meer geld op^* en overheden struikelen over elkaar heen in hun ambities. De Amerikaanse president Trump presenteerde in februari een plan om het ‘Amerikaans leiderschap op gebied van kunstmatige intelligentie’ te behouden. De EU stopt 1,5 miljard euro in AI en mikt op 20 miljard in het volgende decennium.^* Het steekt allemaal magertjes af bij China, waar een stad als Shanghai alleen al 100 miljard yuan (12,8 miljard euro) besteedt aan AI-initiatieven.^*

Als je de hype mag geloven, gaat AI elk facet van ons leven doordringen. Het gaat onze tumoren vinden, onze auto’s besturen, onze oorlogen voeren. Het zou onze grote problemen – van klimaatverandering tot de dood – kunnen oplossen, maar zou ook ‘onze laatste uitvinding’^* ooit kunnen worden.

Een technologie die naar verluidt je leven zo gaat beïnvloeden, kun je maar beter leren kennen. En dan gaat het niet alleen om de techniek, maar vooral om de mensen erachter.

Wat ben ik van plan?

Dat is precies wat ik de komende maanden van plan ben. Ik wil de mensen achter AI leren kennen. Specifieker, de mensen achter machine learning. Welke keuzes maken zij? Wat zijn hun aannames, hun morele overwegingen, en wat voor beeld hebben ze van de wereld? Dat alles om antwoord te geven op de vraag: hoe gaan zij ons leven beïnvloeden? Gaan wij straks ook tegen een viaduct aan knallen?

Mijn zoektocht biedt meteen een mooie gelegenheid om de technologie beter te leren begrijpen. Hoe werkt een neuraal netwerk, bijvoorbeeld? Geen zorgen: je hoeft bij mij geen Griekse letters te verwachten. Als je nog steeds nachtmerries hebt van je wiskundeles, dan moet je mijn stukken zeker lezen. Ik ben er namelijk van overtuigd dat iedereen kan meepraten over machine learning, ook als je niet bepaald wild wordt van Generative Adversarial Networks (al zijn die, daar ga ik je nog wel van overtuigen, erg cool).

Vooropgesteld: ik verwacht niet enkel Robert Mosessen te vinden. Sterker nog, ik ben ervan overtuigd dat de grote meerderheid van de mensen die zich met AI bezighouden het beste voorheeft met de wereld. De meeste mensen deugen, nietwaar? Maar zoals iedereen, inclusief ondergetekende, nemen ze hun achtergrond mee. En ik ben nieuwsgierig naar wat die achtergrond is en hoe die hun werk beïnvloedt.

Kunstmatige intelligentie is natuurlijk een enorm onderwerp waar ik nog jaren over kan schrijven. Dit project is dan ook een beginnetje. En ik hoop dat jullie me daarbij kunnen helpen.

Naar wie ben ik op zoek?

Het bouwen van een machine-learningtoepassing gaat grofweg in vier stappen. Voordat je een model kunt trainen, moet je data verzamelen. Vaak moeten die data worden schoongemaakt. Om een kat van een hond te onderscheiden, bijvoorbeeld, moet je eerst labelen wat wat is.

Dan is het tijd om de toepassing te ontwikkelen. De machine gaat leren. De data worden gebruikt om een model te trainen om – zeg – gezichten te herkennen, energieprijzen te voorspellen of een tekst te vertalen. Uiteindelijk komt de toepassing bij ons terecht – op onze computer, in de spreekkamer, op het gemeentekantoor – en gaan wij hem gebruiken. En met ons gebruik leveren we nieuwe data en begint de cyclus opnieuw.

Ik zou heel graag mensen willen spreken die ergens in deze cyclus werken. Dus:

• Bouw of implementeer jij tracking cookies?
• Rijd je rond in een Google Streetview-auto?
• Werk je op Mechanical Turk, of een ander platform waarop mensen ingeschakeld worden om soortgelijke taken uit te voeren?
• Ben je contentmoderator?
• Gebruik je in je werk machine learning?
• Ben je activist, beleidsmaker of houd je je op een andere manier bezig met digitale rechten?
• Ken je de sector goed, bijvoorbeeld omdat je er ooit in hebt gewerkt of er onderzoek naar hebt gedaan?

Dit zijn slechts voorbeelden. Werk jij in de AI-sector en wil je je verhaal delen? Dan ga ik heel graag met je in gesprek. Wie ben je? Hoe ga je te werk? Waarom doe je wat je doet? Ik hoop mensen van over de hele wereld te spreken, dus verspreid dit artikel gerust onder je internationale contacten.

Voel je je aangesproken? In dit formulier kun je je gegevens achterlaten. Ik heb ook een losse oproep geschreven die je kunt delen in je netwerk. Alvast bedankt!

Wat kun je verwachten?

Mijn artikelen zullen niet alleen op De Correspondent, maar ook op The Correspondent verschijnen. Met dit Nederlandstalige artikel is tegelijkertijd een Engelse versie gepubliceerd.

Dat betekent dus telkens twee artikelen, twee bijdragesecties, twee publieken. Dat is best spannend, want dat hebben we niet eerder zo gedaan. Mijn plan nu is om in mijn wekelijkse nieuwsbrief of – als er veel moois is – in een apart stuk terug te blikken op de reacties van beide groepen, zodat jullie het hele gesprek meekrijgen.

Uiteindelijk hoop ik samen met jullie een beeld te krijgen van de invloed van kunstmatige intelligentie en de mensen die ermee werken. En wat we hiermee aan moeten. Want een brug kun je misschien niet meer veranderen nadat hij gebouwd is. Maar we kunnen wel samen kiezen om ergens anders heen te rijden.

Meer lezen?