De Correspondent leest voor
Sanne Blauw - Kunstmatige intelligentie is menselijker dan het lijkt. Wie zitten erachter?
SoundCloud
Luister hier naar het voorgelezen verhaal.

Elke zomer is het weer zover: New Yorkers drommen en masse naar het witte strand van Hier, aan de Atlantische Oceaan, kun je zonnebaden, een concertje pakken, een potje midgetgolf spelen. Even weg van de drukte van de stad.

Maar dan moet je er wel eerst komen. En met die heenweg is iets vreemds aan de hand. Want op de Southern State Parkway, een snelweg die leidt naar Jones Beach, zijn de viaducten laag. Heel laag:

Niet alle viaducten hier zijn zo laag, alleen de oudste. Die uit de tijd dat de Parkway werd aangelegd, de jaren twintig van de vorige eeuw. Het gebied was toen niet meer dan een moeras. Stormde het een beetje, dan liep het onmiddellijk onder.

Maar Robert Moses, de bedenker van het park, had iets groots voor ogen. De jonge stedenbouwkundige voer keer op keer met een bootje van de baai aan Daar keek hij uit over de oceaan, in de verte de lichtjes van de stad. Terug in de bewoonde wereld tuurde hij in de bibliotheek naar kaarten van de stad.

En toen bedacht hij het: hij zou snelwegen aanleggen en zo het strand ontsluiten voor iedereen. Het idee was om letterlijk een parkway te maken: Weg van de stad, weelderige bermen links en rechts, aan het eind een prachtig strand. Die lage viaducten moesten bijdragen aan dat romantische gevoel. Het zou de weg ontoegankelijk maken voor grote, lawaaierige voertuigen.

Alleen: zo werd de weg ook ontoegankelijk voor bussen. En laat dat nu net het voertuig zijn waarmee in die tijd arme Amerikanen – onder wie veel Afro-Amerikanen – zich verplaatsten. Het resultaat? Jones Beach, met zijn prachtige stranden, was ontoegankelijk voor deze groepen.

Toeval? Niet volgens Moses’ biograaf Caro won een Pulitzer voor The Power Broker, het enorme boekwerk dat hij schreef over de stedenbouwkundige. Moses was ‘de meest racistische man’ die hij ooit had ontmoet,

Sidney Shapiro, een ingenieur die voor Moses werkte, vertelde Caro dat Moses hem de uitdrukkelijke opdracht had gegeven de viaducten extra laag te houden. Zo moesten armere groepen – en daarmee veel Afro-Amerikanen, die Moses als ‘vies’ bestempelde – buiten de deur worden gehouden. Moses probeerde over zijn graf te regeren, vertelde Shapiro. ‘Hij hield zich bezig met wetgeving, maar hij wist dat je wetten later weer kon aanpassen. Bij een brug kan dat niet.’

De viaducten op de Southern State Parkway waren stuk voor stuk gestolde vooroordelen.

Technologie is niet neutraal

Het verhaal van Moses laat zien: technologie is mensenwerk. Moses’ ideeën hadden gevolgen voor de bouwwerken die hij maakte en daarmee voor de levens van de mensen die ze wilden gebruiken.

Zijn ideeën hebben nog altijd invloed, precies zoals hij wenste. Nog altijd gebeuren er op de Southern State Parkway ongelukken met bussen en vrachtwagens waarvan de bovenkant eraf wordt geschraapt omdat chauffeurs niet doorhebben dat ze niet welkom zijn op deze snelweg. En nog altijd is het strand lastig te bereiken

Ook onze moderne technologie is verre van neutraal. Neem je smartphone. Die wordt zo verslavend mogelijk gemaakt. Van tot notificaties die je op de hoogte brengen van elke scheet die je netwerk laat – als je maar zo lang mogelijk aan je scherm geplakt blijft. Dat komt allemaal door het financiële belang van techbedrijven. Hoe meer jij op je telefoon zit, hoe meer ze verdienen.

Hoe meer jij op je telefoon zit, hoe meer techbedrijven verdienen

Maar technologie is ook bevooroordeeld op een manier die verder gaat dan bedrijfsmatige overwegingen. Wat dacht je van spraakassistenten, die lange tijd Of van de gezichtsherkenningssoftware Ook onze moderne technologie bestaat uit gestolde vooroordelen.

Dat kun je de technologie trouwens niet kwalijk nemen. Die luistert – als je zo’n menselijke term al kunt gebruiken – slechts naar de makers. Die bedenken dat Siri een vrouw moet zijn. En gebruiken foto-databases die overwegend witte gezichten bevatten.

Dat maakt techneuten niet meteen tot Mosessen – ze doen dit niet per se bewust. Al zijn er uitzonderingen. Cathy O’Neil beschrijft in haar boek hoe in Amerika algoritmes gebruiken die zich richten op kwetsbare groepen. Met op maat gemaakte advertenties proberen ze werklozen, bijstandsmoeders of ex-gedetineerden een opleiding aan te smeren.

Dat levert geld op voor de universiteit, want de Amerikaanse overheid maar helpt de studenten geen stap verder, want een diploma van dit soort scholen is vrijwel waardeloos. Maar daar komen die studenten vaak pas achter als ze al een berg schulden hebben opgebouwd.

Kortom: achter technologie zitten mensen met idealen en blinde vlekken, belangen en vooroordelen. En dat heeft gevolgen. Daarom wil ik, met jullie, die mensen beter leren kennen.

Maar eerst: wie ben ik?

Voor wie mij nog niet kent: goed om mij eerst wat beter te leren kennen. Al van jongs af aan ben ik gefascineerd door cijfers, dus koos ik voor de studie econometrie – een combinatie van economie en statistiek. Niet alleen vond ik cijfers leuk, ze gaven me ook houvast. Schoolcijfers, calorieën, de weegschaal – ze functioneerden als objectieve graadmeters van mijn leven.

Maar tijdens mijn promotie-onderzoek begon mijn beeld van cijfers Ik deed onderzoek in Bolivia, waarvoor ik zo’n 240 mensen vroeg naar hun geluk en hun ideeën over de inkomensongelijkheid in hun land. Nu ik een kijkje achter de schermen kreeg begon ik te twijfelen over de objectiviteit van cijfers. Ik was geïnteresseerd in geluk. Ik dacht dat geluk meetbaar was. Ik vond het belangrijk om dat in Bolivia te doen.

Achter die cijfers zaten mijn eigen waardeoordelen. Die waren niet per se fout, maar zeker niet objectief. Hoe zat het dan, begon ik me af te vragen, met de cijfers die ons leven beïnvloeden? De economische cijfers? De gezondheidsonderzoeken? De schoolcijfers?

Na mijn promotie begon ik me in die vragen te verdiepen als correspondent Ontcijferen bij De Correspondent. De werkplek trok me aan omdat er bij De Correspondent over journalistiek werd gedacht zoals ik intussen dacht over cijfers: objectiviteit is onmogelijk, dus kun je maar beter de mensen erachter leren kennen.

YouTube
In 2016 hield ik een TEDx Talk over misleidende cijfers in het nieuws.

Mijn zoektocht naar de mens achter de cijfers culmineerde in 2018 in dat in 2020 verschijnt in het Engels als

De belangrijkste conclusie: cijfers zijn niet heilig. Ze worden beïnvloed door vergissingen, belangen en overtuigingen van de mensen die ze verzamelen en verspreiden – de wetenschappers, bedrijfslieden, politici en journalisten. En die van ons, cijferconsumenten. Want ook wij zij niet onschuldig, laten ons verleiden en misleiden. Sterker nog, we laten

Lang verhaal kort: cijfers zijn mensenwerk.

Kunstmatige intelligentie

Terug naar de technologie. Ik wil dus de mensen die achter onze moderne technologie zitten beter leren kennen. En waar kan ik mijn blik dan beter op richten dan op dé hype van dit moment: Een logisch vervolg op mijn eerdere werk, aangezien AI vaak gaat over het slim crunchen van bergen cijfers.

Want laat je niet misleiden door het magische aura dat rond AI hangt. De naam is vaak een aantrekkelijke verpakking voor iets wat bij velen onmiddellijk gaapreflexen of acute paniek opwekt: wiskunde en statistiek. Bijna alles wat je op dit moment leest over AI gaat eigenlijk over machine learning – het gebruik van algoritmes en statistische modellen om een machine een taak te laten uitvoeren, zonder daarbij gebruik te maken van expliciete regels.

De afgelopen jaren zijn grote stappen gezet op het gebied van machine learning. Het bekendste succesverhaal is AlphaGo, dat door DeepMind werd ontwikkeld om het bordspel go te spelen. In 2016 won het computerprogramma van achttienmalig wereldkampioen Lee Sedol. En zo zijn er meer successen: modellen die kankercellen kunnen detecteren, die gezichten kunnen herkennen en – jawel – die kunnen raden

Als je de hype mag geloven, gaat AI elk facet van ons leven doordringen

Zulke verhalen hebben ervoor gezorgd dat AI een hype is geworden. AI-startups halen steeds meer en overheden struikelen over elkaar heen in hun ambities. De Amerikaanse president Trump presenteerde in februari een plan om het ‘Amerikaans leiderschap op gebied van kunstmatige intelligentie’ De EU stopt 1,5 miljard euro in AI en mikt op 20 miljard Het steekt allemaal magertjes af bij China, waar een stad als Shanghai alleen al 100 miljard yuan (12,8 miljard euro)

Als je de hype mag geloven, gaat AI elk facet van ons leven doordringen. Het gaat onze tumoren vinden, onze auto’s besturen, Het zou onze grote problemen – van tot de dood – kunnen oplossen, maar zou ook ooit kunnen worden.

Een technologie die naar verluidt je leven zo gaat beïnvloeden, kun je maar beter leren kennen. En dan gaat het niet alleen om de techniek, maar vooral om de mensen erachter.

Wat ben ik van plan?

Dat is precies wat ik de komende maanden van plan ben. Ik wil de mensen achter AI leren kennen. Specifieker, de mensen achter machine learning. Welke keuzes maken zij? Wat zijn hun aannames, hun morele overwegingen, en wat voor beeld hebben ze van de wereld? Dat alles om antwoord te geven op de vraag: hoe gaan zij ons leven beïnvloeden? Gaan wij straks ook tegen een viaduct aan knallen?

Mijn zoektocht biedt meteen een mooie gelegenheid om de technologie beter te leren begrijpen. Hoe werkt een neuraal netwerk, bijvoorbeeld? Geen zorgen: je hoeft bij mij geen Griekse letters te verwachten. Als je nog steeds nachtmerries hebt van je wiskundeles, dan moet je mijn stukken zeker lezen. Ik ben er namelijk van overtuigd dat iedereen kan meepraten over machine learning, ook als je niet bepaald wild wordt van Generative Adversarial Networks (al zijn die, daar ga ik je nog wel van overtuigen, erg cool).

Vooropgesteld: ik verwacht niet enkel Robert Mosessen te vinden. Sterker nog, ik ben ervan overtuigd dat de grote meerderheid van de mensen die zich met AI bezighouden het beste voorheeft met de wereld. Maar zoals iedereen, inclusief ondergetekende, nemen ze hun achtergrond mee. En ik ben nieuwsgierig naar wat die achtergrond is en hoe die hun werk beïnvloedt.

Kunstmatige intelligentie is natuurlijk een enorm onderwerp waar ik nog jaren over kan schrijven. Dit project is dan ook een beginnetje. En ik hoop dat jullie me daarbij kunnen helpen.

Naar wie ben ik op zoek?

Het bouwen van een machine-learningtoepassing gaat grofweg in vier stappen. Voordat je een model kunt trainen, moet je data verzamelen. Vaak moeten die data worden schoongemaakt. Om een kat van een hond te onderscheiden, bijvoorbeeld, moet je eerst labelen wat wat is.

Dan is het tijd om de toepassing te ontwikkelen. De machine gaat leren. De data worden gebruikt om een model te trainen om – zeg – gezichten te herkennen, energieprijzen te voorspellen of een tekst te vertalen. Uiteindelijk komt de toepassing bij ons terecht – op onze computer, in de spreekkamer, op het gemeentekantoor – en gaan wij hem gebruiken. En met ons gebruik leveren we nieuwe data en begint de cyclus opnieuw.

Ik zou heel graag mensen willen spreken die ergens in deze cyclus werken. Dus:

  • Bouw of implementeer jij tracking cookies?
  • Rijd je rond in een Google Streetview-auto?
  • Werk je op of een ander platform waarop mensen ingeschakeld worden om soortgelijke taken uit te voeren?
  • Ben je contentmoderator?
  • Gebruik je in je werk machine learning?
  • Ben je activist, beleidsmaker of houd je je op een andere manier bezig met digitale rechten?
  • Ken je de sector goed, bijvoorbeeld omdat je er ooit in hebt gewerkt of er onderzoek naar hebt gedaan?

Dit zijn slechts voorbeelden. Werk jij in de AI-sector en wil je je verhaal delen? Dan ga ik heel graag met je in gesprek. Wie ben je? Hoe ga je te werk? Waarom doe je wat je doet? Ik hoop mensen van over de hele wereld te spreken, dus verspreid dit artikel gerust onder je internationale contacten.

Voel je je aangesproken? In kun je je gegevens achterlaten. Ik heb ook geschreven die je kunt delen in je netwerk. Alvast bedankt!

Wat kun je verwachten?

Mijn artikelen zullen niet alleen op De Correspondent, maar ook op The Correspondent verschijnen. Met dit Nederlandstalige artikel is tegelijkertijd een Engelse versie gepubliceerd.

Dat betekent dus telkens twee artikelen, twee bijdragesecties, twee publieken. Dat is best spannend, want dat hebben we niet eerder zo gedaan. Mijn plan nu is om in mijn wekelijkse nieuwsbrief of – als er veel moois is – in een apart stuk terug te blikken op de reacties van beide groepen, zodat jullie het hele gesprek meekrijgen.

Uiteindelijk hoop ik samen met jullie een beeld te krijgen van de invloed van kunstmatige intelligentie en de mensen die ermee werken. En wat we hiermee aan moeten. Want een brug kun je misschien niet meer veranderen nadat hij gebouwd is. Maar we kunnen wel samen kiezen om ergens anders heen te rijden.

Artificial intelligence is more human than it seems. So who’s behind it? If the hype is true, artificial intelligence will find our tumours, drive our cars and fight our wars. Time to get to know the people behind it. Read the English version of this article

Meer lezen?

Op de hoogte blijven van mijn artikelen? Als correspondent Ontcijferen onderzoek ik de getallenwereld. In mijn wekelijkse mail houd ik je op de hoogte van wat ik schrijf, hoor en lees. Een vast onderdeel: #NerdAlert, voor de getallenliefhebbers. Schrijf je in voor mijn nieuwsbrief Portret gegenereerd met software Portret gegenereerd met software Iedereen heeft het over kunstmatige intelligentie. Maar wat ís het? De een is bang voor killer robots, de ander denkt dat het de oplossing is voor klimaatverandering: kunstmatige intelligentie is overal. Maar wat is het? Lees het artikel hier terug