Nee, kunstmatige intelligentie is niet onvermijdelijk

Deze week was ik op de World AI Summit. ‘Waar?’ vroegen mijn collega’s van tevoren, verwachtend dat ik iets van Singapore, Sydney of Dubai zou zeggen. ‘Zaandam.’ Ze grinnikten.

AI, of kunstmatige intelligentie, is volgens sommigen het antwoord op al onze grote problemen, van klimaatverandering tot – als je Amazon mag geloven – in de rij staan. Volgens anderen is het de ‘laatste uitvinding’ die de mens ooit zal doen.

Op de conferentie hoorde ik de CTO van Amazon – in een zwart T-shirt met de opdruk ‘Encrypt Everything’ – over de belofte van AI en machine learning in de detailhandel. Ik zag academici als Gary Marcus en Stuart Russell, die beiden met hun eigen model kwamen om AI waardevoller te maken.

Staatssecretaris Mona Keijzer sprak over het ‘Strategisch Actieplan voor Artificiële Intelligentie’ dat ze onlangs presenteerde; de komende zeven jaar wil het kabinet dat er 2 miljard euro gaat naar investeringen in AI.

Hoe uiteenlopend de boodschappen ook waren, iedereen leek het erover eens: AI gaat ons leven veranderen. Ik heb om drie redenen moeite met die boodschap.

1: Wat is AI eigenlijk?

‘Stop toch eens met het AI noemen’, snauwde een vriend, data-analist bij een multinational, laatst tegen me. ‘Niemand noemt het zo.’

Het is een reactie die ik vaker tegen ben gekomen in gesprekken die ik voerde over kunstmatige intelligentie. Experts reageerden niet per se geërgerd, maar wel laconiek als ik vroeg: ‘Wat is AI?’

Er werden schouders opgehaald, er werd gegniffeld en soms kreeg ik hakkelend een definitie. Maar de kern was bijna altijd: AI, tja...

Een onderzoeker vertelde dat hij zijn onderzoeksveld een paar jaar geleden niet ‘AI’ zou hebben genoemd, maar nu doen velen dat wel. Het waren vooral de journalisten die de term overal op wilden plakken.

Het waren vooral de journalisten die de term 'AI' overal op wilden plakken

Een ondernemer vertelde dat hij tegen zijn investeerders zei dat hij AI gebruikte, maar ach, vaak waren het vrij eenvoudige statistische modellen die hij gebruikte.

En die vriend van mij, die zich eraan ergerde dat ik het woord gebruikte, die had het liever over ‘machine learning’. Want dat is waar bijna alle AI-berichtgeving over gaat, over machines die iets leren zonder precieze commando’s te krijgen.

Toch was ik niet op de ‘World Machine Learning Summit’ deze week. AI is – na ‘big data’, ‘algoritme’ en ‘datagedreven’ – de zoveelste in een reeks van gehypete woorden in de wereld van datatechnologie. Maar wat het is? Dat weet niemand precies.

Het kabinet ook niet. ‘Er is geen algemeen geldige definitie van AI die consistent wordt gebruikt door alle belanghebbenden’, staat te lezen in het plan. ‘Wij gebruiken de omschrijving van AI door de Europese Commissie: “AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken.”’

Nogal vaag, want wat is alleen al ‘intelligent gedrag’? Problematisch als er een zak geld te verdelen is. Want waar iets te verdienen valt, wordt graag overdreven. Een wagen met een chique cruisecontrol wordt ‘zelfrijdend’ genoemd; een stad met een paar sensoren is een ‘smart city’; en een grote Excelsheet heet ‘machine learning’.

2: AI is niet onvermijdelijk

De term AI heeft een sterk Terminator-smaakje. Iets griezeligs met robots die ons leven gaan overnemen. Mensen als Nick Bostrom en Elon Musk denken dat we bang moeten zijn voor ‘superintelligentie’, een vorm van intelligentie die de menselijke ver overtreft.

‘De eerste ultra-intelligente machine is de laatste uitvinding die de mens ooit zal doen’, stelde wiskundige Irving Good al in 1965. En Apples medeoprichter Steve Wozniak is niet per se bang, maar stelde wel dat wij op een gegeven moment huisdieren worden van robots.

Voorspellen is lastig, zeker als het over de toekomst gaat. Maar het is wel duidelijk dat we ons op dit moment nog geen zorgen hoeven te maken over een robotinvasie.

Gary Marcus gaf in zijn praatje op het congres tips voor als een robot je probeert aan te vallen.

1. Doe de deur dicht of – als het echt heftig wordt – doe de deur op slot.
2. Verstop je achter een bus, verkleed je als een bus of verstop je achter een glimmende broodrooster.
3. Heb een psychedelische sticker bij je.
4. Als het echt te gek wordt, klim een trap op.

Om maar te zeggen: robots zijn zo intelligent nog niet. En dat geldt algemener. In zijn boek Rebooting AI laat Marcus met co-auteur Ernest Davis zien dat het niet alleen de robots zijn die vooralsnog tegenvallen.

Zo stelde de gerenommeerde AI-onderzoeker Geoffrey Hinton in 2016 dat het ‘vrij overduidelijk [is] dat we moeten stoppen met het opleiden van radiologen’. Want algoritmes zouden afwijkingen volgens hem straks beter gaan herkennen dan mensen.

Ja, er zijn indrukwekkende doorbraken, maar veel van de grote beloftes blijken later toch tegen te vallen. Neem Watson, die won met het spelletje Jeopardy!. IBM stelde in 2016 dat dit systeem voor een ‘revolutie in de gezondheidszorg’ zou gaan zorgen. Intussen hebben verschillende onderzoekscentra de samenwerking ermee opgezegd, omdat de aanbevelingen van het systeem niet alleen fout waren, maar ook gevaarlijk.

Toch zou AI, volgens het kabinet, de wereld ‘ingrijpend’ veranderen. Ik denk dan terug aan de woorden van Nobelprijswinnaar Herb Simon: ‘Machines zullen, binnen twintig jaar, elk werk kunnen doen dat een mens kan doen.’ Wanneer hij dat zei? 1965.

Al zijn er de afgelopen jaren absoluut opzienbarende dingen gebeurd met AI – ahum, machine learning –, alle succesvolle modellen hadden een beperkt doel: een bordspel winnen, een gezicht herkennen, een zin vertalen. Zet een stapje verder en het dondert al snel in elkaar. Probeer Siri maar eens wat gekke vragen te stellen.

Misschien komt er ooit superintelligentie, misschien ook niet. Het is lastig te voorspellen. Hoe het ook zij, AI is in de macht van mensen en zal dat nog lang blijven. Het is geen magie of een natuurkracht, het is mensenwerk. Het is dus niet onvermijdelijk, het is een keuze. Maar als iedereen maar hard genoeg roept dat het onvermijdelijk is, zal dat het uiteindelijk ook worden.

3: AI is geen doel op zich

AI zoals we het vandaag zien, machine learning dus, is slechts een set van methodes. De mens beslist wat ermee gebeurt. Dezelfde algoritmes die achter de deepfake-video’s zitten, kunnen ook helpen om kanker te diagnosticeren.

Het doel van het kabinet lijkt duidelijk: economische groei. ‘Als we als Nederland en Europa mee willen doen in de voorhoede van een wereldwijd concurrerende economie, dan moeten we de ontwikkeling en toepassing van AI in Nederland versnellen.’

Het doel van het kabinet lijkt duidelijk: economische groei

Voor de vraag of we het überhaupt nodig hebben – laat staan versnellen – lijkt nauwelijks ruimte. Ook niet in het bredere discours dat ik hoorde op het congres. Er wordt vanuit de technologie gedacht, niet vanuit problemen. Hoe gaan we met AI klimaatverandering stoppen? De zorg verbeteren? Het lerarentekort oplossen?

Het is wat technologiefilosoof Evgeny Morozov ‘solutionisme’ noemt – het idee dat elk probleem kan worden opgelost, zolang we maar de juiste code hebben. Op die manier word je als een dronken man die zijn sleutels alleen onder het licht van de lantaarnpaal zoekt. Je zoekt de oplossing enkel en alleen in de technologische hoek.

Terwijl de beste oplossingen zomaar op een hele andere plek kunnen liggen. Het probleem van klimaatverandering heeft misschien eerder een systeemverandering nodig dan een beter algoritme. Leraren en zorgmedewerkers hebben waarschijnlijk meer aan een beter salaris dan een sociale robot.

Dit zijn geen technologische discussies, maar politieke. Laten we eerst bedenken wat we belangrijk vinden en daar vervolgens de juiste oplossing bij zoeken. Soms is dat iets AI-erigs, soms ook helemaal niet. Dat is aan ons, niet aan de bedrijven die ons hun gereedschapskist willen aansmeren.

Voor deze column heb ik gebruik gemaakt van eerdere artikelen en nieuwsbrieven.

Meer lezen?