Een mens is niet zo voorspelbaar als een baggerpomp (en vijf andere inzichten over kunstmatige intelligentie)

Ilyaz Nasrullah is informaticus en publicist. In de uitstekende podcast ‘Welkom in de AI-fabriek’ van BNR en Trouw interviewt hij zes Nederlandse experts in de kunstmatige intelligentie. Aan de inhoudelijke, gelijkwaardige gesprekken merk je als luisteraar dat Nasrullah de materie echt beheerst. Het knappe aan de podcast is dat de zes afleveringen de diepte ingaan zonder ontoegankelijk te worden.

Ik vroeg Nasrullah wat hij zelf de belangrijkste inzichten van de serie vond. 

1. Mensen zijn efficiënter dan kunstmatige intelligentie

‘Het vergelijken van mensen met kunstmatige intelligentie is hetzelfde als een duiker vergelijken met een onderzeeboot. Hun gedragingen lijken op elkaar, maar in principe hebben ze niks met elkaar te maken. 

‘Maar stel dat je ze wel zou kunnen vergelijken, en je het energieverbruik van intelligentie zou kunnen berekenen, dan zullen we erachter komen dat mensen stukken efficiënter zijn dan machines. 

‘Een paar jaar geleden kwam bijvoorbeeld AlphaGo uit, de Go-spelende computer van Google. De PR-boodschap was toen: in vier uur tijd heeft onze AI dit spel beter leren spelen dan welk mens dan ook. En AlphaGo was inderdaad beter dan de beste spelers ter wereld. 

‘Maar wat er niet bij werd verteld was hoe verschrikkelijk krachtig de hardware was die daarvoor nodig was. En dat er in die vier uur echt miljoenen en miljoenen spellen werden gespeeld door die computer, veel meer dan een mens ooit zou kunnen spelen in zijn hele leven. 

‘Het verhaal is dat AI zo snel en efficiënt is, maar daarbij wordt de gigantische machinerie genegeerd die nodig is om kunstmatige intelligentie aan de praat te krijgen.

‘Het is belangrijk om de voordelen van AI af te zetten tegen de kosten. Wat de voordelen zijn is nog niet echt duidelijk, maar zeker is wel dat de kosten hoog zijn. Er worden heel veel stroom, water en grondstoffen verbruikt. Er bestaan schattingen^* die zeggen dat alleen al het trainen van AI meer dan 3 procent van het wereldwijde energieverbruik in beslag zal nemen. Dat is gigantisch.’  

2. Van nature bouwen mensen een emotionele band op met een chatbot en dat is een probleem

‘Er blijkt een soort mechanisme te bestaan in mensen waardoor wij menselijke eigenschappen op dingen projecteren – ook op machines. In de jaren zestig werd de chatbot Eliza uitgevonden en die speelde de rol van therapeut. Mensen vonden het heel moeilijk om de chatbot als iets niet-menselijks te zien: ook nadat hen was uitgelegd dat het een computer was, bleven ze volharden dat ze met een empatisch wezen te maken hadden. 

‘Met de opkomst van de huidige chatbots als ChatGPT gebeurt eigenlijk hetzelfde. Mensen hebben relaties met hun chatbots, gebruiken ze voor rouwverwerking en hebben er ook allerlei angsten voor: als dit een soort van levende wezens zijn, wat gaan ze dan doen? 

‘Onderzoekers die zich bezighouden met verantwoord gebruik van AI zijn dan ook kritisch op het feit dat de chatbots vaak “ik” gebruiken. Precies omdat wij mensen geneigd zijn om menselijke eigenschappen toe te kennen aan de machine. Dit soort woordgebruik versterkt dat effect, waardoor het steeds moeilijker wordt om onderscheid te maken. 

‘Dit kan tot allerlei persoonlijke problemen leiden, maar het gaat mij niet eens om het individuele effect ervan. Het gaat mij om het populaire idee dat dit soort chatbots een oplossing kunnen zijn voor eenzaamheid. Als je aan de deur klopt bij een chatbot krijg je antwoord, maar toch is er niemand thuis.

‘En daarmee ga je voorbij aan de echte oorzaken van de eenzaamheidscrisis in de samenleving. De vragen daarbij zijn: hoe zorg je voor meer sociale cohesie? Hoe zorgen we ervoor dat mensen beter met elkaar omgaan? Dat iedereen echte aandacht krijgt? Wat willen we, kortom, met de samenleving? Dat zijn politieke vragen waar een leger aan chatbots geen antwoord op is.’ 

3. De wetenschappelijke basis voor ‘intelligente computers’ is wankel 

‘In de AI-wereld bestaat veel hoop dat we op het punt komen van echte intelligentie. Dat wordt AGI genoemd, Artificial General Intelligence, het moment waarop computers net zo goed als mensen allerlei taken kunnen leren en uitvoeren – of daar zelfs beter in zijn dan mensen. Grote spelers als Microsoft en OpenAI zeggen dat zij bezig zijn om AGI te ontwikkelen. En veel van wat er gebeurt wordt door die AGI-bril geïnterpreteerd: hoe dicht zijn we bij AGI? 

‘Maar er bestaat helemaal geen wetenschappelijke basis voor. Want wat is nou die intelligentie die we proberen te benaderen en na te bouwen? En waarom?  

‘Als je luistert naar de AI-bedrijven en hun CEO’s, dan hebben zij een zeer nauwe opvatting van intelligentie. Zij zien intelligentie als cognitieve intelligentie. In de podcast bespreekt hoogleraar informatica Felienne Hermans de beperkingen van die opvatting. Het ontbreekt AI bijvoorbeeld aan ‘know how’, zegt Hermans, weten hoe. 

‘Dat je weet hoe je moet fietsen of hoe je iets met je handen moet maken. Dat kan een machine niet. Je kunt wel allerlei gedetailleerde instructies geven hoe je een gerecht moet koken, maar dat betekent nog niet dat je dat gerecht ook goed kunt maken. Want er zit iets in goed koken dat we niet helemaal in woorden kunnen vatten.

‘Intelligentie kent vele vormen en die worden bijna allemaal buiten beschouwing gelaten. Dat is problematisch, want zo creëer je een erg cerebrale wereld.’

4. Als economisch project gaat AI voor meer ongelijkheid zorgen

‘De huidige AI-technieken zoals large language models en image generators zijn niet te maken of te trainen door kleine bedrijven. Je hebt er enorme hoeveelheden data en gigantische computers voor nodig. Het kost heel veel geld. 

‘Een aantal van de geïnterviewden uit mijn podcast werkt aan de universiteit en zij zijn ook niet in staat om die modellen te trainen, want universiteiten hebben die infrastructuur niet. Alleen de grote techbedrijven beschikken over de data en de middelen. Dat geeft hen een enorme machtspositie. 

‘Die macht uit zich op verschillende manieren. De modellen die getraind worden maken gebruik van auteursrechtelijk beschermd materiaal – van schrijvers, van artiesten, van muzikanten, van programmeurs. Die bedrijven zijn voor de ontwikkeling van hun AI-systemen volledig afhankelijk van dit soort kwaliteitsmateriaal. Maar ze compenseren daar niet redelijk voor en dat willen ze ook niet, want dat kost veel te veel geld. En dan is het hele project ineens niet meer economisch rendabel. 

‘Daarnaast zijn er miljoenen data- en clickwerkers nodig om die AI systemen te laten draaien. Over het algemeen gebeurt dat in lagelonenlanden. Een partij als OpenAI zegt dat AI tot meer gelijkheid zal leiden en dat iedereen hiervan zal profiteren, maar je ziet dezelfde mechanismen in gang treden als in andere industrieën. 

‘In essentie zie je het manco van het kapitalisme, denk ik. De focus op kostenbesparing leidt tot ongelijkheid. Dat komt dus niet zozeer door de technologie zelf, maar door de economie erachter. 

‘Dat illustreert ook dat het niet zo hoeft te zijn. Ik denk dat AI ingezet kan worden om voor meer gelijkheid te zorgen. Maar om dat te bereiken moeten er andere keuzes gemaakt worden.’ 

5. De grootste meerwaarde van AI is in natuurwetenschappelijke toepassingen, maar de grootste beloftes worden gedaan in het sociaal-maatschappelijk domein. En daar werkt het niet goed

‘Een veelgebruikte toepassing van AI is de zogenoemde predictive maintenance. Denk aan het onderhoud van een windmolen of de baggerpomp op een schip. Molens en pompen zijn redelijk voorspelbare systemen omdat zij zich aan natuurwetten houden. 

‘Je kunt bepaalde aspecten van zo’n windmolen of pomp meten en vervolgens met behulp van AI voorspellen wanneer iets waarschijnlijk stuk zal gaan. Dan kun je daarvóór de reparatie doen. Dat is veel goedkoper dan de hele spullenboel kapot laten gaan en vervangen. Maar over dergelijke toepassingen hoor je niet zo veel. Er bestaat geen controverse over de toepassing van AI in een windmolen. 

‘Waar we het wel veel over hebben is over het sociaal-maatschappelijk domein: het vervangen van werk, het detecteren van fraudeurs of predictive policing. Daar is het grondidee hetzelfde: we gaan heel veel meten en daarna proberen te voorspellen wat er gebeurt. Het verschil is alleen dat het sociaal-maatschappelijk domein een rommelig domein is, namelijk dat van de mens. En daar werkt het niet zo goed: je gaat met hulp van AI verbanden leggen die je niet zomaar mag leggen. 

‘Als je heel veel voorbeelden van kapotte baggerpompen hebt gezien en je ziet een baggerpomp die daarop lijkt, dan kun je zeggen: deze baggerpomp zal binnen een bepaalde termijn kapot gaan, dus ik ga hem alvast repareren. Maar als veel mensen met bepaalde eigenschappen een misdaad hebben begaan, kun je niet de conclusie trekken dat een individu dat daarop lijkt waarschijnlijk ook die misdaad zal begaan. 

AI is geen wondermiddel, het is statistiek op zeer grote schaal

‘En dat is precies waar de controverse ontstaat. Dingen die in dat natuurwetenschappelijke domein werken, werken niet zo in het maatschappelijke domein. Het werkt uit principe niet goed. 

‘Maar dat wordt wel beloofd. Dat is pure marketing – een van de meest misleidende vormen die ik ken. Ik snap overigens wel dat bestuurders of politici daarvoor vallen. Als iemand tegen jou zegt: jij hebt dit rommelige probleem en ik heb daar een mooie technische oplossing voor, dan is dat heel verleidelijk. Maar AI is geen wondermiddel, het is statistiek op zeer grote schaal. Als je dat inzicht niet hebt, maar wel problemen op wil lossen, dan denk je al gauw: waarom niet? Ik weet niet hoe ik dit op moet lossen, misschien gaat dit wel werken. 

‘Er zit ook wel een kern van waarheid in: meten is weten. Maar je kunt niet alles weten, laat staan voorspellen. Dat is mijn grootste wens: dat mensen dat principe echt gaan snappen.’

6. Het wereldbeeld van de makers van AI is een groter gevaar dan de technologie zelf

‘Stel dat je naar de Lord of the Rings bent geweest, de bioscoop uitloopt en denkt: de slechterik Sauron is echt een probleem, we moeten nu even alle ringen gaan inspecteren! Dat is het beeld dat ik heb bij het populaire idee dat AI een existentiële bedreiging voor de mens kan vormen. Het is een spookbeeld. 

‘Dan kun je zeggen: hoe weet jij nou dat Sauron niet bestaat? Dat klopt, ik kan niet bewijzen dat Sauron niet bestaat. Maar hij bestaat niet. En niet alles wat je niet kan bewijzen moet je serieus nemen. Want op die manier kan je alles als dreiging zien. 

‘Als je realistisch kijkt naar wat de bestaande AI-systemen nu feitelijk kunnen, dan zie je dat hun capaciteiten erg overschat worden. Dat komt deels door de hype en de marketing, deels door de hoop dat we onszelf aan het nabouwen zijn. Maar feitelijk zijn AI-systemen goed in bepaalde specifieke taken en heel slecht in alles wat daarbuiten valt. Ik vind het dan echt te bizar voor woorden dat mensen serieus gaan nadenken over machines die een eigen wil gaan ontwikkelen. Misschien zullen die ooit ontstaan, maar we zijn echt nog lang niet op een pad daarnaartoe. 

Er zijn dingen die een computer niet kan en dat is ook gewoon prima

‘Stel dat iemand naar de maan wil reizen met een auto. Dat kan heel goed bedoeld zijn. Maar het maakt niet uit hoe hard je rijdt of wat voor motor je erin zet: je komt er niet mee naar de maan. Daar heb je een andere techniek voor nodig – een stuwraket in dit geval. Met AI speelt hetzelfde. Als je een machine wil bouwen die een eigen wil ontwikkelt, dan heb je andere technieken nodig. En we weten niet wat die technieken zijn. 

‘Ik geloof niet dat zulke technieken ooit ontdekt zullen worden, maar dat kan ik niet uitsluiten. Wat ik wel met zekerheid kan zeggen is dat niemand op de wereld het technologische pad gevonden heeft. Dat ís er gewoon nog niet. Het maakt niet uit hoe groot je je GPT-5 gaat maken of wat dan ook. Dat is misschien een snellere of een meer vervuilende auto. Maar het is nog altijd geen stuwraket. 

‘Dat betekent niet dat er geen grote risico’s aan AI verbonden zijn. Als invloedrijke mensen blijven geloven en uitdragen dat de huidige AI wel een wondermiddel is en het ondoordacht in wordt gezet – bijvoorbeeld door AI toegang te geven tot kernwapens, een compleet stupide idee – dan gaat het mis. Dat heeft niks te maken met een existentieel risico omdat de technologie zo veel kan, nee, dat komt dan omdat mensen iets heel achterlijks doen. 

‘Daar zitten voor mij de echte risico’s: dat we deze technologieën voor de verkeerde dingen gebruiken omdat we ze niet goed begrijpen. Sommige mensen vragen ChatGPT om dieetadvies, anderen gebruiken het voor therapie. Maar voor die toepassing is het echt niet geschikt. Je kunt ook een sapcentrifuge gebruiken om een schroef in je muur te slaan, en soms gaat dat misschien goed, maar dat maakt het niet een minder slecht idee. 

‘Ik ben zelf informaticus dus ik hou van computers. Maar ik denk niet dat AI de silver bullet is voor alles in de wereld. Er zijn dingen die een computer niet kan en dat is ook gewoon prima. Er zijn dingen die wij niet kunnen en daar is ook niks mis mee. Alles heeft zijn beperkingen en die moet je leren waarderen en respecteren.’