Weg met de grote beloften. Zo maakt kunstmatige intelligentie het leven een klein beetje makkelijker

Het is gemakkelijk om cynisch te worden over kunstmatige intelligentie (AI). China zet gezichtsherkenning in tegen de Oeigoeren. Google werkt mee aan de ontwikkeling van autonome wapens. En gezichtsherkenningsprogramma’s worstelen nog altijd met zwarte gezichten.

Maar het afgelopen jaar zag ik ook een andere kant. Bij overheidsorganisaties, start-ups en universiteiten sprak ik mensen die werken in de AI-sector (al hebben ze het zelf vaak liever over machine learning, want ‘AI’ is een hypewoord waar ze niet veel mee kunnen).

Telkens leerde ik wat nieuws en werd ik aangestoken door het enthousiasme. Al zag ik ook dat veel experts zich net zo goed zorgen maken over de ethische gevolgen van de snelle ontwikkelingen. En ja, er is genoeg om cynisch van te worden, lieten ze me zien, maar ook genoeg om hoopvol over te zijn.

Wat me ook hoop gaf: het grote aantal mensen dat met me in gesprek wilde. Toen ik een oproep plaatste in oktober – op zowel De Correspondent als op ons Engelstalige zusje The Correspondent – lieten 230 (!) machinelearningexperts me weten dat ze graag eens met me zouden praten.

Een paar weken geleden stuurde ik hen – en mijn nieuwsbriefvolgers – een mail met de vraag: wat maakt jou hoopvol over kunstmatige intelligentie? Vandaag deel ik de mooiste reacties. Mét de redenen waarom ze hoop geven.

Tijd om het te hebben over wat er wel goed gaat op het gebied van kunstmatige intelligentie.

AI als een middel, niet als een doel

Door de hype lijkt AI soms wel een doel op zich geworden. Overheden komen met AI-strategieën, bedrijven plakken op een Excelsheet al het label ‘AI’ en journalisten schrijven maar al te graag over een – dystopische dan wel utopische – toekomst waarin AI de macht heeft.

Ik vraag me vaak af: maar waartoe? AI – en dan gaat het bijna altijd over machine learning, dus daar focus ik me in dit artikel op – is slechts een gereedschapskist. Het zijn heftige rekenmodellen die zeker toffe dingen kunnen doen, maar meer ook niet. AI is niet de oplossing voor al onze problemen, ze kan hooguit een handje helpen.

Begin bij het probleem, lijkt mij, en zoek er dan een oplossing bij – technologisch of niet. Ik werd dan ook enthousiast van voorbeelden waarin machine learning niet in het wilde weg is toegepast, maar duidelijk in een behoefte voorziet.

Boven: Univac Uniservo, 1951. Onder: IBM SAGE, 1950.

Zoals in de reactie van Annelot Vijn, informatiemanager bij Het Utrechts Archief. ‘HTR!’ mailt ze. Wat? ‘Handwritten Text Recognition, oftewel automatische transcriptie van oude handschriften.’ Was het voorheen monnikenwerk om dit soort teksten over te tikken, nu staan ze in een handomdraai in Times New Roman. Dat maakt ze doorzoekbaar, wat historisch onderzoek een stuk makkelijker maakt.

Het archief gebruikt het softwarepakket Transkribus, schrijft Vijn, om handgeschreven teksten te digitaliseren. Het is ontwikkeld met steun van de Europese Unie en moet archiefstukken ontsluiten. Coördinator Günter Mühlberger vertelt op de EU-website dat dit het eerste platform in zijn soort is waar ook mensen gebruik van kunnen maken die niet technisch onderlegd zijn. Zo’n 27.000 gebruikers hebben zich intussen geregistreerd.

Een van hen is Henri Brandenburg, die me ook mailt over Transkribus. Ik ken hem nog uit mijn vroegere woonplaats Middelburg, waar ik hem vaak op zaterdagochtend documenten van de Admiraliteit van Zeeland zag transcriberen met een kop koffie in de plaatselijke boekhandel.

Brandenburg legt uit hoe hij Transkribus heeft getraind. Eerst voer je foto’s van de oude tekst in, waarna het programma met groene vakjes aangeeft waar de tekst staat. Die regels transcribeer je vervolgens zelf, zodat het duidelijk is welke regel bij welk stukje op de foto hoort.

Heb je dat zo’n vijftig pagina’s gedaan – en dat is op zich nog steeds monnikenwerk – dan kun je het programma zichzelf laten trainen. Brandenburg: ‘Transkribus bouwt in die tijd een “model” dat je kunt loslaten op nieuwe foto’s. (...) Afhankelijk van de consistentie van het schrift van de oorspronkelijke scribent en de transcriptie kun je tot een woorden-foutpercentage komen van minder dan 2 procent!’

‘De modellen worden steeds beter’, schrijft Vijn, ‘en daardoor worden (onleesbare) schatten ontsloten.’

AI voor nu, niet voor de verre toekomst

De AI-wereld hangt aan elkaar van grote beloftes. Neem Elon Musk – niet bepaald een man van kleine ideeën – die dit jaar tijdens een presentatie van zijn bedrijf Neuralink zei dat hij ‘een soort van symbiose tussen menselijke en kunstmatige intelligentie’ wil bereiken.

Het idee: draden met elektroden, dunner dan mensenhaar, worden in het brein geïmplanteerd om zo bijvoorbeeld een prothese aan te sturen of een neurologische ziekte te genezen. Neuralink test de technologie nu al op ratten en wil eind 2020, zegt Musk, aan de slag met mensen.

Brain-machine interfaces, zoals Neuralink beoogt, geven consultant Jos Gubbels hoop. Hij vertelt in de bijdrage op De Correspondent dat ze kunnen helpen ‘om mensen met ernstige beperkingen weer hoop te geven op een volwaardig(er) leven’.

Hij deelt een video van Mai Thi Nguyen-Kim, ‘een van mijn favoriete wetenschapsjournalisten bij onze oosterburen’. Zij legt uit wat BMI’s zijn en wat er al mogelijk is. TL;DR: mooie wetenschappelijke doorbraken, maar nog veel haken en ogen. Kortom, het is nog toekomstmuziek.

maiLab: ‘Superintelligent durch Brain Machine Interface’

Wat me hoopvoller maakt, zijn toepassingen die nú al levens kunnen veranderen. Lieke Scheewe, die voor haar werk opkomt voor de rechten van mensen met een functiebeperking, geeft in haar bijdrage zo’n voorbeeld: Seeing AI, van Microsoft.

Die app helpt mensen met een visuele beperking door bijvoorbeeld tekst voor te lezen, voorwerpen te omschrijven en bankbiljetten te herkennen als je met cash wilt betalen. Alles met behulp van neurale netwerken, dé hit in AI-land.

Scheewe zit zelf in een rolstoel en vindt technologische ontwikkelingen voor mensen met een functiebeperking hoopvol. ‘Maar de functiebeperking blijft, evenals de noodzaak om ervoor te zorgen dat de samenleving zo ingericht is dat iedereen op gelijke voet kan participeren.’

Ook framing is belangrijk, schrijft ze. Vaak is het ‘“kijk eens hoe deze gehandicapte met haar zielige leven nu weer iets kan wat ze eerst niet kon, en zie hoe ze nu lacht (of zie die tranen van geluk)!” Daarachter gaan allerlei aannames en vooroordelen schuil.’

Heel anders, schrijft ze, is de recente aankondiging van Microsoft dat de app Seeing AI nu in vijf extra talen beschikbaar is, waaronder het Nederlands. ‘Microsoft presenteert op een mooie en nuchtere manier wat de app voor mensen betekent, mensen vertellen zelf hoe ze dit gebruiken in hun leven.’

Boven: Control Data 6600, 1960-er jaren. Onder: IBM 1130, 1965.

AI namens experts, niet namens charlatans

Er wordt een hoop bullshit verkocht als het om AI gaat. In zijn presentatie ‘How to recognize AI snake oil’ laat computerwetenschapper Arvind Narayanan een screenshot zien van het promotiemateriaal van een hr-bedrijf dat op basis van een filmpje van dertig seconden zegt in te kunnen schatten of iemand een goede werknemer zal zijn. Ene DuShaun Thompson zou een ‘bottom line organizer’ zijn die de status quo verandert – hij krijgt een score van 8,98 op de tienpuntsschaal van het hr-bedrijf.

‘Gezond verstand vertelt je dat dit niet mogelijk is en AI-experts zijn het daarmee eens’, schrijft Narayanan. ‘Dit product is in wezen een uitvoerige generator van willekeurige getallen.’ Over het algemeen, laat hij aan de hand van onderzoek zien, is het heel lastig om ‘social outcomes’ te voorspellen met data – denk aan recidive van een veroordeelde, of de ontwikkeling van een kind.

Boven: ICL 7500, 1971. Onder: IBM 2401, 1964.

Voor hoopvolle ontwikkelingen kijk ik dan ook liever naar mensen die echt verstand hebben van de technologie, niet naar de praatjesmakers. En in 2019 richtten veel gerenommeerde AI-onderzoekers zich op één specifiek thema: klimaat.

Een indrukwekkende groep wetenschappers – onder wie Google Brain-oprichter Andrew Ng en Turing Award-winnaar Yoshua Bengio – publiceerde een waslijst aan manieren waarop machine learning kan helpen om klimaatverandering tegen te gaan. Het is geen wondermiddel, geven ze toe, maar op sommige plekken kan het helpen.

Bijvoorbeeld bij het verbeteren van klimaatmodellen. Zo leerde ik van het paper over de grootste bron van onzekerheid in die modellen: wolken. Lichte wolken houden zonlicht tegen, terwijl donkere wolken de warmte op de aarde houden. De huidige natuurkundige modellen kosten veel rekenkracht, maar onderzoek naar neurale netwerken laat zien dat het mogelijk is om vergelijkbare resultaten te behalen voor veel minder geld.

Ontbossing is een ander thema dat langskomt in het artikel. Leon Overweel, zelf ‘deep learning engineer’ bij het bedrijf Plumerai, geeft in zijn bijdrage een concreet voorbeeld van een club die met data-analyse houtkap tegengaat: Rainforest Connection. De non-profitorganisatie hangt oude telefoons, verbonden aan zonnepanelen, op in het regenwoud om geluid op te nemen. De technologie herkent het geluid van een kettingzaag of een geweerschot, en geeft parkwachters een seintje.

Machine learning gebruiken om echt iets goeds te doen – levens redden bijvoorbeeld

De wetenschappers kijken ook naar mogelijkheden om machine learning in te zetten bij de gevolgen van klimaatverandering. Daniela Gawehns, promovendus datawetenschappen aan de Universiteit Leiden, mailt me over een team van het Nederlandse Rode Kruis dat zich daarvoor inzet. ‘510’ schat de schade in na een natuurramp, bijvoorbeeld na orkaan Irma op Sint Maarten. Daar maakten medewerkers foto’s met drones en markeerden met hulp van vrijwilligers welke huizen beschadigd waren. Ze werken nu aan machinelearningmodellen, zodat ze nog sneller en op grotere schaal kunnen werken.

‘Zij gebruiken image recognition om echt iets goeds te doen’, schrijft Gawehns. ‘Zoals het redden van levens (en niet voor zelfrijdende auto’s, want wie heeft die nu nodig).’

AI voor het goede

‘Iets om hoopvol over te zijn is de volwassen, kritische houding van de mensen achter AI’, stelt datawetenschapper David van de Merwe. Hij noemt mensen als Holger Hoos met het Europese onderzoeksnetwerk CLAIRE, Sennay Ghebreab van het Civic AI Lab en het team bij iCog Labs in Addis Abeba. Allemaal zijn ze op hun manier bezig met een waardevolle invulling van AI.

Van de Merwe is een van de velen die me mailt over een hoopvolle ontwikkeling: het gesprek over de tekortkomingen en de ethische kwesties rond AI en machine learning is de laatste jaren flink op gang gekomen. Dat gesprek gaat allang niet meer alleen over het eerlijker maken van de AI-systemen zelf, maar ook over de vraag: moeten we wat AI mogelijk maakt überhaupt wel willen? En in 2019 bleek het antwoord op die vraag soms nee te zijn.

De Australische belastingdienst draaide dit jaar Robodebt terug, een controversieel systeem dat mensen automatisch met een onterechte belastingschuld opzadelde; Portland en andere Amerikaanse steden zijn van plan om gezichtsherkenning te verbieden; en er loopt een rechtszaak tegen het Nederlandse ‘systeem risico-indicatie’ (SyRI), waarbij allerlei persoonsgegevens worden gebruikt om bijvoorbeeld bijstandsfraude te voorspellen.

Wordt er nu vaak pas schoongemaakt als er eerst een emmer stront omgedonderd is, er zijn stemmen die pleiten voor wetgeving op het gebied van AI. Zo beloofde Ursula von der Leyen, vlak na haar start als voorzitter van de Europese Commissie begin december, met een AI-wet te komen. Naar verwachting verschijnt die in februari 2020. Nu wordt er nog te vaak gerekend op zelfregulering van technologiebedrijven, en overheidsregulering kan daar verandering in brengen. Maar het wordt nog spannend welke richting de Commissie op zal bewegen.

De mooie toepassingen van AI, zoals die in dit artikel, verdienen een kans. Maar dat betekent niet dat alles met het plakkertje ‘AI’ een goed idee is of dat elk probleem met AI op te lossen is. Dat er een tegenbeweging is die kritische vragen durft te stellen, geeft hoop.

Op naar een kritisch 2020.