Achter veel ‘kunstmatige intelligentie’ zit slechtbetaalde, onzichtbare en menselijke arbeid
Van zelfrijdende auto’s tot kunstmatige intelligentie: veel technologie lijkt zelf slimme dingen te kunnen. Maar om die illusie in stand te houden, zetten techbedrijven hordes onderbetaalde arbeidskrachten in.
In 1770 bewees een Hongaarse uitvinder dat je geen buttplug nodig hebt om vals te spelen met schaken.
Wolfgang von Kempelen had een meesterlijke schaakmachine gebouwd. Deze ‘automaton’* bestond uit een groot bureau met een schaakbord en een pop met tulband en zwarte baard. In zijn linkerhand hield de pop een langwerpige rookpijp; met zijn rechterhand verzette hij de ivoren schaakstukken op het bord. Onder het bureau, achter een deurtje, zat de ‘machinekamer’: een op het oog complex systeem dat uit radertjes, tandwielen en andere achttiende-eeuwse high tech bestond.
En het werkte. De ‘Mechanical Turk’, de ‘Schachtürke’ of simpelweg ‘De Turk’ was een wereldster. Hij tourde langs Londen, Parijs, Leipzig en Amsterdam, bezocht de paleizen van Schönbrunn en Versailles, en speelde tegen Napoleon en Benjamin Franklin. Dit was niets minder dan magie.
Behalve dat het geen magie was. Want verscholen onder het bureau, in een speciaal gebouwd compartiment, zat een man die meesterlijk kon schaken en die met behulp van magneetjes de machine bediende.
De Mechanical Turk was geen wonder der techniek, geen schaakcomputer avant la lettre; het was bedrog, een illusie om het publiek voor de gek te houden.
De mens achter de machine
Tweehonderdvijftig jaar later kunnen we puike schaakcomputers bouwen. Toch werkt veel technologie van nu exact volgens het principe van de Mechanical Turk: het lijkt zelf slimme dingen te kunnen.
‘Foutomatisering’ noemt de Canadese schrijver Astra Taylor het, nepautomatisering die wij verwarren met echte automatisering en die ‘de illusie versterkt dat machines slimmer zijn dan ze werkelijk zijn’. Want in werkelijkheid doen mensen het (voorbereidende) werk waardoor het er zo slim uitziet. Zelfrijdende auto’s? Kunstmatige intelligentie? Een slimme digitale assistent als Alexa? Het is een illusie dat er geen mens aan te pas hoeft te komen.
En om die illusie in stand te houden zetten techbedrijven hordes onzichtbare en slechtbetaalde arbeidskrachten in. Deze verborgen arbeid wordt in alle uithoeken van de wereld uitgevoerd door tientallen miljoenen microworkers: mensen die digitale taken uitvoeren om technologiebedrijven er slimmer uit te laten zien.
Voor de zekerheid: dit zijn niet die medewerkers van techbedrijven met riante aandelenpakketten. Dit type techwerker woont in vluchtelingenkampen en sloppenwijken. Ze zijn niet in dienst bij het techbedrijf waar ze hun werk voor doen, maar verdienen hun centen via een soort digitale uitzendbureaus. En vaak gaat het letterlijk om centen.
'Kunstmatige kunstmatige intelligentie'
Een van de grootste microworkplatforms heet – zonder ironie – Mechanical Turk* en is van Amazon. In de woorden van Amazonoprichter Jeff Bezos – wederom zonder ironie – biedt deze dienst ‘kunstmatige kunstmatige intelligentie’.
Met andere woorden: we doen alsof een computer zelf iets slims doet, maar in werkelijkheid doen heel veel mensen iets om die computer slim te laten lijken.
Dit ‘iets’ is overigens niet iets triviaals. Ieder techbedrijf dat ‘slim’ wil zijn en aan kunstmatige intelligentie doet, heeft goed getrainde en schone data nodig. En de microworkers – ook wel ghostworkers genoemd – zijn de trainers en de schoonmakers van de data van techbedrijven. Zij transcriberen gesprekken, ze beoordelen beelden, ze labelen, categoriseren en schonen data op. Daarmee vormen ze een cruciale schakel in het productieproces van Big Tech.
Neem de zelfrijdende auto. De belofte is dat auto’s ooit helemaal mensloos en autonoom zullen rijden. Los van of dat technisch kan, is een absolute minimumvoorwaarde voor deze techdroom dat zelfrijdende auto’s geen ongelukken veroorzaken. Daarom moeten ze worden uitgerust met software die een hond van een zebrapad weet te onderscheiden en een mens niet met een afrit verwart.
Microworkers zorgen ervoor dat die software dat kan. Vluchtelingen in Syrische en Libanese kampen trainen de zelfrijdendeautosoftware van verschillende tech- en autobedrijven, zoals Tesla, Volkswagen en BMW.* In Venezuela geven arme Venezolanen labels aan videobeelden van lantaarnpalen, zebrapaden en voetgangers.* Door de programma’s te blijven voeden en trainen, worden die beter in het herkennen van patronen en objecten.
Geestdodend en weerzinwekkend werk
Veel van dit microwork is repetitief en geestdodend. Alsof je uren achter elkaar in een tentenkamp captcha’s invult: die plaatjes die iedere internetter zo nu en dan te zien krijgt, en waarop hij moet aangeven of en waar er lantaarnpalen en zebrapaden te zien zijn (ja, ook jij werkt voor de machine!).
Andere microtaken van de techbedrijven zijn ronduit weerzinwekkend. In Uganda bijvoorbeeld kijken honderden jonge mensen naar kinderporno, opnames van zelfmoorden en video’s van onthoofdingen – om ervoor te zorgen dat Facebookgebruikers dit soort video’s automatisch niet te zien krijgen.*
De frictieloze Facebookfeed van de een is de posttraumatische stressstoornis van de ander.
Microworkers uit Roemenië, India en Costa Rica komen heel dichtbij: zij luisteren naar flarden van opgenomen huiskamergesprekken van mensen die zich een digitale assistent kunnen veroorloven.* Door de gesprekken te analyseren, trainen zij onze digitale huisslaafjes, zoals Amazons Alexa, zodat die onze opdrachten sneller, efficiënter en frictielozer kunnen uitvoeren. Als Alexabezitter denk je misschien: zo, Alexa wordt steeds slimmer! In werkelijkheid ben je onder de indruk van het onzichtbare werk van Alexa’s Filipijnse nanny.
Niets magisch aan
‘Elke genoeg geavanceerde technologie is niet van magie te onderscheiden’, schreef de beroemde sciencefictionauteur Arthur C. Clarke. En we geloven het ook graag: dat tech magisch is en om onverklaarbare redenen zelfstandig en zonder tussenkomst van mensen in staat is tot uitzonderlijke daden.
‘Dit is ERICA, de slimme, sociale robot die (meestal) op het goede moment de juiste lach tevoorschijn tovert’, schrijft de Volkskrant op 27 september.
Ook in de Volkskrant: ‘Kunstmatige intelligentie kraakt een van de grote raadsels in de biologie’.
‘Franse belastingontduikers betrapt door kunstmatige intelligentie en Google Maps’, aldus Nu.nl.
Maar verborgen achter iedere ‘slimme’ technologie en ‘kunstmatige intelligentie’ zitten slechtbetaalde, onzichtbare en menselijke arbeiders.
Daar is helemaal niets magisch aan.
Correctie 10 oktober 2022: in de oorspronkelijke kop van dit artikel stond dat achter ‘alle’ kunstmatige intelligentie slechtbetaalde, onzichtbare en menselijke arbeid zit. Dat is aangepast naar ‘veel’ kunstmatige intelligentie.