ChatGPT is preuts.
Je zult deze gehypete chatbot, die indrukwekkend antwoord geeft op al je vragen, niet snel betrappen op vieze woordjes of vunzige toespelingen. Verwacht ook geen racistische taal of moorddadig proza. ChatGPT – hét voorbeeld van ‘kunstmatige intelligentie’ dat volgens kenners de wereld voorgoed verandert – is netjes opgevoed.
Opgevoed door tientallen Kenianen. Dat ontdekte een journalist van Time Magazine. De Keniaanse microworkers lazen teksten over moord, marteling, verkrachting, automutilatie en kindermishandeling, en voorzagen die van labels. Die labels werden onderdeel van de ChatGPT-machine. Ze zorgen ervoor dat wij, de gebruikers van de technologie, bloederige noch traumatiserende antwoorden op onze vragen krijgen.
De voorganger van ChatGPT, GPT-3, kon al indrukwekkend coherente zinnen componeren. Alleen kraamde het ook veel racistische, seksistische en gewelddadige drek uit. Logisch ook: om GPT-3 taalvaardigheden aan te leren, was het gevoed met heel veel tekst van het internet. Dit maakte de machine indrukwekkend goed, maar tegelijkertijd ook een racistische, perverse hork. Het werk van de Keniaanse datalabelaars helpt opvolger ChatGPT de meeste vuilbekkerij eruit te filteren.
Kunstmatige kunstmatige intelligentie
Verrassend is het niet dat het bedrijf achter ChatGPT, OpenAI, dit werk uitbesteedt. In vele uithoeken van de wereld, van sloppenwijken tot vluchtelingenkampen, voeren miljoenen microworkers of ghostworkers taken uit voor westerse techbedrijven.
Microwork is goedkoop voor techbedrijven
Het zijn de schoonmakers en trainers van de data die als grondstof dienen voor kunstmatige intelligentie. Zij beoordelen, labelen, categoriseren en schonen die data op en vormen een onmisbare schakel in het productieproces van kunstmatige intelligentie. Niet voor niets noemt Amazonoprichter Jeff Bezos het ‘kunstmatige kunstmatige intelligentie’.
In een eerder verhaal over microworkers legde ik bijvoorbeeld uit hoe het succes van de zelfrijdende auto afhankelijk is van onzichtbare, menselijke arbeid:
‘De belofte is dat auto’s ooit helemaal mensloos en autonoom zullen rijden. Los van of dat technisch kan, is een absolute minimumvoorwaarde voor deze techdroom dat zelfrijdende auto’s geen ongelukken veroorzaken. Daarom moeten ze worden uitgerust met software die een hond van een zebrapad weet te onderscheiden en een mens niet met een afrit verwart.’
‘Microworkers zorgen ervoor dat die software dat kan. Vluchtelingen in Syrische en Libanese kampen trainen de zelfrijdendeautosoftware van verschillende tech- en autobedrijven, zoals Tesla, Volkswagen en BMW. In Venezuela geven arme Venezolanen labels aan videobeelden van lantaarnpalen, zebrapaden en voetgangers. Door de programma’s te blijven voeden en trainen, worden die beter in het herkennen van patronen en objecten.’
Microwork is goedkoop voor techbedrijven. Zij maken er allemaal gebruik van. OpenAI vormt hier geen uitzondering op: het bedrijf dat tientallen miljarden waard is, betaalde zo’n 2 dollar per uur aan mensen die teksten moesten lezen over een man die seks heeft met een hond terwijl een kind toekijkt.
Het lijkt magie, maar is het niet
Iedere keer als ik ChatGPT gebruik, voelt het als magie. Dat een technologie dit kan, zo autonoom, zo kunstmatig, zo slim.
Maar dan herinner ik mijzelf eraan dat de chatbot niets is zonder ons. Mensen schreven alle teksten waarmee ChatGPT gevoed is en waarvan hij leerde. Mensen voedden hem op, zodat hij geen racistische hork zou worden. Dit maakt de technologie niet minder knap, maar wel minder magisch.
Bovendien: hoe slim ben je nou eigenlijk als je niet uit jezelf een hond van een zebrapad weet te onderscheiden?
Lees ook:
Achter veel ‘kunstmatige intelligentie’ zit slechtbetaalde, onzichtbare en menselijke arbeid Van zelfrijdende auto’s tot kunstmatige intelligentie: veel technologie lijkt zelf slimme dingen te kunnen. Maar om die illusie in stand te houden, zetten techbedrijven hordes onderbetaalde arbeidskrachten in.Dit verhaal heb je gratis gelezen, maar het maken van dit verhaal kost tijd en geld. Steun ons en maak meer verhalen mogelijk voorbij de waan van de dag.
Al vanaf het begin worden we gefinancierd door onze leden en zijn we volledig advertentievrij en onafhankelijk. We maken diepgravende, verbindende en optimistische verhalen die inzicht geven in hoe de wereld werkt. Zodat je niet alleen begrijpt wat er gebeurt, maar ook waarom het gebeurt.
Juist nu in tijden van toenemende onzekerheid en wantrouwen is er grote behoefte aan verhalen die voorbij de waan van de dag gaan. Verhalen die verdieping en verbinding brengen. Verhalen niet gericht op het sensationele, maar op het fundamentele. Dankzij onze leden kunnen wij verhalen blijven maken voor zoveel mogelijk mensen. Word ook lid!