Waarom ChatGPT geen racistische viespeuk is? Dankzij een stel Kenianen, voor twee dollar per uur

ChatGPT is preuts.

Je zult deze gehypete chatbot, die indrukwekkend antwoord geeft op al je vragen, niet snel betrappen op vieze woordjes of vunzige toespelingen. Verwacht ook geen racistische taal of moorddadig proza. ChatGPT – hét voorbeeld van ‘kunstmatige intelligentie’ dat volgens kenners de wereld voorgoed verandert – is netjes opgevoed.

Opgevoed door tientallen Kenianen. Dat ontdekte een journalist van Time Magazine. De Keniaanse microworkers lazen teksten over moord, marteling, verkrachting, automutilatie en kindermishandeling, en voorzagen die van labels. Die labels werden onderdeel van de ChatGPT-machine. Ze zorgen ervoor dat wij, de gebruikers van de technologie, bloederige noch traumatiserende antwoorden op onze vragen krijgen. 

De voorganger van ChatGPT, GPT-3, kon al indrukwekkend coherente zinnen componeren. Alleen kraamde het ook veel racistische, seksistische en gewelddadige drek uit. Logisch ook: om GPT-3 taalvaardigheden aan te leren, was het gevoed met heel veel tekst van het internet. Dit maakte de machine indrukwekkend goed, maar tegelijkertijd ook een racistische, perverse hork. Het werk van de Keniaanse datalabelaars helpt opvolger ChatGPT de meeste vuilbekkerij eruit te filteren. 

Kunstmatige kunstmatige intelligentie

Verrassend is het niet dat het bedrijf achter ChatGPT, OpenAI, dit werk uitbesteedt. In vele uithoeken van de wereld, van sloppenwijken tot vluchtelingenkampen, voeren miljoenen microworkers of ghostworkers taken uit voor westerse techbedrijven.

Microwork is goedkoop voor techbedrijven

Het zijn de schoonmakers en trainers van de data die als grondstof dienen voor kunstmatige intelligentie. Zij beoordelen, labelen, categoriseren en schonen die data op en vormen een onmisbare schakel in het productieproces van kunstmatige intelligentie. Niet voor niets noemt Amazonoprichter Jeff Bezos het ‘kunstmatige kunstmatige intelligentie’.

In een eerder verhaal over microworkers legde ik bijvoorbeeld uit hoe het succes van de zelfrijdende auto afhankelijk is van onzichtbare, menselijke arbeid: 

‘De belofte is dat auto’s ooit helemaal mensloos en autonoom zullen rijden. Los van of dat technisch kan, is een absolute minimumvoorwaarde voor deze techdroom dat zelfrijdende auto’s geen ongelukken veroorzaken. Daarom moeten ze worden uitgerust met software die een hond van een zebrapad weet te onderscheiden en een mens niet met een afrit verwart.’ 

‘Microworkers zorgen ervoor dat die software dat kan. Vluchtelingen in Syrische en Libanese kampen trainen de zelfrijdendeautosoftware van verschillende tech- en autobedrijven, zoals Tesla, Volkswagen en BMW.^*  In Venezuela geven arme Venezolanen labels aan videobeelden van lantaarnpalen, zebrapaden en voetgangers.^*  Door de programma’s te blijven voeden en trainen, worden die beter in het herkennen van patronen en objecten.’

Microwork is goedkoop voor techbedrijven. Zij maken er allemaal gebruik van. OpenAI vormt hier geen uitzondering op: het bedrijf dat tientallen miljarden waard is, betaalde zo’n 2 dollar per uur aan mensen die teksten moesten lezen over een man die seks heeft met een hond terwijl een kind toekijkt. 

Het lijkt magie, maar is het niet

Iedere keer als ik ChatGPT gebruik, voelt het als magie. Dat een technologie dit kan, zo autonoom, zo kunstmatig, zo slim.

Maar dan herinner ik mijzelf eraan dat de chatbot niets is zonder ons. Mensen schreven alle teksten waarmee ChatGPT gevoed is en waarvan hij leerde. Mensen voedden hem op, zodat hij geen racistische hork zou worden. Dit maakt de technologie niet minder knap, maar wel minder magisch.

Bovendien: hoe slim ben je nou eigenlijk als je niet uit jezelf een hond van een zebrapad weet te onderscheiden?

Lees ook: