De ‘Facebookrechtbank’ legt de moderatieproblemen van het platform bloot, maar is te zwak voor echte verandering

In oktober 2020 plaatste een Facebookgebruiker een quote die – valselijk – aan Joseph Goebbels wordt toegeschreven. Het is een quote over het geringe belang van waarheid in het publieke debat en de noodzaak om in te spelen op emoties van de gewone man. De post bevatte niet de naam van Goebbels, noch nazisymbolen. Degene die het plaatste, leverde kritiek op het presidentschap van Donald Trump.

Facebook verwijderde de post omdat die de richtlijnen voor de community zou schenden, in het bijzonder de richtlijn over ‘gevaarlijke personen en organisaties’. Facebook zag in het citaat een steunbetuiging aan het gedachtegoed van Goebbels, die blijkbaar op een interne lijst met gevaarlijke personen staat. De gebruiker ging in beroep tegen de verwijdering.

De zogenoemde Facebook Oversight Board nam de klacht in december in behandeling en deed eind vorige week uitspraak in deze en nog vier andere zaken. Hier is door juristen, politici en journalisten lang naar uitgekeken, want deze Oversight Board is een boeiend experiment met private rechtspraak in een problematische sector.

Een Hooggerechtshof voor Facebook

De door schandalen geplaagde Facebook-CEO Mark Zuckerberg nam in het voorjaar van 2018 de vlucht naar voren en kondigde de oprichting van een ‘Hooggerechtshof voor Facebook’ aan. De raad – gefinancierd door Facebook zelf – bestaat uit twintig internationale deskundigen die moderatiebesluiten kunnen terugdraaien, en geeft adviezen over het moderatiebeleid, waar Facebook publiekelijk op moet reageren. De raad toetst de besluiten aan de regels van Facebook zelf.

Sceptici zijn makkelijk te vinden. De raad zou weinig meer dan een pr-stunt zijn, een poging om strengere regulering in de Verenigde Staten en Europa af te houden. De waakhond zou een schoothondje blijken, want wiens brood men eet, diens woord men spreekt. Of erger nog, Facebook zou de raad als zondebok kunnen gebruiken om moeilijke beslissingen op af te wentelen.

En dan is er nog de fundamentele vraag: kunnen we het waarborgen van zoiets belangrijks als de vrijheid van meningsuiting en betrouwbare publieke informatievoorziening toevertrouwen aan een private vorm van rechtspraak?

De raad doet een aantal dingen verrassend goed

De eerste vijf uitspraken halen voorlopig het idee dat de raad een schoothondje is onderuit. In vier van de vijf zaken oordeelde de raad tégen Facebook. En hoewel Facebook van begin af aan heeft geprobeerd om de raad geen zeggenschap te geven over het moderatieproces – dus de wijze waarop besluiten worden genomen – laat de Oversight Board zich daar tóch over uit. Daarmee dwingt hij Facebook publieke verantwoording over dat moderatieproces af te leggen.

In de zaak over Goebbels bijvoorbeeld, oordeelde de raad niet alleen dat Facebook een verkeerde inschatting had gemaakt, maar ook dat het helemaal niet duidelijk is over de eigen regels. Wie zijn bijvoorbeeld die ‘gevaarlijke individuen’?^* En hoe kun je als gebruiker weten wie je wel en niet mag quoten?

Ook in andere zaken bleek dat de regels van Facebook vaak helemaal niet duidelijk zijn. Een Franse gebruiker zag in oktober zijn post over hydroxychloroquine verwijderd worden omdat die desinformatie zou bevatten over covid-19. De raad wees erop dat de regels voor het delen van gezondheidsinformatie volstrekt onduidelijk zijn en bovendien telkens veranderen tijdens deze pandemie.^*

Moderatie zonder context

Naast onduidelijke regels leggen de uitspraken een ander probleem bloot bij Facebook: er wordt onvoldoende naar de context van posts gekeken. In de Goebbels-zaak was geen sprake van verheerlijking van de nazi, maar kritiek op een presidentschap. In de Franse hydroxychloroquine-zaak prees de gebruiker het medicijn niet aan, maar verwees naar een maatschappelijke discussie daarover. In een zaak over een vermeende anti-moslimpost uit Myanmar bleek Facebook de post niet goed te hebben vertaald.^*

De raad is kritisch over geautomatiseerde besluiten waarin de context verloren gaat

Kritisch is de raad ook over geautomatiseerde besluiten waarin die context vaak helemaal verloren gaat. Jaarlijks worden meer dan vier miljard posts verwijderd, het overgrote deel met behulp van kunstmatige intelligentie. Zo werd een Instagramfoto (Facebook is eigenaar van Instagram) met daarop een vrouwelijke tepel verwijderd omdat publiekelijk vrouwelijk naakt niet mag.^* De foto was echter educatief bedoeld, in een campagne om vrouwen bewust te maken van de risico’s van borstkanker. Dat had de kunstmatige intelligentie niet begrepen.

De raad vindt daarom niet alleen dat de foto weer teruggeplaatst moet worden, maar adviseert Facebook ook dat gebruikers moeten weten wanneer hun post door een computer is verwijderd, zodat ze kunnen eisen dat een menselijke moderator er een tweede blik op werpt. Mocht Facebook hierin meegaan, dan is dat een grote ingreep in de bedrijfsvoering.

Voor wie Facebook een beetje volgt, zijn deze gebreken geen verrassing, maar het is goed dat de Oversight Board ze publiekelijk aan de kaak kan stellen. De uitspraken hebben daarnaast een precedentwerking, dus het is te verwachten dat ze een deel van het moderatiebeleid daadwerkelijk kunnen bijsturen.

Goed, maar niet goed genoeg

Toch is het ook een beetje alsof je een relschopper leert netjes zijn voeten te vegen voordat hij een winkel kort en klein slaat. De zaken laten namelijk ook zien dat waar de Oversight Board uiteindelijk over gaat, maar een klein deel van het probleem is.

Zo kan de raad alleen zaken aannemen waarbij er content mogelijk ten onrechte is verwijderd door Facebook. Een groter probleem is content die níét verwijderd wordt, zoals desinformatie over covid-19, complottheorieën, opruiende berichten, racisme en geweld.

De raad heeft ook niets te zeggen over de manier waarop bepaalde content wordt versterkt. Facebook beveelt bijvoorbeeld meer emotioneel beladen content aan, omdat die mensen aan hun beeldscherm gekluisterd houdt (waardoor ze dus meer advertenties te zien krijgen). Evenmin kan de raad zich uitspreken over politieke advertenties, ook al wordt daar glashard in gelogen.

Kortom: zodra het verdienmodel van Facebook daadwerkelijk in het gedrang komt, worden er geen pottenkijkers geduld.

Het begrip ‘Hooggerechtshof’ is daarom ook misplaatst. Uiteindelijk is de raad geen ultieme neutrale arbiter die handelt in het algemeen belang. De Oversight Board is eerder een soort tuchtkamer die vooral kijkt of Facebook de regels van Facebook goed naleeft. Dat is op zich goed, maar gezien de maatschappelijke ontwrichting die Facebook veroorzaakt, is dat wel wat mager. Bovendien staat het Mark Zuckerberg vrij om de regels van Facebook naar believen aan te passen.

Voordat we Facebook weer kunnen vertrouwen, is er meer nodig: echte democratische en publieke actie.

Meer lezen?