Hoe modereer je miljarden berichten per dag?
Deze week verdiep ik mij in de manier waarop technologiebedrijven hun platforms modereren. Met collega Dimitri Tokmetzis probeer ik een aantal basale vragen te beantwoorden, zoals: wat is het beleid van verschillende bedrijven? Hoe voeren ze dit uit? En: hoe kan het beter?
Lang zagen we Facebook en YouTube als democratische steunpilaren. Nu tot iedereen is doorgedrongen dat ze de publieke sfeer ook goed kunnen verzieken, eisen politici maatregelen en strengere wetgeving. ‘[Deze] bedrijven kunnen zich niet verschuilen achter de claim dat ze slechts een "platform" zijn’, schreef een Britse parlementaire commissie twee weken geleden, ‘en blijven volhouden dat ze zelf geen verantwoordelijkheid hebben in het reguleren van de content van hun sites.’
De Britten stellen nieuwe wetten voor, in Nederland wil minister Kajsa Ollongren (Binnenlandse Zaken, D66) daar nog niets van weten – zij gelooft voorlopig nog in zelfregulering, liet ze tijdens een Kamerdebat over nepnieuws weten (dit terwijl een Nederlandse Facebookvoorlichter een paar dagen eerder pleitte vóór wetgeving).
Hoe meer ik mij erin verdiep, hoe meer ik inzie wat voor ongelooflijk ingewikkelde kwestie dit is. Allereerst het modereren zelf. Facebook en YouTube hebben miljarden gebruikers, dagelijks miljarden stukken content en zijn actief in honderden verschillende landen, met andere wetgeving en verschillende culturele normen. Ze kunnen het nooit 100 procent goed doen. En stel dat het ze lukt om het voor 99 procent goed te doen, dan nog zullen er talloze fouten worden gemaakt.
Maar ook de kwestie zelfregulering versus wetgeving is een lastige. Willen we dat Facebook en YouTube nog meer gaan bepalen wat wel en niet gepubliceerd mag worden? Of willen we dat overheden gaan bepalen wat nepnieuws is?
Dilemma’s, dilemma’s. Volgende week gaan wij schrijven. Als je ideeën of tips hebt: laat het me weten.
Leestips
1. Door Chinese ogen kijk je anders naar ‘draconische surveillancestaat’ China. In een geweldig interessant artikel in Vrij Nederland schrijft de in China wonende Stephan Petermann over de totale digitalisering van de levens van zijn Chinese studenten. Boodschap: wij hier in het Westen hebben een zeer beperkte blik op wat daar gebeurt.
2. Een radicale agenda voor links: data als publiek goed. Evgeny Morozov schreef een prikkelend artikel in The Guardian over de kansen van links in de discussie over data en Big Tech. Nee, zegt Morozov, data moeten niet als privébezit worden beschouwd en de pleidooien om de grootste databoeren op te breken zijn laaghangend fruit. Links moet data gaan zien als een publiek goed – een collectief geproduceerde en maatschappelijk bruikbare grondstof.
3. Collega Rutger Bregman had gelijk over Fox News. Jane Meyer van de New Yorker onthult de banden tussen het Witte Huis en Fox News – inclusief Fox-eigenaar Rupert Murdoch die eigenhandig kritische onderzoeken over Trump tegenhoudt.