Toen ik achttien jaar geleden als journalist begon bij het Utrechts Nieuwsblad, ging een van mijn eerste klussen over rechts-extremisme. Een of ander extremistisch clubje – ik ben de naam allang weer vergeten – ging in Utrecht demonstreren. Dat was toen nog nieuws.

Ik moet de laatste tijd vaak hieraan denken. Rechts-extremisme leek rond de millenniumwisseling verdwenen, althans in Nederland. Electoraal stelde het niets voor. Zelfs op internet was er maar weinig rechts-extremistisch gedachtegoed te vinden.

De meeste internetserviceproviders wilden er namelijk niets mee te maken hebben. Extremisten waren aangewezen op marginale fora in het buitenland, of moesten hun content maar plaatsen op servers in Rusland of de Verenigde Staten, waar minder moeilijk werd gedaan.

Met de opkomst van sociale media, bijvoorbeeld Hyves, probeerden sommige extremisten wel weer hun ideeën te slijten voor een groter publiek, maar ze werden al snel verbannen.

Hoe anders is dat nu. De moordpartij in Christchurch in Nieuw-Zeeland van twee weken geleden kwam hard bij mij binnen. In deze slachting kwam zo’n beetje alles samen waar ik de afgelopen twee jaar mee bezig ben geweest. Zo’n beetje alles wat de dader in zijn manifest neerpende,

Niet omdat ik die denkbeelden ergens in een obscuur hoekje van het internet was tegengekomen, maar omdat ze continu op Facebook, YouTube en andere sociale media worden rondgepompt.

De dader heeft het bijvoorbeeld over ‘omvolking’, een populaire complottheorie die ervan uitgaat dat de witte Europese bevolking – al dan niet moedwillig – wordt vervangen door migranten en zodoende in de toekomst een onderdrukte minderheid Of neem het symbool dat op de voorkant van het manifest van de dader prijkt: het zonnerad, dat bijzonder vaak in avatars op Twitter, Facebook en YouTube opduikt.

In het midden het zonnerad. Daaromheen enkele denkbeelden die je terugziet bij het eco-fascisme, een stroming waar de schutter in Christchurch zich toe rekende.

De aanslag in Christchurch laat volgens mij weer eens zien hoe belangrijk het optreden, of het gebrek daaraan, van sociale media is. Hoewel Facebook en YouTube veel kritiek verdienen – het zijn volgens mij de belangrijkste verspreiders van – traden ze ook kordaat op. En Facebook ging nog een stap verder vorige week: wit-nationalistische uitingen (bijvoorbeeld ‘immigranten zijn verantwoordelijk voor witte genocide’) zijn binnenkort niet meer toegestaan.

Ik denk dat de komende maanden de discussie over moderatie nog veel verder gaat oplaaien omdat het onderwerp steeds prominenter op de politieke agenda komt te staan. De socialemediabedrijven lijken zich daar ook bij neer te leggen, getuige van Mark Zuckerberg in The Washington Post dit weekend. Hierin constateert hij ook dat Facebook te veel macht heeft over wat mensen wel en niet op het platform kunnen zeggen en vraagt hij om duidelijke regulering.

Hoe moeten sociale media gereguleerd worden?

Samen met Maurits Martijn werk ik aan een aantal verhalen over deze machtspositie. Wat moeten socialemediabedrijven doen? En wat kunnen ze doen? De oplossing voor de verspreiding van haat, desinformatie en complottheorieën is hoe dan ook niet simpel. Wat voor de één haat is, is voor de ander free speech.

Hoe groot is het probleem van desinformatie nu echt? En wat voor de één een complottheorie is, is voor de ander een serieus verhaal. Misschien moeten we van Facebook en andere sociale media vragen om arbiters van de waarheid te zijn (als dat überhaupt kan), maar dat verzoek zal enorme gevolgen hebben voor hun bedrijfsvoering.

Maurits en ik hebben daarom met veel interessante mensen gesproken over hoe regulering van socialemediabedrijven eruit zou kunnen zien. Ook werken we aan een leuke interactieve feature die de lezer zal laten voelen hoe moeilijk moderatie kan zijn. Binnenkort dus meer daarover.

Op één punt wil ik nu al ingaan, dat ook als kritiek op over radicalisering op YouTube klonk: als je extremistische content een platform of podium ontneemt, duikt het ergens anders wel weer op. Iedere keer dat Twitter een grote schoonmaak houdt, groeit de rechts-extremistische Twitterkloon Gab. Iedere keer als Reddit gebruikers verwijdert, wijken die gewoon uit naar Voat, een soortgelijke site, maar dan voor extreme content.

Het nadeel, zo klinkt de kritiek, is dat die mensen uit het zicht verdwijnen, dat ze zich dan alleen nog maar onder extreme gelijkdenkenden begeven en dus niet meer gederadicaliseerd worden.

Ik denk dat deze redenering rammelt. Je gaat niet voor de lol op Gab of Voat, of andere extreme platforms zitten. Veel mensen worden al moe van het geklaag en de haat op Twitter: dat is nog niets vergeleken met wat er op dit soort platforms gebeurt. Laat mensen daar maar lekker bij elkaar zitten, dan zijn ze ook makkelijk in de gaten te houden. En het meest urgente probleem – de verspreiding en normalisering van extremistisch gedachtegoed – wordt hopelijk tot staan gebracht als de grote platforms zich niet meer als podium daarvoor laten lenen.

Misschien is dit naïef gedacht van mij. Ik laat me graag ompraten.

Dan nog een aantal tips

Om wat meer in deze discussie te komen, wil ik je nog een aantal kijk-, lees- en luistertips geven:

  • De eerste tip is van This American Life. In Down the Rabbit Hole wordt Lenny Pozner geportretteerd. Hij is de vader van een van de slachtoffers van de Sandy Hook-school shooting, een moordpartij waarvan de Amerikaanse vlogger Alex Jones lang heeft gezegd dat die doorgestoken kaart was, een complottheorie. Pozner beschrijft hoe de gezinnen van de slachtoffers continu een barrage van haat en verdachtmakingen moeten ondergaan. Pozner besluit op een dag terug te vechten.
  • Bekijk van Tarleton Gillespie over het belang van contentmoderatie. Het duurt ongeveer drie kwartier, maar ik vind het zeer de moeite waard. In korte tijd schetst Tarleton het belang van contentmoderatie (de meest essentiële taak van sociale media) en komt hij met een aantal spannende oplossingen waarmee sociale media gezonder kunnen opereren – gezonder voor de samenleving welteverstaan.
  • Mijn derde tip is in Vanity Fair over het moderatiebeleid van Facebook. De schrijver neemt ons mee in de beraadslagingen bij Facebook over de grenzen van haatzaaierij. Wat het stuk vooral laat zien is de ongelooflijke macht die het bedrijf heeft over de regulering van het vrije woord.
  • Tot slot nog een luistertip, een van Cyberwire met The Grugq, een beroemde hacker. The Grugq gaat dieper in op desinformatiecampagnes van staten, zoals de beïnvloeding van de Amerikaanse presidentsverkiezingen door Rusland. Zijn stelling: op korte termijn leverde deze campagne winst op voor de Russen, maar op langere termijn komt de campagne als een boemerang terug.

Wil je je nog even verdiepen in de stukken die ik over online radicalisering heb geschreven, staan ze netjes bij elkaar.