Sociale media verwijderen elk jaar miljoenen schokkende video’s. Maar daarmee gaat ook cruciaal bewijs verloren

Op 3 juni 2016, even na middernacht, wordt een video^* op Facebook geplaatst van een executie in een boomgaard in de buurt van de Libische stad Benghazi. We zien het logo van de Al-Saiqa Brigade, een lokale militie. Er klinkt spannende muziek, terwijl de cameraman heen en weer rent, en afwisselend een man met een machinegeweer en een man met een kap over zijn hoofd laat zien. 

De man met het machinegeweer is Mahmoud Al-Werfalli, de commandant van de militie. Hij spreekt in de camera en sommeert het slachtoffer op een bepaalde plek te gaan staan. Dan schiet hij hem neer, haast verveeld, loopt naar de gevallen man en schiet nogmaals. Het lijk wordt op de motorkap van een pantserwagen gesleept en enkele militieleden poseren er triomfantelijk bij. Het slachtoffer zou bij IS horen. De video wordt zeker 200.000 keer bekeken en 5.000 keer gedeeld. 

Op basis van deze en zes andere publiek beschikbare video’s vaardigt het Internationale Strafhof in augustus 2017 een arrestatiebevel^* uit tegen Al-Werfalli. Het is, voor zover bekend, de eerste keer dat publieke video’s, gevonden op sociale media als Facebook en YouTube, aan de basis van zo’n arrestatiebevel staan.

Maar wie deze belangrijke video’s nog eens wil bekijken, bijvoorbeeld voor verder onderzoek, kan in de meeste gevallen niet meer terecht op de oorspronkelijke platforms waar ze zijn geplaatst, omdat ze verwijderd zijn. De video’s schenden immers de regels van deze platforms, bijvoorbeeld dat er geen excessief geweld getoond mag worden.

Sociale media doen eindelijk hun werk

Sociale media willen over het algemeen gewelddadig, haatzaaiend en misleidend materiaal zo snel mogelijk verwijderen.

Voor IS waren platforms als Facebook, YouTube en Twitter bijvoorbeeld uitgelezen plekken om veel mensen vrees aan te jagen met gruwelijke onthoofdingsvideo’s. De Australische terrorist die in maart vorig jaar 51 moskeebezoekers doodschoot in Christchurch, Nieuw-Zeeland, zond zijn moordpartij live uit op Facebook. De genocide tegen de Rohingya in Myanmar in de zomer van 2017 werd gevoed via haatzaaiende posts op datzelfde platform. En land na land wordt gedestabiliseerd door desinformatiecampagnes op sociale media.

Niet voor niets staan socialemediaplatforms al jaren onder grote druk om dit soort content te verwijderen. De Europese Unie en afzonderlijke lidstaten zoals Duitsland dwingen de platforms binnen enkele uren te reageren op verwijderingsverzoeken, of werken aan wetgeving die dat mogelijk moet maken.

Sommige content die Facebook, YouTube en andere platforms verwijderen, is cruciaal en onvervangbaar bewijs voor schendingen van mensenrechten

Die druk heeft effect. Tussen januari en maart van dit jaar haalde YouTube ruim zes miljoen video’s offline, waarvan ruim een miljoen met gewelddadige, extremistische of haatzaaiende inhoud. Facebook verwijderde in dezelfde korte periode 6,3 miljoen posts met terroristische propaganda, 25,5 miljoen gewelddadige posts en bijna 15 miljoen haatzaaiende posts. De meeste van die video’s, foto’s en berichten worden nooit door iemand gezien, omdat een geautomatiseerd systeem ze als problematisch herkent, verwijdert of doorstuurt naar een moderator.^*

Op het eerste gezicht is deze schoonmaak natuurlijk een positieve ontwikkeling, maar het verwijderen van dit soort content leidt ook tot problemen. ‘Sommige content die Facebook, YouTube en andere platforms verwijderen, is cruciaal en onvervangbaar bewijs voor mensenrechtenschendingen’, zegt Belkis Wille, onderzoeker bij Human Rights Watch, dat vorige week een rapport^* publiceerde over de problemen die sterke contentmoderatie veroorzaakt. ‘Aanklagers, onderzoekers en journalisten zijn in toenemende mate afhankelijk van foto’s en video’s die publiekelijk op sociale media zijn geplaatst.’

De toenemende en geautomatiseerde contentmoderatie komt op een moment dat open bronnenonderzoek – vaak OSINT genoemd – naar mensenrechtenschendingen juist een grote vlucht heeft genomen en zelfs van doorslaggevend belang kan zijn in rechtszaken. 

Met video’s worden misdrijven opgelost

In 2002 werd het Internationaal Strafhof opgericht om misdaden tegen de menselijkheid, genocide en oorlogsmisdrijven te vervolgen. De eerste tien jaar vielen veel zaken echter in het water, omdat aanklagers sterk op getuigenissen en rapporten van ngo’s als Amnesty International leunden. Direct bewijs ontbrak vaak, iets wat de rechters niet konden waarderen. 

Rond 2011 begonnen academici, activisten en juristen zich daarom te buigen over alternatieve bronnen voor bewijsvoering, die in de enorme vloed van foto’s, video’s en posts op sociale media werden gevonden. Er werden methoden ontwikkeld om ervoor te zorgen dat die openbare bronnen als bewijs konden dienen.

Daarnaast richtten steeds meer organisaties technische teams op die dit soort bewijs gingen verzamelen, bewaren en analyseren. Amnesty International heeft bijvoorbeeld het Citizen Evidence Lab, een team van techneuten dat OSINT-onderzoek doet. Airwars is een organisatie die de effecten van bombardementen onderzoekt, doorgaans met behulp van openbaar videomateriaal.

Niet voor niets hebben sociale media een belangrijke rol gespeeld in een aantal opmerkelijke mensenrechten- en strafzaken.

In 2016 maakte de aanklager van het Internationale Strafhof gebruik van video’s om Ahmad Al-Mahdi in staat van beschuldiging te stellen voor de vernietiging van cultureel erfgoed in Timbuktu, Mali. Al-Mahdi, een commandant, had de vernietiging laten filmen en online gezet.^*

In de MH17-rechtszaak wordt gebruikgemaakt van sociale media die onderzoekscollectief Bellingcat heeft verzameld over de toedracht van de aanslag en de herkomst van de daarvoor gebruikte raket.

BBC-journalisten toonden in 2018 aan dat Kameroense soldaten verantwoordelijk waren voor een buitengerechtelijke executie van twee vrouwen en twee kinderen. De regering ontkende aanvankelijk in alle toonaarden, maar het openbronnenonderzoek van de BBC dwong Kameroen om de soldaten te vervolgen. 

En in verschillende landen, zoals Zweden, Duitsland en Nederland, is videomateriaal van de oorlog in Syrië gebruikt om terugkerende IS-strijders te vervolgen.

Andere tactiek: verzamel voor de zekerheid alles

Naast deze losstaande onderzoeken zijn er ook initiatieven om structureel openbare bronnen te verzamelen, vooral met het oog op toekomstig gebruik. Het meest in het oog springende voorbeeld is het Syrian Archive, dat inmiddels ook een spin-off heeft voor Jemen en Soedan. 

Sinds 2014 volgt dit digitale archief duizenden Twitter-, Facebook- en YouTube-accounts waarop content over de oorlog in Syrië te vinden is. Dat werk behelst veel meer dan het vinden en opslaan van video’s en posts: ook de metadata ervan worden bewaard, zodat bijvoorbeeld de authenticiteit van het materiaal later beter aan te tonen is. In veel gevallen wordt ook handmatig de locatie bepaald waar foto’s en video’s zijn geschoten, een enorm karwei.

Het lastige is dat veel content gewoon niet meer online komt. We weten dus niet meer wat we missen

Jeff Deutsch, medewerker van het archief, ziet dat het lastiger wordt om openbaar bronnenmateriaal tijdig veilig te stellen. ‘Rond 2017 zagen we dat video’s van aanvallen op ziekenhuizen en aanslagen in snel tempo werden verwijderd. Dat kwam omdat YouTube, Facebook en Twitter steeds meer geautomatiseerd gingen modereren. Het lastige is dat veel content gewoon niet meer online komt. We weten dus niet meer wat we missen.’

Daarnaast is het lastig geworden om materiaal van Facebook te bewaren, een heel belangrijke bron. Sinds het Cambridge Analytica-schandaal, waarbij data van Facebookgebruikers voor politieke microtargeting werd misbruikt, is het platform zeer terughoudend in het delen van data.

Het Syrian Archive overlegt geregeld met de grote platforms en bemiddelt voor journalisten en activisten in de conflictgebieden, die hun content steeds vaker verwijderd zien. Volgens Jeff Deutsch luisteren de platforms wel en lukt het geregeld verwijderde content terug te plaatsen.

‘Maar met covid-19 zien we nu dat het weer misgaat’, zegt hij. ‘Veel moderatoren zijn naar huis gestuurd. Het aantal verwijderingen is tussen mei 2019 en mei 2020 verdubbeld, en voor Twitter in diezelfde periode zelfs verdrievoudigd.’ Daarmee gaat volgens hem veel waardevolle informatie verloren die belangrijk zou kunnen zijn voor toekomstige rechtszaken en geschiedschrijving.

De onderzoekers van Bellingcat, die de laatste jaren een aantal spectaculaire misstanden aan de kaak hebben gesteld, zitten in een iets andere positie. Volgens directeur Eliot Higgins is Bellingcat meer een first responder: ze zijn er vaak als eerste bij als er iets groots gebeurt, bijvoorbeeld bij het neerschieten van het Oekraïense vliegtuig in Iran, begin dit jaar. ‘We proberen zo snel mogelijk al het open bronnenmateriaal veilig te stellen en, waar mogelijk, met andere organisaties te delen, zodat het later als bewijs kan dienen’, aldus Higgins.

Hoe moet dit opgelost worden?

Het dilemma voor socialemediaplatforms is groot, dat ziet ook Deutsch van het Syrian Archive. Soms volstaat een praktische oplossing. ‘Facebook heeft bijvoorbeeld veel materiaal over de genocide in Myanmar, zoals propaganda, posts met desinformatie, en foto’s en video’s van betrokkenen. Ze kunnen dat natuurlijk niet online laten staan, dat is gevaarlijk, maar Facebook heeft het wel bewaard en inmiddels aan VN-onderzoekers overgedragen.’ 

Human Rights Watch ziet een mogelijke oplossing in hoe kinderporno nu internationaal wordt bestreden. Er zijn in de VS en enkele Europese landen onafhankelijke organisaties die een vrijstelling hebben om deze kinderporno te bewaren. Zij krijgen foto’s en video’s aangeleverd van onder meer socialemediabedrijven, en kunnen vervolgens contact opnemen met opsporingsdiensten in verschillende landen.

Ook voor materiaal dat waarde heeft bij mensenrechtenonderzoeken zou een onafhankelijke, liefst internationale organisatie een rol kunnen spelen in het bewaren en ontsluiten ervan. Die organisatie zou ook een afweging kunnen maken tussen het opsporingsbelang en de privacy van degene die de socialemediaposts heeft geplaatst.

De vraag is alleen: wie krijgt dan toegang tot dit materiaal? Alleen opsporingsdiensten, met een officiële vordering? En hoe zit het dan met mensenrechtenorganisaties zoals Amnesty International, Human Rights Watch en het Syrian Archive? En academici en journalisten? Ook zij spelen vaak een belangrijke rol in het vinden van schendingen en het aanjagen van juridische actie. 

Amerikaanse socialemediabedrijven zullen niet zo snel uit zichzelf informatie verstrekken, uit angst voor Trumps sancties

Volgens onderzoeker Belkis Wille van Human Rights Watch zijn dat oplosbare problemen. Er zijn al nationale archieven die zeer gevoelige informatie verzamelen en beschikbaar maken, zoals in Duitsland en Guatemala. Daar zijn archieven van veiligheids- en politiediensten openbaar gemaakt en duidelijke regels opgesteld over wie welke informatie onder welke omstandigheden mag raadplegen. Maar zo’n onafhankelijke internationale organisatie is natuurlijk niet een-twee-drie opgezet.

Higgins van Bellingcat vindt dat mensenrechtenorganisaties überhaupt niet te veel van socialemediaplatforms moeten verwachten. Ze moeten zich niet afhankelijk maken van de oplossingen van een aantal grote bedrijven die mogelijk nog jaren kunnen gaan duren.

Daarnaast ziet hij dat grote internationale onderzoeken steeds politieker worden. ‘Donald Trump heeft net sancties opgelegd tegen aanklagers van het Internationale Strafhof. Dat maakt het voor onderzoekers alleen maar lastiger om informatie op te vragen bij Amerikaanse socialemediabedrijven, en die zullen op hun beurt niet zo snel uit zichzelf informatie gaan verstrekken, uit angst voor sancties. Mensenrechtenonderzoekers moeten dus niet afwachten en zelf aan de slag gaan.’

Meer lezen?