Berucht Chinees veiligheidsministerie gebruikt Nederlandse software die emoties leest

Veel nieuws over de donkere kanten van de Chinese staat gaat in essentie over het ministerie van Openbare Veiligheid in Beijing.

Al die artikelen over de hightech surveillancestaat die in heel China wordt opgetuigd? Het ministerie van Openbare Veiligheid is er verantwoordelijk voor. De vreselijke verhalen over onderdrukking van de Oeigoeren, de moslimminderheid, in noordwest-China? Ook dat valt binnen het takenpakket van dit ministerie. 

Nu blijkt dat twee Nederlandse techbedrijven emotieherkenningssoftware hebben geleverd aan dit ministerie. De twee bedrijven, Noldus Information Technology^* uit Wageningen en VicarVision^* uit Amsterdam, bevestigen dat ze zaken doen met het Chinese veiligheidsministerie. Ook de belangrijkste politieacademie van China, de People’s Public Security University in Beijing, neemt de technologie af. 

De software kan gezichtsuitdrukkingen lezen

De software heet Facereader en kan emoties en gezichtsuitdrukkingen herkennen, zoals ‘angst’, ‘woede’ en ‘walging’. Daarnaast kan Facereader de ‘etniciteit’ en ‘gender’ van een persoon vaststellen. Facereader wordt wereldwijd door universiteiten en instellingen gebruikt voor onderzoek. 

Volgens een woordvoerder van Noldus Information Technology, de distributeur van Facereader die ook namens Vicar Vision spreekt, wordt de Nederlandse technologie ingezet bij ‘trainingen en simulaties bij opleidingen’. Hij benadrukt dat Facereader geen gezichtsherkenningssoftware is en niet kan worden gebruikt voor grootschalige surveillance. Het programma is volgens hem alleen geschikt om ‘expressies te analyseren’. Maar VicarVision, de bouwer van Facereader, schrijft op zijn eigen site dat Facereader ook ‘etniciteit’ kan detecteren.^*

Noldus Information Technology noch VicarVision wil vertellen sinds wanneer ze zaken doen met de Chinese overheid, en om hoeveel geld het gaat. Op de vragen of zij de staat van dienst van het ministerie kennen en of dit van invloed is op de keuze om zaken met hen te doen, geven zij geen antwoord. 

China koppelt alle camera's aan elkaar

China investeert de laatste jaren miljoenen in surveillance en zet daarbij vol in op big data, kunstmatige intelligentie en gezichtsherkenningssoftware. Het land is van plan om in 2020 alle naar schatting 200 miljoen openbare beveiligingscamera’s te integreren in één groot videosurveillancesysteem.^*

Dat systeem moet vervolgens gekoppeld worden aan gezichtsherkenningssoftware en aan een database met persoonlijke gegevens over alle 1,4 miljard Chinezen – van medische data tot comments en likes op sociale media. Op dit moment zet het ministerie van Openbare Veiligheid ook al op grote schaal gezichtsherkenningssoftware in; onder meer in de Xinjiang-regio, waar de Oeigoeren worden onderdrukt.^*

Je moet veel preciezer weten: wie gebruikt deze technologie en waarvoor?

Marietje Schaake, voormalig Europarlementariër voor D66 die zich veel bezig hield met nieuwe exportregels voor surveillancetechnologie: ‘Ik vind dat bedrijven hun klanten goed moeten kennen. Dat is hun verantwoordelijkheid. Ze moeten veel preciezer weten: wie gebruikt deze technologie en waarvoor? China is een dictatuur die dit soort software inzet om grip en controle op de bevolking te krijgen. Het land is bezig een spionagestaat op te tuigen. Er moeten hele strenge eisen gesteld worden aan de verkoop van dit soort technologie.’

Mensenrechtenorganisaties waarschuwen dat China surveillance-technologie inzet tegen iedereen die uit de pas loopt, zoals activisten en dissidenten. Human Rights Watch ontdekte^* dat China personen die een klacht indienen bij de overheid over ‘onrechtvaardigheid’, potentieel doelwit van surveillance zijn, net als individuen met ‘extreme gedachten’ of zij die de ‘stabiliteit ondermijnen’.

China sluit Oeigoeren op in 'opvoedingskampen'

In westerse media verschenen recent veel verslagen over de situatie in de regio Xinjiang in het noordwesten van China. Een miljoen Oeigoeren, een moslimminderheid, zitten daar in ‘opvoedingskampen’ (‘concentratiekampen’ volgens mensenrechtenorganisaties), kinderen worden er gescheiden van hun ouders en er is sprake van wijdverspreide surveillance. Afgelopen woensdag nog stuurde Nederland met twintig andere landen een brief naar de VN-Veiligheidsraad over de situatie in Xinjiang. 

Onder meer The New York Times^* en The Washington Post^* schreven onlangs dat overal in de publieke ruimte in Xinjiang camera’s hangen, in ‘een gigantisch geheim en geavanceerd gezichtsherkenningssysteem dat wordt gebruikt om de Oeigoeren te volgen en controleren’. Oeigoeren hebben meestal andere uiterlijke eigenschappen dan de meerderheid van de bevolking.

De Europese exportregels zijn aangescherpt

In de Europese Unie bestaan restricties voor de uitvoer van spionage- en surveillancetechnologie, zeker als die wordt aangekocht door landen met een totalitaire signatuur. 

Mede door inspanningen van Marietje Schaake werden die regels eind vorig jaar aangescherpt. Er werd onder meer afgesproken dat EU-landen bij het verstrekken van de exportvergunning moeten overwegen of er mensenrechtenschendingen plaats kunnen vinden met de waar. En bedrijven moeten onderzoeken wie de precieze ontvanger is van de producten. 

Het Europees Parlement nam deze nieuwe wetgeving aan, maar deze is nog niet van kracht. ‘De EU-lidstaten houden het nog tegen’, legt Schaake uit. ‘Niemand weet wanneer de aangescherpte regels worden doorgevoerd. Dat moet gauw gebeuren, want de ontwikkeling van dit soort technologieën gaat razendsnel.’

Meer lezen?