Brussel wil voor het eerst de wet handhaven via jouw telefoon. Wat betekent dat?

De Europese Commissie wil chats kunnen monitoren op seksueel kindermisbruik.

Om precies te zijn: ze wil dat een rechter een bevel kan geven aan chatdiensten, zoals WhatsApp, om seksueel kindermisbruik in afbeeldingen en berichten te detecteren. Nu is seksueel kindermisbruik zo gruwelijk, dat je zou denken dat iedereen vóór is.

Toch is het wetsvoorstel, waarover op dit moment in Europa wordt onderhandeld, controversieel. Zo’n bevel van de rechter kan namelijk inhouden dat alle chats moeten worden gecontroleerd – van iedereen, altijd. Experts maken zich dan ook zorgen over de serieuze privacy-impact van de plannen, zorgen die we al kennen uit eerdere debatten.

Maar één onderdeel van het voorstel is nieuw: het zou de eerste keer zijn dat de overheid in detail kan bepalen welke software op jouw telefoon moet draaien, om zo criminaliteit te bestrijden. Dat betekent nogal wat voor onze vrijheid, want je zet de deur open voor een nieuw soort handhaving, automatisch en ongemerkt. En het heeft ook gevolgen voor de rol van de wetgever, want hoe moet je dat soort automatische handhaving eigenlijk beoordelen?

Een versimpelde uitleg van hoe de overheid communicatie onderschept

Voordat we het hebben over automatische handhaving: hoe luistert de overheid criminelen op internet nu eigenlijk af? 

Om dat begrijpen, moet je terug naar de basis. Als je een versimpeld model van het internet uittekent, ziet dat er zo uit: je hebt het netwerk, én je hebt de uiteinden.

Het netwerk, dat zijn de glasvezeldraden, de mobiele antennes en de onderzeekabels waarover onze berichten stromen. Die kabels, draadjes en antennes worden vooral beheerd door de KPNs en de Vodafones van deze wereld. Het is het deel van het internet waarvan we als gebruiker weinig weten en waarop we weinig invloed hebben.

Dat is anders bij de uiteinden: de laptops, telefoons en andere gadgets die aan dat netwerk hangen. Vanuit daar verstuur en ontvang je berichten. Over die uiteinden hebben we als gebruiker juist véél controle: ik kan bepalen welke telefoon ik gebruik, welke apps daarop draaien, en ik kan zelfs monitoren welke informatie die apps allemaal versturen.

Wat nu, als de overheid wil weten welke berichten criminelen via de telefoon met elkaar uitwisselen?

Uit de gelekte documenten van Edward Snowden bleek dat de Engelse geheime dienst alle verkeer van onderzeekabels bij Engeland onderschepte

Vroeger, als de politie en geheime diensten communicatie wilden afluisteren, richtten zij zich bijna altijd op het netwerk. Zo kan in Nederland de officier van justitie na machtiging van de rechter-commissaris een telefoonmaatschappij verplichten gesprekken van een specifiek telefoonnummer door te sturen naar de politie.^* En dat kan ook minder gericht: zo bleek uit de gelekte documenten van Edward Snowden dat de Engelse geheime dienst alle verkeer van onderzeekabels bij Engeland onderschepte, en op die manier ongeveer 600 miljoen ‘telephone events’ per dag analyseerde.

Slecht voor de privacy van de gebruikers (lees: letterlijk iedereen) die via die onderzeekabels communiceerden. En dus ontwikkelden de producenten van de apps die we aan het uiteinde van het netwerk gebruiken een oplossing: end-to-endversleuteling.

Privacybescherming via end-to-endversleuteling

End-to-end, dat wil zeggen dat het verkeer wordt versleuteld, of geëncrypteerd, aan het ene uiteinde van het netwerk, bijvoorbeeld bij de telefoon van de verzender, en weer wordt ontsleuteld aan het andere uiteinde, bij de telefoon van de ontvanger.

Door een bericht te versleutelen, zorg je ervoor dat de informatie onbegrijpelijk wordt zonder de sleutel. En bij end-to-endversleuteling hebben dus alleen de ontvanger en verzender de sleutel, niemand anders – niet de maker van de telefoon, niet de maker van de app en ook niet de beheerder van het netwerk.

Dat is belangrijk, want het betekent dat de klassieke afluisteraanpak van de politie en geheime diensten niet werkt bij dat soort verkeer. Je kan de communicatie wel onderscheppen in het netwerk, en misschien zie je zelfs met wie iemand communiceert, maar daar blijft het bij. De inhoud van het bericht is voor de onderschepper onbegrijpelijk. 

Het verkeer van veelgebruikte chat-apps is inmiddels standaard end-to-end versleuteld. Alleen WhatsApp heeft al meer dan 2 miljard gebruikers.^*

Superfijn voor je privacy, maar dus ook voor criminelen.

Meekijken op het apparaat zelf

Door die ontwikkeling maken de politie en geheime diensten zich al een paar jaar zorgen dat hun werk moeilijker wordt. Zij verlegden daarom hun aandacht van het netwerk, de draadjes en kabels, naar de uiteinden, de telefoons en laptops. Immers: berichten zijn onversleuteld op het moment vóór ze worden verstuurd, dus het moment dat ze nog op telefoon of laptop zijn opgeslagen. Als je daar bij de berichten kan, is dat even effectief als het onderscheppen van onversleuteld verkeer.

Het verklaart bijvoorbeeld waarom de Nederlandse politie sinds een paar jaar een nieuwe bevoegdheid heeft om die uiteinden, de apparaten, onder omstandigheden te kunnen hacken. Met die bevoegdheid kunnen ze op afstand, dus via het internet, binnendringen in een apparaat, zoals een telefoon, om daar rond te kijken. Een ingrijpende bevoegdheid dus. Maar ook een waarvan de inzet beperkt is tot specifieke apparaten, want het zal altijd moeten gaan om iemand die al verdacht is.

Een nieuw soort surveillancebevoegdheid

Dat is anders met het voorstel dat nu in Europa wordt behandeld. Dat voorstel zou het juridisch mogelijk maken om chat-apps zoals WhatsApp te verplichten alle verkeer vóór versleuteling te monitoren – dus op iedere telefoon, ook van mensen die niet verdacht zijn. Die manier van monitoren wordt ook wel client-side scanning genoemd: client-side, omdat het gaat over de uiteinden van het netwerk. Scanning zou in dit geval gaan over het automatisch detecteren van afbeeldingen van seksueel kindermisbruik, en het automatisch analyseren van conversaties op indicaties van grooming.

Het lijkt een elegante oplossing. Je pakt de daders van deze gruwelijke misdrijven. Je voorkomt dat legitieme berichten kunnen worden onderschept door criminelen, want de versleuteling van de berichten blijft intact. Je zou zelfs kunnen zeggen dat het goed is voor de privacy, want de technologie is inmiddels zo ver ontwikkeld dat de meeste analyse van de berichten plaatsvindt op het apparaat – alleen de verdachte berichten zouden ter controle worden doorgestuurd naar een overheidsinstantie.

Sterker nog: Apple introduceerde in 2021 al technologie die iets vergelijkbaars deed, door afbeeldingen op de telefoon te vergelijken met bekende afbeeldingen van seksueel kindermisbruik voordat ze naar de backup-servers van Apple werden gestuurd.

Toch is het voorstel controversieel – experts stellen dat client-side scanning in strijd is met het communicatiegeheim^* en dat het de apps minder veilig maakt. Ook Europese instanties hebben hierover de alarmklok geluid. Het waren belangrijke aandachtspunten bij de bespreking van dit onderwerp in de Tweede Kamer op 11 oktober 2023. Veel van die zorgen kennen we al uit andere debatten over vergaande surveillancebevoegdheden.

Via softwarecode de wet handhaven

Maar er is één ding dat echt nieuw is in dit debat. Om te zorgen dat client-side scanning werkt, moet de software van chat-apps zoals WhatsApp op jouw telefoon zo worden aangepast dat dat monitoren überhaupt mogelijk is. En dat zou dan de eerste keer zijn dat de overheid in detail voorschrijft hoe software op je telefoon moet werken om criminaliteit te bestrijden, namelijk door middel van automatische detectie.

In een wereld vol software, bepaalt de softwarecode, meer nog dan wetten, wat wel en niet mag. Code as law. Meestal wordt die code geschreven door bedrijven. Maar dit voorstel is een mooi voorbeeld van hoe de overheid via die code probeert de wet te handhaven. Het is een soort variant op privacy-by-design, het inbakken van privacy in technologie vanaf het moment dat de technologie ontworpen wordt. En in plaats van privacy, wordt hier naleving van de wet ingebakken in de software: compliance-by-design dus.

Ook als dit wetsvoorstel in Europa sneuvelt, blijft het ideaal van automatische handhaving bestaan

Je ziet dat het publieke debat over dat soort automatische handhaving nog in de kinderschoenen staat. Het gaat vooral over de technische vragen: of de code goed werkt, wat het percentage valse positieve en negatieven is, wat het risico is op datalekken, en in hoeverre we de code wel kunnen vertrouwen. 

Dat zijn terechte punten, maar het zou wat mij betreft ook moeten gaan over een meer fundamenteel punt: wat betekent dit soort automatische handhaving voor jouw vrijheid? Wat betekent het voor een maatschappij dat we de naleving van regels steeds vaker afdwingen in technologie, zeker bij zoiets persoonlijks als een telefoon? En wat is de rol van de wetgever, als de implementatie van die handhaving wordt gedelegeerd aan een bedrijf? 

Het zijn vragen die relevant blijven. Want ook als dit wetsvoorstel in Europa sneuvelt, blijft het ideaal van automatische handhaving bestaan. Het is een op het eerste gezicht aantrekkelijke oplossing voor politici. Je verlegt immers de kosten van handhaving grotendeels naar bedrijven. Omdat het automatisch gebeurt, voelt het alsof er minder fouten kunnen worden gemaakt. En als het ongemerkt gebeurt, heeft de gebruiker nauwelijks last ervan.  

En dus zullen we in de toekomst veel meer voorbeelden van dat soort compliance-by-design zien. Denk aan automatische snelheidsmeters die een melding doen bij de politie zodra je te hard rijdt, aan drones die weigeren te vliegen op plekken waar een vliegverbod geldt, en aan laptops die melden dat je illegale software draait. Is vrijheid dan echt alleen nog afhankelijk van hoe vaak de software een fout maakt?

Ik weet het antwoord niet, maar ik denk dat het een belangrijke vraag is in de 21ste eeuw.