Beste,

Een veelgehoord punt van kritiek is dat algoritmes bevooroordeeld zijn. Zo bleek in de Verenigde Staten dat een algoritme om recidive te voorspellen, zwarte mensen een hogere risicoscore gaf. En toen Amazon een algoritme gebruikte om sollicitanten te selecteren, gaf het systeem de voorkeur aan mannen.

Maar kun je wel van algoritmes verwachten dat ze onbevooroordeeld zijn? Want, zo stelde collega Jesse Frederik onder van vorige week: ‘Mensen zijn zelf ook hartstikke biased, en bovendien ook een zwarte doos.’

Wat volgde was een boeiende discussie. Extra bijzonder: ook Maxim Februari en Chistiaan van Veen – die ik beiden opvoer in mijn stuk – praatten mee.

Ik vond het zo interessant, dat ik een samenvatting schreef van het gesprek. Dat kun je hier teruglezen:

Strategisch procederen

Dat stuk van vorige week ging over de rechtszaak over Systeem Risico Indicatie (SyRI), waarin allerlei databronnen – van gemeenten, UWV, de Sociale Verzekeringsbank, de Belastingdienst – worden gecombineerd om fraude te voorspellen. De rechter besloot: dat is in strijd met de mensenrechten.

Naar aanleiding van die zaak verdiep ik me deze week in strategisch procederen. Dat is, zo schreef collega Maite Vermeulen eerder in  ‘een manier om politieke verandering af te dwingen wanneer overheidsbeleid in strijd is met (inter)nationale wetten of verdragen. Door een exemplarische zaak voor de rechter te brengen, hopen de advocaten een beleidsverandering teweeg te brengen.’

Een bekend voorbeeld is de klimaatzaak die de Nederlandse organisatie Urgenda aanspande. Het bezwaar: de Staat zou zich niet genoeg inzetten om klimaatverandering te voorkomen en moest zijn klimaatbeleid aanscherpen. Urgenda won – zelfs de Hoge Raad  

Zo’n strategische zaak kan ook tegen het bedrijfsleven worden aangespannen. De tabakszaak die Bénédicte Ficq tegen de tabaksindustrie bijvoorbeeld, waarbij ze stelde dat tabaksproducenten met voorbedachten rade mensen ziek hebben gemaakt. Ze klaagde ze zelfs aan voor poging tot moord. De rechter gaf Ficq geen gelijk, omdat de fabrikanten niets illegaals deden. 

Ik ben nu benieuwd: hoe zit het met strategisch procederen op het gebied van digitale rechten, zoals het geval is bij de SyRI-zaak?

Digitale rechten

Mensenrechtenadvocaat Nani Jansen Reventlow hield vorig jaar over dit onderwerp. Zij is directeur van het Digital Freedom Fund, dat strategisch procederen ondersteunt om digitale rechten te beschermen in Europa. Haar punt: ‘digitale rechten zijn mensenrechten’. Alle rechten die in het mensenrechtenverdrag staan, gelden dus net zo goed in een digitale omgeving.

En inderdaad, in de SyRI-zaak werd het Europees Verdrag voor de Rechten van de Mens (EVRM) erbij gehaald. Artikel 8, om precies te zijn, dat onder meer stelt dat ‘[eenieder] het recht [heeft] op respect voor zijn privéleven, zijn familie- en gezinsleven, zijn woning en zijn correspondentie’.

Dat recht geldt dus niet alleen offline, maar ook online. Die inbreuk op privacy – door allerlei data aan elkaar te koppelen – is alleen geoorloofd als er een ‘fair balance’ is met het doel, het bestrijden van fraude. Dat was in het geval van SyRI, oordeelde de rechter, niet het geval.

Wat ik me nu afvraag: zijn er meer zaken zoals SyRI? Wat zijn de gevolgen van de uitspraak voor die zaken? En een andere vraag die hiermee te maken heeft: mag de rechter zich hier eigenlijk wel in mengen? Is dat niet aan de politiek?

Heb je tips, dan hoor ik het graag. Wordt vervolgd...

Tot slot...

... blijven tijdsverschillen lastig. Hoe zit het ook weer als ik een interview heb met iemand uit de Verenigde Staten? Of als de klok een uurtje voor- (of was het nou achter-) uit gaat? Collega Jaap den Hollander, hoofd Development, legt het in nog eens allemaal uit (en ook waarom een hoofd Development hier zijn hoofd over moet breken).

Deze nieuwsbrief liever in je inbox? Als correspondent Ontcijferen onderzoek ik de getallenwereld. In mijn wekelijkse mail houd ik je op de hoogte van wat ik schrijf, hoor en lees. Een vast onderdeel: #NerdAlert, voor de getallenliefhebbers. Schrijf je in voor mijn nieuwsbrief