Ik heb ruzie met Netflix. Of beter gezegd, ik heb ruzie met het algoritme van de online filmdienst. Een paar grijpgrage kindervingertjes is al genoeg om het digitale raderwerk op hol te laten slaan. We hebben netjes aparte accounts gemaakt voor onze tweejarige peuter, vierjarige kleuter, mijn vrouw en mij. Maar kijk toch eens wat Netflix denkt dat ik, een 39-jarige man, graag wil zien: Disney’s Frozen, Masha en de Beer en, attenoje... De Troetelbeertjes.

Toegegeven, in de Orde der Dingen is dit geen enorm drama. Maar het verwarde Netflix-algoritme is indicatief voor een groter probleem.

‘Als je de invloed van het algoritme op geen enkele manier meer kunt doorzien, dan is er geen gelijkwaardige interactie meer mogelijk’

Collega Maurits Martijn onlangs dat je het ontwikkelen van algoritmen niet alleen aan techneuten moet overlaten. Hoe computers onze data verwerken heeft immers vaak ethische, sociale, politieke en economische consequenties.

Algoritmen bepalen bijvoorbeeld wat je via Google en andere zoekmachines vindt en daarmee of je in een terechtkomt. Algoritmen bepalen of je slachtoffer of juist profiteur bent van prijsdiscriminatie; bijvoorbeeld omdat je een Mac hebt en zo meer voor een vliegticket moet betalen dan als je een pc bezit. Ook bepalen algoritmen wat je op Facebook Tijdens de recente rellen in het Amerikaanse Ferguson bleek bijvoorbeeld Twitter in lichterlaaie te staan en de massamedia te activeren, terwijl het op Facebook de eerste dag ijzingwekkend stil bleef, waarschijnlijk door

Technologiefilosoof Peter-Paul Verbeek gaf in het interview met collega Martijn niet voor niets een duidelijke waarschuwing: ‘Als je de invloed van het algoritme op geen enkele manier meer kunt doorzien, dan is er geen gelijkwaardige interactie meer mogelijk. Dan gaat de techniek met jou om in plaats van andersom.’

Hoe ontleed je het algoritme van Facebook?

De logische vraag is dan: hoe kun je een algoritme doorzien?

Dat is vreselijk moeilijk. Maar er worden interessante pogingen ondernomen. In een nog niet doen drie een voorstel hoe de newsfeed van Facebook te ontleden. En met dat nog lopende onderzoek leggen ze stukje bij beetje bloot hoe we meer inzicht kunnen krijgen in de algoritmen die ons leven sturen.

Een algoritme kun je zien als een recept. Eerst doe je dit, dan doe je dat en vervolgens doe je met de uitkomst dit en dat. En als het niet goed is, doe je het zus en zo. Algoritmen bestaan uit logische regels.

Een goede kok geeft zijn recept, daar waar hij geld mee verdient, niet zomaar prijs

De meest voor de hand liggende optie is om die regels uit de softwarecode te destilleren. Maar dat is niet zo makkelijk. Het algoritme dat de newsfeed reguleert, is eigendom van Facebook en die wenst geen pottenkijkers. Wat voor Facebook geldt, geldt ook voor veel andere bedrijven. Er wordt daarom vaak gesuggereerd om een onafhankelijke overheidsinstantie of vertrouwde derde partij aan te wijzen die zich over de

Maar ook dat heeft niet zoveel zin. Ten eerste veranderen algoritmen continu, simpelweg omdat de dynamiek tussen online dienstverlener en gebruiker dat vereist. Een goed voorbeeld is de handel Lange tijd gold dat hoe meer likes je hebt, hoe groter de kans was dat je in iemands newsfeed terechtkwam. Dus ontstond er een levendige handel. Inmiddels lijkt het erop dat het algoritme dit gedrag juist weer afstraft.

Ten tweede zijn algoritmen van grote webdiensten zeer complex geworden. Een beetje algoritme van Facebook bestaat uit miljoenen regels code. Door die complexiteit is het heel moeilijk om de uitkomst van de logische regels helemaal te doorgronden. Je kunt er wel data instoppen, maar er hoeft maar een klein dingetje anders te zijn en de uitkomst

Laat het gewoon zien

Onderzoekers zouden daarom niet alleen naar de opbouw van algoritmen kunnen kijken, maar vooral ook naar de uitkomst. Je zou bijvoorbeeld in verschillende landen en onder verschillende condities vliegtickets kunnen zoeken en eventuele prijsverschillen noteren. Het probleem daarbij is dat je daarmee vaak de gebruiksvoorwaarden van de online dienst schendt en een juridisch

Maar wat als je de werking van algoritmen gewoon kunt laten zien?

De drie wetenschappers hebben toevlucht genomen tot een heel oud onderzoeksmiddel: een consumentenpanel. Ze toonden ruim veertig deelnemers een aantal verschillende feeds van hun Facebook-account. De eerste feed liet álle berichten zien die hun vrienden plaatsen. De tweede feed toonde wat de Facebook-gebruiker daadwerkelijk te zien kreeg, dus de selectie die het newsfeed-algoritme maakte.

Opvallend was dat veel panelleden geschokt waren. Sommigen waren zich er überhaupt niet van bewust dat Facebook berichten filtert. Anderen zagen dat ze berichten misten, bijvoorbeeld van familie, die ze wel hadden willen ontvangen. En weer anderen baalden ervan dat ze wel veel advertenties kregen, maar niet belangrijke berichten van vrienden.

Ineens werd zo’n algoritme heel persoonlijk. En dat was natuurlijk precies de bedoeling.

De onderzoekers zijn nu bezig met een Facebook-app, zodat andere gebruikers ook kunnen zien welke selectie het algoritme maakt. Zo’n app zou ook een manier kunnen zijn om dit onderzoek te schalen, want dat is nog een zwak punt in het onderzoek: het is tijdrovend om mensen te interviewen en hun bevindingen terug te laten rapporteren.

Algoritmen kun je ook visualiseren

Tot slot nog een warme aanbeveling om het werk van Mike Bostock die op geheel eigen wijze algoritmen probeert te doorgronden. Hij is infographics-redacteur bij The New York Times en heeft een prachtig blog geschreven over hoe algoritmes inzichtelijk te maken. Visualisaties richten zich doorgaans op data die door een algoritme zijn uitgespuugd. Bostock probeert niet de data, maar de logische regels inzichtelijk te maken. Dit levert visualisaties op waarmee je direct kunt zien hoe de Facebook newsfeed in elkaar steekt, maar je krijgt wel een idee voor hoe zo’n algoritme nu eigenlijk werkt. Het is behoorlijk technisch, maar laat je daar niet door afschrikken.

En oh ja, ik las net dat mijn Netflix-probleem binnenkort Een aantal onderzoekers van het Massachusetts Institute of Technology heeft een algoritme ontwikkeld dat de voorkeuren van verschillende accountgebruikers kan herkennen. Gewoon een kwestie van betere subspace clustering. Dat ik daar nou niet aan had gedacht.

Kom naar Het Grote Privacy Experiment (nu ook in Gent!) Wat weten overheden en bedrijven over ons? Wat doen ze met die informatie? Na de verschijning van ons boek Je hebt wél iets te verbergen voeren we die discussie graag ook in Gent. Komt allen op 11 januari! Lees het verhaal van Maurits hier terug

Als de algoritmen voor ons gaan denken Algoritmen bepalen een steeds groter deel van ons leven. Ze schrijven voor hoe we ons moeten gedragen, wat we moeten lezen en luisteren en wanneer we moeten bewegen. Ze kunnen zelfs onze politieke voorkeuren beïnvloeden. Samen met techniekfilosoof Peter-Paul Verbeek bezocht ik Google Nederland, op zoek naar een antwoord op de vraag: hoe om te gaan met deze onzichtbare bril op ons hoofd? Lees verder

Vind mij leuk en ik zal zeggen wie je bent Achteloos klikken we erop, miljoenen keren per dag: de vind-ik-leuk-knop van Facebook. De knop onthult zo tot in detail jouw gedrag, wensen, gedachten en positie op de sociale ladder. Hoe leuk is de like eigenlijk nog? Lees verder

Retweet me en ik zal zeggen wie we zijn Twitter lijkt vooral een vergaarbak van geklets en geklaag. Maar die 140 tekens die we honderden miljoenen keren per dag de wereld insturen, leveren inmiddels bijzondere nieuwe inzichten op. Of de Olympische Spelen digitaal verbroederen bijvoorbeeld. Of: welke muziek door gaat breken. Welkom in de wondere wereld van de netwerktheorie. Lees verder