Hoe werken de algoritmen die bepalen wat je op Facebook krijgt te zien?

Ik heb ruzie met Netflix. Of beter gezegd, ik heb ruzie met het algoritme van de online filmdienst. Een paar grijpgrage kindervingertjes is al genoeg om het digitale raderwerk op hol te laten slaan. We hebben netjes aparte accounts gemaakt voor onze tweejarige peuter, vierjarige kleuter, mijn vrouw en mij. Maar kijk toch eens wat Netflix denkt dat ik, een 39-jarige man, graag wil zien: Disney’s Frozen, Masha en de Beer en, attenoje... De Troetelbeertjes.

Toegegeven, in de Orde der Dingen is dit geen enorm drama. Maar het verwarde Netflix-algoritme is indicatief voor een groter probleem.

Als je de invloed van het algoritme op geen enkele manier meer kunt doorzien, dan is er geen gelijkwaardige interactie meer mogelijk

Collega Maurits Martijn schreef onlangs dat je het ontwikkelen van algoritmen niet alleen aan techneuten moet overlaten. Hoe computers onze data verwerken heeft immers vaak ethische, sociale, politieke en economische consequenties.

Algoritmen bepalen bijvoorbeeld wat je via Google en andere zoekmachines vindt en daarmee of je in een filter bubble terechtkomt. Algoritmen bepalen of je slachtoffer of juist profiteur bent van prijsdiscriminatie; bijvoorbeeld omdat je een Mac hebt en zo meer voor een vliegticket moet betalen dan als je een pc bezit. Ook bepalen algoritmen wat je op Facebook te zien krijgt. Tijdens de recente rellen in het Amerikaanse Ferguson bleek bijvoorbeeld Twitter in lichterlaaie te staan en de massamedia te activeren, terwijl het op Facebook de eerste dag ijzingwekkend stil bleef, waarschijnlijk door het filteralgoritme.

Technologiefilosoof Peter-Paul Verbeek gaf in het interview met collega Martijn niet voor niets een duidelijke waarschuwing: ‘Als je de invloed van het algoritme op geen enkele manier meer kunt doorzien, dan is er geen gelijkwaardige interactie meer mogelijk. Dan gaat de techniek met jou om in plaats van andersom.’

Hoe ontleed je het algoritme van Facebook?

De logische vraag is dan: hoe kun je een algoritme doorzien?

Dat is vreselijk moeilijk. Maar er worden interessante pogingen ondernomen. In een nog niet gepubliceerd onderzoek doen drie Amerikaanse wetenschappers een voorstel hoe de newsfeed van Facebook te ontleden. En met dat nog lopende onderzoek leggen ze stukje bij beetje bloot hoe we meer inzicht kunnen krijgen in de algoritmen die ons leven sturen.

Een algoritme kun je zien als een recept. Eerst doe je dit, dan doe je dat en vervolgens doe je met de uitkomst dit en dat. En als het niet goed is, doe je het zus en zo. Algoritmen bestaan uit logische regels.

Een goede kok geeft zijn recept, daar waar hij geld mee verdient, niet zomaar prijs

De meest voor de hand liggende optie is om die regels uit de softwarecode te destilleren. Maar dat is niet zo makkelijk. Het algoritme dat de newsfeed reguleert, is eigendom van Facebook en die wenst geen pottenkijkers. Wat voor Facebook geldt, geldt ook voor veel andere bedrijven. Er wordt daarom vaak gesuggereerd om een onafhankelijke overheidsinstantie of vertrouwde derde partij aan te wijzen die zich over de code buigt.

Maar ook dat heeft niet zoveel zin. Ten eerste veranderen algoritmen continu, simpelweg omdat de dynamiek tussen online dienstverlener en gebruiker dat vereist. Een goed voorbeeld is de handel in likes. Lange tijd gold dat hoe meer likes je hebt, hoe groter de kans was dat je in iemands newsfeed terechtkwam. Dus ontstond er een levendige handel. Inmiddels lijkt het erop dat het algoritme dit gedrag juist weer afstraft.

Ten tweede zijn algoritmen van grote webdiensten zeer complex geworden. Een beetje algoritme van Facebook bestaat uit miljoenen regels code. Door die complexiteit is het heel moeilijk om de uitkomst van de logische regels helemaal te doorgronden. Je kunt er wel data instoppen, maar er hoeft maar een klein dingetje anders te zijn en de uitkomst is wezenlijk anders.

Laat het gewoon zien

Onderzoekers zouden daarom niet alleen naar de opbouw van algoritmen kunnen kijken, maar vooral ook naar de uitkomst. Je zou bijvoorbeeld in verschillende landen en onder verschillende condities vliegtickets kunnen zoeken en eventuele prijsverschillen noteren. Het probleem daarbij is dat je daarmee vaak de gebruiksvoorwaarden van de online dienst schendt en een juridisch risico loopt.

Maar wat als je de werking van algoritmen gewoon kunt laten zien?

De drie wetenschappers hebben toevlucht genomen tot een heel oud onderzoeksmiddel: een consumentenpanel. Ze toonden ruim veertig deelnemers een aantal verschillende feeds van hun Facebook-account. De eerste feed liet álle berichten zien die hun vrienden plaatsen. De tweede feed toonde wat de Facebook-gebruiker daadwerkelijk te zien kreeg, dus de selectie die het newsfeed-algoritme maakte.

Opvallend was dat veel panelleden geschokt waren. Sommigen waren zich er überhaupt niet van bewust dat Facebook berichten filtert. Anderen zagen dat ze berichten misten, bijvoorbeeld van familie, die ze wel hadden willen ontvangen. En weer anderen baalden ervan dat ze wel veel advertenties kregen, maar niet belangrijke berichten van vrienden.

Ineens werd zo’n algoritme heel persoonlijk. En dat was natuurlijk precies de bedoeling.

De onderzoekers zijn nu bezig met een Facebook-app, zodat andere gebruikers ook kunnen zien welke selectie het algoritme maakt. Zo’n app zou ook een manier kunnen zijn om dit onderzoek te schalen, want dat is nog een zwak punt in het onderzoek: het is tijdrovend om mensen te interviewen en hun bevindingen terug te laten rapporteren.

Algoritmen kun je ook visualiseren

Tot slot nog een warme aanbeveling om het werk van Mike Bostock te bekijken, die op geheel eigen wijze algoritmen probeert te doorgronden. Hij is infographics-redacteur bij The New York Times en heeft een prachtig blog geschreven over hoe algoritmes inzichtelijk te maken. Visualisaties richten zich doorgaans op data die door een algoritme zijn uitgespuugd. Bostock probeert niet de data, maar de logische regels inzichtelijk te maken. Dit levert visualisaties op waarmee je direct kunt zien hoe de Facebook newsfeed in elkaar steekt, maar je krijgt wel een idee voor hoe zo’n algoritme nu eigenlijk werkt. Het is behoorlijk technisch, maar laat je daar niet door afschrikken.

En oh ja, ik las net dat mijn Netflix-probleem binnenkort mogelijk is opgelost. Een aantal onderzoekers van het Massachusetts Institute of Technology heeft een algoritme ontwikkeld dat de voorkeuren van verschillende accountgebruikers kan herkennen. Gewoon een kwestie van betere subspace clustering. Dat ik daar nou niet aan had gedacht.