Zo stuurt je smartphone je levensverhaal

In 1951 verscheen One Boy’s Day - een vuistdikke studie die één dag in het leven van een doorsnee jongen vastlegde. Er waren acht onderzoekers en vijfhonderd pagina’s nodig om minuut voor minuut bij te houden wat hij deed.

Inmiddels kan een apparaatje ter grootte van je handpalm dat veel nauwkeuriger - voor élke dag van élke jongen die er een op zak heeft. Desgewenst (of ongewenst) legt onze smartphone automatisch vast wat we zien en horen, waar we zijn, met wie, wat dat met onze hartslag doet, enzovoorts. Foto’s, video’s, geluid; een rijkdom aan memento’s waar we nu geen enkele moeite meer voor hoeven te doen.

Een groeiend aantal softwareprogramma’s springt handig in op twee menselijke eigenschappen: onze basale behoefte om iets van ons leven te bewaren, en onze gemakzucht. Maak kennis met het dagboek dat zichzelf schrijft: het automatisch gegenereerde lifelog.

De afgelopen maand hield ik niet alleen mijn eigen, handgeschreven dagboek bij, maar ook zo’n lifelog. Of eigenlijk meerdere, want ik probeerde Day One, Reporter, Room for Thought, en Saga.

Day One belooft ‘de snelste en makkelijkste’ manier te zijn om je leven ‘vast te leggen terwijl je het leeft.’ Het programma brouwt van de foto’s die ik nam en metadata over plaats en tijd, vanzelf een overzicht waar ik naar believen dingen bij kan schrijven.

En inderdaad: een digitaal dagboek bijhouden is razendsnel en bijna moeiteloos. Soms vergeet ik zelfs dat ik het doe.

Achter elk programma gaan menselijke keuzes schuil

De voordelen van zulke programma’s springen in het oog; de nadelen zijn voor gebruikers minder zichtbaar. Maar juist die verdienen een spotlight, zegt de Nederlandse kunstenaar Constant Dullaart. Ik interviewde hem omdat hij op interessante manieren nadenkt over de impact die technologie op de mens heeft.

Op een speelse manier maakt Dullaart duidelijk welke invloed ontwikkelingen zoals het internet en social media hebben op ons denken en doen. Bovendien toont hij: ‘de techniek’ is niet iets dat ons zomaar en onherroepelijk overkomt. Ze is gebouwd op menselijke keuzes. En die keuzes moeten ter discussie staan.

Daar zorgt Dullaart zelf graag voor. Bijvoorbeeld met zijn werk The Possibility Of An Army (2015), waarvoor hij vrijwilligers duizenden nepprofielen liet aanmaken op Facebook. De likes van zijn ‘leger’ verdeelde hij over verschillende kunstinstellingen en kunstenaars, zodat die plotsklaps allemaal evenveel volgers hadden.

Voor zulke nepvolgers is een grote markt. Ze helpen immers om de aandacht van een écht publiek te vangen. Bovendien wordt het belang van een mens of instelling nogal eens afgelezen aan het aantal volgers dat ze hebben. Maar deze volgersaantallen, die je makkelijk op grote schaal kunt manipuleren, zijn een slecht criterium voor maatschappelijke relevantie, toonde hij aan.

Het is slechts één voorbeeld van de vrolijke guerilla van deze digitale Robin Hood.

Een automatisch gegenereerde identiteit

Welke haken en ogen zitten er, moreel en maatschappelijk, aan een automatisch dagboek? Ik stel Dullaart deze vraag omdat een dagboek zo’n cruciale rol kan spelen in het vormen van een identiteit. In een dagboek vertel je een verhaal over je leven en jezelf. Uit de wirwar van gebeurtenissen selecteer je wat je echt belangrijk vindt. Wat als je die selectie overlaat aan je mobieltje? Wat als we leren om onze identiteit te zien door de ogen van software?

Wat voor plaatje dat oplevert, heeft Dullaart letterlijk zichtbaar gemaakt met The European Classes (2017). Dit is een serie afbeeldingen van ‘de Europese identiteit,’ zoals een computer die automatisch genereert.

Hoe dat werkt?

‘Om dat uit te leggen, moet ik iets vertellen over een bepaald soort software: Neural Networks. Het is een kleine omweg,’ waarschuwt hij lachend.

Neural networks zijn lerende computerprogramma’s. In dit geval: programma’s die getraind worden om foto’s te herkennen. ‘Eigenlijk leert die software dat zoals een kind dat leert. Wanneer je een neural network honderden plaatjes van bijvoorbeeld een tomaat laat zien, bekijkt het telkens de vorm, textuur, kleur, de hoeken en overgangen in elke foto, en zoekt dan de grootste gemene deler. Alle tomaten zijn blijkbaar rood, rond, glad, et cetera. De eigenschappen die het netwerk op die manier heeft gedestilleerd, gebruikt het om nieuwe foto’s aan te toetsen. Als alle parameters kloppen, concludeert het programma: ah, dit is een tomaat.’

Wat we van beeldherkenning leren over onze eigen blinde vlek

Zo heeft Facebook (met gebruik van jouw en mijn foto’s) al geleerd om mensen te herkennen, en leren bewakingscamera’s om automatisch te speuren naar riskant gedrag of verdachte types.

En daar knelt de schoen. Want aan de hand van welke plaatjes leer je zo’n programma wie hij als verdacht type moet herkennen? Neem je daarvoor de straatdealer of de witteboordencrimineel?

Aan de beslissingen van een onpartijdige computer gaan altijd persoonlijke en cultureel bepaalde keuzes vooraf

‘Het maakt uit welke data je gebruikt om zo’n programma iets te leren,’ zegt Dullaart. ‘Bijvoorbeeld: toen bij het ontwikkelen van deze software voor het eerst een plaatje van een niet-witte mens werd gebruikt, zag de computer die aan voor een gorilla. Wat bleek: er waren bij het trainen van dat programma alleen maar foto’s van witte mensen gebruikt. En ineens kwam de kleur van de persoon op de foto niet overeen met de aangeleerde kenmerken voor ‘mens’ - volgens het programma waren alle mensen immers wit - dus moest het wel iets anders zijn. Het soort afbeeldingen waarop zo’n programma niet getraind wordt, valt door de mazen.’

Een computergestuurd proces lijkt heel neutraal. Afbeeldingen worden automatisch uitgelezen, er worden kenmerken gedestilleerd. Maar wat er eigenlijk uitgelezen wordt, is de dominante cultuur.

Hoe versimpelend automatische herkenning bovendien werkt, maakt Dullaart zichtbaar door de software zelf afbeeldingen te laten genereren van de kenmerken die het heeft uitgelezen. ‘Zwarte Piet’ wordt bijvoorbeeld een bruine vlek met een rode veeg erin - een stereotype in het kwadraat.

Met dit werk maakte Dullaart mij twee dingen duidelijk.

Ten eerste: automatische herkenning is altijd óók automatische vertekening.

En ten tweede: aan de beslissingen van een onpartijdige computer gaan altijd persoonlijke en cultureel bepaalde keuzes vooraf.

Moeite met beslissen? Laat de computer het maar doen

En dat is van groot belang. Want beeldherkenning is niet het enige proces dat wordt toevertrouwd aan computers. ‘Veel van onze beslissingen zullen de komende jaren worden geautomatiseerd,’ voorspelt Dullaart. Zo besluit een machine tegenwoordig of jouw koffer wel of niet te zwaar is voor het vliegtuig. Maar je kunt je ook voorstellen dat een nieuwsredactie met hulp van slimme programma’s beslist of een bepaald feit - bijvoorbeeld een verre overstroming - wel of geen nieuws wordt. (Hoe ver van ons bed? Hoeveel doden? En zijn daar Nederlanders bij?)

Beslissingen automatiseren is snel, praktisch en goedkoop. En, voegt Dullaart toe: comfortabel, omdat we de verantwoordelijkheid voor een bepaalde keuze niet langer zelf hoeven te dragen. ‘Sorry mevrouw, de computer zegt het.’

Zo stuurt jouw smartphone je levensverhaal

Terug naar mijn lifelogs.

Zoals Dullaart overtuigend illustreert, zitten in de software die we dagelijks gebruiken, onze cultuur en vooroordelen meegeprogrammeerd - zodat ‘automatisch’ niet per se ‘neutraal’ betekent.

Ook niet in een automatisch dagboek.

Hoe ziet identiteitsvorming eruit, als je die onderbrengt bij machines (en bij de commerciële bedrijven die die machines programmeren)? Welke verborgen beslissingen liggen er al in deze software besloten?

Ten eerste: in de programma’s die ik bekeek, zit een vervaging tussen privé en publiek ingebouwd. Dagboekapp Saga moedigt gebruikers expliciet aan om dagboeknotities met vrienden te delen, zodat ze ‘je ware zelf’ kunnen zien. Maar ook bij Day One(en Room for Thought, enzovoorts) heeft elk dagboekverslag een deelknop, zodat ik het meteen op sociale media kan slingeren. Dat maakt elke privégedachte tot een potentiële tweet.

Ten tweede: wat er wordt bijgehouden, wordt grotendeels bepaald door technische beperkingen (gedachten en emoties zijn vooralsnog niet door computers af te lezen). De app beslist vervolgens welke conclusies er uit de beschikbare informatie worden getrokken.

Zo plakt Saga mij als gebruiker een label op aan de hand van bijvoorbeeld mijn locatie of mijn belgedrag. Als ik zowel een boekwinkel als een bibliotheek bezoek, meldt het programma triomfantelijk dat ik een boekenwurm ben - één van de voorgeprogrammeerde ‘unieke eigenschappen.’ De app belooft weliswaar ‘je authentieke levensverhaal’ te vertellen, maar dat moet in een beperkt aantal scenario’s passen. De app Storica verwijst je zelfs zonder ironie naar hun website voor ‘lifelogging scenarios.’ Daarmee komt elke gebruiker in een soort trechter terecht, waaruit iedereen min of meer gelijkvormig tevoorschijn rolt.

Ten derde: sommige programma’s (zoals Storica) kun je gratis gebruiken, maar ze vragen je om te betalen om je herinneringen terug te kunnen zien. In feite huur je dus geheugen: een soort betaald parkeren van persoonlijke herinneringen, die bovendien altijd kunnen worden ingezien door het bedrijf achter de software.

Achter de gestroomlijnde software van een automatisch dagboek verbergen zich dus netelige vragen, zoals: Wil je koopwaar maken van je persoonlijke herinneringen? Is er een fundamenteel verschil tussen de herinneringen die je voor jezelf houdt en die die je mogelijk wil delen? Wat doet een intiem dagboek, dat automatisch je publieke facebook-posts inlaadt, met je zelfbeeld? In hoeverre nodigt het je uit om je eigen leven door de bril van mogelijke scenario’s te bekijken, en jezelf te definiëren aan de hand van het handjevol beschikbare ‘unieke eigenschappen’ die een programmeur je aanreikt?

‘De techniek’ is politiek

Ik vraag Constant Dullaart of een automatisch dagboek altijd zulke vervormingen moet opleveren. ‘Een bepaalde misvorming is inherent aan het gebruik van deze techniek,’ zegt hij. ‘Een object (of een mens) moet worden teruggebracht tot een beperkt aantal eigenschappen, voor automatische cognitie er vat op heeft. De uitzondering wordt weggefilterd. Als we omgaan met automatische herkenning, worden onze levens vanzelf gesimplificeerd tot karikaturen.’

Als je deze ontwikkeling ongeremd doorvoert, wat is dan het gevolg? Dullaart: ‘Een verlies van flexibiliteit.’ Als we onze beslissingen overal waar mogelijk automatiseren, zal de efficiëntie van het systeem altijd boven de menselijke uitzondering staan. ‘Dan krijg je een neiging tot sociale gelijkschakeling. Het eindstation daarvan is fascisme.’

Als we omgaan met automatische herkenning, worden onze levens vanzelf gesimplificeerd tot karikaturen

Dan maar terug naar het zelfgeschreven dagboek, al kost dat veel meer tijd? Onwaarschijnlijk, denkt Dullaart. Als het automatisch op onze smartphone kan, zullen we geneigd zijn die ook te gebruiken.

‘Mijn vader is in 1994 overleden. Soms stel ik me voor hoe ik hem de smartphone zou kunnen uitleggen. Dan is het net alsof de goden ons een machtig wapen hebben aangereikt, een superkracht in je zak die je overal ter wereld precies kan vertellen waar je bent en je toegang geeft tot eindeloos veel informatie. Van dat soort gemak gaan we echt geen afstand nemen. Deze techniek is zo extreem gebruiksvriendelijk - ze gaat niet verdwijnen.’

Maar gebruiksvriendelijk en gebruikersvriendelijk zijn niet altijd hetzelfde.

‘Des te belangrijker is het om ons af te vragen: wat verwachten we, welke invloed van deze techniek op onze maatschappij accepteren we?’

Kortom:

Een kaal notitieboek, analoog of digitaal, kost veel meer tijd en moeite om bij te houden - maar het legt me geen multiple choice op en neemt me geen beslissingen uit handen. Ik moet zelf beslissen wat ik van waarde vind. En het maken van die keuzes is het hele punt.

Uiteindelijk kun je de belangrijke beslissingen niet aan computers uitbesteden. Je kunt hoogstens kiezen om te doen alsof.

Meer lezen?