Beauty Salon, 2016. Uit de serie Synthesised ImageNet Object Class van Constant Dullaart / Future Gallery Berlin

In 1951 verscheen Bron: Robert Parker en Herbert Wright, One Boy’s Day, Harper&Bros., New York. Deze anekdote vond ik in: Jil Walker Rettberg, Seeing ourselves through technology. How we use selfies, blogs and wearable devices to see and shape ourselves (2014). - een vuistdikke studie die één dag in het leven van een doorsnee jongen vastlegde. Er waren acht onderzoekers en vijfhonderd pagina’s nodig om minuut voor minuut bij te houden wat hij deed.

Inmiddels kan een apparaatje ter grootte van je handpalm dat veel nauwkeuriger - voor élke dag van élke jongen die er een op zak heeft. Desgewenst (of ongewenst) legt onze smartphone automatisch vast wat we zien en horen, waar we zijn, met wie, wat dat met onze hartslag doet, enzovoorts. Foto’s, video’s, geluid; een rijkdom aan memento’s waar we nu geen enkele moeite meer voor hoeven te doen.

Een groeiend aantal softwareprogramma’s springt handig in op twee menselijke eigenschappen: onze basale behoefte om iets van ons leven te bewaren, en onze gemakzucht. Maak kennis met het dagboek dat zichzelf schrijft: het automatisch gegenereerde lifelog.

De afgelopen maand hield ik niet alleen mijn eigen, handgeschreven dagboek bij, maar ook zo’n lifelog. Of eigenlijk meerdere, want ik probeerde Deze app kan automatisch data opslaan over bijvoorbeeld het weer, statusupdates, je locatie en hoeveel je beweegt; daarnaast kun je foto’s en notities toevoegen. Hier vind je de website van Day One. Deze app stelt je meermaals per dag op willekeurige momenten terugkerende vragen. Gegevens over locatie, weer en omgevingsgeluid worden automatisch ingeladen, en het programma zorgt dat je zo min mogelijk hoeft te typen door (eerder gebruikte) antwoorden voor te stellen en suggesties te doen voor plekken die het, op basis van bijv. je Foursquare-profiel, bij je vindt passen. Dit is de website van Reporter. Deze app vraagt je één keer per dag op een wisselend moment om een foto te maken. Dit is de website van deze app. en Deze app laadt automatisch je posts op sociale media, gegevens over je locatie, hoeveel je beweegt, etc., en moedigt je aan om je dagboeknotities te delen met vrienden of op sociale media. Aan de hand van je gegevens trekt de app conclusies en kent koosnaampjes aan gebruikers toe. Het programma moedigt je ook aan om doelen te stellen en je gewoontes te verbeteren. Bekijk hier de website bij deze app.

Day One belooft ‘de snelste en makkelijkste’ manier te zijn om je leven ‘vast te leggen terwijl je het leeft.’ Het programma brouwt van de foto’s die ik nam en metadata over plaats en tijd, vanzelf een overzicht waar ik naar believen dingen bij kan schrijven.

En inderdaad: een digitaal dagboek bijhouden is razendsnel en bijna moeiteloos. Soms vergeet ik zelfs dat ik het doe.

Achter elk programma gaan menselijke keuzes schuil

De voordelen van zulke programma’s springen in het oog; de nadelen zijn voor gebruikers minder zichtbaar. Maar juist die verdienen een spotlight, zegt de Bekijk hier de website van Constant Dullaart. Nederlandse kunstenaar Constant Dullaart (Leiderdorp, 1979) maakt vooral kunst op of over het internet, waarmee hij in 2015 de Prix Net Art won. Dullaart maakte ook de afbeeldingen bij dit verhaal. Ik interviewde hem omdat hij op interessante manieren nadenkt over de impact die technologie op de mens heeft.

Op een speelse manier maakt Dullaart duidelijk welke invloed ontwikkelingen zoals het internet en social media hebben op ons denken en doen. Bovendien toont hij: ‘de techniek’ is niet iets dat ons zomaar en onherroepelijk overkomt. Ze is gebouwd op menselijke keuzes. En die keuzes moeten ter discussie staan.

Daar zorgt Dullaart zelf graag voor. Bijvoorbeeld met zijn werk Van de simkaarten die hiervoor nodig waren, maakte hij composities die te zien zijn bij deze oproep. Ik ga een maand mijn leven loggen. Want wat voor verledens maken we straks? waarvoor hij vrijwilligers Lees hier meer over dit werk. duizenden nepprofielen liet aanmaken op Facebook. De likes van zijn Hij gebruikte voor de nepprofielen de namen van achttiende-eeuwse huursoldaten. verdeelde hij over verschillende kunstinstellingen en kunstenaars, zodat die plotsklaps allemaal evenveel volgers hadden.

Voor zulke nepvolgers is een grote markt. Ze helpen immers om de aandacht van een écht publiek te vangen. Bovendien wordt het belang van een mens of instelling nogal eens afgelezen aan het aantal volgers dat ze hebben. Maar deze volgersaantallen, die je makkelijk op grote schaal kunt manipuleren, zijn een slecht criterium voor maatschappelijke relevantie, toonde hij aan.

Het is slechts één voorbeeld van de vrolijke guerilla van deze digitale Robin Hood.

Een automatisch gegenereerde identiteit

Welke haken en ogen zitten er, moreel en maatschappelijk, aan een automatisch dagboek? Ik stel Dullaart deze vraag omdat een dagboek zo’n cruciale rol kan spelen in het vormen van een identiteit. In een dagboek vertel je een verhaal over je leven en jezelf. Uit de wirwar van gebeurtenissen selecteer je wat je echt belangrijk vindt. Wat als je die selectie overlaat aan je mobieltje? Wat als we leren om onze identiteit te zien door de ogen van software?

Wat voor plaatje dat oplevert, heeft Dullaart letterlijk zichtbaar gemaakt met Dit werk maakte hij voor Collecting Europe, een project van het V&A en het Goethe Institut in London, waarbij de vraag centraal stond: Hoe zullen we in de toekomst terugkijken op het huidige Europa? Lees hier meer over het project en Dullaarts werk. Dit is een Bekijk hier de website bij dit kunstwerk. serie afbeeldingen van ‘de Europese identiteit,’ zoals een computer die automatisch genereert.

Hoe dat werkt?

‘Om dat uit te leggen, moet ik iets vertellen over een bepaald soort software: Neural Networks. Het is een kleine omweg,’ waarschuwt hij lachend.

Neural networks zijn lerende computerprogramma’s. In dit geval: programma’s die getraind worden om foto’s te herkennen. ‘Eigenlijk leert die software dat zoals een kind dat leert. Wanneer je een neural network honderden plaatjes van bijvoorbeeld een tomaat laat zien, bekijkt het telkens de vorm, textuur, kleur, de hoeken en overgangen in elke foto, en zoekt dan de Van tevoren moet je nog wel handmatig een vakje om elke tomaat tekenen, zodat de computer weet waar hij naar moet kijken. Alle tomaten zijn blijkbaar rood, rond, glad, et cetera. De eigenschappen die het netwerk op die manier heeft gedestilleerd, gebruikt het om nieuwe foto’s aan te toetsen. Als alle parameters kloppen, concludeert het programma: ah, dit is een tomaat.’

Wat we van beeldherkenning leren over onze eigen blinde vlek

Zo heeft Facebook (met gebruik van jouw en mijn foto’s) al geleerd om mensen te herkennen, en leren bewakingscamera’s om automatisch te speuren naar riskant gedrag of verdachte types.

En daar knelt de schoen. Want aan de hand van welke plaatjes leer je zo’n programma wie hij als verdacht type moet herkennen? Neem je daarvoor de straatdealer of de witteboordencrimineel?

Aan de beslissingen van een onpartijdige computer gaan altijd persoonlijke en cultureel bepaalde keuzes vooraf

‘Het maakt uit welke data je gebruikt om zo’n programma iets te leren,’ zegt Dullaart. ‘Bijvoorbeeld: toen bij het ontwikkelen van deze software voor het eerst een plaatje van een niet-witte mens werd gebruikt, zag de computer die aan voor een gorilla. Wat bleek: er waren bij het trainen van dat programma alleen maar foto’s van witte mensen gebruikt. En ineens kwam de kleur van de persoon op de foto niet overeen met de aangeleerde kenmerken voor ‘mens’ - volgens het programma waren alle mensen immers wit - dus moest het wel iets anders zijn. Het soort afbeeldingen waarop zo’n programma niet getraind wordt, valt door de mazen.’

Een computergestuurd proces lijkt heel neutraal. Afbeeldingen worden automatisch uitgelezen, er worden kenmerken gedestilleerd. Maar wat er eigenlijk uitgelezen wordt, is de dominante cultuur.

Hoe versimpelend automatische herkenning bovendien werkt, maakt Dullaart zichtbaar door de software ‘Dat deden we door het netwerk eerst een hoop ruis te geven. En dan te vragen: ‘Hoeveel hiervan herken je als een croissant?’ ‘Maar 5 procent’, zegt het netwerk. ‘Nou,’ vroegen we, ‘hoe kun je het manipuleren zodat het meer op een croissant lijkt?’ Het resultaat is iets zandkleurigs, en min of meer half-ronds: een illustratie van alle voorwaarden waaraan een foto volgens het programma moet voldoen om herkenbaar te zijn als een croissant.’ van de kenmerken die het heeft uitgelezen. ‘Zwarte Piet’ wordt bijvoorbeeld een bruine vlek met een rode veeg erin - een stereotype in het kwadraat.

Met dit werk maakte Dullaart mij twee dingen duidelijk.

Ten eerste: automatische herkenning is altijd óók automatische vertekening.

En ten tweede: aan de beslissingen van een onpartijdige computer gaan altijd persoonlijke en cultureel bepaalde keuzes vooraf.

Moeite met beslissen? Laat de computer het maar doen

En dat is van groot belang. Want beeldherkenning is niet het enige proces dat wordt toevertrouwd aan computers. ‘Veel van onze beslissingen zullen de komende jaren worden geautomatiseerd,’ voorspelt Dullaart. Zo besluit een machine tegenwoordig of jouw koffer wel of niet te zwaar is voor het vliegtuig. Maar je kunt je ook voorstellen dat een nieuwsredactie met hulp van slimme programma’s beslist of een bepaald feit - bijvoorbeeld een verre overstroming - wel of geen nieuws wordt. (Hoe ver van ons bed? Hoeveel doden? En zijn daar Nederlanders bij?)

Beslissingen automatiseren is snel, praktisch en goedkoop. En, voegt Dullaart toe: comfortabel, omdat we de verantwoordelijkheid voor een bepaalde keuze niet langer zelf hoeven te dragen. ‘Sorry mevrouw, de computer zegt het.’

Zo stuurt jouw smartphone je levensverhaal

Terug naar mijn lifelogs.

Zoals Dullaart overtuigend illustreert, zitten in de software die we dagelijks gebruiken, onze cultuur en vooroordelen meegeprogrammeerd - zodat ‘automatisch’ niet per se ‘neutraal’ betekent.

Ook niet in een automatisch dagboek.

Hoe ziet identiteitsvorming eruit, als je die onderbrengt bij machines (en bij de commerciële bedrijven die die machines programmeren)? Welke verborgen beslissingen liggen er al in deze software besloten?

Ten eerste: in de programma’s die ik bekeek, zit een vervaging tussen privé en publiek ingebouwd. Dagboekapp Saga moedigt gebruikers expliciet aan om dagboeknotities met vrienden te delen, zodat ze Zo staat het in de omschrijving op hun website. http://www.getsaga.com kunnen zien. Maar ook bij Day One (en Room for Thought, enzovoorts) heeft elk dagboekverslag een deelknop, zodat ik het meteen op sociale media kan slingeren. Dat maakt elke privégedachte tot een potentiële tweet.

Ten tweede: wat er wordt bijgehouden, wordt grotendeels bepaald door technische beperkingen (gedachten en emoties zijn vooralsnog niet door computers af te lezen). De app beslist vervolgens welke conclusies er uit de beschikbare informatie worden getrokken.

Zo plakt Saga mij als gebruiker een label op aan de hand van bijvoorbeeld mijn locatie of mijn belgedrag. Als ik zowel een boekwinkel als een bibliotheek bezoek, meldt het programma triomfantelijk dat ik een boekenwurm ben - één van de voorgeprogrammeerde ‘unieke eigenschappen.’ De app belooft weliswaar ‘je authentieke levensverhaal’ te vertellen, maar dat moet in een beperkt aantal scenario’s passen. De app Storica verwijst je zelfs zonder ironie naar hun website voor ‘lifelogging scenarios.’ Daarmee komt elke gebruiker in een soort trechter terecht, waaruit iedereen min of meer gelijkvormig tevoorschijn rolt.

Ten derde: sommige programma’s (zoals Storica) kun je gratis gebruiken, maar ze vragen je om te betalen om je herinneringen terug te kunnen zien. In feite huur je dus geheugen: een soort betaald parkeren van persoonlijke herinneringen, die bovendien altijd kunnen worden ingezien door het bedrijf achter de software.

Achter de gestroomlijnde software van een automatisch dagboek verbergen zich dus netelige vragen, zoals: Wil je koopwaar maken van je persoonlijke herinneringen? Is er een fundamenteel verschil tussen de herinneringen die je voor jezelf houdt en die die je mogelijk wil delen? Wat doet een intiem dagboek, dat automatisch je publieke facebook-posts inlaadt, met je zelfbeeld? In hoeverre nodigt het je uit om je eigen leven door de bril van mogelijke scenario’s te bekijken, en jezelf te definiëren aan de hand van het handjevol beschikbare ‘unieke eigenschappen’ die een programmeur je aanreikt?

‘De techniek’ is politiek

Ik vraag Constant Dullaart of een automatisch dagboek altijd zulke vervormingen moet opleveren. ‘Een bepaalde misvorming is inherent aan het gebruik van deze techniek,’ zegt hij. ‘Een object (of een mens) moet worden teruggebracht tot een beperkt aantal eigenschappen, voor automatische cognitie er vat op heeft. De uitzondering wordt weggefilterd. Als we omgaan met automatische herkenning, worden onze levens vanzelf gesimplificeerd tot karikaturen.’

Als je deze ontwikkeling ongeremd doorvoert, wat is dan het gevolg? Dullaart: ‘Een verlies van flexibiliteit.’ Als we onze beslissingen overal waar mogelijk automatiseren, zal de efficiëntie van het systeem altijd boven de menselijke uitzondering staan. ‘Dan krijg je een neiging tot sociale gelijkschakeling. Het eindstation daarvan is fascisme.’

‘Als we omgaan met automatische herkenning, worden onze levens vanzelf gesimplificeerd tot karikaturen’

Dan maar terug naar het zelfgeschreven dagboek, al kost dat veel meer tijd? Onwaarschijnlijk, denkt Dullaart. Als het automatisch op onze smartphone kan, zullen we geneigd zijn die ook te gebruiken.

‘Mijn vader is in 1994 overleden. Soms stel ik me voor hoe ik hem de smartphone zou kunnen uitleggen. Dan is het net alsof de goden ons een machtig wapen hebben aangereikt, een superkracht in je zak die je overal ter wereld precies kan vertellen waar je bent en je toegang geeft tot eindeloos veel informatie. Van dat soort gemak gaan we echt geen afstand nemen. Deze techniek is zo extreem gebruiksvriendelijk - ze gaat niet verdwijnen.’

Maar gebruiksvriendelijk en gebruikersvriendelijk zijn niet altijd hetzelfde.

‘Des te belangrijker is het om ons af te vragen: wat verwachten we, welke invloed van deze techniek op onze maatschappij accepteren we?’

Kortom:

Een kaal notitieboek, analoog of digitaal, kost veel meer tijd en moeite om bij te houden - maar het legt me geen multiple choice op en neemt me geen beslissingen Natuurlijk heeft ook het traditionele, geschreven dagboek bepaalde conventies - zoals de aanhef ‘Lief dagboek’ die sommige schrijvers gebruiken, of het dagelijkse ritme - maar die conventies zijn niet in het medium geprogrammeerd. Ik moet zelf beslissen wat ik van waarde vind. En het maken van die keuzes is het hele punt.

Uiteindelijk kun je de belangrijke beslissingen niet aan computers uitbesteden. Je kunt hoogstens kiezen om te doen alsof.

Meer lezen?

Ik ga een maand mijn leven loggen. Want wat voor verledens maken we straks? Hoe geven we herinneringen vorm? Dat kan met foto’s, een dagboek of een app. Ik ga de komende maand nieuwe manieren van loggen proberen. Welke vormen van herinneringen opslaan vinden jullie interessant, en waarom? Lees mijn verhaal hier terug Hoe jouw gedrag wordt beïnvloed zonder dat je het doorhebt (en wat we eraan kunnen doen) Hoe bedrijven en overheden jouw data gebruiken, is vaak onbekend. Dat is gevaarlijk, want ze kunnen zonder dat je het doorhebt je gedrag sturen. Hoogleraar Mireille Hildebrandt maakt zich zorgen. ‘Je kunt mensen manipuleren op basis van technieken die werken doordat wij ze niet kunnen zien.’ Ze heeft ook drie oplossingen. Lees het verhaal van Maurits hier terug Dementie zal nooit écht te simuleren zijn, maar dit komt frustrerend dichtbij Na een minuut of tien in een tot dementiesimulator omgebouwde zeecontainer wil ik het bijna uitschreeuwen: ‘Wáárom praten jullie óver mij?’ Ik word tot mijn frustratie niet voor vol aangezien, en juist daarom is twintig minuten in de dementiesimulator zo’n leerzame ervaring. Lees het verhaal van Heiba hier terug

Facebook
Twitter
LinkedIn
Whatsapp
E-mail