Hoe robots onze privacywetgeving gaan veranderen

Als we beseffen dat de functionaliteit van robots en andere slimme hardware via cloud computing exponentieel vergroot kan worden, zien we een glimp van de dynamiek die ons de komende tien tot vijftien jaar te wachten staat. Naast de verdere integratie van zoekmachines en online sociale netwerken in draagbare applicaties, zoals brillen, horloges en meer, kunnen we nieuwe spelers verwachten die mens noch dier zijn, maar ook geen dingen.

Robots kennen we momenteel als industriële toepassing, bijvoorbeeld bij het maken van auto’s of vliegtuigen, en als houterige androids die alleen op ons lijken omdat we ze goed aansturen en leuk aankleden (met huid en haar). Intussen rijdt Googles zelfsturende auto rond en knuffelen bejaarden met hun zachte gezelschapsrobots. De bedoeling is dat slimme, handige, zachte robots onze bejaarden in de nabije toekomst ook gaan optillen, dragen, voeren, verschonen en, natuurlijk, goed afgestemde gesprekjes met hun patiënt gaan voeren.

Om daartoe in staat te zijn, zullen deze robots zelfsturende software moeten hebben en zo zijn ontworpen dat ze mensen geen pijn doen (het nieuwe vakgebied van de soft robotica, dat vloeiende bewegingen mogelijk maakt). Daar komt bij dat deze robots ‘gewapend’ worden met emotieherkenning zodat ze snel in kunnen spelen op verschillende stemmingen. Door deze nieuwe wezens via de cloud met grote databestanden te verbinden, kunnen ze hun bevindingen uitwisselen en voortdurend bijleren dankzij hun toegang tot extra geheugen, waarneming en cognitie in de cloud.

Hoe gaan we hiermee om?

Dit alles heeft evident grote gevolgen voor privacy en gegevensbescherming. De dynamiek en de omvang van deze nieuwe vormen van kunstmatige intelligentie worden een ongekende uitdaging voor de uitgangspunten van Europese gegevensbescherming. Met name geïnformeerde toestemming en doelbinding lijken ten dode opgeschreven als we bereid zijn in zee te gaan met deze nieuwe huis- en disgenoten. Het lijkt immers ondenkbaar dat gebruikers op een zinvolle manier toestemming kunnen geven voor de chronische gegevensuitwisseling die noodzakelijk is voor cloudrobotica en andere vormen van omgevingsintelligentie.

We moeten technologie niet alleen leren gebruiken, we moeten er rechtstreeks mee kunnen communiceren

Daarnaast moeten we beseffen dat onvoorspelbaarheid onontkoombaar wordt voor robots die daadwerkelijk en realtime met mensen omgaan. Zij moeten leren om intuïtief en handig op onverwachte situaties te reageren. Dat kan alleen als ze met eigen – niet door ons bedachte – oplossingen komen. Onvoorspelbaar dus. We zullen hen moeten vertrouwen en leren hoe wij het beste met hen om kunnen gaan omleed en nadeel te voorkomen. Leed en nadeel kunnen natuurlijk bestaan in het laten vallen van een patiënt (voor zover robots worden ingezet bij ouderenzorg) of het verwonden van een ‘collega’ (industriële robotica). Dat is allemaal evident en robots zullen niet op grote schaal worden ingezet zolang dat soort gevaren reëel zijn.

Belangrijker is het feit dat de verbinding met de cloud ertoe leidt dat de providers van de robot en bijvoorbeeld de cloud toegang krijgen tot allerlei gedragsgegevens waardoor gebruikers in nog sterkere mate manipuleerbaar worden. Om daarmee om te gaan, zullen we moeten leren technologie niet alleen te gebruiken, maar er rechtstreeks mee te communiceren, bijvoorbeeld om duidelijk te maken wat we wel en niet willen. Denk aan Siri of de film Her.

Het betekent ook dat de bedrijven die hun verdienmodel op gezelschaps- en zorgrobots gaan bouwen, veel transparanter moeten zijn over de manier waarop ze met onze gegevens en profielen omgaan dan we nu gewend zijn. De bescherming van kennis die anderen in staat stelt ons te manipuleren moet dan ook stevig worden verankerd in effectieve wetgeving, die uitvoerbaar en handhaafbaar is.

Ik zal op 3 juli een van de panelleden zijn tijdens een discussie over behavioural targeting op de conferentie Information Influx. Dit is de derde van vier gastbijdragen week van wetenschappers die deelnemen aan dit symposium. Hierna volgt een bijdrage van Joseph Turow, hoogleraar communicatie aan de University of Pennsylvania en auteur van het baanbrekende boek The Daily You.