Mag je een robot slaan?

Een paar minuten in haar praatje, vertelt rechtsdeskundige Kate Darling over een interessant voorval in het leger. Tijdens een militaire oefening werd er een robot ingezet om landmijnen onschadelijk te maken. Het apparaat zag eruit als een insect met zes poten. Het wandelde door het veld en als het op een mijn stapte, werd er een poot afgeblazen. De robot stapte dan op de resterende poten verder, totdat hij niet meer vooruit kon komen. De leidinggevende kolonel blies halverwege de oefening af: hij vond de oefening inhumaan. Het beeld van een zich voortslepende robot was te verontrustend.

Het is een gek verhaal en het legt een interessant probleem bloot: aan welke ethische grenzen zijn wij als bouwers en gebruiken gebonden bij het ontwerpen en toepassen van robots?

Het onderzoeken van de ethische kanten van robotica is niet nieuw, benadrukt Darling in een podcast voor het Berkman Center for Internet and Society (Harvard). Wel worden er níeuwe vragen gesteld. 

De robotica zit ontegenzeggelijk in de lift. Er is steeds meer vraag naar robots die werk overnemen dat mensen niet willen of kunnen doen. De schoonmaakwerkzaamheden in Fukushima worden deels door robots uitgevoerd. Maar ook in de ouderenzorg en rond de operatietafel maken robots een opmars. Google gelooft er in ieder geval in: de internetgigant kocht vorig jaar acht robotbedrijven op. En wat te denken van de zelfbesturende auto’s?

De chirurg, de robotbouwer en de softwareleverancier

Met de opkomst van de robot beginnen natuurlijk ook de problemen. Een belangrijk probleem, waar al veel onderzoek naar gedaan wordt, is de kwestie van aansprakelijkheid. Wie is bijvoorbeeld aansprakelijk als een delicate hersenoperatie fout gaat? De chirurg of de fabrikant van de robot? Of de leverancier van de software? Wie moet het schadeformulier invullen als een Google-auto tegen een andere auto botst? Jij of een medewerker van Google? Met andere woorden hoe zullen de robots zich tegen ons gedragen en wie is daar verantwoordelijk voor?

Kate Darling draait die vraag om: hoe dienen wij ons tegen robots te gedragen en wie is daar verantwoordelijk voor? 

Het klinkt op het eerste gezicht vergezocht. Een robot is een verzameling levenloze onderdelen, hij voelt geen pijn of verdriet. Maar het zit toch net iets anders. Zeker bij sociale robots, die bijvoorbeeld ingezet worden om ouderen te helpen of gezelschap te houden.

Darling wijst op een aantal experimenten waaruit blijkt dat mensen wel degelijk menselijke eigenschappen projecteren op robots, net zoals we menselijke eigenschappen projecteren op dieren. In een Milgram-achtig experiment werden deelnemers gevraagd om een tijdje met een robot te spelen. Daarna werd ze verzocht om de robot te slopen, dan wel te martelen. De deelnemers weigerden. Het voelde niet goed. Misschien, zo vraagt Darling zich af, zegt het vermogen om een robot schade te berokkenen niet zozeer iets over de robot, maar meer iets over onszelf. Over ons grote vermogen tot empathie. Er schijnen mensen een betekenisvolle band te hebben met hun rumba-stofzuigerrobot...

Ik zal niet te veel verraden. Ik raad je aan om het praatje te beluisteren. Het duurt ongeveer twintig minuten. Er volgt ook nog een discussie die nogal meandert, maar veel voer oplevert voor verder nadenken.