Eind vorige maand kwam de Iraanse nucleaire wetenschapper Mohsen Fakhrizadeh om het leven toen zijn auto onder vuur werd genomen nabij de Iraanse hoofdstad Teheran. Volgens Iraanse bronnen zit Israël achter de moordaanslag, wat dat land

Fakhrizadeh is de vijfde Iraanse nucleaire wetenschapper sinds 2010 die in Iran werd vermoord. Maar stelt Ali Fadavi, de plaatsvervangend commandant van de Revolutionaire Garde van Iran. 

De dertien kogels die Fakhrizadeh fataal werden, werden afgevuurd door een op een pick-uptruck gemonteerd machinegeweer dat werd aangestuurd via een satelliet. Tijdens de operatie zou kunstmatige intelligentie en gezichtsherkenning zijn gebruikt, stelt Fadavi. Fakhrizadeh’s vrouw, die 25 centimeter van hem vandaan in dezelfde auto zat, raakte niet gewond.

Het geweld past in een ontwikkeling die al een tijdje gaande is. Landen maken steeds vaker gebruik van nieuwe technologie om tegenstanders vanaf steeds grotere afstand aan te vallen, zonder daarbij zelf risico te lopen. Op afstand bestuurbare wapens die semiautomatisch of zelfs geheel zelfstandig toeslaan zijn allang niet meer ondenkbaar.

Wat er precies klopt van Fadavi’s lezing is onduidelijk, maar andere landen zullen het vermoedelijk aangrijpen om meer te investeren in dit soort wapentechnologie, om niet op achterstand te raken ten opzichte van rivalen. En dus is het belangrijk om de ontwikkelingen goed te volgen. In deze nieuwsbrief licht ik graag een paar artikelen uit die dat doen. 

Robotlegers...

Allereerst dit interview op met de hoogste generaal van het Britse leger. Daarin stelt hij dat het Britse leger over ruim tien jaar voor een kwart uit robots bestaat. Volgens het Britse ministerie van Defensie is het beleid dat alleen mensen wapens kunnen afvuren, maar waar de grens van menselijke controle precies ligt is niet duidelijk.

Vanwege die vaagheid stuurden 150 Nederlandse onderzoekers op het gebied van kunstmatige intelligentie en robotica begin deze maand naar de Nederlandse regering waarin ze oproepen tot een preventief verbod op dodelijke autonome wapensystemen – ook wel ‘killerrobots’. ‘Zodra deze doos van Pandora geopend is, zal ze heel moeilijk te sluiten zijn’, schrijven ze.

Waarom zij zich zorgen maken, lees je in uit de Britse krant The Guardian. Om te voorkomen dat killerrobots de wereld onveiliger maken zijn internationale afspraken en nieuwe regels nodig, en kun je nadenken over het coderen van ethiek in de systemen zelf. Maar de auteur heeft weinig hoop dat dit echt zal werken. Landen zijn banger om een achterstand op te lopen op rivalen dan voor killerrobots zelf, en gaan daardoor mee in wat steeds meer op een ongecontroleerde wapenwedloop lijkt. 

Daarom is volgens de auteur een omslag in het denken nodig. Voor veiligheid en stabiliteit zijn ontwikkeling, goed bestuur en humanitaire hulp minstens zo belangrijk als het inzetten van en dreigen met dodelijk geweld. Het tegengaan van een samenleving die wordt geregeerd door angst en controle zou het belangrijkste doel moeten zijn van het huidige AI- en roboticabeleid, schrijft hij. 

... en oneindige oorlogen

Voorlopig wordt nieuwe technologie volop gebruikt om nieuwe aanvalswapens te maken. Dat maakt oorlog paradoxaal genoeg humaner, en tegelijkertijd moeilijker om te stoppen. Zo stellen drones een bezetter in staat om vanuit de lucht tegenstanders op te sporen en gericht uit te schakelen, waarmee onnodig bloedvergieten kan worden voorkomen. Maar een oplossing voor de onderliggende problemen is het niet. Daardoor duren dit soort oorlogen heel lang.

In deze gerobotiseerde visie, die de Amerikaanse historicus Samuel Moyn ‘humane overheersing’ noemt, lijkt oorlog steeds meer op een grensoverschrijdende politieactie. Vijanden veranderen daarbij in verdachten die worden onderworpen aan gemechaniseerde detentie, in plaats van dodelijk geweld. Hoe levensreddend dat ook mag zijn, het enorme machtsverschil dat de kern vormt van dit soort technologische bezettingen is geen goede basis voor een legitieme internationale orde, stelt hij. In gaat Moyn hier dieper op in. 

Nog iets om in de gaten te blijven houden: technologie die oorspronkelijk was bedoeld om de samenleving te beschermen tegen dreiging van buitenaf, wordt uiteindelijk vaak ingezet tegen dreiging van binnenuit. Denk aan de vele antiterrorismemaatregelen die worden gebruikt tegen fraudeurs, criminelen en soms zelfs demonstranten. Dit artikel in laat goed zien hoe China kunstmatige intelligentie gebruikt om de eigen bevolking te onderwerpen aan een strikt regime, en die technologie over de hele wereld exporteert naar autoritaire regimes. 

Wie tijdens de donkere dagen voor kerst meer zin heeft in een echt sciencefictionverhaal raad ik dit boek aan: Het gaat over robots en zwermen drones, ergens in de toekomst. Als je de voetnoten leest, zie je dat de basis voor zo’n dystopia nu wordt gelegd in de echte wereld. Een mooie afsluiting voor een toch al niet echt gezellig jaar. 

Terug naar het nu

Een paar jaar geleden konden de meeste landen en gewapende groepen alleen maar dromen van tegenstanders omleggen met op afstand bestuurbare wapens. Tegenwoordig koop je voor een paar honderd euro een drone die je met een beetje kennis over aerodynamica ombouwt tot een effectief aanvalswapen, en is het gebruik van op afstand bestuurbare machinegeweren door rebellengroepen allang

Maandag publiceerde ik over de snelle verspreiding van nieuwe technologie die zowel voor civiele als militaire doeleinden te gebruiken is. Dat heeft enorme invloed op de markt voor militaire drones. Niet de dure, hightechdrones die de Amerikanen al jaren gebruiken zijn nu gewild, maar kleine, goedkope modellen waarvoor je de onderdelen gemakkelijk online bestelt. Steeds meer landen en gewapende groepen doen dat om hun eigen drones te bouwen, en zetten die steeds vaker in. 

Een andere nieuwe technologie die zich leent voor de productie van aanvalswapens zijn 3D-printers. Daarmee maak je zo ongeveer alles wat je wil, waaronder machinegeweren. In deze korte spreekt de Britse journalist Jake Hanrahan een anoniem lid van het online collectief Deterrence Dispensed. In twee weken bouwt hij een machinegeweer inclusief kogels, en deelt die kennis online met wie dat maar wil.

Bovenstaande voorbeelden zijn een waarschuwing voor wat nog kan komen, en daarmee een oproep om na te denken over het voorkomen van problemen in de toekomst. De verspreiding van technologie die nu nog in de kinderschoenen staat, zoals autonomie of zwermen drones, is vaak net zo moeilijk te voorkomen als drones en 3D-printers nu. 

Daarom ga ik binnenkort onderzoeken wat er moet gebeuren om die ontwikkelingen een halt toe te roepen. Als jullie tips of vragen hebben hoor ik dat graag!

Groet,

Lennart

P.S. Vergeet niet van collega’s Maite en Jacco te beluisteren. Het gaat over de (falende) stroomvoorziening in de Nigeriaanse miljoenenstad Lagos, maar eigenlijk over veel meer.