Afgelopen weken schreef ik verschillende verhalen over autonome wapensystemen, door critici ook wel ‘killerrobots’ genoemd. Dat zijn door kunstmatige intelligentie (AI) en algoritmes aangedreven wapensystemen die zelfstandig taken kunnen uitvoeren. Denk aan drones die op eigen houtje een doelwit vinden en aanvallen, of raketafweersystemen die zonder tussenkomst van een mens raketaanvallen afslaan.
De technologie achter de systemen ontwikkelt zich razendsnel. Zo neemt de rekensnelheid van computers enorm toe, worden de data die worden gebruikt om AI te trainen steeds beter, en krijgen onderzoekers meer inzicht in hoe machines denken. Robots zijn daardoor steeds beter in staat complexe problemen op te lossen die nu nog door mensen worden opgelost. Daardoor zullen robots wellicht steeds meer taken over gaan nemen van soldaten.
Die ontwikkeling is onderwerp van discussie. Vertrouwen we die autonome systemen wel genoeg om ze zo veel verantwoordelijkheid te geven? Mogen robots wel beslissen over leven en dood? En hoe zorgen we ervoor dat mensen voldoende controle houden over die robots?
Wat willen jullie weten?
Om dit soort vragen te beantwoorden, richtte het ministerie van Defensie vorig jaar de ‘Robot en Autonome Systemen’-eenheid op, kortweg RAS. Die eenheid krijgt twee jaar de tijd om informatie te verzamelen over verschillende bestaande robot- en autonome systemen, om de vraag te beantwoorden wat het Nederlandse leger daar mee kan. De eenheid kijkt ook naar de ethische consequenties van de technologie.
Volgende week spreek ik de projectleider van de RAS. Ik heb zelf een paar vragen naar aanleiding van jullie bijdragen onder mijn eerdere stukken.
Begrijpen we de technologie achter de systemen wel goed genoeg? Waar komt de data vandaan waarmee AI wordt getraind? Hoe zorgen we ervoor dat mensen ‘betekenisvolle menselijke controle’ blijven voeren over robots, en is dit wel altijd wenselijk? Wat betekent het uitbesteden van geweld aan robots voor oorlogsvoering als je die persoonlijke band met het gebied zelf niet meer hebt? Hoe zorg je ervoor dat robots zich aan de wet houden? Hoe voorkom je dat de technologie in verkeerde handen valt?
Ik hoor graag wat jullie van de RAS willen weten.
Meer lezen:
Robots gaan de oorlogen van de toekomst voeren (maar niemand weet hoe) De technologie is bijna zover dat robots onze oorlogen kunnen uitvechten. Maar welke regels en grenzen daarbij moeten gelden, daarover is niemand het met elkaar eens. De wereld van autonome wapens in negen vragen. Op de grootste wapenbeurs ter wereld zag ik de oorlog van de toekomst De wapenhandel bloeit als nooit tevoren. Op de grootste wapenbeurs ter wereld zag ik hoe het slagveld steeds groter wordt – tot ver buiten de aarde.Dit verhaal heb je gratis gelezen, maar het maken van dit verhaal kost tijd en geld. Steun ons en maak meer verhalen mogelijk voorbij de waan van de dag.
Al vanaf het begin worden we gefinancierd door onze leden en zijn we volledig advertentievrij en onafhankelijk. We maken diepgravende, verbindende en optimistische verhalen die inzicht geven in hoe de wereld werkt. Zodat je niet alleen begrijpt wat er gebeurt, maar ook waarom het gebeurt.
Juist nu in tijden van toenemende onzekerheid en wantrouwen is er grote behoefte aan verhalen die voorbij de waan van de dag gaan. Verhalen die verdieping en verbinding brengen. Verhalen niet gericht op het sensationele, maar op het fundamentele. Dankzij onze leden kunnen wij verhalen blijven maken voor zoveel mogelijk mensen. Word ook lid!