/dc-useruploads-images/d0d9932eb65745da8aa90c2bac6def9f.png)
Beste,
‘Wie AI beheerst, zal de heerser van de wereld zijn’, voorspelde de Russische president Poetin in september 2017.
En dat trekt ook de aandacht van legers. Kunstmatige intelligentie (AI) en machine learning kunnen helpen hun steeds groter wordende hoeveelheid informatie door te spitten, zoals beelden van satellieten en drones. Of kunnen helpen tanks en drones zelfstandig taken te laten uitvoeren, cyberaanvallen af te wenden en nepnieuws te onderscheiden. Een Israëlische start-up werkt zelfs aan een project waarbij AI helpt een militaire strategie op te stellen.
Maar is AI wel echt zo slim?
Niet als je het deze vier studenten van MIT vraagt. Zij hielden een door Google ontwikkeld beeldclassificatiesysteem voor de gek door het AI-algoritme te laten geloven dat een 3D-geprinte schildpad een geweer was. En wat ze eigenlijk maar wilden dat het systeem zag.
Dat lukte omdat het systeem niet ziet wat mensen zien, maar patronen herkent die het zichzelf aanleerde uit enorme hoeveelheden data. In de loop der tijd herkent het systeem een patroon in de opbouw van pixels die samen een beeld vormen, dat met allerlei wiskundige technieken steeds opnieuw wordt aangescherpt zodat de uitkomst dichter bij de werkelijkheid ligt.
Wat heb je aan een robottank die het verschil niet ziet tussen een kanon en een komkommer?
Maar in die kracht schuilt ook haar zwakte. Want net zoals het mogelijk is om te berekenen hoe een AI-algoritme een object juist classificeert, is het ook mogelijk om te berekenen hoe het iets verkeerd inschat. In dit soort ‘adversarial examples’ hoef je soms maar een paar pixels van een beeld aan te passen, waarna het algoritme het patroon van een geweer herkent terwijl een mens nog steeds een doodnormale schildpad ziet.
En dat heeft mogelijk grote gevolgen voor militaire situaties. Want stel dat dezelfde techniek wordt gebruikt om een algoritme voor het analyseren van satellietfoto’s te misleiden door het dingen te laten zien die er niet zijn, of juist dingen niet te laten zien die er wel zijn? Wat heb je aan een robottank die het verschil niet ziet tussen een kanon en een komkommer?
De komende tijd onderzoek ik of AI voor militaire doeleinden wel echt zo bruikbaar is als vaak wordt gezegd. Als je me daarbij kunt helpen of als je me in contact kunt brengen met iemand die meer begrijpt van de technologie achter dit soort wapensystemen (en niet op vakantie is), dan hoor ik dat graag!
Ruimteoorlog
Of ‘killerrobots’ er echt komen valt dus nog maar te bezien. Maar sciencefictionliefhebbers hoeven niet te somberen. Want op 15 juli werd vermoedelijk de eerste test met een anti-satellietwapen gedaan in de ruimte.
Verschillende landen hebben de afgelopen jaren raketten getest die vanaf de aarde satellieten in de ruimte kunnen neerhalen, maar een satelliet beschieten vanuit de ruimte is nieuw. En dat is wat de Russische satelliet Cosmos 2543 vermoedelijk deed toen halverwege vorige maand ‘Object 45915’ werd gelanceerd.
Want die ging met 700 kilometer per uur eigenlijk te snel voor een satelliet, berekende Jonathan McDowell, een astrofysicus aan Harvard. Brian Weeden, medewerker van de denktank Secure World Foundation, tweette: ‘Dat is een projectiel dat wordt afgevuurd, geen satellietlancering.’
Een week later stelden de VS dat de mysterieuze lancering een test was van een Russisch anti-satellietwapen. De Russen ontkennen dat. Volgens hen ging het om een klein ruimtevaartuig dat een satelliet inspecteerde. Maar de onrust was genoeg reden voor beide grootmachten om eind juli bijeen te komen en voor het eerst in zeven jaar te praten over normen in de ruimte.
Maar waarom?
De onrust is een direct gevolg van veranderingen op aarde, vertelde Patrick Bolder me begin deze week. Bolder is onderzoeker aan het The Hague Center for Strategic Studies.
Nu steeds meer verdragen voor ongewapende luchtverkenning verdwijnen of dreigen te verdwijnen (zoals Open Skies), zijn landen steeds meer afhankelijk van hun satellieten om te zien waar de ander mee bezig is. Maar dat betekent ook dat die satellieten nu zelf een doelwit worden. De Russen hebben met de ‘test’ laten zien dat ze dit kunnen.
Want uiteindelijk draait oorlog in de ruimte vooral om informatie, zegt Bolder. Simpel gezegd laat je met een anti-satellietwapen zien: ‘Ik maak jou blind en doof, zodat jij geen informatie hebt over wat ik aan het doen ben. En daarom heb ik een voordeel.’
Het belang van informatie geldt ook voor de militaire bruikbaarheid van AI, zegt hij: ‘Als ik meer informatie heb dan jij, of ik kan jouw informatie manipuleren, dan heb ik al gewonnen. Want als ik mijn besluitvorming beter en sneller kan doen, dan ben je nergens.’
De oorlogen van de toekomst draaien dan ook misschien niet zozeer om wie de sterkste en machtigste wapens heeft, maar om het verkrijgen van de juiste informatie, en de manier waarop je die vervolgens gebruikt. Binnenkort meer!
Groet,
Lennart
PS. In het tijdschrift Time verscheen deze reportage over het eerste Amerikaanse commandocentrum voor de ruimte: US SPACECOM. Hilarisch en zorgelijk tegelijk!
Dit verhaal heb je gratis gelezen, maar het maken van dit verhaal kost tijd en geld. Steun ons en maak meer verhalen mogelijk voorbij de waan van de dag.
Al vanaf het begin worden we gefinancierd door onze leden en zijn we volledig advertentievrij en onafhankelijk. We maken diepgravende, verbindende en optimistische verhalen die inzicht geven in hoe de wereld werkt. Zodat je niet alleen begrijpt wat er gebeurt, maar ook waarom het gebeurt.
Juist nu in tijden van toenemende onzekerheid en wantrouwen is er grote behoefte aan verhalen die voorbij de waan van de dag gaan. Verhalen die verdieping en verbinding brengen. Verhalen niet gericht op het sensationele, maar op het fundamentele. Dankzij onze leden kunnen wij verhalen blijven maken voor zoveel mogelijk mensen. Word ook lid!
