De oorlog in Oekraïne heeft de wereldwijde defensie-industrie wakker geschud. Eén klein en spotgoedkoop wapen dat overal verkrijgbaar is, heeft de oorlogsvoering dodelijker dan ooit gemaakt: de drone, die bovendien steeds vaker wordt aangestuurd door AI.

In Oekraïne zijn drones niet alleen verkenners in de lucht, maar ook geavanceerde wapens die tanks uitschakelen en soldaten opjagen. Zelfs drone-op-drone-gevechten zijn geen toekomstbeeld meer, maar realiteit.

Ze zijn onmisbaar geworden aan het front: de FPV-gevechtsdrones, ofwel: first-person view drones. Een klein vliegtuigje dat is uitgerust met een camera die live videobeelden uitzendt naar een monitor of bril gedragen door de dronepiloot. Deze drones worden gebouwd in schuurtjes, kelders en huiskamers in heel Oekraïne, maar ook in Nederland. De piloot van de FPV-gevechtsdrone kijkt via zijn videobril door de camera van zijn drone. Op het slagveld werkt hij vaak samen met een tweede piloot, die met een observatiedrone naar doelwitten zoekt.

Met de komst van drones op het slagveld, kwamen ook de ‘jammers’. Ofwel de stoorzenders. En als reactie op de stoorzenders kwam de autonomie, in de vorm van allerlei AI-programma’s waarmee de gevechtsdrone het laatste deel van zijn aanval zelfstandig uitvoert, ongehinderd door stoorzenders. Hoe autonomer, hoe effectiever.

‘Het zijn de onderliggende dingen die je niet ziet, die doodeng zijn. Zoals de zogenaamde AI-beslissingshulpsystemen,’ vertelt Elke Schwarz in de Tegenlicht-aflevering Game of drones. Schwarz is onderzoeker en als wetenschapper betrokken bij denktanks op het gebied van beheersing van militaire drones en AI die voor oorlogsvoering wordt ingezet. We volgen haar tijdens haar bezoek aan Xponential Europe, dé beurs voor ‘autonome systemen’ in Dusseldorf.

‘Beslissingshulpsystemen kunnen AI-algoritmes zijn die parameters gebruiken van allerlei databronnen. Op basis van die parameters wordt bepaald of iets een legitiem doelwit is. Dat wordt voorgelegd aan een groepje menselijke operators, die dat doelwit goedkeuren of niet. En daarop wordt dan actie ondernomen.’

De killchain - zo wordt de militaire beslissingsketen genoemd - telt verschillende stappen: het vinden, vaststellen, volgen, aanvallen en evalueren van een doelwit. Een doelwit vinden, draait om beoordelen wat wel of niet een goed doelwit is. Een doelwit vaststellen houdt in dat je je erop focust. Volgen betekent dat je het doelwit kunt volgen. Aanvallen betekent dat je het afmaakt, en evalueren houdt in dat je het resultaat beoordeelt.

In hoeverre zijn de stappen in de killchain al geautomatiseerd? Schwarz: ‘Technisch gesproken kan het allemaal middels algoritmische systemen. Het verloop wordt soms onderbroken door menselijke besluitvorming, maar dat zou je ook steeds verder kunnen automatiseren. En dan kom je natuurlijk uit bij een autonoom wapensysteem.’ 

Overal ter wereld zijn defensiebedrijven er nu mee bezig: het automatiseren van de killchain. Van grote Amerikaanse defensiereuzen tot kleine Nederlandse start-ups. De absurde werkelijkheid is dat een van de grootste kansen voor veel drone-startups de oorlog in Oekraïne is. Die biedt kans om systemen op het slagveld te testen en dat verhoogt hun waarde. En: testen, falen, testen, falen, is precies de aanpak van Silicon Valley. Daar zijn dit soort conflicten tragisch genoeg ideaal voor.

Zo werkt het op de internationale hightech wapenmarkt. Hoe meer ‘battle-tested combat hours’ hoe beter. Onder het motto: ‘Move fast and break things’.

Schwarz: ‘De militaire markt is een heel sterke markt. Er gaat drieduizend miljard dollar in om wereldwijd. De sector is opgeschud op een Silicon Valley-achtige manier. Vooral zeer prominente durfkapitaalbedrijven richten hun blik nu erop. Dat gaat gepaard met andersoortige financiële belangen.’

In Oekraïne werden veel drones gestoord door ‘jammers’, wat zorgde voor het verlangen dat de drone op eigen houtje z’n koers moet kunnen bepalen. De techniek ontstond dus uit noodzaak, maar er kleeft een grote toekomstgerichte vraag aan: wíllen we zulke systemen? 

En met zoveel aandacht voor militarisering, vergeten we wellicht dat oorlog een sociaal en politiek probleem is. Geen technologisch probleem. Schwarz benadrukt: ‘Met elkaar leren samenwerken, communiceren, vertrouwen opbouwen en bondgenootschappen sluiten, is in deze tijd echt essentieel.’