Autonome wapens: de discussie in Genève loopt achter op de realiteit

In Genève zit de VN al jaren rond de tafel over wapens die zelfstandig kunnen schieten. Terwijl daar over definities wordt onderhandeld, vliegen zulke systemen allang boven Oekraine, Gaza en Iran. De kloof tussen wat in de vergaderzaal nog "toekomstmuziek" heet en wat op het slagveld dagelijks gebeurt, beslaat inmiddels meerdere oorlogen.

Wat er in Genève wordt besproken

Het forum heet GGE on LAWS, voluit Group of Governmental Experts on Lethal Autonomous Weapons Systems. Het valt onder de Convention on Certain Conventional Weapons, een VN-verdrag uit 1980 dat onder andere landmijnen en blind makende lasers reguleert. In maart 2026 hield de groep zijn voorlaatste sessie onder een driejarig mandaat. De volgende sessies staan gepland voor augustus en september. In november moet er een eindrapport liggen voor de zevende Review Conference van het verdrag.

Op 5 maart 2026 circuleerde de voorzitter een werkdefinitie: een dodelijk autonoom wapensysteem is een functioneel geintegreerde combinatie van wapens en technologische componenten die een doel kan identificeren, selecteren en aanvallen, zonder tussenkomst van een menselijke operator bij de uitvoering van die taken. Brazilie sprak namens 42 landen en verklaarde klaar te zijn om te onderhandelen over een verdrag op basis van die tekst. Vorig najaar steunden 156 landen al een resolutie van de Algemene Vergadering van de VN over het onderwerp.

Er beweegt dus iets. Maar het gaat over papier, niet over wapens die nu in gebruik zijn.

Wat er ondertussen op het slagveld gebeurt

Oekraine, Gaza, Iran, Venezuela. Op die plekken is AI-gestuurde oorlogsvoering al de norm.

In Oekraine levert het Amerikaanse bedrijf Auterion zogeheten Skynode AI strike kits aan Oekraiense drones. Een Skynode is een klein computertje dat aan een drone wordt geplakt. Het helpt die drone om zelfstandig een doel te volgen, ook als de communicatie met de operator wegvalt door bijvoorbeeld jamming, het verstoren van het radiosignaal. Volgens openbare cijfers zijn er al 33.000 stuks verscheept onder een Pentagon-contract. Auterion zegt binnen een half jaar nog eens 50.000 stuks te leveren.

Aan dezelfde kant van het front draait sinds 2022 het Amerikaanse Project Maven mee. Maven gebruikt machine learning om enorme hoeveelheden satelliet- en dronebeelden door te kammen en targets te markeren. Wat een analist vroeger weken kostte, doet de software in minuten.

In Gaza draait het Israelische Lavender-systeem. Lavender genereerde in de eerste weken van het Gaza-offensief in 2023 een lijst van naar verluidt 37.000 tot 40.000 vermeende Hamas-leden als potentiele doelen. Het systeem had volgens interne berichten een foutpercentage van rond de tien procent. In de praktijk vielen er onder die beslissingen veel burgerslachtoffers, en bleek de menselijke check vaak een formaliteit van enkele seconden per doel.

Bij de Amerikaanse aanval op Iran begin dit jaar werd hetzelfde Maven-systeem ingezet. Volgens The Verge sloeg de VS meer dan 13.000 doelwitten aan in die operatie. AI hielp bij het samenvoegen van inlichtingen, het prioriteren van doelen en het samenstellen van zogeheten strike packages, oftewel een pakket aan wapens, routes en timing dat bij een doel hoort.

Wereldwijd ging er vorig jaar naar schatting zo'n 18 miljard dollar om in autonome wapensystemen.

Big Tech zit middenin

Het Pentagon, sinds vorig jaar door de Trump-regering hernoemd tot Department of War, heeft contracten met OpenAI, Google, Microsoft, Amazon en SpaceX. Eind februari 2026 werd publiek hoe gespannen die deals onder de motorkap zijn.

Anthropic, het bedrijf achter Claude, had een militair contract ter waarde van maximaal 200 miljoen dollar. Volgens berichtgeving van NPR en MIT Technology Review kreeg Anthropic een ultimatum om voor 17.01 uur op een vrijdag de gebruiksvoorwaarden van Claude te versoepelen. Het ging om twee specifieke uitsluitingen: gebruik van het model voor massasurveillance van Amerikanen, en voor volledig autonome wapensystemen. Anthropic weigerde. In een verklaring noemde het bedrijf twee redenen. Een: de huidige frontier-modellen, oftewel de meest geavanceerde AI-systemen, zijn niet betrouwbaar genoeg om te worden ingezet in volledig autonome wapens. Twee: massa-surveillance van burgers raakt aan een grondrecht.

Kort daarna stopte de Amerikaanse overheid het gebruik van Anthropic-producten en werd het bedrijf intern aangemerkt als nationaal veiligheidsrisico.

Uren na het ultimatum kondigde OpenAI zijn eigen deal aan. Het bedrijf hanteert drie zelfopgelegde rode lijnen: geen massasurveillance van Amerikanen, geen sturing van autonome wapensystemen, geen high-stakes automated decisions, dus geen automatische beslissingen waar veel van afhangt. Het verschil met Anthropic zit in de juridische verankering. OpenAI verwijst naar bestaande Amerikaanse wetgeving als waarborg, niet naar specifieke verbodsbepalingen in het contract. Volgens berichtgeving in The Intercept zeggen critici, inclusief oud-medewerkers, dat zo'n constructie alleen werkt als de overheid zich aan de wet houdt. De surveillanceprogramma's die Edward Snowden in 2013 onthulde waren volgens interne juridische adviseurs ook "legaal", totdat rechters daar later anders over oordeelden.

Het ontbrekende begrip: meaningful human control

De term die in Genève centraal staat is meaningful human control, oftewel betekenisvolle menselijke controle. Wat dat precies inhoudt is niet vastgelegd. Een operator die op een knopje drukt nadat een algoritme een lijst van tienduizenden doelen heeft gegenereerd: telt dat als controle? Een militair die een drone-aanval theoretisch kan afbreken, maar in de praktijk vijf seconden heeft om te beslissen?

De industrie schuift ondertussen op richting wat agentic warfare wordt genoemd. Daarbij voert AI niet alleen een doelherkenning uit, maar neemt het systeem zelf een reeks van vervolgstappen, van logistieke planning tot offensieve cyberoperaties. Hoe meer stappen aaneen worden geketend, hoe minder momenten er overblijven waarop een mens nog kan ingrijpen.

Hetzelfde patroon als bij eerdere wapens

Het beeld is niet nieuw. Bij landmijnen duurde het tot 1997 voor het Ottawa-verdrag er kwam, terwijl er toen al miljoenen mijnen in de grond lagen. Bij clustermunitie duurde dat tot 2008. Beide verdragen worden tot vandaag niet ondertekend door grote militaire mogendheden, waaronder de VS, Rusland en China.

Tijdens dezelfde maart-sessie in Genève presenteerde onderzoeksinstituut SIPRI samen met het Canadese ministerie van Defensie een rapport getiteld Responsible Procurement of Military Artificial Intelligence. Het richt zich niet op een verbod, maar op richtlijnen voor de inkoop van militaire AI: welke vragen moet een ministerie stellen voor het tekent? Het is een poging om beleid niet via een verdrag, maar via de inkoopketen invloed te laten houden.

De vraag die in Genève steeds explicieter wordt gesteld is daarmee niet langer of er een verdrag komt, maar of een verdrag er nog op tijd komt om iets in te kaderen wat nog niet is uitgerold.