Leger moet ‘killerrobots’ kunnen kopen

Ngo’s willen een moratorium op ‘killerrobots’. Een adviescommissie van het kabinet ziet er niets in: onwenselijk en onuitvoerbaar.

Het is een angstbeeld dat al in heel wat sciencefictionfilms is uitgewerkt. De wereld wordt gedomineerd door moordzuchtige machines die geheel autonoom op mensen jagen. Met de campagne Stop killer robots speelden ngo’s als Human Rights Watch en PAX de voorbije jaren in op deze angst. Militaire grootmachten als China en de VS zouden al een heel eind op weg zijn met het ontwikkelen van wapens die zonder menselijke tussenkomst hun doelen selecteren.

En inderdaad, de Amerikaanse X-47B, een ‘vliegende vleugel’, moet in 2020 zijn eerste gevechtsmissies uitvoeren. Dat betekent: zelf opstijgen en landen en zelf vijandelijke doelen opsporen én vernietigen. Langs de grens met Noord-Korea waken al honderden versies van de Zuid-Koreaanse SGR-A1, een machinegeweer dat indringers volautomatisch kan neerschieten zonder dat er een mens aan te pas komt.

De ngo’s verenigd in Stop killer robots en VN-rapporteur Christof Heyns riepen op tot een moratorium op het ontwikkelen van dit soort wapens. Ze vinden dat alleen mensen en niet machines mogen beslissen over leven en dood. Op verzoek van het kabinet onderzochten de Adviesraad Internationale Vraagstukken en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken of een moratorium wenselijk en haalbaar is.

‘Nee’ luidt de conclusie. „Deze wapens passen in de ontwikkeling van stenen gooien in de oertijd tot de intercontinentale raketten van nu”, zegt Marcel Urlings, oud-bevelhebber der landstrijdkrachten en voorzitter van de adviescommissie. De Nederlandse krijgsmacht moet dit soort wapens dan ook gewoon kunnen aanschaffen, vindt de commissie. Wat het kabinet met dit advies doet, moet binnen drie maanden blijken. Als het kabinet het opvolgt, zou Nederland zich volgende maand bij een VN-overleg in Genève ook niet hard hoeven maken voor een moratorium.

Is het niet gek dat een oud-militair het kabinet moet adviseren over een moratorium op wapens?

„Dit is niet aanmatigend bedoeld, maar het is wel handig als de voorzitter van deze commissie iets weet van wapensystemen. De andere commissieleden zijn wetenschappers uit een reeks van vakgebieden, dus er was voldoende kritisch vermogen aanwezig.”

Wat zijn autonome wapens precies?

„Er is nog geen internationaal geaccepteerde definitie. Soms worden wapens tot de autonome wapens gerekend als ze zelfstandig doelen aanvallen die eerst door mensen zijn geselecteerd. Dat geldt bijvoorbeeld voor kruisraketten als de Tomahawk die al decennialang worden gebruikt. De commissie noemt dit semiautonome wapens.

De volgende categorie zijn wapens die zelf hun doelen selecteren, zoals Patriotraketten, die vliegtuigen of andere raketten kunnen neerhalen. De commissie noemt deze raketten, waarover ook Nederland beschikt, autonome wapens onder menselijk toezicht, omdat mensen nog kunnen ingrijpen als ze dat willen.

De derde categorie zijn wapens waarbij de mens geen invloed meer kan uitoefenen als ze eenmaal zijn geactiveerd. Ze selecteren zelf hun doelen in een vooraf gekozen gebied, en een aanval kan niet worden gestopt. Het is namelijk lang niet altijd mogelijk om nog contact met deze wapens te leggen. Volgens de commissie zijn alleen dat autonome wapens. Er zijn er nog maar enkele van. Een voorbeeld is de Harpy, een onbemand Israëlisch toestel dat zelfstandig over een terrein vliegt en geprogrammeerd is om vijandelijke radarinstallaties aan te vallen. Let wel, de mens zit dus wel aan de knoppen, maar in een eerder stadium. Hij programmeert vooraf precies welke soorten doelen mogen worden aangevallen.”

Wat zijn de zorgen bij dit soort wapens?

„De ultieme vrees is natuurlijk dat mensen er geen controle meer over hebben. Maar dat risico zien wij de komende decennia niet ontstaan. Daarvoor zou de kunstmatige intelligentie van systemen de intelligentie van mensen moeten gaan evenaren en naar verwachting gaat dat niet snel gebeuren. Nu zijn computers alleen op deelterreinen erg geavanceerd, waardoor ze bijvoorbeeld van mensen kunnen winnen bij het schaken. Dat is nog heel wat anders dan machines met een eigen bewustzijn die geheel op eigen initiatief doelen selecteren en aanvallen.”

PAX noemt ook de minder geavanceerde autonome wapens een recept voor ellende. Kunnen ze wel goed burgers van militairen onderscheiden? En hoe ziet een apparaat dat iemand zich over wil geven? Als je een autonoom wapen zo programmeert dat ‘handen omhoog’ betekent dat je niet mag schieten, kan de vijand er zo op aflopen met zijn handen in de lucht.

„De vereisten van het humanitair oorlogsrecht om dit soort wapens in te zetten zijn niet anders dan bij de huidige wapens. Of ze kunnen worden ingezet is afhankelijk van de context. In dichtbevolkte gebieden is het meestal niet verantwoord. Volgens het humanitair oorlogsrecht moet worden beoordeeld wat verantwoord is. Bij autonome wapens ligt dit beoordelingsmoment alleen eerder in het besluitvormingsproces, want als ze eenmaal zijn geactiveerd dan heeft de mens er minder of geen controle meer over.

De commandant die over de inzet beslist moet daarom veel kennis hebben over de risico’s. Deze wapens en hun grotere precisie kunnen er ook voor zorgen dat er juist minder slachtoffers vallen dan nu. Onder de eigen militairen, maar ook onder de burgerbevolking. Human Rights Watch heeft al eens gesuggereerd dat het niet gebruiken van slimme munitie in bewoonde gebieden een oorlogsmisdaad zou kunnen zijn.”

Toch sluit u niet uit dat we in de verdere toekomst soms de controle over dit soort wapens verliezen. Dan lijkt een moratorium geen slecht idee, maar volgens de commissie is dat „niet wenselijk en niet haalbaar”. Is een moratorium inderdaad onwenselijk, of toch vooral onhaalbaar?

„Je kunt niets uitsluiten, maar militairen hebben er geen enkel belang bij om wapens te ontwikkelen waar ze geen controle over hebben. Zeker de komende tien jaar zullen autonome wapens waarschijnlijk niet per definitie tot de categorie verboden wapens gaan behoren. Of een autonoom wapen een verboden wapen is, moet van geval tot geval worden beoordeeld. Zolang er sprake is van betekenisvolle menselijke controle is een moratorium, of zelfs een verbod, niet nodig. Als bij de inzet ervan het humanitair oorlogsrecht wordt geschonden kan degene die daartoe heeft besloten ook altijd aansprakelijk worden gesteld.

Daarnaast zou een moratorium ook moeilijk uitvoerbaar zijn, omdat veel van de benodigde software toch wel wordt ontwikkeld in de civiele sector, voor zelfrijdende auto’s bijvoorbeeld. Het bezit is dan ook moeilijk vast te stellen, waardoor landen er niet op kunnen vertrouwen dat andere landen zich aan een moratorium zullen houden.”

Of we nu willen of niet, die killer robots komen er toch wel?

„Er zijn terechte zorgen, maar zover is het echt nog niet. Er is nog geen enkel systeem dat het label ‘killer robot’ verdient en dat zal de komende decennia waarschijnlijk zo blijven. Omdat de ontwikkelingen op het gebied van kunstmatige intelligentie snel gaan, adviseren wij de regering wel om ons advies over vijf jaar nog eens tegen het licht te houden.”

Urlings staat op en pakt een vel papier uit de kast dat de vrees voor de ‘killer robots’ moet wegnemen. Hij overhandigt een citaat uit het artikel ‘Darwin among the Machines’ uit 1863 van de Engelse schrijver Samuel Butler.

„Dat het moment zal komen waarop de machine de ware suprematie over de wereld en zijn inwoners zal bezitten, is wat geen enkel persoon met een ware filosofische geest ook maar een moment kan betwijfelen”, schreef Butler destijds. Hij riep daarbij op om elke machine ter wereld te vernietigen. Of het citaat erg geruststelt, is maar de vraag. Ruim 150 jaar later is het gevreesde moment nog steeds niet gekomen, wil Urlings maar zeggen. „Of je dat nu prettig vindt of niet, de technologie schrijdt voort. Het komt erop aan dat je op een verantwoorde manier met nieuwe technologie omgaat.”