Killer robots kunnen maar beter sciencefiction blijven

Clusterbom, kernraket. Laten we machines die autonoom op mensen jagen eens op tijd verbieden, betogen Jan Gruiters en Miriam Struyk.

Voor een organisatie die campagne voert voor een verbod op ‘killer robots’ was het even schrikken om in de NRC van vrijdag te lezen dat het Nederlandse leger killer robots moet kunnen kopen. Het lezen van het interview met oud-bevelhebber der landstrijdkrachten Marcel Urlings en het bestuderen van zijn advies aan het kabinet dat aanleiding was voor dit interview, leert gelukkig dat de soep niet zo heet wordt gegeten als deze wordt opgediend.

Zowel de commissies die het adviesrapport schreven als hun voorzitter Urlings blijken het in essentie met ons eens te zijn: killer robots – volledig autonome wapens die zonder betekenisvolle menselijke controle hun doelwit selecteren en aanvallen – moeten we niet willen.

Het grote verschil tussen PAX, Human Rights Watch en andere organisaties verenigd in de internationale campagne Stop Killer Robots enerzijds, en de commissies anderzijds is de opvatting over de juiste weg hier naar toe.

PAX vindt een internationaal verbod op de ontwikkeling van killer robots urgent, noodzakelijk en de meest realistische manier om het gebruik ervan te voorkomen. Het adviesrapport stelt echter dat een verbod vooralsnog onwenselijk en sowieso onuitvoerbaar is. Het oorlogsrecht zou voldoende handvaten bieden om mensen tegen uitwassen van autonome wapens te beschermen

Het rapport pleit voor een „verantwoorde” omgang met nieuwe technologie en het „nauwgezet volgen van ontwikkelingen rondom kunstmatige intelligentie”. Urlings stelt dat killer robots – en daarmee de zorgen van organisaties als PAX – nog niet aan de orde zijn. Volgens het rapport zijn we nog decennia verwijderd van dergelijke wapens.

Deze afwachtende houding bevreemdt: afgelopen zomer riepen 3.000 onderzoekers op het gebied van kunstmatige intelligentie en robotica, samen met ruim 17.000 andere wetenschappers, juist op tot een verbod. Volgens de ondertekenaars „heeft de technologie van kunstmatige intelligentie een punt bereikt waar de inzet van zulke systemen […] binnen een aantal jaren, niet decennia, mogelijk is.” Als zoveel experts bezorgd zijn en pleiten voor limitering van hun eigen werkterrein, moet er wel wat aan de hand zijn. Dat is er ook: landen als de Verenigde Staten, Verenigd Koninkrijk, Israël, China en Rusland hebben er grote belangstelling voor en experimenteren volop met (semi-)autonome technologie.

De terughoudendheid in het rapport om beslissende stappen te zetten is ook opmerkelijk omdat mensen over het algemeen niet uitblinken in het op waarde schatten van gevaarlijke ontwikkelingen. Van kernwapens tot klimaatverandering: de communis opinio was dat het zo’n vaart niet zou lopen of beheersbaar zou blijven. Inmiddels weten we helaas beter.

Ook het argument dat een verbod moeilijk uitvoerbaar is omdat de technologie ook civiele doeleinden kent, valt op. Immers, de technologie die het mogelijk maakt chemische wapens te produceren, kent eveneens civiele doeleinden. Toch zijn deze wapens wereldwijd verboden.

De realiteit leert dat het oorlogsrecht soms niet afdoende bescherming biedt en dat aanscherping nodig is. Zie bijvoorbeeld het verbod op clustermunitie dat pas na decennia van gebruik tot stand kwam. Vertrouwen dat alle staten wapens vooraf op reële wijze toetsen aan oorlogsrecht is ronduit naïef. Staten interpreteren het recht vaak zoals het hun het beste uitkomt. Bovendien is proliferatie van killer robots een serieus gevaar. Regulering achteraf is niet afdoende, voorkomen is noodzakelijk.

Het gebruik van bewapende drones laat zien dat nieuwe technologie ook nieuwe mogelijkheden voor de inzet van geweld creëert en de drempel voor gebruik van geweld kan verlagen. De vraag moet dus niet alleen zijn waar technologie toe in staat is, maar ook wat we willen dat technologie voor ons doet. De groeiende tendens naar meer autonomie van, en de afnemende menselijke controle over wapensystemen, heeft gevolgen die wij nu niet kunnen overzien. Laten we dus geen feiten creëren die later niet meer terug te draaien zijn. Gelukkig biedt het adviesrapport een goede start voor deze discussie en doet het bovendien enkele goede aanbevelingen, bijvoorbeeld om in VN-verband de discussie over betekenisvolle menselijke controle aan te jagen.

Toenmalig minister van Buitenlandse Zaken Timmermans zei in 2012 in deze krant: „Het is altijd zo, in de hele militaire geschiedenis, dat de regelgeving achter de feiten aanloopt. Eerst komen er nieuwe wapensystemen, en die worden dan ingezet, en vervolgens gaat men dan denken: binnen welke regelgeving vindt die inzet plaats en klopt dat wel?”

Hopelijk gaat de Nederlandse regering pleiten voor internationale onderhandelingen over een preventief verbod, zodat de ‘moordzuchtige machines die geheel autonoom op mensen jagen’, zoals NRC het formuleert, sciencefiction blijven.