Bedrijven in open brief: stop ontwikkeling ‘killer robots’

De ontwikkeling van volautomatische wapens is gevaarlijk, waarschuwen tech-experts onder wie Elon Musk in een open brief.

Foto Rex Features

De ontwikkeling van ‘killer robots’ opent een doos van Pandora en moet direct worden gestopt. Een open brief met die boodschap is zondagmiddag verspreid door de oprichters van ruim honderd bedrijven wereldwijd op het terrein van robotica en kunstmatige intelligentie.

Onder hen is ook Elon Musk, oprichter van autoproducent Tesla. China en de VS zouden al een heel eind op weg zijn met het ontwikkelen van wapens die zonder menselijke tussenkomst hun doelen selecteren. De Amerikaanse X-47B, een ‘vliegende vleugel’, moet in 2020 de eerste gevechtsmissies uitvoeren.

Dat betekent: zelf opstijgen en landen, zelf vijandelijke doelen opsporen én vernietigen. Langs de grens met Noord-Korea waken al honderden versies van de Zuid-Koreaanse SGR-A1, een volautomatisch machinegeweer dat indringers kan neerschieten.

Gevaarlijke ontwikkeling

De ondertekenaars van de open brief vinden dit een gevaarlijke ontwikkeling. Dodelijke autonome wapens dreigen een derde revolutie in de oorlogsvoering te worden”, aldus de brief.

„Dit kunnen terreurwapens zijn, wapens die despoten en terroristen gebruiken tegen onschuldige bevolkingen. De wapens kunnen gehackt worden waarna ze zich onvoorspelbaar kunnen gedragen.”

Ze roepen de Verenigde Naties op actie te ondernemen.

Autonome wapens

De brief wordt verspreid naar aanleiding van het begin van een grote internationale conferentie over kunstmatige intelligentie in Melbourne. Op verzoek van het kabinet onderzochten de Adviesraad Internationale Vraagstukken en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken in 2015 of een moratorium op de ontwikkeling van autonome wapens wenselijk en haalbaar is. ‘Nee’ luidde de conclusie toen. Militairen zouden er geen belang bij hebben wapens te ontwikkelen waarover ze de controle kunnen verliezen.

Marcel Urlings, voorzitter adviescommissie autonome wapens, zei destijds:

„Een moratorium zou ook moeilijk uitvoerbaar zijn, omdat veel van de benodigde software toch wel wordt ontwikkeld in de civiele sector, voor zelfrijdende auto’s bijvoorbeeld. Het bezit is dan ook moeilijk vast te stellen, waardoor landen er niet op kunnen vertrouwen dat andere landen zich aan een moratorium zullen houden.”