Aanvalsdrones zoeken zelf het slachtoffer uit

Het leger van Turkije opereert al met pantservoertuigen, helikopters en tanks in Syrië, maar de kans is groot dat daar volgend jaar een nieuw wapen bijkomt: de Kargu. Afgeleid uit het Turks betekent het zoveel als uitkijkpost of havik. Deze ‘kamikazedrone’ kan zelfstandig navigeren, doelen selecteren en vliegvelden, tanks en schepen vernietigen – door zich met zijn explosieve kop en in een zwerm van twintig tot dertig exemplaren op zijn doel te storten.

„We bezitten een groot militair voordeel door onze drones”, zei de bestuursvoorzitter van de fabrikant, het Turkse STM, in september trots in de krant Hürriyet. Niet lang erna begon Turkije met zijn militaire operatie in Syrië. Een van de doelen daarvan is volgens de Turkse president Recep Tayyip Erdogan het doden van de leider van de Syrische Koerden en hij suggereerde dat de Turken daarbij mogelijk een drone zullen gebruiken.

De Kargu, een toestel met vier rotoren, een gewicht van zeven kilo en bereik van vijftien kilometer, symboliseert de snelle verspreiding van de militaire drone. De Verenigde Staten en Israël vormen nog altijd de voorhoede, maar inmiddels zijn ook China, Rusland, Turkije en zelfs Estland belangrijke spelers. Waar de Israëlische Harpy, misschien wel de bekendste oorlogsdrone, radarsignalen van bijvoorbeeld luchtafweer traceert, kan de Kargu doelen vinden doordat hij automatisch menselijke gezichten herkent. Bovenal wordt Turkije met het inzetten van de Kargu „de eerste natie die gebruikmaakt van drones die mensen kunnen vinden, opsporen en doden zonder menselijk ingrijpen”, concludeert het Britse wetenschapsblad New Scientist.

Dat is inderdaad een waterscheiding, zegt onderzoeker Frank Slijper van vredesorganisatie PAX: „Aangenomen dat de Turkse claims over de Kargu kloppen.” En het is precies wat PAX niet wil: de ngo voert al jaren campagne voor een internationaal verbod op killer robots, zoals dat inmiddels bestaat voor clusterbommen en chemische en biologische wapens.

Vooralsnog komen de zogeheten ‘dodelijke autonome wapensystemen’ alleen maar dichterbij, leert het maandag verschenen rapport Slippery Slope. Daarin analyseert PAX een mandje van vijftig bedrijven, dat door omvang, geografische spreiding en technologische innovatie een representatief beeld moet geven van de omgang van de wapenindustrie met dit soort wapensystemen. PAX bestudeerde openbare bronnen zoals jaarverslagen, bedrijfswebsites, sectoranalyses en perspublicaties en stuurde de bedrijven een vragenlijst.

Zeer zorgelijk

Van de vijftig bedrijven doen er vier het volgens PAX goed, zoals de Franse Volvo-dochter Arquus dat zelfrijdende voertuigen bouwt. Deze best practice-bedrijven hebben duidelijk gemaakt dat, en hoe de mens in hun technologische product de controle houdt. Dertig bedrijven, waaronder het Turkse STM en de Amerikaanse giganten Boeing en Lockheed Martin, gelden als high concern, zeer zorgelijk. Ze werken aan autonome wapensystemen zonder een duidelijke garantie voor menselijke controle. Zestien bedrijven ten slotte, waaronder het Britse BAE Systems, hebben een middenpositie (medium concern): het is onduidelijk in hoeverre ze werken aan autonome wapens of in hoeverre ze de menselijke controle hebben geregeld.

„Het lijkt misschien een magere score”, zegt PAX-onderzoeker Slijper. „Aan de andere kant: in vergelijking met een paar jaar terug zie ik wel een verandering in het taalgebruik van bedrijven over hun systemen. Ik lees vaker een bijzinnetje dat in het beslissingsproces altijd een mens betrokken zal blijven. Er is blijkbaar een groter bewustzijn van het debat over dit soort wapensystemen.” Dat debat wordt deze week bijvoorbeeld gevoerd bij de vergadering van de Verenigde Naties in Genève.

Lees hoe tech-bedrijven helpen bij ontwikkeling ‘ killer robots’

In het lopende debat neemt Nederland een afwachtende positie in. Het behoort niet tot de ongeveer dertig landen die nu al een verbod willen op autonome wapens. Op dit moment bezitten 24 landen militaire drones, die inmiddels in 13 landen zijn ingezet. Nederland heeft dit soort drones formeel niet, maar beschikt wel over Reapers; deze drones zijn technisch in staat Hellfire-raketten te vervoeren en af te schieten. Het is aan de politiek of deze drones, die nu worden gebruikt voor verkenning, een directe gevechtstaak krijgen.

De Reaper, die wordt geproduceerd door het Amerikaanse General Atomics, opereert nog niet autonoom. De fabrikant maakte wel onlangs bekend machine learning-technologie aan het systeem toe te voegen, om zo autonoom doelwitten te identificeren. Dat betekent dat Nederlandse politici ook moeten nadenken of ze met de Reaper op termijn meedoen aan de autonomewapenwedloop.

Kunstmatige intelligentie

Die wedloop wordt vooral aangewakkerd door de snelle ontwikkeling van kunstmatige intelligentie (KI). Die stelt een drone niet alleen in staat zelf een doel te selecteren en aan te vallen, maar ook in zwermen te opereren. Tegen swarming drones is de verdediging heel lastig. Dankzij KI kunnen drones ook bewapend en wel ‘rondhangen’, to loiter in het Engels. Loitering munition wordt niet zozeer met een vooraf bepaalde taak op pad gestuurd, maar vliegt veeleer rond boven een gebied en zoekt zelf mogelijke doelen. „De vraag is hoe bepaald wordt of het doel wordt aangevallen. zegt Slijper: „Loitering munition zorgt dat de grenzen tussen autonoom en mensgestuurd vervagen.”

De Israëlische Orbiter 1K, die met zijn explosieve kop mensen en lichte voertuigen kan uitschakelen, is zo’n bewapende rondhangdrone. In 2017 verbood de Israëlische regering de verkoop ervan aan Azerbeidzjan, na door fabrikant Rafael ontkende berichten dat bij een test Armeense doelen waren aangevallen met de drone. De drone kan helemaal autonoom opereren, maar heeft ook een modus waarbij een mens kan sturen. Of de mens altijd de baas is, vertelt Rafael niet.

In Israël werkt Israel Aerospace Industries (IAI) ook aan een kleine versie van de Harpy, de Mini Harpy, die twee uur lang kan opereren met een bereik van 100 kilometer. „Steeds kleinere drones zijn een zorgwekkende trend”, zegt Slijper. „Kleine drones zijn makkelijker na te bouwen dan grote en geven zo een extra impuls aan de verspreiding van autonome wapens – in steeds meer landen, maar ook onder niet-statelijke bewapende groepen.”

De grootste sprongen maken momenteel de luchtvoertuigen, die nogal eens worden ontwikkeld onder sciencefictionnamen. Zo werkt de VS aan drones die kunnen samenwerken met bemande voertuigen onder de naam Skyborg – een verwijzing naar de cyborg, de mens-machine uit de sciencefiction. Toch komen er steeds meer onbemande voertuigen voor gebruik op zee – handig om mijnen op te sporen, erkent PAX – en op land.

Het Duitse Rheinmetall werkt bijvoorbeeld aan de Mission Master, een gepantserd, zelfrijdend voertuig dat raketten met een doorsnee van 70 millimeter kan lanceren. Nederland is van plan enkele exemplaren te kopen, onder meer om ermee te experimenteren in een zwerm. „Dat is allemaal nog heel pril en werkt vooralsnog met afstandsbediening”, zegt Slijper. Toch gaan de ontwikkelingen zo snel dat ook deze voertuigen het domein van de sciencefiction mogelijk snel verruilen voor het echte slagveld.

PAX blijft dan ook ijveren voor een verbod op wapens waarin een algoritme en niet de mens het doel bepaalt. Dat doet de organisatie bij de VN, komende week, maar ook bij financiële instellingen en grote beleggers. De Nederlandse bank NIBC heeft al beloofd om niet – direct of indirect – te investeren in autonome wapens. Slijper: „Met andere financiële instellingen hebben we oriënterende gesprekken gevoerd en zullen we nog meer gesprekken voeren.”

Correctie (11-11-19): In een eerdere versie van dit artikel stond dat de New Scientist een Amerikaans wetenschapsblad is. Dit is veranderd naar Brits.