Nog even en we sturen alleen nog maar robots de oorlog in

Zou het niet veiliger zijn als de Nederlandse F-16’s boven IS zonder piloten konden vliegen? Met de razendsnelle opmars van killer robots moet het in 2020 kunnen. Robotprofessor Noel Sharkey is bezorgd over die ontwikkeling.

Dit is de Mule: een Legged Squad Support System. Een robot die zich op ruig gebied kan verplaatsen, en daarbij bagage van militairen kan meezeulen. Foto Darpa
Dit is de Mule: een Legged Squad Support System. Een robot die zich op ruig gebied kan verplaatsen, en daarbij bagage van militairen kan meezeulen. Foto Darpa

De X-47B is een donkergrijze vliegende vleugel met een spanwijdte van 19 meter. Hij staat op een vliegdekschip, flappert met zijn vleugels en schiet dan met een noodgang de lucht in. Het marinepersoneel kijkt alleen maar toe, ook als hij weer op het schip landt. Er komt geen mens of afstandsbediening aan te pas.

Het filmpje van de Amerikaanse marine is misschien beangstigend, maar in 2020 moet de X-47B al zijn eerste gevechtsmissies uitvoeren voor de Verenigde Staten – dat betekent zelf vijandelijke doelen opsporen én vernietigen.

Dan is het plots realistisch dat er geen militairen meer naar Syrië en Irak hoeven om IS te bestrijden. Geen F-16’s en piloten die kant op. Zelfs geen op afstand bestuurde drones. Alleen vliegtuigen die zelf vliegen, zelf hun doel kiezen en het zelf overhoop schieten.

Sciencefiction is het allang niet meer. De ontwikkeling van killer robots gaat zo snel dat vredesactivisten er een groot gevaar in zien en er een verbod op eisen.

Zo groot als een klein paard

De robots zijn er ook voor op zee en land. En die zien er soms nog huiveringwekkender uit. De ijzeren Mule van de Amerikanen is zo groot als een klein paard. Hij zit gehurkt op de grond, recht dan zijn vier poten en stampt over heuvels, over rotsblokken en door bossen. Op zijn rug kunnen honderden kilo’s bepakking.

En langs de grens met Noord-Korea waken al honderden versies van de Zuid-Koreaanse SGR-A1. Een machinegeweer dat onmiddellijk in beweging komt als er een indringer in de buurt is en die met een vernietigend salvo kan doodschieten.

De Britse roboticaprofessor Noel Sharkey werd rond 2006 voor het eerst gevraagd naar zijn mening over gevechtsrobots. Hij wist er nog weinig van en besloot wat onderzoek op internet te doen. Sharkey schrok zo dat hij sindsdien campagne tegen killer robots voert. De beslissing om te doden moet altijd een menselijke blijven, vindt hij. Voordat de killer robots, zoals eerder de drones, plotseling massaal worden ingezet, probeert hij samen met ngo’s een internationaal verbod tot stand te brengen. Op uitnodiging van vredesorganisatie Pax sprak Sharkey onlangs tijdens de Nacht van de Vrede in Amsterdam. „De Amerikanen zelf maken zich hier ook zorgen over”, zegt hij.

Hoe ver staat de ontwikkeling van dit soort wapens?

Roboticaprofessor Noel Sharkey: „Je weet nooit precies hoe ver ze zijn, want het meeste gebeurt in het diepste geheim. Wel bekend is dat dit soort wapens deels al wordt gebruikt. Naast de SGR-A1 in Zuid-Korea gebruikt het Israëlische leger bijvoorbeeld de Guardium om de grenzen met de Palestijnse gebieden te bewaken. De Guardium is een gepantserde robotwagen die zelfstandig kan terugschieten, zonder menselijke tussenkomst. Na buitenlandse kritiek heeft Israël wel besloten dat de beslissing om te vuren voorlopig door een mens moet worden genomen.

Er zijn tal van andere systemen die ook zelfstandig vuren, maar meestal nog niet op mensen. De Duitse Mantis schiet zelfstandig op inkomende raketten en mortieren en schiet terug naar de plek waar ze worden afgevuurd.

Alle Amerikaanse defensiebedrijven streven al jaren naar autonome wapens, dus je kan ze op tal van terreinen verwachten. Denk bijvoorbeeld aan volledig onbemande duikboten die zelfstandig hun doelen uitzoeken.”

Waarom worden ze ontwikkeld?

„Vanuit militair oogpunt hebben ze veel voordelen. Een ervan is natuurlijk het sparen van eigen mensenlevens, maar het kostenvoordeel speelt ook een belangrijke rol. Als er geen mensen bij hoeven te zijn, dan kunnen wapensystemen veel goedkoper worden geproduceerd. Een ander voordeel is het uithoudingsvermogen. Robots kunnen dagen achtereen doorrijden of -vliegen.

Het grootste voordeel is snelheid. De autonome Falcon, een onbemand gevechtsvliegtuig dat de Amerikanen ontwikkelen, werd afgelopen maart getest en bleek 20.921 kilometer per uur te kunnen vliegen. Dat zijn snelheden die mensen nooit overleven. De bedoeling van de Falcon is om vanuit de VS een doelwit overal ter wereld binnen een uur te kunnen uitschakelen.”

Wanneer worden soldaten op de grond op grote schaal vervangen door robots?

„Dat hangt helemaal af van de vraag of er snel behoefte aan is, bijvoorbeeld in een grootschalig conflict. Als die er niet is, dan denk ik aan zo’n tien tot vijftien jaar. Al verwacht ik dat de techniek nooit helemaal klaar is om op het slagveld voldoende onderscheid te maken tussen soldaten en burgers. Dat wil niet zeggen dat de robots niet worden ingezet. Als je verwacht dat er op een bepaalde plek alleen vijandelijke strijders zijn, dan kan je robots automatisch laten richten en schieten, op basis van hun lichaamswarmte bijvoorbeeld.”

Wanneer begon u zich zorgen te maken over dit soort wapens?

„Rond 2006 vroegen journalisten mij als robotdeskundige voor het eerst naar mijn mening over militaire robots. Daar wist ik amper wat van en dus begon ik met wat uurtjes zoeken op internet. Dat werden maanden aan onderzoek. Ik was geschokt door wat ik allemaal tegenkwam. Veel visiedocumenten van het Amerikaanse leger zijn openbaar. Ze gingen allemaal over de wens autonome robots te ontwikkelen die zelf hun doelen uitzoeken en mensen vermoorden. De schrijvers ervan leken geen idee te hebben van de beperkingen van robotica. Dat was het moment dat ik me ertegen ging verzetten.”

Ik zou liever tegen een robot vechten dan tegen een gewetenloze IS-strijder die me wil martelen en onthoofden. Wat zijn de bezwaren tegen killer robots?

„Je trapt in de mythe van de robotica. Robots worden door mensen geprogrammeerd. Ze kunnen dus ook geprogrammeerd worden om te martelen.

Maar het grootste bezwaar is dat ze altijd minder goed dan mensen in staat zullen zijn om onderscheid te maken op het slagveld. Stel dat een robot ooit eigen en vijandelijke uniformen van elkaar kan onderscheiden, bijvoorbeeld op basis van chips in de kleding. Dan nog zal een robot geen onderscheid maken tussen vijandelijke strijders die doorvechten en zij die zich met hun handen omhoog overgeven. Hij zal ze allemaal neerschieten. En als hij wordt geprogrammeerd om strijders met hun handen omhoog met rust te laten, dan zal de vijand met handen in de lucht op de robots aflopen. Robots die zelf beslissen over leven en dood zijn een recept voor grote ongelukken. Misschien niet zozeer aan de zijde van de partij die ze inzet, maar wel aan de andere zijde. Het aantal burgerslachtoffers zou door robots die fouten maken verder omhoog kunnen gaan.

Wij willen de technologische ontwikkeling niet stoppen. Wij willen alleen dat bij ieder wapensysteem de mens uiteindelijk beslist over wel of niet doden.”

U zegt dat robots flinke militaire voordelen bieden. We weten ook dat de VS op militair gebied dominant willen blijven. Is een verbod op dit soort wapens dan wel realistisch?

„Daar is meer steun voor dan je zou denken. Je moet niet vergeten dat veel landen overrompeld zijn geweest door de snelheid waarmee gewapende drones hun intrede deden. Met alle bijkomende vragen over de legitimiteit ervan. Doordat ze onbemand zijn en bijna eindeloos in de lucht kunnen blijven, hebben ze de drempel om geweld te gebruiken flink verlaagd. De VS voeren er aanslagen mee uit in landen waarmee het helemaal niet in oorlog is. De internationale gemeenschap wil niet nog een keer overrompeld worden. Daarom wordt er op initiatief van tientallen ngo’s binnen de VN deze maand al over de mogelijkheden voor een verbod op killer robots gesproken. Ook de Nederlandse minister van Defensie heeft zich al kritisch uitgelaten over dit soort wapens. Zelfs binnen de Amerikaanse regering zijn grote zorgen. Het is een strijd tussen de Amerikaanse wapenindustrie en het Pentagon enerzijds en juristen bij Buitenlandse Zaken anderzijds. Zij realiseren zich dat dit tot een nieuwe wapenwedloop kan leiden die uiteindelijk ook voor Amerikaanse burgers gevaarlijk is.

Militairen zitten ook niet op killer robots te wachten. Het kan ze hun baan kosten en het druist in tegen hun eergevoel om de vijand door robots te laten doden.”

Hoe zou zo’n verbod gehandhaafd moeten worden? Je kan moeilijk voorkomen dat landen stiekem autonome wapens ontwikkelen.

„Wij hebben liever wel een internationaal verdrag dan geen. VN-controleurs kunnen er net als bij chemische en nucleaire wapens op toezien dat killer robots niet worden ontwikkeld en worden verspreid. Daarnaast is het een kwestie van stigmatiseren van zo’n wapen. Toen Syrië gifgas gebruikte, kwamen de VS en Rusland direct bij elkaar om de consequenties te bespreken. Internationaal gezien is het gebruik van gifgas echt not done. Dat kan met killer robots ook.”