Schieten met afstandsbediening

Robots nemen steeds vaker taken van militairen over op het slagveld. Dit vergroot het gemak waarmee oorlog kan worden gevoerd. En dat lokt discussie uit.

Een Amerikaanse militair lanceert tijdens een operatie in Irak de Raven, een onbemand vliegtuigje dat doelwitten, wapenvoorraden en vijandelijke bewegingen observeert. US Army U.S. Army Staff Sgt. Adam Jeter with 5th Squadron, 73rd Cavalry Regiment, 3rd Brigade Combat Team, 82nd Airborne Division, launches a raven unmanned aerial vehicle during a joint air assault operation planned and led by the Iraqi Army and Iraqi National Police, in the Ma'dain area, east of Baghdad, Iraq, June 26, 2009. The raven is being used to provide real time observation of the objective during a search for weapons caches and insurgent activity. (U.S. Army photo by Staff Sgt. James Selesnick/Released) US Army Photographers

Oorlog is al lang niet meer wat het ooit geweest is: mensen die met elkaar vechten op een slagveld, met zwaarden of buskruit. In moderne oorlogsvoering worden onbemande, al dan niet bewapende voertuigen, vliegtuigen en schepen gebruikt om die dingen te doen die voor mensen te dirty, dull of dangerous zijn: het vuile, het saaie en het gevaarlijke werk. Deze ‘robotachtigen’ houden onvermoeibaar de wacht, proberen bermbommen onschadelijk te maken, sporen radioactiviteit op en schieten tegenstanders neer.

Maar willen we dat laatste wel? Wat als die militaire robots stukgaan en in het wilde weg gaan schieten? Wat als ze intelligent worden en zich tegen de mensheid keren? Over zulke vragen ging een van de debatten die afgelopen vrijdag tijdens ‘De Grote Robot Show’ in het Amsterdamse wetenschapsmuseum Nemo werden gehouden. De avond was mede georganiseerd door het Rathenau Instituut, de organisatie die de effecten van wetenschap en technologie op de samenleving onderzoekt en de politiek daarover adviseert.

Het is een actueel onderwerp, het gebruik van robots in oorlog. Exacte aantallen zijn onduidelijk, maar er zouden momenteel al tienduizenden ‘robots’ in verschillende functies aan het oorlogvoeren zijn. P.W. Singer beschrijft in zijn dit jaar verschenen boek Wired for War hoe Amerikaanse cubicle warriors, strijders in kantoorhokjes, met op afstand bestuurde vliegtuigjes vijandelijke Iraakse doelen beschieten via de interface van een computerspelletje. Hij waarschuwt voor het gemak waarmee een oorlog dan gevoerd kan worden. Ook de Britse computerwetenschapper Noel Sharkey heeft daar al herhaaldelijk publiekelijk zijn zorgen over geuit, vorige week nog in een interview in New Scientist (1 september).

In het Nemo bespraken Jan Wind, oud-marinier en consultant bij defensie-adviesbedrijf WISER, Peter Hiemstra, roboticus bij TNO Defensie, en militair-ethicus Lambèr Royakkers de mogelijkheden en gevaren met elkaar en met het publiek. In Nederland wordt ook veel nagedacht over het uitbesteden van taken aan robots, vertelt Wind. Het zou mooi zijn als ze bermbommen konden opsporen, maar helaas kunnen robots dat nog niet zo goed. Met het idee van schietende robots heeft Wind relatief weinig moeite: „Menselijke tegenstanders doen ook dingen die je niet wilt. Het is misschien wel prettiger vechten tegen een robot die zich aan de Geneefse conventie houdt.” Dat is hopelijk ooit in te programmeren. Makkelijk is het niet. Hiemstra: „Je kunt wel inprogrammeren dat een robot niet schiet als iemand zijn handen omhoog doet, maar dan lopen terroristen er gewoon met hun handen omhoog naartoe.”

Veel van de huidige bewapende robots worden op afstand door mensen bestuurd. Maar volgens Royakkers is het probleem wel dat doden gemakkelijker wordt, als het een game lijkt. En er worden fouten mee gemaakt, vertelt hij. „In Pakistan zijn ruim 600 doden gevallen toen het verkeerde konvooi werd beschoten. En niemand is aansprakelijk. De Verenigde Staten doen niet mee met het Internationaal Strafhof.” Royakkers vindt dat de ontwikkeling van gewapende robots volledig gestopt moet worden.

Tot besluit mag CDA-defensiewoordvoerder Rendert Algra gezeggen wat hij van de avond meeneemt naar de Tweede Kamer. „De vraag wordt”, zegt Algra, „moeten we deze technologie zelf gaan ontwikkelen of van de plank kopen? Ik denk dat we eerst naar Amerika kijken. Komt daar wat leuks uit, dan willen we het ook wel hebben. Ik denk niet dat de politiek deze ontwikkeling kan tegenhouden, en dat moet je ook niet willen.”

Ethicus Royakkers reageert verbijsterd: „Als dat onze politiek is, kunnen we dan niet beter een robot-Tweede Kamer nemen? Het is toch aan de politiek om verkeerde ontwikkelingen af te remmen?” Algra, sussend: „Ik heb niet de illusie dat we de ontwikkelingen kunnen stoppen, maar je kunt natuurlijk wel randvoorwaarden formuleren. Je kunt zeggen: een onbemand vliegtuigje met kernwapens, dat willen we nooit. Daar kun je internationale afspraken over maken.”

Een pleidooi om in internationaal verband na te denken over de ontwikkelingen lijkt Jan Wind inderdaad op zijn plaats. „Maar dat vliegtuigje met die kernwapens”, zegt hij, „dat bestaat al lang.”