Hoera! Daar komt de killer robot

Morgen debateren de VN over een moratorium op killer robots die autonoom mensen doden Ze bestaan nog niet, maar de ontwikkeling gaat snel Moeten ze er komen? Vier argumenten voor en vier tegen

Medewerker defensie

Robots die zijn geprogrammeerd om te doden: geen wonder dat helse vergezichten opdoemen, waarbij vergeleken The Terminator een sympathiek rolprentje is. En die moordende robot, die veel weghad van Arnold Schwarzenegger, was nog maar in zijn eentje.

Morgen roept de mensenrechtencommissie van de Verenigde Naties op tot een mondiaal moratorium op het „testen, produceren, assembleren, doorvoer, aanschaf, ingebruikname en daadwerkelijke inzet van dodelijke, autonoom optredende robotica”. Althans, totdat internationale regels voor deze lethal autonomous robotics (LAR) zijn opgesteld. Voorstanders en tegenstanders roeren zich over de killer robots.

Dergelijke Schwarzeneggers, daar is iedereen het wel over eens, zijn nog erg ver weg. Zelfs de oppositie stelt geruststellend genoeg dat de technologische stand van zaken het niet waarschijnlijk maakt dat deze binnen een paar decennia op aarde rondlopen.

Maar wie de VN-definitie van LAR bekijkt – een apparaat dat doelen op de korrel kan nemen en deze aanvallen zonder enige menselijke tussenkomst – ziet dat de robotisering van wapensystemen al in volle gang is.

De aard van de oorlogvoering maakt dat ook onvermijdelijk en zelfs noodzakelijk. Kijk maar naar de Nederlandse Goalkeeper, een snelvuurkanon, dat alleen kans maakt om hypersonisch vliegende antischipraketten te onderscheppen wanneer het systeem op ‘volautomatisch’ staat. Het reactievermogen van mensen schiet daarin, letterlijk, tekort.

Te snel voor mensen

Er zijn talloze voorbeelden van dergelijke systemen die uitsluitend in staat zijn om snelle raketten, vliegtuigen of andere projectielen te onderscheppen wanneer een mens ze ‘aan’ heeft gezet en ze de elektronische opsporing en het onderscheppen ‘naar eigen inzicht’ uitvoeren.

Een ander opmerkelijk gerobotiseerd wapensysteem is de Israëlische Harpij, een onbemand vliegtuigje dat vele uren boven betwist gebied kan rondcirkelen tot de vijand een radar, of andere elektronische apparatuur inschakelt. De ‘neus’ van de Harpij pikt het signaal op en stort zich vervolgens op de stralingsbron. Of de Samsung SGR-A1, een machinegeweer dat is gekoppeld aan warmtegevoelige sensoren die sectoren van de gedemilitariseerde zone tussen Noord- en Zuid-Korea in de gaten houden.

Er wordt hard gewerkt aan verfijning van al die robottechnologie. De automaat wordt steeds autonomer. Defensielaboratoria ontwikkelen steeds meer technologieën die ook de ‘engere’ LAR mogelijk maken.

Kleine stap naar bewapening

Kijk hoe dat gaat bij de Amerikaanse Boston Dynamics. Het bedrijf produceert BigDog, een gerobotiseerde pakezel die nu al zelf zijn weg door besneeuwde bergbossen kan vinden. Niet zo eng. Maar het bewapenen van die lastdieren van plastic en metaal is maar een kleine stap.

Tegelijkertijd wint de ontwikkeling van ‘slimme’ sensoren mondiaal aan tempo. TNO buigt zich bijvoorbeeld over algoritmes die onderscheid kunnen maken tussen dansende en vechtende mensen in een grote menigte.

De komst van enge LAR lijkt dus waarschijnlijk, zij het dan niemand precies weet wanneer. De voorstanders en critici, van technische wetenschappers en filosofen, militairen en mensenrechtenorganisaties hebben hun stellingen betrokken en bestoken elkaar met argumenten.

Een klein overzicht van de voors en tegens.

Vier argumenten voor killer robots

Minder nevenschade

Domme bommen maken meer burgerslachtoffers: een piloot mikt ze globaal op een doel en de zwaartekracht moet de rest doen. Slimme bommen, die bijvoorbeeld door een laser of met behulp van GPS naar het doel worden geleid, hebben grotere kans om een doel zonder ‘nevenschade’ uit te schakelen. Trek de vergelijking door en je komt uit op ‘slimste’ projectielen, die zelf kunnen bedenken wat een doel is. De selectie daarvan kunnen ze uiteindelijk beter dan mensen, aangezien die eenvoudigweg de capaciteit ontberen om alle relevante informatie te verzamelen, laat staan om te verwerken.

Minder slachtoffers

Gevaarlijke klussen, zoals het ruimen van bermbommen of patrouilleren in vijandelijk gebied is altijd al een van de gevaarlijkste missies geweest – kijk maar naar Irak en Afghanistan. Het inzetten van autonome robots hiervoor zou het aantal slachtoffers aan eigen zijde drastisch kunnen verminderen.

Robots verkrachten niet

Mensen zijn niet alleen feilbaar op cognitief gebied en ook kunnen ze minder consequent opdrachten uitvoeren dan geprogrammeerde robots – daar is de computer voor uitgevonden. Maar mensen hebben ook vaker een slecht karakter. Robots zijn gedisciplineerd, verkrachten niet en schieten, mits goed geprogrammeerd, geen krijgsgevangenen dood.

Beter vooroplopen

Je kunt technologie niet ‘ont-uitvinden’ en veel van de technische expertise die LAR’s mogelijk maken, komt er toch wel, onder andere doordat er zoveel civiele toepassingen voor zijn. Een iPhone lijkt een technische revolutie, maar is gewoon een handige combinatie van bestaande technologieën. Aangezien LAR’s er dus tóch komen, kun je hierbij maar beter zelf in vooroplopen.

Vier argumenten tegen killer robots

Juridische witte vlek

De beslissing over laten leven en doodschieten toevertrouwen aan robots is moreel verwerpelijk aangezien er – zoals met dronepiloten die vanuit de Verenigde Staten Talibaan in Afghanistan bestoken – een grote afstand bestaat tussen degene die de lethal autonomous robotics (LAR’s) ontketent en tegenstanders van vlees en bloed. Wie is verantwoordelijk als er wat misgaat, bijvoorbeeld door een programmeerfout? De producent, de softwareschrijver, de generaal die LAR’s inzet? Oorlogsrecht dekt de kwestie niet. Eigenlijk zijn alle implicaties van het inzetten van LAR een witte vlek op de juridische kaart.

Drempelverlagend

Robots, civiele en militaire, zijn ontwikkeld om taken uit te voeren die mensen dirty, dangerous or dull vinden. Je zet dus eerder LAR’s in, dan dat je je eigen mensen blootstelt aan ‘smerige, gevaarlijke of saaie’ opdrachten. De mogelijkheid om LAR’s hiervoor in te zetten kan de drempel verlagen om militair in te grijpen. Ze werken gewapende conflicten in de hand.

Geen inlevingsvermogen

Robots kunnen dan wel over betere cognitieve capaciteiten beschikken, dan mensen, maar ze missen ook typisch humane zaken zoals empathie, inlevingsvermogen. LAR’s zijn mogelijk superieure number crunchers, maar schatten of een gewapende strijder in een spannende situatie bluft en zich eigenlijk wil overgeven, is iets waartoe mensen uiteindelijk beter psychologisch zijn geoutilleerd dan een per definitie niet invoelende robot.

Verdragen helpen beetje

Het verschijnen van LAR’s is geen vaststaand feit als er nu een internationaal moratorium komt. Er valt te discussiëren over de effectiviteit, maar verdragen op het terrein van clustermunitie en biologische en chemische wapens zijn op zijn minst een gedeeltelijk succes.

    • Menno Steketee