Opinie

De nikab als uw draagbare beschermer

Kiza Magendane

Kun je een schietpartij overleven omdat je gezichtsbedekkende kleding zoals een nikab draagt? Stel je een schietpartij voor, vergelijkbaar met die in het winkelcentrum in El Paso, Texas, waar 22 mensen om het leven kwamen. De dader in ons scenario heeft een racistisch motief en wil alle zwarte mannen uitschakelen. Maar in plaats van met een semi-automatisch geweer het winkelcentrum in te lopen om zijn hatelijke daad zelf uit te voeren, schakelt de dader een autonoom dodend wapen in: een killer robot.

Aan de hand van big data, gezichtsherkenning en algoritmische besluitvorming weet dit autonoom dodende wapen alle doelwitten te detecteren en uit te schakelen. Lekker efficiënt, de rest van de winkeliers en het winkelend publiek wordt met rust gelaten. Als je in deze mysterieuze schietpartij toevallig die macchiatodrinkende zwarte man gehuld in een rode nikab bent, blijf je gespaard. De robot was niet in staat jou te identificeren, gefeliciteerd, je hebt een aanslag overleefd.

De nikab is in dit scenario voorvechter van jouw privacy in een wereld vol slimme camera’s en wapens, de draagbare beschermer tegen kwade geesten die je van het leven willen beroven, omwille van wie je bent.

Dit is geen toekomstmuziek. Van Amazons personal assistent Alexa en Tesla’s semi-zelfrijdende auto’s tot de luister- en kijksuggesties van Spotify en Netflix, artificiële intelligentie wordt een steeds vitaler onderdeel van ons leven. Maar dezelfde technologie die deze slimme diensten mogelijk maakt, wordt nu al ingezet om ongekende massavernietigingswapens te ontwikkelen.

Twee jaar geleden signaleerde PAX deze trend al in het rapport Where to Draw the Line. Increasing Autonomy in Weapon Systems – Technology and Trends. Daarin legde de Nederlandse vredesorganisatie uit wat zogeheten lethal autonomous weapon systems zijn, in de volksmond beter bekend als killer robots. Dat zijn wapens die, eenmaal geactiveerd, gebruikmakend van sensoren en artificiële intelligentie, in staat zijn te functioneren zonder menselijke interventie. Daarom worden ze ‘autonoom’ genoemd, in plaats van ‘geautomatiseerd’.

Er zijn genoeg argumenten voor killer robots te bedenken. Ze zijn efficiënter in het uitschakelen van het doelwit. Zo was een van negen dodelijke slachtoffers bij de schietpartij in Dayton, Ohio, vorig weekend, de zus van de schutter. Het is onbekend of dit de bedoeling was van de schutter. Mocht het een ongeluk zijn geweest, dan is het een fout die een killer robot niet snel zou maken, omdat een zus niet tot het doelwit van de moordenaar zou behoren. Voorstanders geloven dat je met een robot onschuldige burgerslachtoffers kunt vermijden omdat je schurken in een oorlog gerichter kunt uitschakelen.

Toch is er genoeg reden voor zorg. Sinds 2013 voert PAX samen met andere ngo’s een internationale campagne tegen killer robots. De vredes- en mensenrechtenorganisaties verzoeken de VN en haar lidstaten om verdere ontwikkeling van killer robots te verbieden. Een handjevol landen, zoals Marokko en Ghana, heeft zich achter deze boodschap geschaard. China, Amerika, Rusland en andere tech- en militaire reuzen negeren deze oproep uiteraard, want er is een wedloop gaande rond deze nieuwe, relatief goedkope vernietigingswapens. Nederland zwijgt in alle talen.

Inmiddels hebben 116 toonaangevende kenners en onderzoekers van artificiële intelligentie (zoals Tesla-baas Elon Musk) in een open brief opgeroepen om de ontwikkeling van killer robots tegen te gaan. Wetgeving loopt helaas altijd achter de feiten aan. Maar je zou hopen dat de VN en machtige landen nu al gehoor geven aan de zorgen. Want voor je het weet hebben wij straks permanent een nikab op zak, voor het geval we slimme geweren moeten vermijden.

Kiza Magendane is publicist. Hij vervangt Luuk van Middelaar.

Correctie (12-08-2019): In deze column stond eerst Pax Christi; dat is gecorrigeerd in PAX, de juiste naam van de ngo die zich inzet voor vrede.