Column

Robots jagen experts de stuipen op het lijf

Bang maken is een kunst, en de ruim duizend wetenschappers en ondernemers die deze week waarschuwden voor de opkomst van de ‘killerrobots’ kunnen er niet veel van. De toon van de open brief waarin ze alarm sloegen was te schril, het schrikbeeld dat ze schetsten te onontkoombaar.

Binnen een paar jaar, schreven ze, zullen er zogeheten autonome wapens ontwikkeld zijn, die zelfstandig, dus zonder tussenkomst van een mens, doelwitten kunnen uitkiezen en aanvallen. Ze zullen goedkoop en makkelijk verkrijgbaar zijn, ook voor terroristen, dictators en ander fout volk. „Ideaal om moorden te plegen, landen te destabiliseren, bevolkingen te onderdrukken of een bepaalde etnische groep uit te moorden”, luidt de bittere vaststelling van de ondertekenaars van de brief, hoofdzakelijk experts op het gebied van kunstmatige intelligentie en robotica – dus mensen die het weten kunnen.

Er stonden ook grote namen bij, van onder meer kosmoloog Stephen Hawking, medeoprichter van Apple Steve Wozniak en pionierend ondernemer Elon Musk, groot geworden in elektrische auto’s, zonne-energie en ruimtevaart. „De kernvraag voor de mensheid is nu”, stelt de brief indringend, „of we een wereldwijde wapenwedloop op basis van kunstmatige intelligentie beginnen, dan wel die juist weten te voorkomen.” Anders gezegd: geven we de killerrobots vrij baan, of weten we ze op het nippertje in toom te houden en te onderwerpen aan de mens? „Als één militaire grootmacht de ontwikkeling van zulke wapens doorzet, wordt zo’n wapenwedloop onvermijdelijk.”

Bij een dreiging die met zo’n verpletterende stelligheid wordt aangekondigd, kun je eigenlijk alleen maar capituleren of in de lach schieten. Ongepast is lachen zeker, maar de mens is nu eenmaal geen robot en heeft emoties. Experts die als de dood zijn voor de robots die hun eigen vakgebied voortbrengt – al minstens sinds het monster van Frankenstein zien we het aankomen. En sinds de opkomst van de robotstofzuiger kan iedereen zich voorstellen dat het ook werkelijkheid wordt.

Maar ernstig en gevaarlijk is het zeker, en het werpt ook allerlei lastige morele vragen op. Wie is verantwoordelijk voor wat de robot aanricht? Met welke ethische waarden wordt hij afgesteld? En valt de gevreesde wapenwedloop eigenlijk nog wel te stoppen? Zou er één grootmacht in de wereld zijn die er vrijwillig van afziet een groot of klein robotlegertje op te zetten, als de kans bestaat dat de tegenstander al bezig is?

Wat eenmaal bedacht is, kan niet meer teruggenomen worden, zoals een van de geleerden zegt in Die Physiker, Friedrich Dürrenmatts klassieke toneelstuk over de verantwoordelijkheid van wetenschappers voor de gevaarlijke wapens die ze bedenken. De zelfsturende auto rijdt al hier en daar rond, je hoeft geen genie uit Silicon Valley te zijn om te bedenken dat je bijvoorbeeld een zelfschietende mitrailleur op het imperiaal kan monteren. Om te beginnen uiteraard alleen om het eigen erf te beschermen.

Bij de Verenigde Naties wordt er al een paar jaar over gesproken hoe het gebruik van militaire robots op zijn minst aan juridische regels kan worden gebonden. Maar veel schot zit er niet in. Misschien zijn er te veel andere ‘kernvragen voor de mensheid’, van kernwapens tot klimaatverandering, honger en armoede. Of misschien is de wereld nog niet bang genoeg voor de autonome schietmachine. Effectiever dan een open brief om de mensheid wakker te schudden is waarschijnlijk ‘een ongelukje’: een prototype killerrobot die op een dag uit het lab ontsnapt en met al z’n gewetenloze technologie de wijde wereld in rijdt, klaar om te beginnen aan zijn dodelijke arbeid.