We accepteren al lang dat robots mensen doden

De mens en zijn machine Als een fabrieksarbeider sterft door een machine, doen we dat af als bedrijfsongeval. Maar als een zelfrijdende auto iemand dood rijdt, is iedereen van streek.

De kiezende machine is gewoon eng, ook al zal software nooit dronken instappen of op z’n mobieltje kijken tijdens het rijden. Foto ABC-15/AP

‘Werknemer #1 bediende een robotwerkstation. Hij overleed doordat hij werd vermorzeld tussen een robotarm en het frame van één van de werkstations die de ‘degator’ wordt genoemd. Werknemer #1 werd gevonden met zijn hoofd vastgepind tussen de robotarm en de degator. Het leek alsof zijn arm naar het afval reikte dat de robot had laten vallen, óf naar de reset-knop op het activatiepaneel. Er zat geen geheugen in de robotcomputer. Uit tests bleek geen verstoring in de bewegingen van de robot.”

Deze bloederige scène gebeurde echt, op 24 juli 2006. Het was in een Amerikaanse wapenfabriek waar de robot munitie produceerde. De beschrijving komt uit verslag 200631406 van het Amerikaanse ministerie van Werkgelegenheid, met als titel: Employee is killed when crushed by robot. Die staat ergens halverwege een lange lijst met dodelijke robotongelukken op het werk, tussen Employee killed when robot pinned his neck en Employee killed when burned by robotic hot metal pourer. Het eerste dodelijke ongeluk in de lijst stamt overigens al uit 1984, toen het been van een vrouw door een robotlasser werd fijngeknepen.

Het zijn ongelukken die al lang geen collectieve aandacht meer krijgen. Las-, til-, en transportrobots behoren tot de vaste boedel van de maakindustrie, er zijn er miljoenen van. Dit zijn gewoon bedrijfsongevallen, toch? Al in 1979 kwam een Amerikaan om het leven door een tilrobot in een autofabriek. Het heeft de automatisering geenszins gestopt.

Dakloze

Heel anders gaat het nu met Uber en de zelfrijdende auto. Het bedrijf heeft sinds de dodelijke aanrijding, vorig weekeinde, met een voetganger in Arizona – een dakloze vrouw die met een fiets de weg overstak – alle tests met zelfrijdende auto’s opgeschort. Kranten staan er vol mee, advocaten werken hun claims al uit, beleidsmakers zinnen op strengere regels. Nog paar aanrijdingen met kinderen en de robotauto staat – voorlopig – stil.

Die sterke reactie is logisch. Robotauto’s rijden los rond, op eigen houtje. Ze kunnen links, rechts, achteruit, tegen je aan, over je heen, wanneer ze maar willen. Straks slaan ze op hol. Straks keren ze zich massaal tegen ons.

Lees ook: Uber schort testen zelfrijdende auto op na dodelijk ongeluk.

Het is de angst voor de machine die z’n eigen, onnavolgbare logica volgt, zonder mededogen, zonder ethiek. Je kunt er wel morele regels instoppen, zoals ‘minimaliseer het aantal doden’, maar een robot die dat lijstje slaafs volgt, is al gauw een halve psychopaat. De kiezende machine is gewoon eng, ook al zal software nooit dronken instappen of op z’n mobieltje kijken tijdens het rijden. Ironisch genoeg illustreert het Uberongeluk in Arizona het gevaar daarvan. Wie het aangrijpende filmpje vanuit de robotauto bekijkt, dat een milliseconde voor de aanrijding stopt, voelt woede over de vrouw achter het stuur die had moeten ingrijpen. Hou op met naar je telefoon te grijpen!

Die sterke reactie is logisch. Robotauto’s kunnen links, rechts, achteruit, tegen je aan, over je heen. Straks slaan ze op hol.

Starende robots

Onderzoekers doen hun best om het vertrouwen van mensen in robots en slimme software op te krikken. Ze geven computerprogramma’s een menselijke stem of gezicht. Ze experimenteren met bewegingen (mensen schrikken van een robot die uit het niets in actie komt) en met blikrichting (vooral vrouwen schijnen starende robots te wantrouwen).

En ze proberen de black box te openen. Vanaf de buitenkant is niet te zien waarom een robot doet wat hij doet. Dat zijn we wel gewend van mensen, maar niet van machines. De meeste apparaten kunnen we min of meer volgen.

Het blijkt nu dat mensen eerder zijn geneigd een robot te vertrouwen als die laat zien wanneer hij twijfelt. Bijvoorbeeld als hij z’n sensoren niet goed kan aflezen of de weg niet meer weet. Het filmpje van het Uberongeluk creëert onverwachts begrip voor de auto. Het was ook donker, ja. Ik zou haar ook niet hebben gezien.

Maar de sterke reactie op de Uberdode is tegelijk uit het lood. We accepteren het falen van andere intelligente technieken namelijk wel vrij makkelijk. Zoals van de lasrobots in autofabrieken. Maar ook van slimmere computers. Vraag: weten we hoeveel mensen overlijden door slimme wapens die zich per ongeluk op het verkeerde doel richten? Door rammelende patroonherkenningsalgoritmes die mensen onterecht als verdachte bestempelen? Door drones die hun coördinatie verliezen en op een dorp neerstorten? Of door software die soms gewoon onverklaarbaar raar doet? De Amerikaanse krant The Washington Post onderzocht in 2014 Amerikaanse drone-ongelukken in oorlogsgebieden. De krant schreef dat de bestuurders van twee neergestorte Predators tegen de onderzoekscomités hadden gezegd dat hun drones „bezeten” en „geplaagd door demonen” waren – ze begrepen niks meer van het apparaat.

Maar al die miskleunen houden de investeringen in autonome drones en killer robots niet tegen. Afghanistan, oorlog, terroristen, het is allemaal ver weg. Veel, veel verder dan de spelende kleuters op onze stoepen.

De reactie is ook uit het lood vanwege vraag twee. Is het wel denkbaar dat we wereldwijd een heel nieuw vervoerssysteem invoeren zonder een aantal doden te accepteren? In ieder geval als het gaat om losse karretjes die kriskras door elkaar, met 120 kilometer per uur, vlak langs voetgangers en fietsers rijden? Onze lichamen, kwetsbare pakketjes van vlees en botten, verdragen de bijbehorende botsingen nou eenmaal slecht. Zet je mensen achter het stuur, dan overlijden alleen al in Nederland jaarlijks meer dan 600 mensen in het verkeer.

Vertrouw de robotauto, zeggen de voorstanders. Het kost misschien een paar doden, maar het totale aantal slachtoffers decimeert op den duur!

Wantrouw de robotauto, zeggen de tegenstanders. Enge machine, straks rijdt-ie je expres dood.

Of besef dat als je nul doden accepteert, je dan ook het hedendaagse concept van autoverkeer moet afwijzen. Het concept van jouw eigen comfortabele bolide waarin je, dwars door het verkeer, naar je bestemming snelt. Zo’n mierenhoop, met zo’n verschil in kwetsbaarheid tussen een SUV-bestuurder en een kind op de fiets, dat kán gewoon niet geheel veilig. Schakel auto’s dan op z’n minst achter elkaar in treintjes. Of doe nog simpeler: investeer in openbaar vervoer.

Lees ook: Wie wordt de baas in de robotauto?
    • Carola Houtekamer