Een jaar of tien geleden, tijdens een fietstochtje in Italië, maakte ik een noodstop voor een overstekende kip - ik dacht het een kind was en trok in een reflex de remmen in. Het resultaat: een spectaculaire salto en een gebroken pols. De kip kwam met de schrik vrij.
Voor wie rem jij? Onderzoekers van het MIT vroegen mensen in meer dan 200 landen hoe zij zouden reageren als ze achter het stuur in een noodsituatie belanden. Stel: je rijdt over een bochtig bergweggetje, met twee kinderen op de achterbank. Totdat, uit het niets, een groep van vijf oudere voetgangers oversteekt. Het is te laat om te remmen. Wat doe je? Schep je de voetgangers of stuur je de auto het ravijn in?
De Moral Machine van MIT verzamelde 40 miljoen beslissingen over zulke lugubere scenario’s. Het doel: kijken of en hoe een zelfrijdende auto in noodgevallen geaccepteerde keuzes kan maken tussen dieren en mensen, mannen en vrouwen, ouderen en jongeren, zieke en gezonde mensen.
Wie jaag jij de dood in? De ethische waarden in het verkeer verschillen per land. Automobilisten in China en Japan zijn geneigd oudere verkeersdeelnemers te sparen. Japanners redden sneller voetgangers dan eigen passagiers. In Latijns-Amerika krijgen babies en vrouwen voorrang. Nederland scoort gemiddeld: we zijn niet zo asociaal als je zou denken.
Auto’s zijn nu zo gebouwd dat ze de inzittenden beschermen, niet andere verkeersdeelnemers. We willen nog meer boven het verkeer uittorenen en kopen daarom vaker SUV’s met hoge bumpers. Stoer en stevig – omdat mensen geprogrammeerd zijn om hun eigen vlees en bloed te beschermen, zelfs als dat ten koste gaat van anderen.
De Moral Machine-onderzoekers stellen dat de software in een auto betere keuzes zou moeten maken dan een mens. Want ooit kan de computer in een oogwenk zien welke levensverwachting andere verkeersdeelnemers hebben.
Zo’n koude berekening strookt niet altijd met onze moraal. In de film I, Robot raakt de hoofdpersoon in een auto te water. Hij wordt tegen zijn zin gered door een robot die hem 45 procent overlevingskans toedicht, meer dan het meisje dat bij hem in de auto zit. „Elk menselijk wezen zou een kind met 11 procent kans gered hebben”, zegt Will Smiths’ karakter.
Het is sciencefiction, vooralsnog. Zelfs Tesla, het meest vooruitstrevend met zelfrijdende techniek, neemt gas terug: nieuwe Tesla-software zou Full Self Driving Capability krijgen, maar deze week veranderde Elon Musk de naam in Advanced Autopilot. Om automobilisten duidelijk te maken dat ze nog altijd niet het stuur los kunnen laten.
Dat we uiteindelijk de computer moeten laten rijden is onvermijdelijk: software heeft geen slaapgebrek, drinkt niet en zit niet te appen in de bebouwde kom.
Straks stappen we in een auto die niet in alle gevallen de passagiers vooropstelt. Een rare gedachte, maar de kans dat we door een menselijke fout verongelukken is veel groter.
Auto’s veroorzaken volgens de WHO jaarlijks meer dan een miljoen verkeersdoden. We rijden in moordmachines die we zo snel mogelijk in moral machines moeten veranderen. Ooit zal een Italiaanse kip u dankbaar zijn.