Zelfsturende auto moet jongere sparen

Ethiek Als een zelfsturende auto moet kiezen, moet hij dan een oude vrouw doodrijden of een jonge man?

Illustratie moralmachine.mit.edu

Als mensen mogen kiezen, hebben ze het liefst dat bij ongelukken met zelfsturende auto’s mensenlevens gered worden in plaats van dierenlevens, dat méér levens gered worden in plaats van minder, en dat jonge mensen worden gespaard in plaats van oude. Dat blijkt uit een donderdag in Nature gepubliceerde verkennende studie.

Als zelfsturende auto’s de weg op komen, worden dat soort gruwelijke dilemma’s actueel. Stel dat zo’n auto niet álle betrokken levens kan redden, moet dan een oude vrouw blijven leven of een jonge jongen? Autofabrikanten en beleidsmakers worstelen met de vraag hoe je zulke morele dilemma’s moet oplossen, schrijven de onderzoekers.

We weten niet hoe vaak zulke dilemma’s op de weg voorkomen. Bestuurders die er een hebben meegemaakt, hebben het misschien niet als dilemma herkend. Of ze zijn overleden. Maar hoe zeldzaam zo’n dilemma misschien ook is, schrijven de onderzoekers, je moet wel van tevoren weten wat je wilt dat er dan gebeurt. En wat het grote publiek wil dat er gebeurt, zelfs als je dit soort beslissingen niet aan hen wilt overlaten. Er moet wel draagvlak voor zijn.

Daarom ontwikkelden de onderzoekers de Moral Machine, een gratis computerspel op internet. Deelnemers zien steeds een tekening van een zelfrijdende auto met nul of meer mensen erin, die in de richting rijdt van een aantal verkeersdeelnemers op een zebrapad. Het voetgangerslicht kan ook nog op rood of groen staan. Spelers moeten kiezen: moet de auto bijvoorbeeld iedereen op de zebra doden, of op een barrière botsen, waarbij alle inzittenden omkomen?

De onderzoekers analyseerden bijna 40 miljoen beslissingen van mensen uit 233 landen. Er kwamen drie clusters van landen uit (westers, Aziatisch en Zuid-Amerkaans), waartussen de nadruk die op sommige voorkeuren werd gelegd iets verschilde: in Aziatische landen was bijvoorbeeld de relatieve voorkeur voor jonge levens iets minder groot.

Het onderzoek is echt een eerste aanzet. Ruim tweederde van de deelnemers waren mannen, de meesten nog geen 25. De scenario’s waren beperkt: maar twee keuzemogelijkheden (doorrijden of uitwijken). Of iemand blijft leven of niet (ook maar twee opties) is zeker, alle personages zijn onbekenden en ingedeeld in een beperkt aantal stereotiepe categorieën. Huidskleur, ook een zichtbaar persoonskenmerk, zit er bijvoorbeeld niet bij. Die opnemen had vast meteen morele bezwaren opgeleverd. Maar ja: dikke, oude en sportieve mensen zitten er wel bij. Het blijft een cru onderzoek.

    • Ellen de Bruin