Een voetganger op de weg: dat snapte de zelfrijdende auto niet

Uber-ongeluk In maart 2018 overleed een voetganger na een botsing met een zelfrijdende auto. Wat ging er mis? Woensdag spreekt de Amerikaanse Senaat over nieuwe veiligheidsmaatregelen.

Een zelfrijdende auto van Uber reed een vrouw aan die met haar fiets, lopend, de autoweg overstak. De auto ‘identificeerde’ haar niet als voetganger.
Een zelfrijdende auto van Uber reed een vrouw aan die met haar fiets, lopend, de autoweg overstak. De auto ‘identificeerde’ haar niet als voetganger. Foto Politie Temple/AP

Het is 18 maart 2018, 10 uur ’s avonds, als de 49-jarige Elaine Herzberg een vierbaansweg oversteekt in het stadje Tempe in de Amerikaanse staat Arizona. Ze loopt rustig, dwars over de weg. Met haar linkerhand duwt ze haar fiets met boodschappentassen voort.

De Volvo XC90 van een Uber-medewerker rijdt met 70 kilometer per uur over dezelfde weg. De chauffeur zit in de bestuurdersstoel, maar heeft haar handen niet aan het stuur – de Volvo rijdt in self driving mode.

Dan de klap. Herzberg wordt geraakt. Één seconde voor de aanrijding raakt de chauffeur het stuur aan, blijkt achteraf uit onderzoek. Één seconde na het ongeluk trapt ze op de rem. Herzberg overlijdt aan haar verwondingen in het ziekenhuis.

Haar dood is een wrange primeur: ze is de eerste, en voor zover bekend enige, voetganger die om het leven is gekomen door een ongeluk met een zelfrijdende auto. Door botsingen bij testritten kwamen eerder wel chauffeurs om, maar nooit eerder liet een willekeurige voorbijganger het leven.

Verkeer is complex

Woensdag hoort de Amerikaanse Senaat veiligheidsorganisaties, ter voorbereiding op nieuwe federale wetgeving voor zelfrijdende auto’s. Directe aanleiding is het onderzoek naar de dood van Elaine Herzberg, dat deze maand werd gepubliceerd. De conclusies zijn vernietigend voor Uber, dat te snel en zonder de juiste veiligheidsmaatregelen een prototype testte op de openbare weg.

Uber investeerde vorig jaar ruim 400 miljoen euro in de ontwikkeling van zelfrijdende auto’s. Het techbedrijf droomt van een toekomst waarin mensen hun auto vervangen voor de Uber-app en iedereen op elk moment in een zelfrijdende taxi kan stappen. De taxichauffeurs die nu voor Uber rijden en klagen over lange werktijden en lage vergoedingen, hoopt het bedrijf dan niet meer nodig te hebben.

Lees ook dit interview met Uber-onderzoeker Raquel Urtasun: ‘Ubers robottaxi moet klein beginnen’

Die toekomst lijkt nog ver weg. Verkeer is ongekend complex, met veel onvoorspelbare factoren die moeilijk in een computermodel te vatten zijn. Zelfrijdende auto’s zijn uitgerust met een systeem waarvan de sensoren alles om de auto registreren. Simpel gezegd: zodra de software in de auto iets als ‘boom’ of ‘voetganger’ herkent, draagt die de auto op wat te doen. Door kunstmatige intelligentie (AI) leert de auto patronen herkennen en steeds beter te weten wat in welke situatie te doen.

Lees ook deze reportage uit Phoenix, Arizona over de zelfrijdende auto van Uber: Robotauto’s trainen in het wilde westen

Auto, overige, fiets

„Het moeilijkst is de computer te leren met randgevallen om te gaan, die eens in de zoveel duizend keer voorkomen”, zegt docent-onderzoeker Gijs Dubbelman, op de TU Eindhoven verantwoordelijk voor onderzoek naar zelfrijdende auto’s.

Voor de software van Uber was Elaine Herzberg zo’n uniek geval. De programmatuur bleek niet in staat een voetganger die zomaar een vierbaansweg oversteekt te herkennen. Uit het onderzoek na het ongeval blijkt dat de Volvo Herzberg in de secondes ervoor verschillende keren detecteert, maar niet als voetganger identificeert.

5,6 seconden voor het ongeluk: Herzberg wordt gekwalificeerd als ‘een auto’

5,2 seconden: ‘overige’

4,2 seconden: ‘auto’

3,8 seconden: wisselend, zowel ‘auto’ als ‘overige’

2,6 seconden: ‘fiets’

1,5 seconden: ‘onbekend’

0,2 seconden: ‘fiets’

Het automatische remsysteem van Volvo was door de Uber-ingenieurs uitgeschakeld. De bestuurder, die te allen tijde het stuur en daarmee de controle kan overnemen, keek vlak voor het ongeluk naar beneden, zo is te zien op videobeelden. De politie concludeerde later dat ze op haar telefoon naar tv-programma The Voice zat te kijken.

Carte blanche

Hoe kon Uber de weg op met een systeem dat nog zo onvolmaakt was? De Republikeinse gouverneur Doug Ducey van Arizona gaf Uber carte blanche voor het testen van zelfrijdende auto’s in zijn staat, bleek na het ongeluk. Dagblad The Guardian onthulde vorig jaar dat Uber Duceys soepelheid beloonde met geld en banen voor de staat en kantoorruimte voor hemzelf in San Francisco.

Zo kon het gebeuren dat Uber het aantal medewerkers in een auto tijdens testritten terugbracht van twee naar één. Iets wat je „absoluut niet wil”, zegt Dubbeldam, wiens zelfrijdende Toyota Prius testritjes maakt op de campus van de TU Eindhoven. In die auto rijden altijd minimaal twee medewerkers – „eigenlijk wil ik naar drie” – met een snelheid van maximaal 35 kilometer per uur. „Het verbaast me dat ze dit met 70 kilometer per uur hebben getest”, zegt hij. „Dit zijn prototypes, systemen die nog in ontwikkeling zijn.”

Na de dood van Elaine Herzberg staakte Uber alle testritten. Uber-topman Dara Khosrowshahi promoveerde veiligheid tot „prioriteit nummer één” en in december vorig jaar werden de ritten hervat. Niet meer in Arizona, wel in Dallas (Texas), Pittsburgh (Pennsylvania), San Francisco (Californië) en Toronto (Canada).

Uber nam maatregelen. De auto’s zijn uitgerust met betere software, hebben twee chauffeurs aan boord en rijden niet harder dan 40 kilometer per uur. Het automatische remsysteem van Volvo staat weer aan. En de ambities zijn opnieuw groot: Khosrowshahi verwacht dat binnen tien tot vijftien jaar de eerste volledig autonome zelfrijdende auto’s zonder chauffeur veilig op de weg rijden.

Khosrowshahi noemde het ongeluk met Herzberg onlangs in een interview „een fout, waarvan we nu herstellen”. Met haar nabestaanden trof Uber een schikking – over de inhoud daarvan doen beide partijen geen mededelingen. Elaine Herzberg laat een man en dochter achter.