Dodelijke denkfout in software nekt Ubers robotauto

Zelfrijdende technologie Na een dodelijk ongeval stopt Uber met het testen van zelfrijdende auto’s in Arizona. De Autopilot van Tesla ligt ook onder vuur.

Het wrak van een Tesla Model S, op 11 mei in Utah. De Tesla stond op Autopilot en bleek gas te hebben gegeven net voordat deze tegen een stilstaand voertuig aan botste. Foto AP/South Jordan Police Department

Vervoersdienst Uber besloot deze week definitief te stoppen met het testen van robottaxi’s op de openbare weg. De aanleiding is een dodelijk ongeval in maart. Het slachtoffer was een 49-jarige voetgangster, die met haar fiets aan de hand overstak in Tempe, Arizona.

Donderdag verscheen een analyse van verkeersdienst NTSB. De auto detecteerde de voetgangster 1,3 seconde voor de botsing maar remde niet automatisch. Dat was wel een optie, alleen is Ubers software zo ‘getuned’ dat de auto sommige obstakels (plastic tassen, overwaaiende tumbleweeds) negeert om al te abrupt en te frequent remmen te voorkomen.

De dodelijke denkfout: de testchauffeur had moeten ingrijpen maar was niet bij de les en werd ook niet door de software gewaarschuwd.

In het wild

Uber had de test in maart, meteen na het ongeval, al opgeschort. Deze week besloot het bedrijf driehonderd mensen in Tempe te ontslaan en de tweehonderd zelfrijdende Volvo XC 90’s (à 300.000 dollar per stuk) uit Arizona weg te halen. Uber wil op kleinere schaal testen in San Francisco en Pittsburgh. In een uitgelekte brief aan het personeel meldt Uber-manager Eric Meyhofer dat de testen „meer beperkt” zullen zijn. Meer computersimulaties zijn nodig voordat de auto’s de openbare weg op kunnen. Ubers testchauffeurs in Arizona hadden juist als doel zoveel mogelijk testkilometers ‘in het wild’ te maken.

Lees ook deze reportage uit Arizona: Robotauto’s testen in het wilde westen

Zo hoopte Uber zijn achterstand in te lopen op Waymo, het zusterbedrijf van Google. Waymo test een eindje verderop in Chandler zelfrijdende auto’s – inmiddels zelfs zonder chauffeur. Uber had net een conflict over gestolen informatie met Waymo uitgevochten en afgekocht.

Uber is niet het enige bedrijf dat worstelt met zelfrijdende technologie. Tesla kreeg deze week forse kritiek op zijn rij-assistent ‘Autopilot’. De Amerikaanse consumentenorganisatie Consumer Watchdog roept toezichthouder FTC op om onderzoek te doen. Twee dodelijke ongevallen bewijzen volgens Consumer Watchdog dat „automobilisten de capaciteiten van Autopilot overschatten en de beperkingen van het systeem niet goed begrijpen.” Advertenties voor ‘volledig zelfrijdende hardware’ zouden misleidend zijn. Tesla ontkent de kritiek en stelt dat de assistent juist veel ongelukken voorkomt. Autopilot dwingt chauffeurs elke dertig seconden het stuur vast te pakken. Die controle is simpel te omzeilen door een flesje water aan het stuur te hangen.

Lees ook: Teslas Autopilot is makkelijk te flessen.
    • Marc Hijink