Opinie

    • Marc Hijink

Tesla’s Autopilot is te makkelijk te misleiden

De Autopilot-functie van Tesla kun je misleiden door een flesje aan het stuur te hangen. Het verandert een auto in een dodelijk, zelfrijdend wapen van ruim 2.000 kilo.

Wat deed Walter Huang in de laatste vijf seconden van zijn leven? Die macabere vraag is de inzet van het onderzoek naar een dodelijk ongeval in Californië. Op vrijdagochtend 23 maart reed Huang zijn Tesla Model X frontaal op een betonnen afzetting in Mountain View. De auto werd bestuurd door rijassistent ‘Autopilot’. Volgens Tesla negeerde de bestuurder vijf seconden lang de waarschuwingen voor hij zich te pletter reed.

Het lijkt me vreselijk om als nabestaande maandenlang met beelden van het uitgebrande autowrak geconfronteerd te worden. Maar analyses achteraf horen erbij. Autopilot is beta-software, de bestuurder een testrijder die kilometers maakt om Tesla’s kunstmatige intelligentie te trainen.

Van fouten kun je leren, ook van dodelijke fouten. Het wrange is dat Huang vaker geklaagd had over een afwijking die zijn Tesla op dat stuk snelweg vertoonde – alsof de auto op de betonnen barrière afstuurde.

Waterflesje aan het stuur

Autopilot is geen volwaardige robotauto, waarschuwt Tesla je zodra je het systeem activeert. Als bestuurder moet je regelmatig het stuur vastpakken om te laten zien dat je nog bij de les bent. Tenzij je een waterflesje aan het stuur hangt; dan lijkt het alsof je het stuur vasthoudt. Zo rijd je, zoals de Nederlandse Tesla-goeroe Vincent Everts onlangs demonstreerde, van Groningen naar Amsterdam met losse handen. Deze truc werkt ook bij rijbaanassistenten van andere automerken.

Bekijk hier het filmpje van Vincent Everts. De tekst gaat verder onder de video.

Hij kreeg boze reacties op zijn filmpje, zegt Everts als hij op mijn verzoek toont hoe je een Tesla flest. We rijden van Amsterdam naar Leiden. Op de Gooiseweg, waar je 80 kilometer per uur mag, schakel ik Autopilot in en gaat de auto er met 100 kilometer per uur vandoor. Huuh peerd. Op de snelweg hangt Everts een flesje water met een touwtje aan het stuur en voilà: we rijden zelfstandig. Alsof je een baksteen op de gasplank legt.

De simpele life hack verandert je auto in een dodelijk, zelfrijdend wapen van ruim 2.000 kilo. Het is druk op de weg en geen moment heb ik het idee dat ik mijn aandacht kan laten verslappen. Als we Leiden naderen rijdt de rij-assistent opnieuw veel te snel en stuurt op een tunnelwand af.

Je zult het wel niks vinden, die Autopilot, zegt Everts. Dat is niet waar. Een goede rijassistent compenseert menselijke gebreken. Maar ik vind het niks dat je dit systeem bij wijze van test mag activeren op plekken waar de maximumsnelheid niet bekend is. Of in de bebouwde kom, vol kwetsbare verkeersdeelnemers en onvoorspelbare gebeurtenissen. Ik vind het ook niks dat overmoedige bestuurders – van elk automerk – hun verantwoordelijkheid negeren en een flesje aan het stuur hangen om even rustig de e-mail bij te werken.

Toekomst bezaaid met ongevallen

De weg naar een veilige, zelfrijdende toekomst ligt bezaaid met ongevallen. We praten over de Uber-auto in Phoenix, die een overstekende voetgangster over het hoofd zag.

Ik ben benieuwd wat het slachtoffer, de 49-jarige Elaine Herzberg, de laatste vijf seconden van haar leven dacht. Zou ze blij zijn met de Wikipediapagina in haar naam, ter ere van het eerste verkeersslachtoffer door een zelfrijdende auto?

Marc Hijink is techredacteur.
    • Marc Hijink