Zeg maar dag tegen je reflexen

De Inuit in Canada vonden ooit feilloos de weg. Maar de nieuwste generatie heeft GPS en is het navigeren verleerd. Hoe erg is dat eigenlijk?

Illustratie Emmelien Stavast

En wat nu als de prijs die we betalen voor machines die kunnen denken is dat mensen het niet meer kunnen?’, vroeg technologiehistoricus George Dyson zich in 2008 af. Ik las deze mooie zin in het nieuwe boek van Nicholas Carr, De glazen kooi. Het boek is één lang antwoord op de vraag van Dyson: ja, mensen verliezen rap capaciteiten door alomtegenwoordige computers.

Nicholas Carr is een notoir techzwartkijker. Hij schreef het prijs winnende essay Is Google Making Us Stupid? (antwoord: ja), en daarna twee boeken die een variatie op hetzelfde thema zijn. Must-reads, dat zeker, en wel om het volgende.

Op 12 februari 2009 stormde het tijdens een vlucht van Newark naar Buffalo. Toch hadden de piloten een rustig avondje. Zoals altijd, want de automatische piloot verzorgt het grootste deel van een vlucht. Het vliegtuig zat al ver in de landing toen het ineens veel te snel hoogte verloor. De automatische piloot schakelde uit en de gezagvoerder nam de stuurknuppel zelf ter hand. Hij trok de stuurknuppel naar achteren waardoor het vliegtuig vaart minderde. Als hij hem naar voren had geduwd had hij snelheid kunnen winnen en wellicht de crash die volgde kunnen voorkomen. In zijn opleiding had hij heus geleerd wat hij moest doen in een dergelijk geval. Waarom reageerde hij verkeerd?

De piloot is er niet meer om het aan te vragen, maar een vergelijkbaar ongeluk een paar maanden later doet vermoeden dat piloten niet altijd meer de reflexen bezitten die ze zouden moeten hebben. Grote schuldige: de automatische piloot. Die heeft vliegen stukken veiliger gemaakt, maar als piloten zelf weer aan de knuppel zitten maken ze vaker dan nodig fouten. Omdat ze routine missen, zo concludeert Carr in navolging van luchtvaart- en automatiseringsdeskundigen.

De Inuit in het noorden van Canada vonden jaren geleden feilloos de weg aan de hand van windrichtingen, sneeuwstuifpatronen en het gedrag van dieren. Maar de nieuwste generatie Inuit heeft GPS en is het navigeren met hulp van sneeuw en wind verleerd. Daarmee hebben ze de verantwoordelijkheid voor het navigeren uitbesteed.

Hoe erg is die macht van de technologie eigenlijk? Techzwartkijker of -toejuicher, Carr dwingt je hierover na te denken.

De zelfrijdende auto komt eraan. Met het vliegtuigverhaal in het achterhoofd moeten we die met angst en beven tegemoet zien. Ook de routine van het autorijden zal verdwijnen, zeg maar dag tegen je rem- en stuurreflexen. Aaah!

Carr draagt een oplossing aan: laten we automatisering in het vervolg ontwerpen met de mens in het achterhoofd. Software kan bijvoorbeeld zo worden geprogrammeerd dat de besturing van kritieke functies vaker en op onregelmatige tijdstippen wordt overgedragen van de computer naar de operator. Het besef dat dit op elk moment kan gebeuren moet de operator alert houden, het onderdrukt onze luie en snel afgeleide inborst.

Maar met deze oplossing zitten we volgens mij met het slechtste van twee werelden. Reflexen worden alsnog minder, en er is meer kans om slechte reflexen te laten zien. Al met al: meer brokken op de weg. Maar wat dan?

Wie een betere oplossing heeft mag het zeggen. Het liefst voordat zelfrijdende auto’s betaalbaar worden.