Help, mijn fietsroute is van Google

Hans de Zwart over hoe technologie de afstand vergroot tussen de makers en de gebruikers van die technologie.

Studio NRC, naar een idee van Computer Technology News

Ik woon al jaren in Amsterdam. En net als iedereen ga ik overal naartoe met de fiets. Vaak gebruik ik dan Google Maps om te bepalen welke route het handigst is. Een paar maanden geleden viel mij ineens iets op: als ik van de ene kant van de stad naar de andere kant van de stad moet fietsen, dan kiest Google nooit een route die door of over de grachtengordel gaat. Zelfs niet als ik zeker weet dat het de snelste route is om ergens te komen. In plaats daarvan moet ik er altijd omheen.

Een paar van mijn meer paranoïde — of noem ze sceptische — vrienden waren ervan overtuigd dat de rijke eigenaren van de grachtenpanden Google betaald zouden hebben om het verkeer om te leiden. Zelf geloof ik dat niet zo. Ik denk eerder dat er een soort softwarematige glitch in het systeem zit. Het algoritme achter Google Maps is waarschijnlijk gemaakt voor het stratenplan van San Francisco en niet voor de lay-out van ons werelderfgoed uit de 17e eeuw.

Toen las ik het verhaal over een klein groepje inwoners uit Los Angeles dat probeert om via de gemeente, en bij kaartenmakers, ervoor te zorgen dat het iconische Hollywood Sign — die grote letters op de berg — volledig van de virtuele kaart verdwijnt. Veel toeristen proberen zo dicht mogelijk bij het Hollywood Sign te komen en parkeren dan in de dure buurt die er direct onder ligt. Dat creëert volgens de bewoners van die buurt verkeersproblemen.

Ik ben even in dat verhaal gedoken. Of beter gezegd: het internet heeft mij erin gezogen. En het is een Nimbyverhaal van epische proporties: rechtszaken, dreigementen, eigenrecht, etcetera. En dat al jaren. Maar wat blijkt nu: Google heeft geluisterd naar de bewoners. Als je vlak onder het sign Google Maps om een wandelroute vraagt naar het sign, dan krijg je niet het directe pad — dat wel degelijk bestaat — te zien, maar leidt Google je via een wandelroute van ruim anderhalf uur naar een uitkijkplatform dat ongeveer zeven kilometer verderop ligt.

Dit is een voorbeeld van de manier waarop Google een directe, maar vaak ook impliciete, invloed op het leven van mensen heeft. En die invloed is alomtegenwoordig. Het is nu Google die bepaalt hoe ik van mijn werk naar het theater fiets. Door dat toe te staan, besluit ik de onuitgesproken aannames van Googles Geo-team over wat ik belangrijk vind, te vertrouwen.

De ongelooflijke hoeveelheid menselijke aandacht die in Google Maps is gestopt — bijna elke straat wordt handmatig getweakt — en alle ontwerpbeslissingen worden compleet verhuld achter een gelikte en strakke interface. Een interface waarvan we denken dat hij neutraal is. En als deze internetdiensten niet helemaal doen wat we van ze verwachten, dan geven we onszelf of ‘de computer’ de schuld. Zelden houden we de mensen die de software gemaakt hebben verantwoordelijk.

De designpsycholoog Donald Norman verwees eens naar een nieuwsbericht over een automobilist die bijna veertien uur rondjes had gereden op een drukke rotonde. Zijn lane keeping software zag steeds auto’s naast hem rijden en liet hem daarom niet van baan wisselen. Hij zat uren in de binnenbaan en kwam er niet meer uit. De politie heeft hem uiteindelijk totaal oververmoeid uit zijn auto geplukt.

Dit is gelukkig geen waargebeurd verhaal. Maar dat had het wel kunnen zijn. Norman gebruikt het om te laten zien hoe weinig aandacht er in het ontwerpproces is voor onze menselijke cognitieve capaciteiten en beperkingen. Zijn verhaal was ook vooruitziend: onze auto’s luisteren steeds minder vaak naar onze instructies en laten zich leiden door de ontwerpbeslissingen van een programmeur.

In de VS zijn er bijvoorbeeld ongeveer twee miljoen auto’s met een zogenaamde starter interrupt device. Kredietverstrekkers kunnen daarmee de auto’s van wanbetalers uitschakelen. Ze kunnen ook zien waar de autobezitters rijden en op locatie gebaseerde beperkingen instellen. Soms heeft dit desastreuze gevolgen. Denk aan het waargebeurde verhaal van een moeder die probeerde haar astmatische kind met spoed naar het ziekenhuis te brengen, maar van wie de auto niet wilde starten. Ik vind dit symptomatisch voor hoe technologie de afstand vergroot tussen de eigenaren daarvan en de mensen die de gevolgen ervan moeten ondergaan.

De manier waarop software ons gedrag reguleert, is vaak absoluut. Je kunt een algoritme niet even vriendelijk aankijken om een uitzondering op de regel te worden. Naarmate het netwerk in alles om ons heen gaat zitten en ons leven meer en meer gemedieerd wordt door technologie die niet door ons ontworpen is en waar we geen zeggenschap over hebben, zullen we vaker geconfronteerd worden met software die letterlijk onmenselijke beslissingen neemt. Dit is de voornaamste reden voor mij om bij Bits of Freedom te werken. Als we de zaken niet snel anders gaan aanpakken, worden we compleet afhankelijk van het — noodzakelijkerwijs — beperkte voorstellingsvermogen van de programmeurs die onze levens vormgeven.

Terug naar Google Maps. Het kan anders. Een onderzoeker bij Yahoo heeft bijvoorbeeld plekken in Londen gecrowdsourced die stil zijn, mooi zijn of waar mensen gelukkig van worden. Je kunt er dus voor kiezen om een happy route te nemen van Piccadilly Circus naar de Tate Modern. Natuurlijk is het fijn om een alternatief te hebben voor de meedogenloze efficiency-logica van andere navigatiediensten, maar wat ik vooral zo mooi vind aan deze alternatieve routes is dat ze mij een expliciete keuze geven over wat ík belangrijk vind als ik door de stad reis.