Opinie

Digitale overheid

Openbaar bestuur moet beter weten dan ‘ computer says no

Wetten worden verdreven door algoritmes, waarschuwde de Raad van State afgelopen week in een zeldzaam ‘ongevraagd advies’. Hoewel computers soms efficiënter en sneller kunnen werken dan mensen, leidt de toenemende automatisering van de overheid tot ongewenste situaties. Zo kon het bijvoorbeeld gebeuren dat computers bij een trajectcontrole campers aanzagen voor vrachtwagens. Deze campers werden onterecht aan de lagere snelheidslimiet voor vrachtwagens gehouden door het systeem – en de eigenaren kregen een boete op de mat. Het ministerie van Veiligheid en Justitie zag geen mogelijkheid om deze beslissing automatisch te corrigeren, waardoor de chauffeurs van de campers individueel bezwaar moesten maken tegen de onterechte boetes.

Dit soort situaties is onrechtvaardig en onwenselijk. Het advies van de Raad moet serieus genomen geworden door alle overheden waar werk gemaakt wordt van digitalisering. De waarschuwing raakt bovendien aan een breder fenomeen: het al te grote vertrouwen in de superioriteit van algoritmes en computers. Het openbaar bestuur moet beter weten dan ‘computer says no’. Beter weten dan de automobilist die blind de navigatie volgt en de sloot inrijdt.

Burgers moeten bijvoorbeeld altijd bezwaar kunnen maken tegen overheidsbeslissingen. Daartoe is transparantie nodig over hoe beslissingen tot stand komen, anders zijn die niet aan te vechten.

Kunstmatige intelligentie, een verzameling technieken die bijvoorbeeld zelfstandig patronen kunnen ontdekken in grote hoeveelheden gegevens, kan vaak niet uitleggen hóé bepaalde beslissingen worden genomen. Dit soort black boxes is ongewenst als het gaat om beslissingen die ingrijpen in de persoonlijke levenssfeer van burgers.

Een direct gevaar van te grote afhankelijkheid van algoritmes is het risico op discriminatie. Technologie is niet neutraal. Een algoritme is net zo nauwkeurig als de ingevoerde data, en in menselijke data zitten nou eenmaal menselijke fouten. Nu algoritmes bijvoorbeeld worden gebruikt voor het voorspellen van de kans op bijstandsfraude liggen zeer ingrijpende fouten op de loer. Het gevaar is dat burgers worden afgerekend op profilering en correlatie in plaats van individueel handelen.

De Raad van State wijst terecht op nog een tekortkoming van data en computers. Algoritmes zijn superieur in het berekenen van oplossingen voor zwart-witsituaties. Iets is of een nulletje of een eentje. In veel gevallen is de sociale en juridische werkelijkheid echter niet zo binair. Voorzichtigheid is geboden.

Het blinde vertrouwen in data en computers is een probleem dat breder speelt dan bij overheden. Denk aan verzekeraars die op basis van algoritmes premies bepalen voor levens- en schadeverzekeringen. Of bedrijven als Facebook en Google die deels automatisch informatie censureren. Ook daar is grote waakzaamheid vereist. Maar de overheid verdient vanwege haar publieke taak extra aandacht.

De laatste jaren is zogeheten digitale sturing van de burger en automatisering van overheidstaken in opmars. Dat kan uiteraard nuttig zijn maar het blijft oppassen. Algoritmische overheidsdiensten worden vaak verkocht onder de termen smart city en living lab. Alleen het feit al dat gemeenten deze marketingtaal gebruiken roept twijfels op over wiens belangen ze dienen. De overheid is van de burger, niet van technologiebedrijven of consultants.

Nederlandse burgers leven niet in een digitaal laboratorium maar in een rechtsstaat.

In het Commentaar geeft NRC zijn mening over belangrijke nieuwsfeiten. De commentatoren schrijven deze artikelen in samenspraak met de hoofdredactie.