Wie zet z’n tanden in de foute algoritmes?

Nog voordat Alexandra van Huffelen (D66) deze week aantrad als staatsecretaris van Digitalisering, was ze al het slachtoffer van een klassiek knip-en-plak-foutje. Waarschijnlijk vergat een medewerker de laatste regel van de portefeuilleverdeling van het nieuwe kabinet mee te kopiëren in Van Huffelens takenpakket. In plaats van ‘normering beleid digitalisering en desinformatie’ stond er bij het laatste punt alleen ‘normering’.

Kan gebeuren. Erg overzichtelijk is die takenlijst dan ook niet. De eerste minister van Digitalisering – zo heet ze in het buitenland, in Nederland is ze staatssecretaris – krijgt een waaier aan digitale verantwoordelijkheden toegeschoven: van overheids-ICT en paspoorten tot open data en minder regeldruk.

Het gevoeligste item op de to-do list werd ongeschonden gekopieerd: Van Huffelen gaat het toezicht op algoritmes regelen. Om burgers te beschermen wil het kabinet algoritmes (software die mogelijk gedrag voorspelt op basis van datapatronen) controleren op ‘transparantie, discriminatie en willekeur’.

Van Huffelen heeft daar ervaring mee: ze werd als staatssecretaris in het vorige kabinet geconfronteerd met de extreem moeizame afhandeling van de Toeslagenaffaire. Duizenden burgers werden slachtoffer van de Belastingdienst die bij het toekennen van toeslagen blind voer op zelflerende algoritmes. De profielen die fraude moesten bestrijden, deugden niet. De software van de Belastingdienst was getraind met verkeerde data, de risicoprofielen werden niet gecontroleerd, waarschuwingen werden genegeerd. Fout op fout op fout. Die werkwijze was discriminerend, vond de Autoriteit Persoonsgegevens.

Diezelfde Autoriteit Persoonsgegevens (AP) wordt aanspreekpunt van Van Huffelens algoritme-autoriteit. Het is echter niet duidelijk of de toezichthouder alleen overheidssoftware controleert of ook de grote techbedrijven moet onderzoeken.

Het is ook niet helder of algoritmes vooraf of achteraf gecheckt worden, of beide. Het lijkt efficiënter om overheidsdiensten eerst een ‘Eerlijk Getest’ stempel te laten halen bij de toezichthouder voordat ze nieuwe zelflerende software inschakelen. Dat is beter dan achteraf, na klachten van slachtoffers, op zoek te moeten naar missers in machine learning.

Als er überhaupt al een klacht binnenkomt. Kom er als individu – complotdenkers daargelaten – maar eens achter dat je onderdeel uitmaakt van een patroon dat alleen door onzichtbare software gezien wordt.

De Nederlandse algoritmeautoriteit loopt alvast vooruit op een nieuwe Europese AI-wet die de inzet van kunstmatige intelligentie beter wil controleren. Het ontbreekt niet aan juridische mogelijkheden: de AP kan bijvoorbeeld bedrijfsgeheime informatie opvragen om algoritmes te doorgronden. Maar er is wel gebrek aan geld en specialisten om alle black boxes open te breken.

Als de nieuwe toezichthouder ook zijn tanden moet gaan zetten in de complexe algoritmes van Facebook, Google en andere techreuzen, dan zijn de toegekende budgetten ontoereikend. Vooralsnog is er 1 miljoen euro beschikbaar in 2023; in 2025 is dat 3,6 miljoen euro. Ter indicatie: een klein AP-team was meer dan twee jaar bezig om te constateren dat de Belastingdienst de wet overtrad. Dat leidde tot een boete van 2,75 miljoen euro. Niet eens vanwege een rammelend algoritme, maar omdat de Belastingdienst onrechtmatig gebruik had gemaakt van persoonsgegevens (door de selectie van mensen met een dubbele nationaliteit).

Vooralsnog is het toezicht op de algoritmes dus zelf een blackbox. Het is aan de nieuwe staatssecretaris van Digitalisering Van Huffelen om helderheid te bieden. Ze mag dan geen IT-expert zijn, ze is in ieder geval ervaringsdeskundige. Iemand die weet dat een knip-plak-foutje misschien te herstellen is, maar dat een fout in een algoritme onuitwisbare gevolgen heeft.

Correctie (12 januari 2022): In een eerdere versie van deze column stond dat Van Huffelen minister van Digitale Zaken is. Dat is onjuist. De juiste titel (in het buitenland) luidt minister van Digitalisering, in Nederland staatssecretaris van Digitalisering. Dat is hierboven aangepast.