Opinie

Laat accountants ook algoritmes controleren

Als algoritmes die bedrijven en overheden gebruiken getoetst worden, vergroot dat vertrouwen, schrijven en .

Getty Images

Algoritmes beslissen of mensen een hypotheek krijgen, in welke volgorde patiënten op de eerste hulp worden behandeld en of je op sollicitatiegesprek mag komen. Hoe betrouwbaar en eerlijk komen zulke belangrijke beslissingen tot stand? Regeringspartij VVD wil dat bedrijven en overheden daarover jaarlijks rapporteren. In een nota aan het kabinet vraagt de VVD om het toezicht te regelen en daar accountants bij in te schakelen. Een belangrijke stap in het paal en perk stellen aan de risico’s van een ‘algoritmiserende’ samenleving.

Uit de gezonde behoefte om beslissingen te automatiseren, om beslissingen sneller, beter of uitgebreider te kunnen nemen, ontstaan algoritmes: gereedschap om van ingevoerde gegevens naar een bepaald resultaat te komen. Beslissingen werden altijd genomen door mensen. Soms op basis van strikte protocollen, maar minstens net zo vaak vanuit een onderbuikgevoel (positief geformuleerd: een expert judgment). Hierin zit voor algoritmes de uitdaging: recht doen aan de nuances die bij een beslissing komen kijken. Willen we erop vertrouwen dat algoritmes goed functioneren, dan moeten we bij de bron beginnen. Namelijk bij het zorgvuldig ontwerpen, ontwikkelen en implementeren van algoritmes. De primaire verantwoordelijkheid voor kwaliteit van en vertrouwen in algoritmes ligt bij de organisaties en overheden die ze ontwikkelen. Accountants kunnen hier een rol spelen door te controleren of algoritmes doen wat ze moeten doen, en door het stellen van kritische vragen, met het oog op het maatschappelijk belang.

Lees ook: ‘Algoritmes vergroten ongelijkheid’

Het toetsen van algoritmes is voor accountants geen onontgonnen gebied. Softwarecode wordt al jarenlang aan (vrijwillige) toetsing onderworpen. Die toetsing wordt steeds uitdagender, doordat software zich dieper in de samenleving wortelt en steeds complexer wordt.

Er is een gebrek aan maatschappelijk algemeen geaccepteerde principes voor wat eerlijke en betrouwbare algoritmen zijn. Voor jaarrekeningen van bedrijven bestaan er richtlijnen die definiëren waaraan die jaarrekeningen moeten voldoen. Zonder een vergelijkbaar referentiekader kunnen we algoritmes niet consistent evalueren.

Het vaststellen van die principes is niet eenvoudig. Bepaalde maatschappelijke normen, denk aan niet-discrimineren, kunnen als randvoorwaarde dienen. Wettelijke normen voor bijvoorbeeld de bescherming van privacy leveren ook ‘harde’ eisen op waar algoritmen aan moeten voldoen. Maar een principe als ‘een algoritmisch besluit zal geen mens benadelen’ volstaat bijvoorbeeld niet, omdat ‘benadelen’ op te veel manieren is uit te leggen. Verder zijn er ook ‘softere’ aspecten, zoals maatschappelijk gewenst gedrag. Dan is het de vraag hoe ver bedrijven of overheden daarin willen gaan. Zoals op het gebied van duurzaamheid, of bij kwesties als ‘geef je mensen met een gat op hun CV een tweede kans’. Het is dan aan organisaties zelf wat ze hun algoritmes meegeven. Als accountants algoritmes gaan ‘controleren’, kunnen ze zulke keuzes blootleggen.

Lees ook dit opiniestuk: Algoritmes, de redding van onze democratie

Toezicht op het gebruik van algoritmes is een belangrijke stap om het maatschappelijk vertrouwen in algoritmes een wettelijke basis te geven. Dat is een gecombineerde inspanning van ontwikkelaars van algoritmes en toezichthouders waard.

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.