Rekenkamer Rotterdam: gebruik algoritmes leidde mogelijk tot vooringenomenheid

Het gebruik van algoritmes om zo besluitvorming te versnellen kan leiden tot bevooroordeelde uitkomsten, zoals bij de bestrijding van uitkeringsfraude door de gemeente Rotterdam. Dat oordeelt de Rekenkamer Rotterdam donderdag in een rapport over het algoritmegebruik. Volgens de Rekenkamer zijn er door de gemeente te weinig maatregelen getroffen om vooringenomen uitkomsten te voorkomen, onder meer bij het tegengaan van de fraude met uitkeringen.

Bij de bestrijding van de subisidiefraude maakte de gemeente Rotterdam gebruik van een algoritme dat in kaart bracht welke uitkeringen mogelijk onrechtmatig waren verkregen. Het algoritme was daardoor een belangrijke factor in de beslissing of iemand voor een heronderzoek in aanmerking kwam. Volgens de Rekenkamer was de verantwoordelijkheid voor het algoritme niet goed georganiseerd en werd te weinig aandacht besteed aan de eerlijkheid en transparantie. Burgers konden daardoor bijvoorbeeld niet inzien wat de rol is van het algoritme, indien zij uit werden gekozen voor een heronderzoek. Ook is er bij het gebruikte algoritme niet na te gaan welke keuzes op ethisch gebied zijn gemaakt. De Rekenkamer heeft het college van burgemeester en wethouders zes aanbevelingen gedaan waarmee die aandacht is gewaarborgd in de toekomst. Volgens het instituut heeft het stadsbestuur de aanbevelingen overgenomen.

Lees ook: De Formule: hoe algoritmes ons dagelijks leven sturen

Een algoritme is een reeks van regels en instructies die door de computer wordt gevolgd om zo tot een besluit te komen. De gemeente Rotterdam zet de algoritmes in om sneller en effectiever beleid toe te kunnen passen. Overheidsinstanties maken vaker gebruik van algoritmes om fraude op te sporen. De rechtbank in Den Haag oordeelde in februari vorig jaar nog dat de overheid moest stoppen met het gebruik van Systeem Risico Indicatie (SyRI). Dat systeem was in strijd met het Europese Verdrag voor de Rechten van de Mens (EVRM) en de privacywetgeving. Het algoritme gebruikt om risicoprofielen vorm te geven en personen met een verhoogd risico op fraude te achterhalen. De rechters oordeelden dat voor burgers onder meer niet was te achterhalen hoe „oncontroleerbaar” SyRI was.