Opinie

SyRI moet stoppen in afwachting van betere waarborgen

Digitale overheid

Commentaar

Het is in deze digitale tijd niet makkelijk om een overheid te zijn. Als je nieuwe technologieën níét benut, krijg je het verwijt een fossiel instituut te zijn. Als je juist net te enthousiast experimenteert met digitale middelen, krijg je boze burgers, juristen en zelfs de VN op je dak. De rechtszaak over het systeem SyRI, die afgelopen week diende in de Haagse rechtbank, is een cruciale zaak om het belang van bestuurlijke innovatie aan de ene kant, en het belang van rechtsbescherming aan de andere kant te wegen. Het is te hopen dat de rechter pal staat voor burgerrechten.

De zaak, aangespannen door een groep maatschappelijke organisaties en burgers (onder wie NRC-columnisten Maxim Februari en Tommy Wieringa) draait vooral om de vraag of de inzet van SyRI, het Systeem Risico Indicatie, proportioneel is. Het is een systeem dat data van verschillende overheden koppelt en analyseert om te helpen bij de opsporing van bijstandsfraude. De Staat wil niet vertellen hoe het systeem precies werkt en welke indicatoren het meeweegt, maar een voorbeeld dat tijdens de zitting werd genoemd is de koppeling tussen waterverbruikdata en uitkeringsgegevens. Laag waterverbruik zou een indicatie kunnen zijn van samenwonen op een ander adres, en dus van bijstandsfraude. Zo koppelt SyRI allerlei data van overheden.

De tegenstanders van SyRI vrezen dat het een „eerste stap is richting controlesamenleving” en eisen onder meer transparantie over de werking. De Staat vindt de inbreuk die SyRI maakt op de privacy beperkt tot het strikt noodzakelijke, namelijk tot het opsporen van reële fraude. Ook verzet de Staat zich tegen meer openheid, omdat dat burgers te veel inzage zou geven in opsporingsmethodes, waardoor die calculerend gedrag zouden kunnen vertonen. „Als je weet dat laag waterverbruik een risico-indicator is, kun je de kraan af en toe open zetten.” De argumenten van de tegenstanders zijn overtuigender.

Je kunt beter niet in een racewagen stappen zonder goede gordels, en toch is dat precies wat de overheid nu doet. De proportionaliteit is zoals de tegenstanders zeggen inderdaad ver te zoeken, het risico op discriminatie is te groot en de mogelijkheden voor burgers om effectief bezwaar te maken tegen beslissingen zijn te beperkt.

Te beginnen bij de proportionaliteit. SyRI werkt nu als een soort sleepnet om vele duizenden onschuldige burgers te onderzoeken voor de opsporing van tot nu toe enkele tientallen fraudegevallen. „Ik heb toch niets te verbergen,” gaat op tot het moment dat een burger vals wordt beschuldigd door het systeem. Openheid over opsporingsmethodes kan niet altijd. Maar burgers moeten weten waartegen ze bezwaar kunnen maken. Die mogelijkheid is er niet als burgers niet weten op basis van welke informatie de algoritmes beslissingen nemen. Hier zou transparantie het moeten winnen van het voorkomen dat burgers de mazen van het algoritme kunnen vinden.

De VN-rapporteur voor mensenrechten leverde voorafgaand aan de zaak scherpe kritiek op SyRI. Volgens hem is het te onduidelijk hoe de overheid discriminatie voorkomt. Wat als het systeem patronen ontwaart op basis van huidskleur? Er zijn al gevallen bekend waarbij de woonwijk een grote rol speelde bij het bepalen welke burgers door het systeem gehaald werden. Hoe voorkom je dat deze systemen discrimineren tegen mensen puur omdat die in een slechte buurt wonen?

SyRI is slechts één van de vele datasystemen die overheden gebruiken. Veel politiekorpsen maken gebruik van predictive policing-software. Partijen als IBM, Microsoft en Palantir verkopen dergelijke diensten al jaren aan overheden en semi-overheden. De mogelijkheden voor massa-surveillance groeien snel. De racewagen wordt binnenkort een straaljager, en daar wil je al helemaal niet zonder gordels in.

De aangewezen instituties schieten tot nu toe tekort om burgers te beschermen. Het wetsvoorstel voor SyRI passeerde het parlement als hamerstuk, al groeit de weerstand in de Tweede Kamer inmiddels wel. Toezichthouders hebben geen grip op dit soort toepassingen, zeggen zij ook zelf. Absolute transparantie van algoritmes is waarschijnlijk technisch onmogelijk, maar ten minste zou een onafhankelijke partij hier zicht op moeten houden. Het VVD- en D66-plan voor een ‘Algoritme Autoriteit’ kan een oplossing zijn. Hoe dan ook moet de overheid snel en ruimhartig benaderbaar zijn voor burgers met zorgen of bezwaren. Dat is nu onvoldoende het geval.

De SyRI-zaak draait om privacy, bescherming tegen willekeur van de Staat en het recht op gelijke behandeling. Die rechten zouden zwaarder moeten wegen dan het belang van de overheid om te innoveren om fraude op te sporen. De overheid zou moeten stoppen met SyRI en vergelijkbare systemen totdat er betere waarborgen zijn.