Opinie

Over data-analyse moet het parlement besluiten, niet de rechter

Binnenkort doet de rechter uitspraak over het systeem SyRI, dat persoonsgegevens koppelt om fraude te bestrijden. Maar volgens Peter Olsthoorn moet de politiek nadenken over de vraag hoe we data-analyse kunnen inzetten zonder aantasting van de rechtsorde.

In 2004, onder Mark Rutte als staatssecretaris van Sociale Zaken, is gezamenlijke sociale fraudebestrijding tussen overheden opgezet en vervolgens een systeem voor koppeling en analyse van databestanden gebouwd. Dit is ingezet onder de namen ‘Black Box’ en ‘Waterproef’. In 2007 keurde de privacywaakhond Autoriteit Persoonsgegeven (AP) dit af voor controle van uitkeringsgerechtigden in 65 noordelijke gemeenten. Na aanpassing ontstond Systeem Risico Indicatie (SyRI) dat 22 keer ingezet is door ‘interventieteams’, in overleg met de AP.

Maar wettelijke verankering ontbrak. Minister Asscher, zelf gepromoveerd in grondrechten, deed dat in twee stappen in 2013 met de zogenoemde Fraudewet en Fraudeaanpak door bestandskoppelingen dat een hamerstuk was, ook voor de Eerste Kamer, die privacy hoog in het vaandel heeft staan. In september 2014 trad het Besluit SyRI in werking.

SyRI genereert signalen van verhoogde risico’s van uitkerings- en toeslagenfraude door particulieren en van belastingfraude en arbeidswettenontduiking door bedrijven. Overheden en inspecties, van Belastingdienst tot IND, bundelen tot 55 databestanden voor het ophoesten van anonieme fraudesignalen. Die worden uiteindelijk gekoppeld aan BSN-nummers, concrete verdenkingen.

De uitvoering doet het Inlichtingenbureau in Utrecht, een ‘1984-achtige’ naam, waar ik in onderzoek voor de WRR als volkomen onbekend fenomeen op stuitte. Het bureau koppelt grote databestanden onder strikte voorwaarden en controle; ook voor armoedebestrijding en participatie van kwetsbare groepen in de samenleving. Voorheen was dat, net als de fraudebestrijding, meer afhankelijk van ambtelijke willekeur.

SyRI is ingezet tegen fraude met uitzend- en gastouderbureaus, schijnconstructies, illegaal werk en migratie, op recreatieterreinen en in probleemwijken in onder andere Weesp, Cuijk, Middelburg en Zoetermeer. Rotterdam staakte wijkonderzoek na protesten, want die kwamen er in overvloed, juist na de nauwkeurige wetgeving. Ook is SyRI nauwgezet getoetst aan nieuwe privacywet AVG.

Het Nederlands Juristencomité voor de Mensenrechten, Privacy First, Humanistisch Verbond, Tommy Wieringa en Maxim Februari (beiden columnisten van NRC) spanden een rechtszaak tegen de staat aan om SyRI. Ze vinden het fout dat ‘elke Nederlander bij voorbaat verdacht is’ onder ongebreidelde bestandskoppeling. Wellicht zullen ze op 5 februari juichend de ‘overwinning’ vieren; aan SyRi gaat weinig verloren.

Maar politiek bij een rechter beleggen door actievoerders vind ik (ondanks het stuk van oud-president van de Hoge Raad Geert Corstens, Het is niet de rechter die regeert, 24/1) een nederlaag van de democratie, net als SyRI simplificeren. De wezenlijke vraag voor ons en de politiek blijft liggen: hoe kunnen we data-analyse zinnig inzetten zonder aantasting van de democratische rechtsorde, bijvoorbeeld tegen ondermijning met drugscriminaliteit? Er ligt een Wetsvoorstel Gegevensverwerking Samenwerkingsverbanden, dat meer SyRI’s mogelijk maakt, maar niemand slaat er acht op. Een cruciale kwestie voor het parlement, niet voor de rechter.

De Belastingdienst kent vanouds jaarlijks tienduizenden kleine en grote verdenkingen, die ontspruiten aan de breinen van inspecteurs. Net als door politie, veelal intuïtief, die dus ook etnisch profileert. Mensen oordelen vanuit gekleurde ervaringen en kennisgebrek, zoals Michael Blastland recent in een uitstekend interview met Bas Heijne in NRC verwoordde.

We kunnen vooringenomenheid en beperkt geheugen ondersteunen door analyse van vastgelegde ervaringen en patronen in computers. Ook dat kan fout gaan, zoals recent nog met een voorspellend politiesysteem in Chicago dat na acht jaar slechte resultaten werd afgesloten.

Stel: opvallend vaak ontduiken FvD-leden belasting, begaan lezers van Tommy Wieringa stiekeme overtredingen in het verkeer en exploiteren NRC-abonnees zwartwerkende schoonmaaksters; aldus sprak SyRI. Vinden we dit als samenleving ook reden om hen – die zichzelf uiteraard eerbare burgers achten – achter de vodden te zitten?

Want de crux van hulp van automatische data-analyse zit hem in beslisregels (algoritmes) en het raakvlak van patronen en signalen naar concrete verdenkingen. In wisselwerking tussen mensen en machines verliest argwaan het van gemakzucht. Recent tikte ik (anoniem) de geroyeerde voetbalclub DWSV in, en de eerste aanvulling van Google was ‘Marokkanen’. Big data-resultaat van Google, een weerspiegeling van wat Nederlanders intikten! Het toeslagendrama bij de Belastingdienst ontstond door menselijke weigering om discriminatie vanuit data-analyse te wantrouwen.

Fout gaat het als fraudebestrijders gericht zijn op scoren, net als trouwens columnisten en opiniemakers als ondergetekende. Data-analyse met computers brengt groot nut, maar vooroordelen vanuit data-inzet en beslisregels zijn zeker zo gevaarlijk.

Enerzijds is de kwestie praktisch: welke mate van data-inzet verbetert het oordelen met louter menselijke intuïtie en kennis, zonder discriminatie? Maar tegelijkertijd filosofisch: hoe plukken we de medische-, handhavings- en andere vruchten van data-analyse en machineslimheid zonder ons slaafs te laten voorprogrammeren door techmolochs en overheden en stilaan een China te worden?

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.