Opinie

Ook politiedata kunnen gekleurd zijn of vervuild

Data-analyse door de overheid kan discriminatie bevorderen. Hoe kan de burger zich daartegen beschermen? In de Veiligheidscolumn pleit Marc Schuilenburg voor schone data en een zelfkritische staat.
GRONINGEN - Politieagenten voeren een verdachte af.
GRONINGEN - Politieagenten voeren een verdachte af. ANP XTRA Koen van Weel

In de brede discussie over racisme na de gewelddadige dood van George Floyd in de VS, klinkt de roep om het gebruik van voorspellende algoritmen door overheidsdiensten te verbieden. Door etnisch beladen factoren als ‘buurt’ en ‘nationaliteit’ als criterium mee te wegen, zouden voorspellende algoritmen leiden tot discriminatie van grote groepen burgers.
Denk aan het optreden van de Belastingdienst. De fiscus paste sinds 2012 de tweede nationaliteit toe als selectieregel om te bepalen of er een verhoogde kans was op fraude. Daarmee maakte de Belastingdienst zich schuldig aan etnisch profileren. Hetzelfde gaat op voor het risicoalgoritme SyRI om fraude met sociale voorzieningen op te sporen in achterstandswijken van grote steden.
Het gebruik van etnisch beladen factoren als ‘buurt’ beperkt zich niet tot fraudedetectie. Deze week kwam het taxatie-instrument RISC negatief in het nieuws. De reclassering maakt hiermee een inschatting van het recidiverisico van delinquenten. Onderdeel van de RISC is de OXREC, een actuarieel instrument waarin factoren zijn verwerkt als inkomen, opleiding en iemands postcode.

Verhoogde kans

Ook de Nationale Politie gebruikt vergelijkbare factoren om een verhoogde kans op criminaliteit te voorspellen. Dit gebeurt door het risico op criminaliteit vast te leggen door middel van een analyse van voorgaande incidenten in combinatie met factoren als het aantal uitkeringen per wijk. Dit kan ertoe leiden dat de politie zich blijft richten op dezelfde buurten, zelfs als in de uiteindelijke weging van het criminaliteitsrisico de postcode maar een klein aandeel heeft.
Ook op andere manieren kunnen voorspellende algoritmen discriminatie in de hand werken. Naast etnisch beladen factoren kan er sprake zijn van verouderde data. Stel dat de overheid slordig omgaat met het updaten van haar datasets, dan bestaat de kans dat de voorspellingen iets zeggen over het verleden – en daarmee ongunstig blijven uitpakken voor bepaalde burgers.

Onrechtmatige data

Daarnaast is er het gevaar van vuile data. Hierbij moet een onderscheid worden gemaakt tussen onjuiste en onrechtmatig verkregen data. Bij onjuiste data kun je denken aan de manipulatie van criminaliteitscijfers. Zo bleek uit een enquête en interviews van Investico met leden van de Nationale Politie dat agenten bepaalde strafbare feiten buiten de boeken houden. Onrechtmatige gegevens zijn data die komen uit bevooroordeelde of strafbare praktijken, zoals etnisch profileren door politieagenten. Etnisch profileren is al jaren een hardnekkig probleem bij de Nederlandse politie. Wanneer deze politiepraktijk leidt tot een proces-verbaal of arrestatie, kan dit van invloed zijn op de uitkomsten van nieuwe data-analyses.
Moet de overheid dus stoppen met voorspellende algoritmen om recidive- en criminaliteitsrisico’s in kaart te brengen? Dat lijkt mij te simpel. Een doelgericht gebruik van algoritmen met betrekking tot hardnekkige criminaliteitsproblemen kan een belangrijke bijdrage leveren aan een veilige samenleving. Risicoprofilering op basis van data-analyse maakt het mogelijk zowel snellere als complexere analyses uit te voeren waardoor de effectiviteit en efficiëntie van overheidsoptreden verder kunnen worden vergroot.

Systemen opschonen

De vraag is daarom hoe de samenleving zoveel mogelijk kan profiteren van voorspellende analyses en hoe tegelijk ethiek en de rechtsstaat deze nieuwe technieken beheersbaar en controleerbaar kunnen houden. Hiervoor is meer transparantie nodig over het meewegen van etnisch beladen factoren als ‘buurt’ en ‘geboorteplaats’ in voorspellende data-analyses. Nu wordt deze afweging niet of nauwelijks inzichtelijk gemaakt. Bovendien moeten vuile data uit de data-analyses van de overheid kunnen worden verwijderd. Opvallend is dat hiervoor nauwelijks mogelijkheden zijn.
Serieus kan worden betwijfeld of de overheid wel zelf voldoende kennis in huis heeft om hun systemen op te schonen. Ook voor burgers zijn de mogelijkheden uiterst beperkt om aan de bel trekken bij een privacyfunctionaris of beleidsmedewerker van de overheid om vuile data te verwijderen. Burgers weten vaak niet of en hoe hun gegevens zijn verwerkt, dat zij rechten hebben, en hoe zij deze kunnen uitoefenen.

Laakbaar

Ook achteraf, in het geval dat een voorspelling op basis van vuile data leidt tot een strafzaak bijvoorbeeld, zijn de mogelijkheden zeer beperkt. In dat geval moet de verdediging de rechter laten zien dat de voorspelling noodzakelijk was om tot een verdenking tegen de verdachte te komen, waardoor het gebruik van vuile data in de voorspellende data-analyse tot gevolg heeft dat de aanhouding van zijn cliënt onvoldoende op feiten was gestoeld. Wanneer een advocaat dit lukt, is het maar de vraag hoe de rechter hierop reageert. De taakopvatting van de strafrechter is, eufemistisch uitgedrukt, bepaald niet gericht op een welwillende houding met betrekking tot het identificeren van laakbaar politieoptreden. De vervolging van de dader wordt vaak belangrijker gevonden dan de wijze waarop het onderzoek door de politie is opgestart.
Niemand wil negatief geprofileerd worden. Zeker niet als dit op basis is van je huidskleur of postcode. Hoe kan de overheid ervoor zorgen dat voorspellende data-analyses gevrijwaard zijn van vooroordelen? Vereist hiervoor zijn schone data, goed geschoolde data-analisten, en transparantie voor belanghebbenden in het gebruik ervan. De overheid moet dit nu gaan organiseren. Anders is er voor burgers geen effectieve bescherming tegen discriminatie door voorspellende data-analyses.


Marc Schuilenburg doceert aan de afdeling Strafrecht en Criminologie van de Vrije Universiteit Amsterdam. Zijn nieuwste boek is ‘Hysterie. Een cultuurdiagnose’ (2019).

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.