Recht & Onrecht

De besliscomputer disciplineert iedereen, ook de rechter

Zelflerende computersystemen in de strafrechtketen hebben ook nadelen. Verliezen rechters en politie hun beslissingsruimte, vraagt Marc Schuilenburg zich af in de Politiecolumn.

Er voltrekt zich een stille revolutie in de strafrechtketen. Het geloof in zelflerende algoritmes als waarheidsvoorspellers groeit onder politie en rechters. Het aantal computersystemen dat de opsporing en berechting van verdachte personen stuurt, neemt dan ook zienderogen toe.

Robotrechters worden ingezet om het recidivegevaar in te schatten van verdachte personen. ‘Predictive justice’, zoals het in het Engels zo fraai heet. In de Verenigde Staten alléén worden al meer dan 200 verschillende ‘predictive justice’-systemen gebruikt. Ook de Nederlandse politie is dol op het betere orakelwerk. Via algoritmen wordt de criminaliteit in een bepaald gebied voorspeld, waaronder het aantal woninginbraken. Ook zijn er algoritmen die de kans berekenen wie criminaliteit gaat plegen. Zoals in Chicago, waar via een zogenoemde ‘heat list’ wordt voorspeld wie betrokken gaat raken bij een schietpartij – als dader of slachtoffer.

Overtuiging overboord?

Voorstanders wijzen erop dat voorspellende systemen een ideaal hulpmiddel zijn voor de overbelaste strafrechtketen. Efficiënt en goedkoop, zo meent de Nederlandse rechterlijke macht. Ook zou het oordeel van de computer een stuk objectiever zijn dan die van de gemiddelde rechter of politieagent. Bovendien kunnen zelflerende systemen sneller en nauwkeuriger criminaliteit voorspellen. De voordelen mogen reëel zijn, maar dat zijn de gevaren ook. Fouten liggen op de loer omdat de voorspellingen vooroordelen in de gebruikte data reflecteren. Zo zal er altijd een bias ‘ingebakken’ zitten in de software die wordt gebruikt. Gebruikers van de software kunnen bovendien vaak niet achterhalen waarom het systeem een bepaalde beslissing neemt. Zo weet niemand hoe al die algoritmen werken en wie ze heeft gemaakt. Ook lijkt de menselijke maat uit de strafrechtketen te verdwijnen. Doordat het oordeel van rechters en politie wordt uitbesteed aan technische apparaten dreigen menselijke eigenschappen als overtuiging, intuïtie en empathie overboord te vallen.

Het model disciplineert

Vooralsnog lijkt justitie in Nederland zich niet druk te maken dat nuchter vakmanschap onder druk komt te staan wanneer zelflerende systemen haar werk overnemen. Een veelgehoorde reactie is dat rechters en agenten altijd kunnen afwijken van het advies van de computer. Uiteindelijk is het de juridische professional die beslist. Rechter en agent behouden de regie. Dit alles klinkt logisch. Toch denk ik dat te snel wordt vergeten dat de komst van voorspellende systemen gepaard gaat met een opleving van nieuwe regels en routines. Van het klassieke werk van de Duitse socioloog Max Weber weten we namelijk dat rationeel bepaalde regels het hart zijn van het bureaucratiemodel. Gedetailleerde voorschriften bieden hierin zekerheid. Ook weten we dat dit model disciplinerend werkt en dat dit het succes ervan deels verklaart.

Computer zei ja

Ik voorspel dat rechters en agenten niet snel zullen afwijken van de uitkomsten van hun geautomatiseerde programma’s. Je moet wel heel sterk in je schoenen staan om het oordeel van de rekenkundige modellen van computers te negeren. Daar komt nog bij dat de uitkomsten van dezelfde programma’s de juridische professional bescherming bieden mocht er onverhoopt iets anders gebeuren. ‘De computer zei: Ja.’

Hoewel zelflerende computersystemen de suggestie wekken dat het besluitvormingsproces constant in beweging is, zal het tegenovergestelde dus gebeuren. De vrije beslissingsruimte wordt hierdoor juist geminimaliseerd. Anders gezegd, en hier spreek ik namens Max Weber, algoritmen worden onze nieuwe bureaucratische regels.

 

De Politiecolumn wordt geschreven door deskundigen uit de politiewereld.

Blogger

Marc Schuilenburg

Marc Schuilenburg doceert aan de afdeling Strafrecht en Criminologie van de Vrije Universiteit te Amsterdam. Hij studeerde filosofie en rechten aan de Erasmus Universiteit Rotterdam. Zijn nieuwste boek heet The Securitization of Society. Crime, Risk, and Social Order (2015). Hij ontving de driejaarlijkse Willem Nagelprijs van de Nederlandse Vereniging voor Criminologie voor zijn boek Orde in veiligheid. Een dynamisch perspectief (2012). Samen met Bob Hoogenboom geeft hij het mastervak ‘Politie en Veiligheid’ aan de Vrije Universiteit Amsterdam. Zijn website is www.marcschuilenburg.nl.

    • Marc Schuilenburg