Gaat kunstmatige intelligentie de rechter helpen met beslissen? En gedeeltelijk vervangen? Die kans lijkt licht gegroeid nu een strafrechter zelf wetenschappelijk onderzoek deed naar machinale rechtspraak in de dagelijkse praktijk. Met een positieve uitkomst. Binnen een kwalitatief goede rechtspraak kan software die een concept-beslissing produceert een constructieve rol spelen, luidt haar conclusie. En ze verwacht ook dat het zal gebeuren.
Een eerder initiatief om met zelflerende software online geschillen te beslechten, in de vorm van digitale arbitrage, stuitte in 2018 op stevige weerstand van de rechtspraak en op kritische media. Niet transparant, geheimzinnig en ‘commercieel’ was het oordeel. Over dit debacle wordt sindsdien geprocedeerd. Een poging van de rechtspraak om een van de grotere rechtsgebieden te digitaliseren mislukte al in 2017 – sindsdien is IT geen populair onderwerp bij rechters.
Eenvoudige verkeerszaken
Maar eind mei promoveerde dus de Bossche senior strafrechter Manuella van der Put (57) aan Tilburg University bij Corien Prins, hoogleraar recht en informatisering, op kunstmatige intelligentie in de rechtspraak. Haar eigen rechtbank Oost-Brabant gebruikte ze als proeftuin. Van der Put koos voor dit thema omdat haar toenmalige president oplossingen zocht voor de groeiende werklast, „anders dan méér mensen aannemen”. Kan intelligente software de rechtspraak efficiënter laten werken: bij wat voor type zaken en tegen welke rechtspolitieke, -filosofische en managementvragen loop je dan op? En zou zo’n systeem dan werken?
Van der Put deed literatuuronderzoek, ondervroeg deskundigen en bouwde in zes maanden een proefsysteem. Een tool waarmee eenvoudige verkeerszaken voor kantonrechters werden voorbereid. Die zelf controleerde of het beroep tijdig was ingediend en er was betaald. Die plaats, datum en soort overtreding herkende. Die vergelijkbare zaken leverde en ‘meest voorkomende beslissingen’. Dat systeem heeft ze vervolgens getest met rechters en gerechtsjuristen bij de rechtbanken Den Bosch en Eindhoven.
Ik ben ook niet bang dat we nu een soort robots worden
„De secretarissen waren er enthousiast over”, zegt Van der Put, vooral omdat het tijd vrij maakte. „Vergelijkbare zaken zoeken, daar heeft de gerechtsjurist niet altijd tijd voor. Dat doe je als rechter ook heel vaak zelf.” En als burgers aanvoeren dat ze te hard reden omdat ze op weg naar het ziekenhuis waren? „Ja, dan kun je de zoektermen ‘ziekenhuis’ en ‘hard rijden’ invoeren”. Waarna duidelijk is of en hoe vaak rechters dat eerder meewogen. Is de verleiding dan niet groot om daar gewoon een stempel op te zetten?
„Ik heb dat zo niet ervaren en ik ben ook niet bang dat we nu een soort robots worden. Uiteindelijk bleek de ‘meest waarschijnlijke beslissing’ uit het systeem het minst te worden gewaardeerd. Ook de gerechtsjurist gebruikte het wel maar gaf uiteindelijk de voorkeur aan eigen kennis en ervaring. Het is wel heel prettig om te weten wat er meestal wordt besloten. Nu kijken we ook in de jurisprudentie. Alleen kregen we dat hiermee automatisch aangeleverd. Rechtspraak blijft maatwerk: wie heb je voor je, wat was uw situatie? Daar gaat het om.”
Extra motiveringsplicht
Is er geen risico dat kunstmatige intelligentie de rechtsontwikkeling bevriest? „Zeker, dat risico is er gewoon. Bij kennissystemen is dat makkelijk te corrigeren. Als de Hoge Raad omgaat, dan passen we die kennis aan en nemen zo de nieuwe werkelijkheid mee. Maar bij machine learning is dat lastiger want dat wordt gevoed met historische data. Het is belangrijk om daar oog voor te houden. Rechters moeten ook leren hoe zo’n systeem werkt.”
En wat voor zin heeft hoger beroep nog als bij het hof hetzelfde voorspellende algoritme draait? Dat kan dan toch alleen maar dezelfde uitkomst hebben? „Je kunt afspreken dat je in hoger beroep geen of andere systemen gebruikt. Maar in beginsel, als het goed is, is de uitkomst hetzelfde. Alleen, wij mensen beslissen niet altijd hetzelfde. Dus als je het dan toch anders wilt doen zou je zo’n gelijke uitkomst moeten opvatten als een extra motiveringsplicht. Dat is ook kwaliteit.”
Rechters ervaren wel emoties, dat is belangrijk, het is een onderdeel van goede rechtspraak
Kunstmatige intelligentie (KI) is zonder emoties, heeft geen geweten, kent geen empathie. Moet de rechtzoekende daar blij mee zijn? „Rechters ervaren wel emoties, dat is belangrijk, het is een onderdeel van goede rechtspraak. Maar het kan ook een valkuil zijn. Machines hebben dat inderdaad niet. Voor een KI-systeem is alles hetzelfde. Dat ziet uw tranen niet. Dat is ook goed, want die laat zich ook niet beïnvloeden. Als we ons als rechters realiseren dat we onder invloed staan van wie we zelf zijn, van emoties, van het onderbewuste, dan kun je daar alert op zijn. Een machine zonder emotie zegt: dát en dát komt eruit. Een rechter kan dan zeggen – fijn, bedankt, maar ik doe het toch anders.”
Van der Put werkte sinds 2017 aan haar onderzoek, aanvankelijk met één dag vrijstelling. En later met een gesubsidieerde onderzoeker, om het proefsysteem te bouwen. Nu het af is wil ze graag de rechtspraak in, om het debat erover te voeren.
Zwaktes en sterke kanten
Haar dissertatie confronteert de menselijke rechter met de machine, analyseert ieders zwaktes en sterke kanten en inventariseert tientallen vragen, van praktisch-juridische tot ethisch-filosofische. Mag een beslissing mét KI goedkoper zijn voor de rechtzoekende dan zonder? Is een beslis-algoritme wel ‘uitlegbaar’ aan de rechter en aan de rechtzoekende? Is bij KI-zaken advocatenbijstand nog verplicht? Mag een burger tevoren het systeem raadplegen – hoe zijn type zaak doorgaans wordt beslist? Wie mag het systeem bouwen en onderhouden – de rechtspraak zelf, of is een (buitenlandse) leverancier? Mag de burger de toepassing van KI ook weigeren? Mag de rechter steun van KI ook eisen, of weigeren? Moeten KI-zaken altijd beperkt blijven tot een ‘klein belang’? Zo’n systeem maakt ook de rechters zélf transparant – wie wordt er vaak gewraakt en wiens uitspraken worden veel vernietigd? Heel wat dogma’s, beginselen en heilige huisjes worden op de korrel genomen.
Van der Put beveelt kleine stapjes aan, een groeiproces, waar de burger in mee moet kunnen en willen. Nu is vooral bewezen dat in korte tijd voor een overzichtelijk rechtsgebied een werkend systeem kan worden gebouwd. Na de foutparkeren-, roodlicht- en snelheidszaken zouden de verkeersboetes kunnen worden ondersteund met een beslisalgoritme. Van der Put acht het denkbaar dat voor sommige ‘bulkzaken’ de computer ooit zelf zou mogen beslissen. „Als we van een machine die doof en blind is autonoom een beslissing willen, dan zou dat voor sommige zaken misschien prima zijn. Dan moet je nog beslissen of daar een handtekening van een rechter onder moet. Of dat je pas in hoger beroep een rechter ziet. Maar dan moeten we het daar wel eerst in de rechtspraak over eens zijn.”