De jurist van de toekomst moet de technologie de baas blijven

Wie verhuist geeft een housewarmingparty en dat deed afgelopen dinsdag de rechtenfaculteit van de Universiteit van Amsterdam. Na 140 jaar op de Oudemanhuispoort te zijn gevestigd verhuisde de faculteit naar het Roeterseiland. Het openingsfeestje ging gepaard met een debat over de jurist van de toekomst. Een toekomst die in het teken staat van almaar voortgaande digitalisering.

Zijn er eigenlijk nog wel advocaten nodig als algoritmen kunnen voorspellen hoe het oordeel van de rechter zal uitvallen en je bij wijze van spreken aan je telefoon kunt vragen: “Siri, sta ik in mijn recht?”. Sterker nog, hebben we dan nog wel rechters nodig of kan een robot in naam des konings veroordelingen uitspreken?  Belangrijke vragen voor rechtenstudenten.

Drastisch

Digitalisering heeft het vak van advocaat al verregaand beïnvloed.  In de jaren ’80 procedeerde ik geregeld tegen de Staat om uitzetting van vreemdelingen te voorkomen. De landsadvocaat schermde dan op de zitting met een stapeltje uitspraken in min  of meer vergelijkbare, door de Staat gewonnen zaken. Zaken die je niet kende, maar  ook niet kon kennen. Je ontving - met de post - wel rechtspraakoverzichten, maar die liepen altijd achter en waren onvolledig. Internet had nog geen betekenis. Digitalisering heeft aan dergelijke ongelijkheid drastisch een einde gemaakt. Er is veel meer informatie veel sneller en veel breder beschikbaar,  de zoekmogelijkheden zijn telkens verbeterd en zullen nog verder verbeteren. Rechtzoekenden kunnen ook zonder advocaat gemakkelijker juridische informatie vinden en zich een beeld vormen van hun kansen en risico’s. Ook die mogelijkheden zullen toenemen.

AI is niet neutraal

Een belangrijke vraag is wie in een democratische rechtstaat al die juridische big data eigenlijk beheren en wie de algoritmen ontwikkelen  die uitvoerders, advocaten en rechters sturen naar het antwoord op een rechtsvraag. Dat moeten we niet aan de vrije markt overlaten. Kennis is immers macht en macht verdient democratische legitimatie en controle. Zeker nu het kennis betreft over de uitleg en toepassing  van wetten en regels. Het is een publiek belang om de technologie die voor rechtsbedeling en rechtsvinding wordt gebruikt op haar democratische, rechtstatelijke en ethische waarden te toetsen en te testen en om de toegankelijkheid ervan te waarborgen.  Kunstmatige intelligentie is niet neutraal en kan door het leggen van bepaalde verbanden bijvoorbeeld vooroordelen bevestigen of misvattingen over het hoofd zien.

Beslisbomen

Processen waarin beslist wordt over rechten van mensen en bedrijven zijn de afgelopen decennia volledig geautomatiseerd; we zien dat bij gemeenten, uitvoeringsinstanties, de fiscus, verzekeraars en andere grote organisaties. Ik hoor regelmatig  dat “het systeem”  iets voorschrijft of niet accepteert. Waarmee ook het denken in die organisaties ophoudt. Dat automatisering bij de toekenning van rechten slechts een hulpmiddel is, wordt vergeten.

Maar een systeem doet niet meer dan informatie langs beslisbomen leiden. Het biedt geen ruimte voor deliberatie, het afwegen van feiten en omstandigheden waar niet naar is gevraagd of suggesties voor een alternatieve aanpak. Het beschikt niet over praktische wijsheid en kan niets met empathie. Besluitvormingssystemen, met hun glimmende pretenties van rechtsgelijkheid en rechtszekerheid, zijn louter gericht op rechtmatige uitvoering. Maar ze leiden niet per se tot een rechtvaardige uitvoering. Talloze rapporten en jaarverslagen  van de Nationale Ombudsman getuigen daarvan.

Baas blijven

De opdracht van juristen - van vroeger, van nu en van de toekomst -  is bij te dragen aan een rechtvaardige samenleving en aan de goede werking van de rechtstaat. Aan recht doen op basis van alle feiten en omstandigheden van het geval. Slimme technologie kan daarbij behulpzaam zijn. Maar de uitdaging wordt steeds meer om de technologie de baas  te blijven. Door de werking van systemen te blijven toetsen aan fundamentele rechten en de waarden van de rechtstaat.  En door automatisch gegenereerde uitkomsten niet onmiddellijk te verwarren met rechtvaardigheid.

Diana de Wolff is advocaat en bijzonder hoogleraar advocatuur aan de UvA. De Togacolumn verschijnt wekelijks en wordt geschreven door een advocaat, rechter en officier.