Column

Robotrechters produceren McDonald’s-rechtspraak

Dit jaar sliep ik welgeteld twee nachten in een Frans hotel. Het eerste hotel was majesteitelijk. ‘Voor ene keer is iedereen meneer’, zei mijn moeder vroeger als wij ons aan uitspattingen te buiten gingen. En nu zei ik dit zelf ook toen ik de menukaart opensloeg in het restaurant dat bij het hotel behoorde. Ik bestelde een Riesling uit 2009. ‘Non’, zei de ober. ‘U neemt een Riesling uit 2012.’

Het tweede hotel was heel anders. Een degelijk ketenhotel langs de route van de reizigers uit het Noorden naar het Zuiden. Op de deur van mijn kamer hing een bordje dat me vriendelijk aanraadde de boel te vergrendelen. ‘For a nice stay, we advise you to bolt your door. Thank you.’ Als u het niet gelooft, kan ik u de foto sturen die ik hiervan maakte. Het eten in het bijbehorende restaurant was navenant. Heel veilig, zullen we maar zeggen.

Ik heb wel eens gehoord dat ene Ken Robinson twee manieren heeft onderscheiden om je van kwaliteit te verzekeren: die van Michelin en die van McDonald’s. Fastfoodketen McDonald’s biedt een kwaliteit die bestaat uit voorspelbaarheid. Beeld je eens in dat de jongen achter de toonbank van McDonald’s tegen je zegt: ‘Nee, je krijgt geen Cola, ik geef je een Fanta.’ Dan ben je teleurgesteld. Doordat de diensten en producten van de keten zijn gestandaardiseerd, weet je precies wat je kunt verwachten.

Eet je in een restaurant met een Michelinster, dan weet je vooraf niet wat je te eten zult krijgen, niets is gestandaardiseerd, de criteria voor een ster zijn vaag, maar je weet dat het goed komt. De reactie van de Franse sommelier op mijn keuze was onvoorspelbaar, maar de man ontleende gezag aan zijn deskundigheid. Daarom werd ik ook niet boos, integendeel, ik gaf me over. Hier wist iemand alles beter dan ik.

Je kunt dit onderscheid natuurlijk ruimer toepassen, bijvoorbeeld op de rechtspraak. Bij Michelinrechtsspraak moet je keuzes overlaten aan de rechter, maar dan weet je ook dat het kwaliteitsniveau hoog is. Vertrouw je als samenleving niet langer op expertise en gezag met ongrijpbare criteria voor kwaliteit, dan roep je om McDonald's-rechtspraak en dan weet je vooraf wat er komen gaat, al is het niet veel zaaks.

Nu duidelijk is dat in de toekomst al ons werk zal worden overgenomen door robots en kunstmatig intelligente systemen, komt de vraag op of we dan voorgoed zijn veroordeeld tot McDonald’s. Of valt die deskundigheid van de Franse ober, met zijn wereldkennis, zijn smaak en Fingerspitzengefühl, ook in te bouwen in een robot? En stel dat we de rechter door een robot vervangen: zijn we dan bereid zijn superieure gezag te aanvaarden of doen we hem een petje op en laten we hem plastic uitspraken serveren?

In een artikel dat digitaal rondspookt schrijven vijf onderzoekers – Pontier, Widdershoven, Hoorn, Van Gelder en De Vries – over computersystemen die in staat zijn met delicatesse en deskundigheid uitspraak te doen over juridische en morele casuïstiek. Het systeem dat zij maken heet Coppélia, naar een ballet waarin een pop tot leven komt. En ze geven hun Coppélia het begrip mee van autonomie, emotie en persoonlijkheid. Zo heet het artikel dan ook: ‘Moral Coppélia: Affective moral reasoning with twofold autonomy and a touch of personality.’

Andere wetenschappers willen tegenwoordig nog wel eens denken dat je juridische uitspraken of morele oordelen over de zorg kunt crowdsourcen en dan inbouwen in een systeem. Gesundes Volksempfinden in Silicon Valley. De robot van Pontier en de zijnen doet een gooi naar een hoger kwaliteitsniveau. Ethisch redeneren met een ster.

Het idee is dat Coppélia later in de zorg gaat werken, en dan niet alleen mikt op winst en efficiëntie, maar ook morele standaarden toepast. Een nobel streven. Het probleem is alleen dat Coppélia’s morele algoritmes worden opgesteld door haar programmeurs. Die implanteren in haar bijvoorbeeld de gedachte dat autonomie boven rechtvaardigheid gaat. En suggereren dat je beter vijf hongerige patiënten kunt voeden en eentje laten wachten op de wc dan andersom, tenzij die ene je eigen dochter is.

Ze stoppen haar vol met behaalde resultaten uit het verleden, geven haar regels te eten, verbieden haar Immanuel Kant te lezen en verwachten dat ze dan vanzelf met patente oordelen komt. En Coppélia is niet iemand die uit dit stramien losbarst. Ze blijft een gestandaardiseerde werknemer met een moreel petje op. Zolang ze haar wereldkennis aan niets en niemand anders kan ontlenen dan aan haar programmeurs, blijft ze braaf uitserveren wat zij erin stoppen. ‘Garbage in, garbage out.’

Ik ben benieuwd of Coppélia ooit toegroeit naar volwassenheid en gezag. Maar ik hoop dat voor die tijd strijd losbarst over de vraag wie haar opleidt, voedt en haar doelen stelt.