Opinie

De slimme robot is geen apparaat, maar een rechtspersoon

Opinie Vroeg of laat komen we in conflict met robots die zelfstandig beslissingen maken. Voorkom dat ze straks boven de wet staan, waarschuwt .

Scene uit de film ‘Bicentennial Man’, waarin een robot erkend wil worden als ‘natuurlijk persoon’. Foto Columbia Pictures/Touchstone Pictures

Robottechnologie beperkt zich allang niet meer tot de industrie. Klimaatregelaars, 3D-printers, surveillancerobots, drones, huishoud- en zelfs seksrobots doen hun intrede op de particuliere markt. Hoe autonomer ze worden, hoe minder ons recht geschikt is om alle conflicten – dus ook die tussen mens en software – te beslechten.

Het rechtsgebied erkent momenteel natuurlijke personen, zoals u en ik. Maar ook ondernemingen, organisaties en overheden kunnen overeenkomsten sluiten en aansprakelijk worden gesteld. Deze niet-natuurlijke rechtspersonen worden vertegenwoordigd door echte mensen – ze moeten immers bestuurd worden. Maar hoe zit dat straks met autonome systemen die taken overnemen en steeds intelligentere beslissingen nemen die juridisch geïnterpreteerd kunnen worden als rechtshandeling?

Sociale robots zullen niet alleen je huis stofzuigen maar op den duur ook zelfstandig rekeningen betalen en contracten afsluiten, en wie weet: in de auto stappen om een pakje sigaretten voor je te halen. Het burgerlijk recht zoals het nu geschreven is, ziet de robot echter nog als object. Niet als subject. Een kwestie die doet denken aan Bicentennial Man, een sciencefictionfilm uit 1999 gebaseerd op het gelijknamige verhaal van Isaac Asimov uit 1977. Daarin wil de robot Andrew Martin erkend worden als ‘natuurlijk persoon’. Een verzoek dat de rechter afwijst met het argument dat een robot eeuwig leeft. Jaren later vraagt de robot herziening aan. Een update maakt het mogelijk dat hij nu wel kan sterven. Bovendien, zo stelt Andrew, maakt de rechter zelf gebruik van niet-natuurlijke hulpmiddelen. Het verschil tussen robot en mens is dus zo strikt nog niet, wil de robot maar zeggen.

Industriële robots kunnen vooralsnog zonder handelingsbekwaamheid. Zij voeren instructies uit in een vastomlijnd proces. De behoefte aan rechtspersoonlijkheid ontstaat pas bij deelname aan het maatschappelijk verkeer. Een sociale robot moet in zijn zorgfunctie bijvoorbeeld afspraken maken met artsen en leveranciers. Dat kan niet zonder enige aanvaarding van rechtspersoonlijkheid. Maar op welk niveau is kunstmatige intelligentie ‘gelijkwaardig’ aan die van natuurlijke rechtspersonen?

De Turingtest uit 1950 kan uitsluitsel geven. Daarin moet een machine zich kwalificeren voor intelligentie op ‘menselijk’ niveau. Door de ondervrager, bijvoorbeeld in een chat, de indruk te geven dat hij praat met een echt mens. Ook moet de robot uitspraken emotioneel en moreel kunnen waarderen en daar passend op reageren. Sociale intelligentie dus. Adequaat reageren op veranderende omstandigheden is eveneens een voorwaarde, de zogenaamde actie-intelligentie.

Ooit wordt een robot je collega of baas. De Zweedse serie Real Humans heeft dat reeds gedramatiseerd. Mag je natuurlijke personen ontslaan zodra hun baan beter door een robot uitgevoerd kan worden? Is het rechtvaardig als een robot de controle heeft over een natuurlijk persoon? Het arbeidsrecht voorziet nog niet in een antwoord daarop. Actueler is een situatie waarin een zelfsturende auto brokken maakt. In het wegenverkeersrecht is de bestuurder verantwoordelijk. Maar wat als de besturing afhankelijk is van wegdekbeheer, fabrikant, meteorologische dienst, producent van navigatiesoftware en de ontwerper van het algoritme dat de auto zelflerend maakte?

Robotbestendig recht wordt dus vooral op het gebied van aansprakelijkheid ingewikkeld. En stel dat een robot schuldig verklaard wordt, heeft het dan wel zin hem te straffen? De stekker eruit, zoals in de film I, Robot? Tegelijk is er juist minder conflict te verwachten. Negentig procent van de verkeersongelukken komt door menselijk falen, de rest door omstandigheden zoals een vallende boom of lekke band.

En wat is een natuurlijk persoon eigenlijk? Is dat ook een mens die niet geboren werd uit een ander mens, maar samengesteld uit een kunsthart, kunstnier, kunstledematen, kunsthersenen, et cetera, en in een laboratorium tot leven gewekt? Hoe zit het trouwens met discriminatie? Terecht als een sollicitant voorgetrokken wordt als hij zijn lichaam een upgrade heeft gegeven met robottechniek?

Terug naar het onderscheid tussen rechtsobject en rechtssubject. Voeg daar sui generis aan toe, een rechtsfenomeen dat de enige in zijn soort is. Asimov gaf reeds een voorzet met drie wetten. „1. Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt. 2. Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de eerste wet. 3. Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de eerste of tweede wet.”

Goed bedacht, maar wel ingegeven door angst en de wens tot menselijke controle. Zo bezien kunnen die wetten ook een rem zetten op de ontwikkeling van kunstmatige intelligentie, terwijl we juist vooruitgang willen, toch?

Hoogste tijd om een commissie in het leven te roepen voor dit vraagstuk. Een multidisciplinaire graag, bestaande uit juristen, filosofen, ethici, informatici, politicologen en economen. Anders komen de robots op den duur zelf met een oplossing.