Moeten robots een aparte juridische status krijgen? Een twistgesprek

is voorstander van het voorstel van het Europees Parlement om robots een juridische status te geven. acht het gevaarlijk. Een twistgesprek per mail onder leiding van .

Het Europees Parlement (EP) overweegt robots en andere kunstmatige intelligentie een aparte juridische status te geven. Een anticiperende maatregel of een onwenselijke ontwikkeling?

Rob van den Hoven van Genderen (RH): „Het moet in de toekomst mogelijk zijn om autonoom intelligente entiteiten een zekere mate van rechtspersoonlijkheid te geven, als daar op basis van hun functie een sociale, economische of andere maatschappelijke behoefte aan is. Dit is immers ook de ontstaansgrond van niet-natuurlijke rechtspersonen. Daarnaast gaat het in het EP-voorstel met name om de ontwikkeling en herziening van een juridisch raamwerk voor AI (kunstmatige intelligentie) en robotica. Daar is niets mis mee en getuigt van een vooruitziende blik.”

‘Robots zullen steeds meer integreren in de maatschappij’

Koen Hindriks (KH): „Natuurlijk is het belangrijk om nu al na te denken over een juridisch kader voor AI en robotica. Het EP-voorstel snijdt wat dat betreft veel relevante thema’s aan waar we als samenleving al binnen afzienbare tijd mee geconfronteerd zullen worden. Het schiet echter door als het gaat over slimme, autonome robots. Welk probleem willen we als samenleving eigenlijk oplossen door robots een rechtspersoonlijkheid te geven? Het lijkt me goed na te denken over kwesties rondom aansprakelijkheid maar geen goede zaak en onwenselijk een toekomst te schetsen waarin robots een rechtszaak tegen mensen kunnen beginnen.”

RH: „Het gaat er om een zekere mate van rechtspersoonlijkheid te overwegen. Er zal behoefte zijn aan erkenning van rechtsbevoegdheid van AI-entiteiten. Acceptatie en vertrouwen in de wilsovereenstemming door betrokken partijen bij het sluiten van contracten, het accepteren van gezag bij bijvoorbeeld surveillance en andere politietaken. Ook een overlijdensverklaring uitgegeven door een medisch AI kan rechtsgevolg hebben, als er maar acceptatie is.”

KH: „Het is maar zeer de vraag of we als samenleving zulke wezenlijke beslissingen aan een AI of robot willen overlaten. Willen we echt dat een robot belangrijke contracten voor ons gaat afsluiten of een overlijdensverklaring gaat uitgeven? Met deze discussie bevinden we ons in de unieke situatie dat we regelgeving proberen te formuleren voor iets dat nog sciencefiction is. We zouden ons vooral druk moeten maken over de technologische veranderingen die nu aan de gang zijn, zoals automatisch gegenereerde news feeds en zelfrijdende auto’s.”

‘We formuleren regelgeving voor iets wat nog sciencefiction is’

RH: „Ik ben met je eens dat er nu al een groot aantal kwesties zijn die raken aan disruptieve technologie en ingebed moeten worden in een juridisch raamwerk, met name op het terrein van privacyregels en aansprakelijkheid. Maar het een sluit het ander niet uit. In het Romeinse Rijk ging men er toe over om slaven een zekere mate van rechtspersoonlijkheid en vermogen te geven omdat de samenleving daar op sociaal-economische gronden om vroeg. Robotica en biotechnologie zullen steeds meer integreren in het maatschappelijk verkeer. Vanzelfsprekend moet daar nader onderzoek naar worden gedaan. Juist in het licht van deze ontwikkelingen moet out of the box denken leidend zijn.”

KH: „Het is opmerkelijk dat er nu al vanuit lijkt te worden gegaan dat er slimme, autonome robots komen waar we geen controle meer over hebben en dat we ons juridische raamwerk daarom zouden moeten aanpassen. Het is nog verre van duidelijk hoe we een grens kunnen trekken tussen de stofzuigerrobots van nu en de robots uit de sciencefictionverhalen die aanspraak zouden kunnen maken op een rechtspositie. Het lijkt me daarom beter om ons juist nu af te vragen hoe we robots zo kunnen ontwerpen dat het voor mensen mogelijk blijft er voldoende controle over te houden en het risico op falen kunnen minimaliseren. Laten we ons vooral richten op de voordelen van robots voor de zorg, het onderwijs, ondernemers; en hoe we van deze mogelijkheden kunnen profiteren zonder de risico’s daarbij te negeren.”

Lees ook: Moeten robots rechten krijgen?

RH: „Sciencefiction wordt eerder ‘science’ dan we denken en het kan geen kwaad voorbereid te zijn op die ontwikkelingen voordat zij uit de nevelen van de toekomst stappen. Ook de huidige ontwikkelingen op het gebied van autonome voertuigen vragen al om een aanpassing van de regelgeving op het gebied van aansprakelijkheid. Een controlesysteem op basis van registratie en certificatie voor AI-systemen zal nu en in de toekomst noodzakelijk zijn en blijven. Bij het juridisch oplossen van deze ontwikkelingen moeten we onze ogen niet sluiten voor de toekomstige technologie.”

KH: „We moeten onze ogen zeker niet sluiten voor toekomstige ontwikkelingen. Maar als we al te ver vooruit gaan lopen op de rest van de samenleving in dit soort discussies, maak ik me wel grote zorgen over de acceptatie. We hebben al voorbeelden waarbij er erg agressief wordt gereageerd op de inzet van een robot (surveillancerobot in San Francisco). Disruptieve technologie kan geen succes worden zonder de samenleving daarop voldoende voor te bereiden en angsten voor deze technologie zoveel mogelijk weg te nemen.”