Opinie

Hoe herken je een goedaardige robot?

Er zijn geen criteria om goede en kwaadaardige robottechnologie te onderscheiden. en doen een voorzet aan de hand van de sf-serie Black Mirror.

Beeld uit de Black Mirror-aflevering Arkangel, geregisseerd door Jodie Foster. Een moeder laat met de beste bedoelingen een chip bij haar dochter implanteren. Foto Christos Kalohoridis/Netflix/AP

Onderzoeksplatform Investico en Nieuwsuur onthulden dat er in Nederland jaarlijks duizenden rechtszaken worden afgehandeld door ‘robotrechters’. Deze ‘e-courts’ beslechten geschillen tussen organisaties als Bol.com en hun klanten. De vonnissen zijn pas geldig na een stempel van een echte rechter, maar meestal is dat een hamerstuk. Wel goedkoop, niet transparant. Dus waren er Kamervragen en maatschappelijke verontwaardiging.

Het roept de vraag op wat goede en slechte robottechnologie is. In elk geval raakt de robotrechter een gevoelige snaar. Instinctief willen we essentiële maatschappelijke en menselijke functies niet aan robots overlaten. Zoals bijvoorbeeld morele vragen in het recht. Maar medische expertise-software, die op hetzelfde vlak opereert, is al meer ingeburgerd.

Zelf hebben we de afgelopen jaren gewerkt aan Smart Shoulder: een stuk technologie dat monteurs en technici moet helpen. Het is een slim ‘vest’ met sensoren en een camera. Het wordt als een soort schouderholster gedragen en kan bijvoorbeeld waarschuwen als een monteur zou vallen, het ‘ziet’ wanneer het licht moet bijschijnen en kan de lichaamshouding van de monteurs corrigeren. Deze robot maakt hun werk makkelijker, veiliger en gezonder.

Instinctief willen we essentiële maatschappelijke en menselijke functies niet aan robots overlaten

Toch bestaan er nog steeds geen harde criteria om goedaardige van kwaadaardige robots te onderscheiden. Naarmate robottechnologie op elk vlak doordringt, zullen we die de komende jaren samen moeten opstellen.

Ontspoorde tech

Hoe moet het niet? Kijk daarvoor naar de populaire en bekroonde serie Black Mirror (vier seizoenen sinds 2011, de laatste twee op Netflix). Het is een lange reeks schrikbeelden over hoe kwaadaardige technologie een toekomstige samenleving doet ontsporen. Een arts die met geïmplanteerde chips van patiënten aan de haal gaat. Oneindig lijden als kloon in een digitale wereld. De kijker wordt bang en is dan opgelucht; het is immers niet echt.

Hoewel? China gaat elke burger een ‘sociale score’ geven op basis van big data. Wie hoog scoort – de overheid bepaalt op grond van welke criteria – krijgt privileges. Lage scores krijgen geen banklening of mogen niet naar de universiteit. Het doet nogal denken aan de Black Mirror-aflevering ‘Nosedive’.

Black Mirror houdt ons letterlijk een zwarte spiegel voor. Daarin kunnen we ook eigenschappen zien die goedaardige robots in elk geval moeten hebben. Een voorzet, mét kijkadvies.

Een goedaardige robot wordt mee-ontworpen door mensen die hem ook zelf gaan gebruiken.

Als je mensen van het begin af aan betrekt bij de ontwikkeling, ze zelf laat meedenken over de vraag waarmee een robot ze zou kunnen helpen, blijkt vaak dat ze positief tegenover robotisering staan. Bij ons eigen onderzoek naar ‘slimme kleding’ bleken technici in grote meerderheid positief over robots die werken veiliger en gezonder maken. Hoe het niet moet: Black Mirror, aflevering ‘USS Calister’ (een vrouw in een ruimteschip ontdekt dat het gezag van de leider, in wie iedereen gelooft, niet is wat het is.)

Een goedaardige robot voegt waarde toe aan alle betrokkenen.

De robot moet in economische termen efficiënt zijn. Dat betekent dat hij waarde moet toevoegen aan de levens van alle betrokkenen. Dat kan alleen als degenen die hiervan nadeel ondervinden ruimhartig worden gecompenseerd; in de economie bekend als het Kaldor-Hicks-criterium, waarbij je alle kosten en baten mee rekent. Robots mogen dan bijvoorbeeld wel werk overnemen, maar alleen als we ook investeren in de ontwikkeling van degenen die dit werk verliezen. Hoe het niet moet: Black Mirror, ‘Arkangel’ (moeder laat dochter met nuttige chip implanteren, waarvan het voordeel steeds eenzijdiger wordt).

Een goedaardige robot heeft een kill switch.

Robots moeten te allen tijde door mensen uit te schakelen zijn met een zogenaamde kill switch; een noodknop die de kunstmatige intelligentie stopt en de mens weer alle controle geeft. Op grond van dit criterium lijkt voor de robotrechter bijvoorbeeld het doek te vallen. Hoe het (ook) niet moet: Black Mirror ‘Metalhead’ (robothonden spelen de baas).

Correctie (24/1/2018): In een eerdere versie van dit artikel stond dat “uit onderzoek blijkt dat negentig procent van de technici in Nederland positief staan tegenover robots die werken en gezonder maken”. Het gaat om onderzoek door CrossOver waar de auteurs partners zijn.