Steek je middelvinger op naar robotauto’s. Machines zijn niet voor rede vatbaar

De staat Nevada gaf Google vorige maand toestemming om met zelfrijdende auto’s de weg op te gaan. ‘Kijk, zonder handen’, zei de blinde Steve Mahan tijdens een proefrit. Fijn voor hem, maar als medeweggebruiker worden we geconfronteerd met robots in situaties waar het om meer draait dan alleen verkeersregels.

De staat Nevada gaf Google vorige maand toestemming om met zelfrijdende auto’s de weg op te gaan. ‘Kijk, zonder handen’, zei de blinde Steve Mahan tijdens een proefrit. Fijn voor hem, maar als medeweggebruiker worden we geconfronteerd met robots in situaties waar het om meer draait dan alleen verkeersregels.

Wegverkeer is sociaal verkeer, zou je denken. Maar juist die notie ontbreekt in de wettekst. Nevada rept eigenlijk alleen over bepaalde privileges voor eigenaars van ‘autonome voertuigen’, basale technische eisen en een aparte nummerplaat. Op het gewenste oordeelsvermogen van de robot wordt niet ingegaan.

De staat definieert de robotauto als “een motorvoertuig dat met behulp van artificiële intelligentie, sensors en GPS zichzelf kan rijden zonder de actieve interventie van een menselijke chauffeur”. Artificiële intelligentie omschrijft Nevada als “het gebruik van computers en aanverwante apparatuur die een machine in staat stellen menselijk gedrag na te bootsen of te dupliceren”. Of zoals Tom Jacobs, zegsman van het ministerie van Verkeer, het uitdrukt: “Het systeem reguleert de remmen, het gaspedaal en het stuur.”

Hoewel Google op 1 april grapte dat ze wil meedoen aan de eerstvolgende autorace van NASCAR, is het bedrijf er wel van overtuigd dat zelfrijdende auto’s in 2020 voor de gewone consument beschikbaar zijn. Dat zal het aantal verkeersdoden drastisch verminderen, propageert de internetgigant. Een robotauto is namelijk altijd alert: nooit moe, nooit dronken.

De proefritjes zijn nu nog suffe blokjes om. Rent er plotseling een kind over straat, dan kan de robotauto dat op tijd waarnemen met sensoren. De auto weet: het voorkomen van een botsing is belangrijker dan de verkeersregel ‘niet stilstaan op de weg’. Maar wat als de dilemma’s complexer worden? Wat als de consequentie van remmen een kettingbotsing is met fatale risico’s voor inzittenden en achteropkomende weggebruikers? Neemt de robotauto dan het leven van een onoplettende voetganger om tien anderen te redden? Is dat aan te bevelen? En wie is eigenlijk juridisch verantwoordelijk voor een fatale manoeuvre van een robotauto?

The Economist luidde dit weekend de noodklok. “Nu robots autonomer worden, moet de maatschappij regels voor ze ontwikkelen.” Robotethiek, noemt het tijdschrift dat. Wie daar over nadenkt, ziet opeens allemaal beren op de weg. Situaties waar de wetgevers van Nevada gemakkelijk overheen stappen. Hun vertrouwen in artificiële intelligentie is net zo blind als de chauffeur van Google’s robotauto. Maar waar Nevada uitblinkt in naïviteit, daar schiet het tijdschrift door in doemscenario’s. De commentator bespreekt de film 2001: A Space Odyssey, waarin het ruimteschip HAL voor een dilemma komt te staan: het moet de missie geheim gehouden voor de bemanning. Geen probleem voor HAL: de boordcomputer doodt de bemanning, waardoor de missie volbracht wordt en geheim blijft. Moraal van dit verhaal is de noodzaak van een moraal. The Economist hoopt dat de experimentele filosofie programmeurs kan helpen met het inbouwen van een morele regelset en spoort sociale wetenschappers aan om zich actief met deze industrie te bemoeien.

Hoe ingewikkeld robotethiek is, blijkt uit het sciencefictionverhaal Runaround van Isaac Asimov uit 1942. De titel slaat op Speedy, een robot die in 2015 ‘moreel’ de weg kwijt is en daarom maar doelloos rondjes loopt om de plek waar hij tot actie moet overgaan. Een uiterst vervelende situatie, want Speedy was er door de astronauten Powell and Donovan op uitgestuurd om selenium te halen. Een stofje waarmee ze zich beschermen tegen de roosterende zon op de planeet Mercurius en dat ze zelf niet kunnen halen. Om na te gaan wat het probleem is met Speedy, loopt Powell de ‘drie wetten van de robotica’ - Speedy’s morele regelset - nog eens na. Wet 1: een robot mag geen mens verwonden of dat laten gebeuren. Wet 2: een robot moet alle orders van mensen gehoorzamen, behalve wanneer deze in strijd zijn met wet 1. En de laatste wet: een robot moet zijn eigen bestaan beschermen zolang dit niet strijdig is met wet 1 of 2.

Al gauw komt Powell erachter dat deze wetten in deze bijzondere situatie met elkaar conflicteren, maar dat de regelset op zich - ook de hiërarchie erin - niet verkeerd is. Het probleem ontstond toen Donovan te weinig urgentie gaf aan de opdracht ‘haal selenium’ (wet 2). Speedy dacht dat het om een routineklusje ging en sloeg, eenmaal op de gevaarlijke locatie, wet 3 hoger aan dan nodig (robot moet eigen bestaan beschermen). De kunst is nu om aan Speedy duidelijk te maken dat hij daardoor het leven van zijn meesters in gevaar brengt (wet 1).

Uiteindelijk lukt dat, maar daarvoor moet Powell wel zijn eigen leven op het spel zetten. “Wat doet u hier, baas?”, vraagt Speedy als hij Powell van de grond raapt. “En wat doe ik? Ik ben zo in de war.” Als de robot Powell veilig terug naar de basis brengt, stuurt Donovan hem er meteen weer op uit met de instructie “ten koste van alles” de selenium te halen. Vastberaden sprint Speedy, met gevaar voor eigen ‘leven’, naar de plek waar hij eerder verdwaasd rondjes liep. Eenmaal terug, put de robot zich uit in excuses. “Het is goed, Speedy”, stelt Powell hem gerust: de astronaut beseft dat de robot er niets aan kan doen dat wet 1, wet 2 en wet 3 met elkaar conflicteerden.

De wetgevers van Nevada kunnen nog wat leren van Isaac Asimov. Zij laten nu Speedy’s toe op de weg zonder diepgaand onderzoek te doen naar de regelset van rijdende computers. En dat terwijl iemand in de VS, net als in Nederland, pas een rijbewijs krijgt als hij een medische verklaring van geschiktheid overlegt. Wie lijdt aan een bewustzijnsstoornis, een psychiatrische ziekte, een drugsverslaving, fysiek ongemak of afhankelijk is van zwaar medicijngebruik, kan het papiertje op doktersadvies ontzegd worden. Allemaal zaken die het vermogen om adequaat en verstandig te handelen kunnen beïnvloeden.

De robotauto van Google mag op het eerste gezicht in orde zijn, maar in het verkeer red je het niet met kennis van de regels alleen. Daarvoor is een zekere mate van intelligentie nodig en het is zeer de vraag of zulks anno 2012 kunstmatig nagebootst kan worden. Knight Rider, de populaire serie uit de jaren tachtig, is nog steeds sciencefiction.

    • Steven de Jong