Commentaar

Bijten naar de baas

Al millennia lang lopen er autonome ‘robots’ om ons heen. En hoe die honden en paarden moeten worden afgericht, weten wij mensen precies. Flink conditioneren en op tijd te eten geven. Basisregel: gehoorzamen en nóóit: bijten naar de baas. Isaac Asimovs beroemde regels van de robotica (kern: gehoorzaamheid en mensen geen letsel toebrengen) zijn dan ook prima toepasbaar op een boerderij uit de tijd dat er nog geen tractors waren.

Artificiële intelligentie stoomt op in onze samenleving en Asimov’s bundel Ik Robot (1950), waarin hij die Robotwetten ontvouwt, wordt deze maand zelfs gratis uitgedeeld in de openbare bibliotheken.

Er zijn veel verschillen tussen onze tijd en de jaren veertig, toen de jonge Asimov zijn robotwereld om de robotpsycholoog Susan Calvin verzon. Het grootste verschil is misschien wel dat inmiddels ook wetenschappelijk duidelijk is dat de wereld veel te complex is om dit soort ethische regels simpelweg in te programmeren. Wat is letsel? Hoe programmeer je absolute gehoorzaamheid bij een robot die ook zelf mag denken? Ontwerpers van zelfrijdende auto’s lopen er keihard tegenaan: mag een auto zijn bestuurder opofferen om een voetganger te redden?

Des te interessanter is het te zien hoe Asimovs wetten nog steeds ontwerpers van artificiële intelligentiesystemen inspireren, zoals Dorine Schenk verderop in deze bijlage beschrijft. Soms aandoenlijk, zoals bij de robots van Alan Winfield in Bristol, die in de war raken als twéé ‘mensen’ in een (denkbeeldig) gat vallen. Wie moeten ze redden? Maar de zorgrobots van het echtpaar Anderson kunnen al verschillende acties tegen elkaar afwegen.

Wij mensen zijn waarschijnlijk anders, met onze rare mix van koude ratio en aangeboren ethische intuïties. De sluwe burgemeester Salvor Hardin zei het in een ander beroemd boek van Asimov (Foundation, 1951) zo: ‘Laat nooit je ethische gevoel je ervan weerhouden het juiste te doen.’