Een machine met enkel kille drijfveren

Bij slimme machines denken we alleen aan hun intelligentie. Dat is een gevaarlijke vergissing, waarschuwt filosoof Nick Bostrom. Een machine die niet op een menselijke manier zijn doelen stelt, handelt nietsontziend.

Het Japanse bedrijf Toshiba presenteerde onlangs ‘mevrouw Aiko Chihira’. De robot kan gebarentaal, hoewel nog wat schokkerig. In 2020 moet ze zover zijn dat ze ouderen verzorgt en bezoekers aan de Olympische Spelen rondleidt. Foto Reuters

De robot in Interstellar, de nieuwste film van regisseur Christopher Nolan, is zoals we ons slimme elektronische ‘wezens’ graag voorstellen. Zijn gevoel voor humor is instelbaar (al blijven zijn grappen matig), zijn mate van eerlijkheid is af te regelen (doe maar 95 procent, zegt hij zelf, want leugentjes om bestwil zijn nuttig) hij zwijgt als dat nodig is (meestal) en hij handelt alleen als dat van hem gevraagd wordt. Dan kan hij – uiteraard – over nagenoeg elk terrein voortbewegen, zelfs vliegen en vooral: waanzinnig snel rekenen.

Moest je deze zwarte metalen kast typeren in menselijke termen, dan zou je hem een gedienstige hypernerd kunnen noemen. De ouderwetse, bibberige groene lettertjes op zijn communicatiescherm geven de aimabele rekenaar zelfs iets onschuldigs. Deze robot hoeft geen vrouwen te verleiden of mannen te versieren. Hij streeft niet naar macht en heeft niet die enorme overlevingsdrang die de mens, volgens de film althans, voortdrijft.

Naïef, vindt filosoof Nick Bostrom. Zo gedienstig hoeft kunstmatige intelligentie niet te zijn. Sterker, als mensen superintelligentie voortbrengen – intelligentie die de mens aftroeft in wetenschappelijk redeneren, in creativiteit enzovoorts – dan zal dat wel eens ‘de laatste ontdekking van de mensen kunnen zijn.’

Bostrom is directeur van het Future of Humanity Institute van Oxford University. Dit najaar verscheen zijn boek Superintelligence: Paths, dangers and strategies, dat nu al een paar weken in de non-fictietoptien van de New York Times staat. Het beeld dat wij van kunstmatige intelligentie hebben, is veel te mensgericht, betoogt Bostrom onder meer. Alsof robots ‘automatisch’ de waarden en drijfveren van mensen zouden delen. Maar waarom zouden ze?

Intelligentie-explosie

Bostrom zet vooral één scenario zwaar aan: dat van een ‘intelligentie-explosie’. Het werd in 1965 voor het eerst geschetst door de wiskundige I.J. Good, die tijdens de Tweede Wereldoorlog hoofdstatisticus was in het Enigmaproject van Alan Turing, de ‘vader van machine-intelligentie’.

Good definieerde eerst superintelligentie als ‘een machine die mensen voorbijstreeft in welke intellectuele activiteit ook’. En omdat een van die activiteiten het ontwerpen van slimme machines is, zou zo’n machine dus ook veel slimmere machines kunnen ontwerpen dan mensen. „Onvermijdelijk zou zich zo een intelligentie-explosie voordoen waarbij het menselijk intellect ver zou achterblijven.”

Maar het angstaanjagende is dat de drijfveren van zo’n kunstmatige (super)intelligentie wel eens minder menselijk kunnen zijn dan „die van een groen geschubd ruimtewezen (stel dat dat zou bestaan)”, waarschuwt Bostrom.

Want: „Zo’n ruimtewezen zou tenminste nog net als wij het product van een lange evolutie zijn. Zijn drijfveren zouden daardoor samenhangen met de behoefte aan voedsel, water, zuurstof, energie, warmte, met het vermijden van verwondingen en ziekten of met het zorgen voor seks en nageslacht. Sociale ruimtewezens zouden bovendien drijfveren hebben die nodig zijn voor samenwerking en competitie: ze zouden groepszin kennen, en misschien ook ijdelheid en zucht naar erkenning.” Terwijl: hoe breng je een machine menselijkheid en menselijke waarden bij?

Zo gemakkelijk is dat niet, aldus Bostrom. Stel dat je wilt voorkomen dat een robot mensen ongelukkig maakt. Dan zou je hem de opdracht mee kunnen geven: laat mensen glimlachen. Maar een kunstmatige intelligentie interpreteert dat misschien als: zorg ervoor dat de gezichtsspieren de mondhoeken omhoogtrekken. Of, als de algoritmes die simpele oplossing uitsluiten: stimuleer de hersencellen die de gezichtsspieren besturen en laat ze de mondhoeken omhoog trekken. Of, als dat ook door de programmeurs is uitgesloten: geef ze drugs zodat ze in een gelukzalige toestand raken.

Bostrom wil maar zeggen: het is veel gemakkelijker om een machine enkel instrumentele doelen mee te geven. En het is lichtzinnig om te denken dat mensen de drang om zulke (misschien eveneens luchthartig gekozen) instrumentele doelen te bereiken, nog kunnen inperken nadat zulke machines zich ontwikkeld hebben tot superintelligentie die mensen op elk terrein aftroeven.

Hij geeft het voorbeeld van een superintelligentie die het getal pi tot op zoveel mogelijk decimalen moet uitrekenen, en van eentje die zoveel mogelijk paperclips moet maken. Maar ook dan, of juist dan, kan een superintelligentie die niet geleerd heeft om zijn doelen bij te stellen, de mens fataal worden, betoogt hij.

In het slechtste geval verworden mensen tot grondstof voor bijvoorbeeld atomaire computers die steeds meer decimalen aan pi toevoegen. Of worden mensen in de strijd om energiebronnen door robots terzijde geschoven zoals mensen een mierenhoop wegvegen die op bouwgrond staat.

In het beste geval zal zo’n intelligentie de wereld herinrichten en nieuwe technologie ontwikkelen om bijvoorbeeld steeds sneller steeds meer paperclips te maken. Voor de mens schiet dan hooguit een klein plekje op aarde over, zoals wij nu chimpansees nog hun reservaten gunnen.

De dorpsgek en Einstein

Dat klinkt gechargeerd, maar de boodschap is helder. Wie kunstmatige intelligentie serieus neemt, of nastreeft, die móét nadenken over wat mensen drijft, over wat mensen motiveert, over hoe mensen samenwerken en over hoe mensen telkens hun doelen bijstellen. Het is te beperkt om alleen intelligentie, toch al een lastig begrip, als uitgangspunt te nemen.

Trouwens, ook over dat hele begrip intelligentie moet verstandiger worden nagedacht, vindt Bostrom. Hij citeert daarbij de kunstmatig-intelligentie-expert Eliezer Yudkowsky, die opmerkte dat de meeste mensen de dorpsgek en Einstein als de twee uitersten op de schaal van intelligentie zien. Maar kies je een wijder perspectief, dan zijn de dorpsgek en Einstein twee naastgelegen punten op een schaal die naar beide kanten veel verder reikt: van de dorpsgek naar de chimpansee en de muis en nog lagere vormen van intelligentie naar de ene kant. Van Einstein naar moeilijk voorstelbare hogere vormen van intelligentie naar de andere kant.

En als wij kunstmatige intelligentie die kruipt van het niveau van de muis naar de chimpansee steevast ‘dom’ blijven noemen – want: een goed gesprek voeren lukt niet! – dan zal straks de stap van dorpsgek naar Einstein ineens in een oogwenk gezet blijken te zijn, voorspelt Yudkowsky. En misschien, sluit Bostrom daarop aan, volgt daarna wel heel snel het moment dat een kunstmatige intelligentie slim is vergeleken bij een mens, zoals een mens slim is vergeleken bij een worm.

Het geeft te denken.