IJskoude machines

Als we ‘superintelligentie’ maken, moeten we niet aannemen dat die zal denken zoals een mens. Filosoof Nick Bostrom waarschuwt voor de opmars van machines met kille drijfveren. Wie zegt dat robots ons niet terzijde zullen schuiven?

De robot in Interstellar, de nieuwste film van regisseur Christopher Nolan, is zoals we ons slimme elektronische ‘wezens’ graag voorstellen. Zijn gevoel voor humor is instelbaar (al blijven zijn grappen matig), zijn mate van eerlijkheid is te regelen (doe maar 95 procent, zegt hij zelf, want leugentjes om bestwil zijn nuttig), hij zwijgt als dat nodig is (meestal) en hij handelt alleen als dat van hem gevraagd wordt. Ook kan hij over nagenoeg elk terrein voortbewegen, zelfs vliegen en vooral: waanzinnig snel rekenen.

Moest je deze zwarte metalen kast typeren in menselijke termen, dan zou je hem een gedienstige hypernerd kunnen noemen. De ouderwetse, bibberige groene lettertjes op zijn communicatiescherm geven de aimabele rekenaar zelfs iets onschuldigs. Deze robot hoeft geen vrouwen te verleiden of mannen te versieren. Hij streeft niet naar macht en heeft niet die enorme overlevingsdrang die de mens, volgens de film althans, voortdrijft.

Naïef, vindt filosoof Nick Bostrom. Zo gedienstig hoeft kunstmatige intelligentie niet te zijn. Sterker, als mensen superintelligentie voortbrengen – intelligentie die de mens aftroeft in wetenschappelijk redeneren, in creativiteit enzovoorts – dan zal dat wel eens ‘de laatste ontdekking van de mensen kunnen zijn.’

Bostrom is directeur van het Future of Humanity Institute van Oxford University. Dit najaar verscheen zijn boek Superintelligence: Paths, Dangers and Strategies, dat nu al een paar weken in de non-fictie toptien van de New York Times staat. Het beeld dat wij van kunstmatige intelligentie hebben is veel te mensgericht, betoogt Bostrom. Alsof robots ‘automatisch’ de waarden en drijfveren van mensen zouden delen. Maar waarom zouden ze?

Explosie van intelligentie

Bostrom zet vooral één scenario zwaar aan: dat van een ‘intelligentie-explosie’. Het werd in 1965 voor het eerst geschetst door de wiskundige I.J. Good, die tijdens de Tweede Wereldoorlog hoofdstatisticus was in het Enigmaproject van Alan Turing -‘de vader van machine-intelligentie’.

Good definieerde eerst superintelligentie als ‘een machine die mensen voorbijstreeft in welke intellectuele activiteit ook.’ En omdat een van die activiteiten het ontwerpen van slimme machines is, zou zo’n machine dus ook veel slimmere machines kunnen ontwerpen dan mensen. ‘Onvermijdelijk zou zich zo een intelligentie-explosie voordoen waarbij het menselijk intellect ver zou achterblijven.’

Maar het angstaanjagende is dat de drijfveren van zo’n kunstmatige intelligentie weleens minder menselijk kunnen zijn dan ‘die van een groen geschubd ruimtewezen (stel dat dat zou bestaan)’, waarschuwt Bostrom.

Want: ‘Zo’n ruimtewezen zou net als wij het product van een lange evolutie zijn en zijn drijfveren zouden daardoor samenhangen met de behoefte aan voedsel, water, zuurstof, energie, warmte, met het vermijden van verwondingen en ziekten of met het zorgen voor seks en nageslacht. Sociale ruimtewezens zouden bovendien drijfveren hebben die nodig zijn voor samenwerking en voor competitie: ze zouden groepszin kennen, en misschien ook ijdelheid en zucht naar erkenning.’ Maar: hoe breng je een machine menselijkheid en menselijke waarden bij?

Niet meer in te perken

Zo gemakkelijk is dat niet, aldus Bostrom. Stel dat je wilt voorkomen dat een robot mensen ongelukkig maakt. Dan zou je hem de opdracht mee kunnen geven: laat mensen glimlachen. Maar een kunstmatige intelligentie interpreteert dat misschien als: zorg ervoor dat de gezichtsspieren de mondhoeken omhoogtrekken. Of, als de algoritmes die simpele oplossing uitsluiten: stimuleer de hersencellen die de gezichtsspieren besturen en laat ze de mondhoeken omhoog trekken. Of, als dat is uitgesloten: geef ze drugs zodat ze in een gelukzalige toestand raken.

Bostrom wil maar zeggen: het is veel gemakkelijker om een machine zuiver instrumentele doelen mee te geven. En het is lichtzinnig om te denken dat mensen de drang om zulke instrumentele doelen te bereiken, nog kunnen inperken nadat zulke machines zich ontwikkeld hebben tot superintelligentie die mensen op elk terrein aftroeft.

Hij geeft het voorbeeld van een superintelligentie die het getal pi tot op zoveel mogelijk decimalen moet uitrekenen, en van eentje die zoveel mogelijk paperclips moet maken. Maar ook dan, of juist dan, kan een superintelligentie die niet geleerd heeft om zijn doelen bij te stellen, de mens fataal worden, betoogt hij.

In het slechtste geval verworden mensen tot grondstof voor bijvoorbeeld atomaire computers die steeds meer decimalen aan pi toevoegen. Of worden mensen in de strijd om energiebronnen door robots terzijde geschoven.

In het beste geval zal zo’n intelligentie de wereld herinrichten en nieuwe technologie ontwikkelen om bijvoorbeeld steeds sneller steeds meer paperclips te maken. Voor de mens blijft dan hooguit een klein plekje op aarde over, zoals wij nu chimpansees nog hun reservaten gunnen.

De dorpsgek en Einstein

Dat klinkt gechargeerd, maar de boodschap is helder. Wie kunstmatige intelligentie serieus neemt, of nastreeft, die móet nadenken over wat mensen drijft, over wat mensen motiveert, over hoe mensen samenwerken en over hoe mensen telkens hun doelen bijstellen. Het is te beperkt om alleen intelligentie, toch al een lastig begrip, als uitgangspunt te nemen.

Trouwens, ook over dat hele begrip intelligentie moet verstandiger worden nagedacht, vindt Bostrom. Hij citeert de kunstmatig-intelligentie-expert Eliezer Yudkowsky, die opmerkte dat de dorpsgek en Einstein als de twee uitersten op de schaal van intelligentie worden gezien. Maar kies je een wijder perspectief, dan zijn het twee naastgelegen punten op een schaal die naar beide kanten veel verder reikt: van de dorpsgek naar de chimp en de muis en nog lagere vormen van intelligentie naar de ene kant. Van Einstein naar moeilijk voorstelbare hogere vormen van intelligentie naar de andere kant.

En als wij kunstmatige intelligentie die kruipt van het niveau van de muis naar de chimpansee steevast ‘dom’ blijven noemen – want: een goed gesprek voeren lukt niet! – dan zal straks de stap van dorspgek naar Einstein ineens in een oogwenk gezet blijken te zijn, voorspelt Yudkowsky. En misschien, sluit Bostrom daarop aan, volgt daarna wel heel snel het moment dat een kunstmatige intelligentie slim is vergeleken bij een mens, zoals een mens slim is vergeleken bij een worm.

Het geeft te denken.