Opinie

    • Robbert Dijkgraaf

Zo slim als een vijfjarige

Column Robbert Dijkgraaf

In een prachtig gedachtenexperiment bent u de enige volwassene in een wereld vol kleuters. Wat nu? En wat zegt dit over slimme machines?

Stel: er is een vreselijke ramp gebeurd. Iedereen is van de aardbodem gevaagd. Behalve u. Plus alle vijfjarigen. U bent alleen op een wereld geregeerd door kleuters. En die kleuters houden u gevangen. Ze weten dat u slimmer en ervarener bent, en vragen uw hulp. Wat is uw strategie? Bijna iedereen aan wie ik dit vraag, wil de kleuters voor zich innemen, manipuleren en zo ontsnappen, met het uiteindelijke doel om hun leider te worden.

Dit prachtige gedachtenexperiment las ik in Life 3.0 van MIT-fysicus Max Tegmark. Het boek is een lange waarschuwing voor de gevaren van kunstmatige intelligentie of AI. In de metafoor zijn wij de vijfjarigen en is de slimme machine de volwassene. De computer heeft het niveau van algemene kunstmatige intelligentie bereikt en kan, net als wij mensen, vrij denken en zelf doelen stellen. Om te vermijden dat de kwade genius alles en iedereen hackt, is hij ‘gevangen’ door hem losgekoppeld te houden van het internet.

De metafoor spreekt aan, omdat we ons zo gemakkelijk kunnen inleven in de belevingswereld van een superieur wezen en de naïviteit van de kleuters. Hoe gemakkelijk is het niet kinderen in sprookjes, toverkunst of Sinterklaas te doen geloven?

Ik heb een nog spannender variant bedacht. Stel dat u hoort dat er nóg ergens een volwassene opgesloten zit. Wat zou u dán doen? Nu is de situatie ineens urgent. Immers, stel dat die andere gevangene als eerste ontsnapt en de leider van de kleuters wordt. Dan kan uw positie plotseling precair worden. Slimme machines zouden weleens banger kunnen zijn voor andere machines dan voor ons mensen.

Los van de vraag of en wanneer algemene kunstmatige intelligentie zal worden bereikt – over vijftig jaar, een eeuw, nooit – is het de vraag hoe relevant dit zwarte scenario is, dat ook entrepreneur Elon Musk en wijlen Stephen Hawking ons voorhouden. Misschien denken wij automatisch in termen van concurrentie en strijd omdat miljoenen jaren evolutie ons zo gevormd hebben. Als je intelligente machines from scratch bouwt, is er a priori geen reden waarom die agressief en machtsbelust zouden zijn.

Een van de spectaculairste voorbeelden van de kracht van kunstmatige intelligentie werd gedemonstreerd door het programma AlphaGo van DeepMind, nu een dochter van Google. Toen deze machine in 2016 de Koreaanse sterspeler Lee Sedol met go versloeg, werd dat gezien als de lancering van het AI-tijdperk.

Het Chinese bordspel go heeft een geschiedenis van vierduizend jaar. Er is een subtiel vocabulaire ontstaan om de spelkunst te duiden, net zoals we dat hebben in de beschrijving van poëzie, muziek of wijn. Legendarische partijen van eeuwen terug zijn de geschiedenisboeken ingegaan.

In de tweede partij tussen mens en machine verscheen zo’n niet eerder vertoonde ‘kosmische zet’. In de opening zetten spelers hun stenen typisch op de derde of vierde rij. Er is blijkbaar zelfs een Japans spreekwoord dat zegt nooit voorbij de vierde rij te spelen. Maar de computer zette een steen op de vijfde rij. Tijdens het live-commentaar begonnen de verslaggevers te grinniken. „Dat is een zeer vreemde zet”, zei de ene. „Ik dacht dat het een fout was”, antwoordde de tweede.

De kracht van deze ‘domme’ zet werd pas veel later duidelijk. Na de opening verplaatst de partij zich naar een andere hoek. Na zo’n honderd zetten komt de strijd weer in de buurt van de eerste schermutselingen. En daar staat de steen. Perfect opgesteld. Op de vijfde rij. AlphaGo won de partij en de match.

Onlangs vroeg ik Dennis Hassabis, de oprichter van DeepMind, hoe hij de speelwijze van zijn machine zou karakteriseren. Zijn antwoord: als van een tiener. Het algoritme neemt meer risico’s, is fantasievoller en speelt (letterlijk) buiten de denkbeeldige lijnen.

Dat is een mogelijke andere les van AI. We hebben nog nooit contact gehad met buitenaards leven, wezens die totaal anders denken dan wij. Misschien is er wel geen ander intelligent leven in onze buurt van de Melkweg. Maar computers zijn welbeschouwd ook aliens, maar dan door ons geschapen op planeet Aarde. We kunnen van ze leren. Misschien heeft de evolutie ons behalve machtsbelust ook risicomijdend gemaakt. In de jungle schuilt er gevaar in iedere hoek en achter iedere boom, maar in onze gedachten kunnen we vrijer en onbezorgder zijn.

Er is een apocrief verhaal dat NASA een creativiteitstest voor astronauten had ontwikkeld die maar 2 procent van de kandidaten haalde. Toen had iemand het briljante idee deze test bij vijfjarigen af te nemen. Nu slaagde 98 procent. Misschien is de zelfdenkende computer eerder als de vijfjarige, die nog vrolijk buiten de lijntjes durft te kleuren. En zijn wij de volwassene, gevangen in onze denkbeelden.

Robbert Dijkgraaf is directeur van het Institute for Advanced Study in Princeton.

    • Robbert Dijkgraaf