Cultuur

Interview

Interview

Kasparov concentreert zich tijdens de training voor zijn tweede match tegen de computer Deep Blue, in 1997.

Getty Images

Slimme machine maakt ons meer mens

Kunstmatige intelligentie

De toekomst van ‘denkende’ computers ligt in samenwerken met mensen, zegt Garry Kasparov. „Kleine beetjes menselijkheid maken slimme machines nog krachtiger.”

Met een honkbalpet op loopt voormalig wereldkampioen schaken Garry Kasparov in de lobby van een Amsterdams hotel op me af. Naast hem zijn vrouw Daria, tevens zijn manager. De koffers zijn al gepakt. Van Daria had ik de avond ervoor te horen gekregen dat ik haar man een uur lang kon interviewen over zijn nieuwe boek Deep Thinking − Where machine intelligence ends and human creativity begins. Meteen daarna zouden ze in de taxi stappen naar Schiphol om terug naar hun woonplaats New York te vliegen.

In Deep Thinking vertelt Kasparov over zijn strijd tegen steeds slimmere schaakcomputers en wat we daaruit kunnen leren voor onze huidige omgang met steeds slimmere machines.

We gaan zitten in de bibliotheek van het hotel. Kasparov gooit de pet in een andere stoel. Ik laat hem een foto zien die ik van hem had gemaakt tijdens de viering van Alan Turings honderdste verjaardag in Manchester in 2012. Kasparov speelde toen een partijtje schaak tegen het allereerste computerschaakprogramma, in 1948 geschreven door computerpionier Turing. Nog voor ik ook maar een vraag heb kunnen stellen, brandt de schaakgrootmeester los:

„Bij gebrek aan een computer berekende Turing zelf met pen en papier de zetten die zijn computerprogramma zou doen. Dat was het begin van de schaakcomputer en ik heb grote bewondering voor zijn werk. Turing dacht dat een computer die goed zou kunnen schaken ook intelligent is. Ironisch genoeg was de dag in 1997 waarop ik de match tegen IBM’s supercomputer Deep Blue verloor nou net het bewijs dat Turing ongelijk had. Deep Blue was niet intelligent. Brute rekenkracht bleek de winnende strategie. Dat zeg ik niet om het IBM-team tekort te doen, maar op de schaal van kunstmatige intelligentie staat Deep Blue helemaal aan het begin. De AlphaGo-computer die nu de beste go-spelers de baas is, is een flinke stap vooruit, maar we hebben nog een lange weg te gaan voor het nabootsen van menselijke intelligentie.”

Hoe kijkt u nu, precies twintig jaar later, terug op uw verlies tegen Deep Blue?

„Ik was erg naïef in 1997. Ik zag de match als een wetenschappelijk experiment, maar IBM wilde alleen maar winnen en de koers van het aandeel IBM opstuwen. Hoewel ze niet vals hebben gespeeld, hebben ze wel de grenzen opgezocht van wat ethisch aanvaardbaar is om een tegenstander uit balans te brengen. Zo werd een maand voor aanvang van de match een zet geprogrammeerd die de computer zelf nooit zou spelen, maar die bedoeld was om de computer voor mij onvoorspelbaar te doen lijken. Oké, er stond nergens dat dit niet mocht.

„Belangrijker was dat ik geen enkele partij van Deep Blue van te voren heb mogen zien. De machine was een zwarte doos voor mij. Daarnaast heeft IBM de machine een paar keer laten rebooten. Niet omdat er een bug in de software zat, maar omdat het een eigenschap van de machine was. Hij schakelde zichzelf uit wanneer de efficiëntie van het zoekproces te laag werd. Dat rebooten had als een hartaanval moeten worden beschouwd. Dan gaat de partij verloren en mag de machine de volgende dag terugkomen. Door dat rebooten kon niemand meer achterhalen waarom de computer de zetten deed die hij deed. Bovendien begon de computer na het rebooten eigenlijk aan een nieuwe partij. De match zat vol met dit soort asymmetrieën tussen mens en machine. Maar dat de schaakcomputer uiteindelijk onverslaanbaar zou worden, was onontkoombaar.”

Wat kunnen we uit uw ervaringen leren over de interactie tussen mensen en slimme machines?

„Zelfs wanneer je verliest van een machine, zoals ik, is dat niet het einde van de wereld. Lik je wonden en leer ervan. Mijn verlies tegen Deep Blue was tegelijk een overwinning voor de mensheid, want wij hebben computers gebouwd en ze onverslaanbaar in schaken gemaakt. Alles waarvan wij mensen weten hoe we het moeten doen, kunnen we programmeren in een machine en zal de machine uiteindelijk beter kunnen. Hoe complex een spel ook is, machines gaan het uiteindelijk beter spelen. Machines gaan beter auto rijden dan mensen. Machines worden betere medische experts.”

Wat blijft er dan voor mensen over?

„Uiteindelijk gaat het om mens plus machine, niet om mens tegen machine. Wanneer je voor een medische scan naar het ziekenhuis moet, wil je dan dat de scan wordt gelezen door een dokter of door een machine die van miljoenen scans van over de hele wereld heeft kunnen leren? Nee, je wilt dat de scan wordt geïnterpreteerd door een dokter die precies weet hoe hij de machine het beste moet gebruiken.

Machines hebben instructies, mensen hebben een doel.

„Bij schaakwedstrijden waarin mensen schaakcomputers mogen gebruiken, zijn we er achter gekomen dat ‘een zwakke speler plus een machine plus een betere processamenwerking’ superieur is aan ‘een sterke speler plus een machine plus slechtere processamenwerking’. Dat komt omdat machines zulke superieure schakers zijn geworden. Sommigen noemen dit de wet van Kasparov. Ik ben er van overtuigd dat deze wet op alle terreinen geldt waarop mensen met machines gaan samenwerken.”

Hoe ziet u die samenwerking voor zich?

„In de nabije toekomst worden menselijke experts operators, net zoals menselijke piloten nu als operators in een vliegtuig met de automatische piloot samenwerken. Meestal doet de automatische piloot het prima, maar soms doet de mens het beter of is menselijk ingrijpen zelfs strikt noodzakelijk. Kleine beetjes menselijkheid maken slimme machines nog krachtiger. Neem automatisch vertalen. Hoe goed zijn automatische vertalingen nu? Laten we zeggen voor 80 procent correct. We kunnen dat misschien opvoeren tot 90 of 95 procent. Maar zullen machines de 100 procent halen? Nee. De laatste procenten worden steeds moeilijker.

„Dat is waar mensen het verschil maken. Ik denk dat slimme machines ons zullen dwingen de wereld van het volkomen onbekende te exploreren. We hebben geen keuze. We moeten dingen doen die alleen mensen kunnen. Machines hebben instructies, mensen hebben een doel.”

Welk experiment met schaak- of go-computers zou u nu graag uitvoeren?

„Schaakcomputers zijn voornamelijk door brute rekenkracht onverslaanbaar geworden. Dat noem ik Type-A intelligentie. De beste go-computer, AlphaGo, pakt het heel anders aan. Die gebruikt Deep Learning, iets wat al iets meer lijkt op menselijke intelligentie. Het is een soort patroonherkenning. Dat noem ik Type-B intelligentie. Wat ik heel graag zou willen weten: wie wint er wanneer we de beste Type-A schaak- of go-computer laten spelen tegen de beste Type-B- schaak- of go-computer? Dat zou wetenschappelijk een heel interessant experiment zijn. Ik weet trouwens dat Google dat ook graag wil onderzoeken met hun AlphaGo-computer.”

Kunnen machines creatief zijn?

„Dat is deels een filosofische vraag omdat het afhangt van wat je met creativiteit bedoelt, eigenlijk net als bij intelligentie. Maakt het uit hoe het proces werkt, of gaat het alleen om het resultaat? Ik zou zeggen: het resultaat is alles. In die zin kunnen machines creatief zijn, al doen ze het anders dan mensen. Maar ik denk dat het zinloos is om het menselijk brein in alle biologische details in een computer proberen na te bootsen. Je kunt het brein ook niet los van het lichaam beschouwen.”

U vindt het onderwijs te belangrijk om geen risico’s te nemen. Wat bedoelt u daarmee?

„Kijk hoe kinderen hun smartphone of tablet gebruiken. Met één veeg over een scherm kunnen ze in een minuut meer te weten komen dan een docent in heel zijn leven kan leren. Veel banen in de toekomst zullen te maken hebben met de samenwerking tussen mensen en machines. Laten we stoppen om kinderen vooral het wat? te leren. Laten we ze het hoe? leren. Laten we ze opleiden tot goede operators. Dat is een totaal andere aanpak dan nu gebeurt.

„Maar laten we ze ook leren dat ze niet gegijzeld worden door slimme machines. Een 14-jarige schaakgrootmeester van nu weet meer over schaken dan Bobby Fischer, wat niet wil zeggen dat hij een sterkere schaker is. Hij moet ook een algemeen begrip van het spel ontwikkelen, strategisch denken op de lange termijn. Precies zo moeten kinderen slimme machines ook niet gedachteloos gebruiken. De enige manier om uit te vinden wat wel of niet goed werkt, is om te experimenteren. Maar de kinderen kunnen het aan, het zijn de volwassenen die bang zijn.”

Wat hoopt u dat mensen van uw boek leren?

„Ik wil heel graag dat mensen realistisch nadenken over onze relatie met machines, zonder overdreven optimistisch of overdreven pessimistisch te zijn. Wie te ver vooruit kijkt, mist zowel de kansen als de gevaren vlak voor zich. Ik zie niets in de dystopische boodschappen van mensen als Elon Musk en Stephen Hawking, die zeggen dat kunstmatige intelligentie het einde van de mensheid kan betekenen. Mensen focussen veel te veel op het negatieve, zoals het verlies van banen. In de geschiedenis zijn altijd banen verdwenen, banen veranderd en nieuwe banen ontstaan. Dat heeft ons veel goeds gebracht.”

„Mijn boek is een verhaal van nieuwe kansen die ontstaan wanneer mensen met machines gaan samenwerken. De smartphone in jouw handen is krachtiger dan een supercomputer van een paar decennia geleden. Denk je niet dat we met zoveel denkkracht binnen handbereik veel nuttigs kunnen doen? Slimme machines kunnen ons meer mens maken.”

Garry Kasparov & Mig Greengard: ‘Deep Thinking − Where machine intelligence ends and human creativity begins’, Uitgeverij Hodder & Stoughton, 304 blz. €23,99