'Ons brein is geen computer'

Hersenen zijn computers gemaakt van vlees, beweren fanatieke onderzoekers van Kunstmatige Intelligentie. En dus zullen computers ooit net zo kunnen denken en voelen als wij.'Nonsens', zegt de Brit Roger Penrose in The emperor's new mind, 'de menselijke geest is letterlijk onberekenbaar'. Volgens een bekende uitgeverswijsheid neemt de markt voor een populair wetenschapsboek met de helft af bij elke wiskundige formule die er in voorkomt. Op aarde wonen maximaal 5(x)10, ofwel circa 2 potentiele lezers. Een auteur mag dus nooit meer dan achtentwintig formules in zijn boek stoppen wil hij nog juist een exemplaar van zijn boek verkopen.

Maar misschien gaat deze wijsheid wel helemaal niet op. The emperor's new mind van de mathematisch-fysicus Roger Penrose uit Oxford is bedoeld voor leken, maar wemelt van de wiskundige symbolen en bevat veel meer dan achtentwintig formules.

Het ambitieuze boek gaat over Turing machines, de stelling van Godel, de speciale en de algemene relativiteitstheorie, de paradoxen van de quantum mechanica, de Big Bang, zwarte gaten en nog veel meer. Toch vliegt het over de toonbank en moest het in een paar maanden tijd al drie maal worden herdrukt.' Ik heb me gericht op verschillende lezers tegelijk', zegt Penrose bescheiden in de stilte van zijn werkkamer in het Mathematisch Instituut van Oxford University. ' Er is geen voorkennis nodig, dus de geinteresseerde leek moet in principe alles kunnen begrijpen, al zal hij daarvoor waarschijnlijk heel hard moeten werken. Maar ik richt me ook tot de experts, omdat ik een nieuw argument naar voren breng dat ik nog niet eerder zag uitgedrukt.' Penrose's boek, in vijf a zes jaar bij stukjes en beetjes geschreven, wordt door critici beschouwd als de krachtigste aanval tot dusverre op de stroming in de cognitieve wetenschap die aangeduid wordt als 'strong Artificial Intelligence' (hier kortweg aangeduid als 'sterke KI'). Volgens de aanhangers van sterke KI is het menselijk brein niets anders dan een geweldig ingewikkelde rekenmachine en zijn onze gedachtenprocessen slechts het produkt van de berekeningen, door die machine uitgevoerd.

Zou je er in slagen om die berekeningen te simuleren op een computer, zo redeneren ze, dan zullen er in die computer vanzelf ook gedachten en gevoelens ontstaan. Bewustzijn is met andere woorden geen exclusief biologisch verschijnsel, maar kan even goed ontstaan in siliciumchips of zelfs in 'machines gemaakt van oude bierblikjes, aangedreven door windmolens'. Het is allemaal slechts een kwestie van de goede software.

De aanspraken van de 'sterke KI' gaan nog verder. Zo voorspellen haar voorvechters keer op keer dat computers in een 'paar honderd jaar' slimmer zullen zijn dan wij en ons dan wellicht zullen domineren. Marvin Minsky uit het Amerikaanse Cambridge beweert zelfs dat we in de toekomst van geluk mogen spreken als we door hen nog als troeteldieren in huis worden geduld.

Penrose: 'Ik vind zulke zienswijzen zeer extreem en begrijp niet dat mensen ze serieus nemen. Een jaar of zes geleden keek ik naar een Horizon-aflevering op de BBC waarin ook dergelijke toekomstvisies werden ontvouwd, zonder noemenswaardige argumentatie. Dat programma was voor mij de directe prikkel om er een boek over te schrijven.'

Voordat uw boek verscheen was het bekendste argument tegen harde KI dat van de Amerikaanse filosoof John Searle. Hij zegt dat onze hersenen weliswaar kunnen worden beschouwd als digitale computers en dat we ze dus in principe wel kunnen simuleren, maar dat dat nog niet hetzelfde is als dupliceren. Computers rekenen met symbolen, zegt Searle, maar ze kennen aan die symbolen geen betekenis toe. Daarom kan nabootsing van de werking van hersenen op een computer nooit leiden tot echte mentale verschijnselen als bewustzijn, pijn, hoop of begrip, net zo min als een computermodel van een auto echt kan rijden.

Wat vindt u van Searle's argument en waarin verschilt het van het uwe?'

Ik vind het een waardevol argument, maar beschouw het niet als dwingend of doorslaggevend. Mijn bezwaar tegen harde KI is fundamenteler. Searle zegt dat simulatie iets anders is dan 'the real thing', maar dat ze op zichzelf wel mogelijk is. Ik daarentegen beweer, dat simulatie niet mogelijk is, omdat de werking van de hersenen in vele gevallen principieel niet-berekenbaar is en dus niet door een computer kan worden uitgevoerd.'

Waarop baseert u dat?'

Op argumenten uit de wiskunde. Computers volgen bepaalde mechanische voorschriften, algoritmen; met die algoritmen kunnen ze allerlei problemen oplossen. Maar er bestaat een heel grote groep wiskundige problemen waarvan is bewezen dat ze niet met behulp van algoritmen kunnen worden opgelost. En toch kunnen mensen die problemen vaak oplossen door gebruik te maken van wiskundig inzicht. De stelling van Godel is daar een voorbeeld van. Die gaat over de vraag of je de wiskunde compleet kunt vastleggen in axioma's en afleidingsregels. Godel liet zien dat dat niet kan, want welke axioma's en regels je ook kiest, je kunt altijd een uitspraak construeren waarvan je inziet dat hij waar is en toch onbewijsbaar. Het belangrijkse punt is dat wij mensen aan de manier waarop die Godel-zin is geconstrueerd kunnen zien, dat hij waar moet zijn. Maar de Godel-zin zegt dat hij onbewijsbaar is, en omdat hij waar is, is hij dus ook onbewijsbaar. Hier hebben we een duidelijk voorbeeld van een inzicht, dat niet door een computer kan worden nagebootst. Mensen doen als het ware een stapje achteruit en kijken naar de betekenis van de symbolen die ze manipuleren.'

U noemt dit een 'reflectie principe'.

'Ja, zo noemen mathematische logici het. Ze bedoelen ermee, dat je even buiten het formalisme treedt. Het wordt veel vaker bij bewijsvoeringen gebruikt dan de meeste mensen zich wel realiseren en de bewijzen zijn er niet minder hard om, want iedereen ziet dat het zo moet zijn.' Ik verbaas me er vaak over dat veel mensen schijnen te geloven dat de wiskunde helemaal uit algoritmische procedures bestaat, maar dat is beslist niet het geval. Wiskundige bewijzen zijn maar zelden reduceerbaar tot een serie formele stappen. Er zit een principieel niet-formaliseerbaar, niet-algoritmisch element in, dat nooit door een algoritmische computer kan woren gesimuleerd.'

Dat 'schouwen' bij wiskundige bewijsvoeringen ziet u als een aanwijzing voor het bestaan van een soort Platonische wereld van de zuivere wiskunde, waarmee we via het intellect in contact kunnen komen. Hoe moet ik me die wereld voorstellen en hoe staat hij in verband met de fysische wereld?'

Ik geloof inderdaad in een soort Platonische wiskundige wereld, die buiten onszelf bestaat en die we steeds beter kunnen leren kennen. Mensen kunnen naar believen wiskundige formalismen ontwerpen, maar de wiskundige realiteit die ze daarmee beschrijven bestond al. Neem iets wonderbaarlijks als de Mandelbrot-verzameling. Dat is geen uitvinding van Mandelbrot, maar een spectaculaire ontdekking van iets dat er altijd al 'was'.' De relatie tussen de Platonische wereld van de wiskunde en de fysische wereld is heel diepgaand en mysterieus. De fysische theorieen zijn extreem wiskundig van karakter, zodanig dat de wetten die het gedrag van de fysische wereld bepalen eigenlijk deel uitmaken van de Platonische wereld van de wiskunde.'

Terug naar de hersenen. U schrijft in uw boek dat voor het verklaren van het bewustzijn een nieuw terrein van de fysica ontwikkeld moet worden, die de niet-algoritmische processen moet verklaren. Is dat een soort niet-berekenbare fysica?

'Ja. Aan bewustzijn moet een niet-algoritmisch, onberekenbaar proces ten grondslag liggen. Maar niet-berekenbare fysica is een nog vrijwel onontgonnen terrein - ik weet maar van twee mensen die er in pionieren. De fysica zoals we die nu hebben lijkt geen verklaring te kunnen geven voor niet-berekenbare verschijnselen - noch de klassieke fysica met inbegrip van de relativiteitstheorie, noch de quantumtheorie.' Ik denk dat we zulke onberekenbare verschijnselen kunnen vinden in het niemandsland tussen de quantumtheorie en de klassieke fysica. De quantummechanica beschrijft verschijnselen op het niveau van atomen en molekulen, maar het is niet duidelijk waar en hoe de quantummechanische wereld precies aansluit op de klassieke.' De quantummechanica is niet compleet en leidt tot contradicties met de algemene relativiteitstheorie. Ik denk dat beide zullen moeten worden aangepast om de kloof te overbruggen tussen de quantummechanische wereld en de klassieke en dat de nieuwe geintegreerde theorie die daaruit ontstaat nodig is voor de verklaring van het bewustzijn.'

U wijdt een groot deel van uw boek - het moeilijkste deel - aan de vraag in welke richting we die nieuwe theorie zouden moeten zoeken. U komt via de tijd-asymmetrie tussen de Big Bang en zwarte gaten uiteindelijk uit op een profielschets voor een quantum-zwaartekrachtstheorie. Is dat allemaal niet een beetje erg esoterisch en speculatief? In feite verklaart u het bewustzijn uit de mogelijke consequenties van een theorie die er nog niet eens is. Heeft uw keizer eigenlijk wel kleren aan?

'Ik erken dat het niet veel is en dat het natuurlijk leuker zou zijn om een uitgewerkte theorie te hebben. Wat ik heb geprobeerd is, om aan te geven in welke richting we moeten zoeken. Maar de belangrijke boodschap is, dat we er een moeten zoeken, omdat de huidige theorieen niet het onberekenbare karakter van onze hersenactiviteit kunnen verklaren.' Stel, morgen is het debat over, want de voorvechters van sterke KI zeggen allemaal: 'Meneer Penrose heeft gelijk, we accepteren zijn nieuwe argument'. Welke doeleinden zouden er dan overblijven voor hun onderzoek? Heeft het nog zin om door te gaan met het ontwikkelen van kunstmatige-intelligentieprogramma's of kunnen we de tent net zo goed sluiten?' Het is heel goed denkbaar dat je mijn argumenten aanvaardt en toch doorgaat. Het is niet per se nodig om eerst die theorie te vinden en dan pas weer experimenteel aan de slag te gaan. Het belangrijkste is, dat je inziet dat je er met simulatie op computers niet komt. Je zult op de een of andere manier de relevante fysica van de hersenen in je systeem moeten inbouwen. Het is niet uitgesloten, dat dat lukt - het komt per slot van rekening vaak voor dat mensen dingen uitvinden die ze nog niet theoretisch kunnen begrijpen.

U acht het dus in theorie mogelijk dat men toch machines met bewustzijn kan bouwen, mits die gebruik maken van de zelfde soort fysica als die in onze hersenen relevant is?'

Ja, in principe wel.' Maar dan zou men in principe wel degelijk niet-algoritmische machines kunnen bouwen die voelen en denken en misschien over zeshonderd jaar tien keer slimmer zijn dan wij!' Het lijkt me uiterst onwaarschijnlijk, maar inderdaad, het is denkbaar. En op zichzelf heb ik daar niets op tegen.'

Roger Penrose. The Emperor's New Mind. Concerning computers, minds and thelaws of physics. Oxford, Oxford University Press, 1989. vii + 466 blz. Prijs: (L)20,00.