Frank Ruiter

Ian McEwan: ‘Ik denk niet dat we een menselijke robot kunnen maken’

Interview De Britse schrijver Ian McEwan koppelt in zijn nieuwe roman moraal aan kunstmatige intelligentie. Kan een robot een bewustzijn hebben, en aanspraak maken op mensenrechten?

Ian McEwan gaat even afwachtend achterover zitten in zijn leren stoel, licht ongeduldig in afwachting van de vragen. Hij is net teruggekeerd uit zijn studio in Londen naar zijn pied-à-terre in Londen, waar hij zich laat interviewen. Een huis in een verstild straatje, met lage plafonds en zwart-witfoto’s aan de muur.

Iedereen wil hem spreken over zijn nieuwe roman Machines Like Me, die komende week in de Nederlandse vertaling uitkomt als Machines zoals ik. Zoals meestal in zijn latere werk staat ook in dit boek een maatschappelijk probleem centraal dat de menselijke verhoudingen – mild gesteld – in de war schopt. Deze keer is het de kunstmatige mens, de robot, die de verhoudingen binnen een samenleving verandert. Ondertussen sijpelt, net als in zijn vorige roman Notendop (2016), zijn visie op Brexit erdoorheen.

McEwans neiging om maatschappelijke ontwikkelingen in fictievorm te bespreken, leverde hem de kwalificatie Britain’s national novelist op. „Dat etiket staat me niet aan, omdat het een beschrijving van niks is”, zegt hij. Met „humanistisch auteur” kan hij beter uit de voeten. Al vaker gaf hij blijk van zijn overtuiging dat romans een ideale manier zijn om ethische kwesties aan de orde te stellen. „Het interesseert mij vooral welke invloed maatschappelijke verschijnselen hebben op de manier waarop mensen met elkaar omgaan.”

In Machines zoals ik gaat het om een driehoeksverhouding tussen twee mensen en een robot. Enerzijds Charlie en Miranda, die van vlees en bloed zijn, anderzijds de robot Adam. De relatie tussen de drie komt op scherp te staan wanneer een mogelijke adoptie door Charlie en Miranda niet lijkt door te gaan doordat Adam in zijn logisch denken Miranda aangeeft bij de politie voor een daad uit het verleden. Waar Charlie en Miranda met emotionele argumenten komen, handelt Adam puur rationeel, als een algoritme als het ware.

Lees ook de recensie van Ian McEwans nieuwe boek ‘Machines zoals ik’

Het is niet voor het eerst dat McEwan een adoptie in zijn romans verwerkt. Hij ontdekte zelf pas in 2002 dat hij een broer had die als klein kind door zijn moeder ter adoptie was afgestaan. Het lijkt alsof hij ook in deze roman de adoptie van zijn broer verwerkt of in ieder geval een empathische toenadering tot het verleden van die broer zoekt. Over die suggestie denkt McEwan even na, om daarna vast te stellen dat dat „in ieder geval niet bewust” zo is. In deze roman is „de adoptie er om een conflict weer te geven, tussen de rationele Adam enerzijds en de emotionele Miranda en Charlie anderzijds. Doordat Charlie en Miranda het kind willen adopteren, krijg je begrip voor hun irrationele keuzes.”

Het decor waartegen Machines zoals ik zich afspeelt, is het Groot-Brittannië van 1982. Engeland heeft de Falklandoorlog verloren, waardoor in Argentinië een dictatuur blijft en premier Thatcher de verkiezingen verliest. En Tony Benn, een nieuwe premier, wil – zonder referendum – de EU verlaten.

Ondertussen zijn The Beatles weer bij elkaar, vragen critici zich af of All You Need Is Love nog wel waar is, zijn er zelfrijdende auto’s, heeft de wiskundige Alan Turing geen zelfmoord gepleegd en slagen robots voor zijn ‘Turingtest’ – de welbekende test die moet uitwijzen of een machine menselijke intelligentie kan vertonen. Het antwoord is ‘ja’ als een mens er in een gesprek niet achter komt dat hij níet met een ander mens spreekt. De robots in McEwans roman zijn mooi en sterk, maar het ontbreekt ze aan twee belangrijke menselijke eigenschappen: empathie en wraakgevoelens.

„Op meerdere momenten in de roman vraag je je af of Adam nu spreekt als iemand met een bewustzijn, of dat het allemaal het product van een algoritme is”, zegt McEwan, wanneer hij vertelt waarom hij deze keer dit maatschappelijke probleem bij de kop heeft gepakt. „Je kunt steeds verder gaan in je ontwikkelingen, maar de vraag of een machine met een bewustzijn dezelfde rechten en plichten zou moeten hebben als de mens, wordt niet gesteld.”

Als je die vraag wel stelt, wat is dan het antwoord?

„Dat is dus precies het probleem. Kunstmatige intelligentie is alomtegenwoordig, maar het gaat om het moment waarop je het gevoel krijgt dat er van een bewustzijn sprake is. Als dat gebeurt, verandert de positie van de kunstmatige intelligentie. In mijn roman heeft Charlie zijn twijfels bij het idee dat robots een bewustzijn hebben, terwijl Alan Turing vindt dat dat wel het geval is. Mensen hebben sowieso de neiging om bij een machine een bewustzijn te veronderstellen. In feite doe je dat al wanneer je tegen de auto trapt omdat die er opeens mee ophoudt.

„Vijftig jaar geleden was er een programma dat gebruikt kon worden bij therapieën, Eliza. Dan kreeg je de vraag hoe het ging. Als je dan antwoordde: ‘Ik ben erg ongelukkig’, zei Eliza: ‘Vertel me waarom’. Dan antwoordde je bijvoorbeeld: ‘Mijn moeder misbruikte me als kind en dat maakt me verdrietig’. De machine antwoordde dan: ‘Oh, vertel daar eens meer over’. Zo ging het maar door binnen de reikwijdte van ruim twintig zinnen. De machine, die niet veel meer vroeg dan ‘hoe voel je je nu’, liet ook stiltes vallen en zei ‘aaah’ of ‘ohhh’. Mensen zeiden na afloop dat ze nog nooit zo’n goed gesprek hadden gevoerd. Wanneer je zo’n gesprek hebt, ga je ervan uit dat een machine een bewustzijn heeft.

„Dat is nu niet anders: er zijn ouders die hun kinderen ‘dankjewel’ of ‘graag’ laten zeggen tegen Siri (de digitale assistent van de iPhone, red.), zodat ze leren dat je een machine niet tot slaaf moet maken. Typerend is het moment waarop Miranda en Adam seks hebben. Charlie is jaloers en voelt zich bedrogen. Miranda vraagt: ‘Hoe kun je je nu bedrogen voelen door een machine?’”

In de roman staan Charlie en Alan Turing lijnrecht tegenover elkaar als het gaat om de rechten van een robot. Waar staat u zelf?

„Anders dan Alan Turing denk ik niet dat we in staat zijn om een menselijke robot te maken. We worden al wel grotendeels door kunstmatige intelligentie bestuurd, maar we zijn nog ver weg van zoiets als een machinale mens met menselijke eigenschappen of een bewustzijn. Ik denk ook niet dat het ooit gaat gebeuren dat we empathie of medelijden kunnen koppelen aan het artificiële brein. We doen er nu al jaren over om ervoor te zorgen dat een robot een bal kan vangen. Maar ik denk wel dat áls iets een bewustzijn heeft, dat het dan ook aanspraak mag doen op mensenrechten.”

Het Britse parlement wordt nu bevolkt door Engelse nationalisten – en ik zeg dus bewust geen Britse

De uitwerking van de ideeën van Turing blijkt een schrikbeeld. Is het dus maar goed dat hij zelfmoord heeft gepleegd, omdat we anders in dit doemscenario terecht waren gekomen? Of is dat te kort door de bocht?

„Ja, dat kun je niet zeggen”. McEwan lacht hardop, om daarna te stellen: „Wat mij betreft was Turing de grootste Britse wetenschapper ooit. Goed, met Newton en Darwin natuurlijk, maar zonder Turing had de Tweede Wereldoorlog langer geduurd (Turing maakte in de oorlog deel uit van de Britse dienst die zich bezighield met de ontcijfering van Duitse codeberichten, red.). Het is een wrange ironie dat uitgerekend hij door de staat als crimineel werd gezien vanwege zijn homoseksualiteit. In 2013 werd hij postuum vrijgesproken, dus hij heeft nu geen strafblad meer. Excuses waren meer op hun plaats geweest.”

Waarom koos u 1982 voor deze sciencefiction?

„Dit is geen sciencefiction, maar anti-sciencefiction. Niet dat ik wat tegen sciencefiction heb hoor, maar daar worden robots neergezet als handelende wezens die ons kunnen bedreigen. Mary Shelley schreef met Frankenstein een roman die eigenlijk anti-techniek was. Daarin gaat het om het monster dat niet in bedwang te houden is. Ik vind dat eigenlijk niet heel erg interessant. Wat mij interesseert, is wat er gebeurt wanneer we geen controle meer hebben over onszélf. En je moet, vind ik, een stap verder gaan dan in sciencefiction gebeurt.

„Aan het handelen zoals de wezens in sciencefiction doen, moet je morele vragen koppelen. Je moet je afvragen wat de gevolgen zijn wanneer kunstmatige intelligentie zover wordt doorgevoerd dat je iets creëert dat beter is dan jezelf. Dat is de reden waarom ik van Adam een man heb gemaakt die moeilijk te weerstaan is. Machines zoals ik is een what-if-roman, waar Engeland de Falklandoorlog heeft verloren. Ik bedenk graag hoe een wereld eruit had gezien als het net even anders was gelopen.”

Koos u de Falklandoorlog omdat dit de laatste keer was dat de Britten een oorlog wonnen, en er nog een ‘empire’-gevoel op na konden houden?

„Ik koos de Falklands omdat die oorlog eenvoudig anders had kunnen lopen. Het was dat de Argentijnen de techniek van het raketsysteem niet genoeg beheersten. Hadden ze die wel beheerst, dan was de hele Britse vloot gezonken.

„Of dit de laatste overwinning van de Britten was, hangt trouwens af van hoe je het bekijkt. Er zullen veel mensen zijn die zeggen dat de Britten en de Amerikanen ook de Irak-oorlog hebben gewonnen. Daar is wat voor te zeggen als je bedenkt dat ze daar inderdaad een regering omver hebben geworpen. Alleen zijn ze vergeten dat je daarna weer een staat moet opbouwen. The New York Times vatte het ooit goed samen: de VS vergeten dat ze na een overwinning een kolonie hebben, die je moet opbouwen. De VS hebben zichzelf nooit als empire gezien, maar als je je westerse waarden wilt opleggen aan een ander land, dan is het omverwerpen van een regime niet genoeg.”

Het motto van de roman is ontleend aan Rudyard Kipling, de man die ook bekend werd van zijn gedicht over de ‘white man’s burden’. Wordt het witte superioriteitsgevoel van Kipling vervangen door een ‘artificial man’s burden’?

„Dat is moeilijk om te zeggen, maar wel leuk om over te speculeren. Als je ‘mensen’ weet te maken die beter functioneren dan jezelf, speel je voor God. Je gaat een nieuwe uitdaging met God aan. Het kan zijn dat je daarin slaagt, dan krijg je niet alleen een artificial man’s burden, maar een geheel nieuwe wereld. In feite zie je dat op bepaalde vlakken al gebeuren: er zal voor veel mensen minder werk zijn omdat robots dat overnemen. Dat betekent dat je identiteit gaat veranderen, want veel mensen koppelen wie ze zijn aan wat voor werk ze doen. Als dat wegvalt, zal er iets voor in de plaats moeten komen om je identiteit te behouden.”

Wat?

„Nou ja, de aristocratie heeft eeuwen geleefd zonder te werken. Ze gingen paardrijden, jagen en lieten mensen voor zich werken. Wij kunnen robots voor ons laten werken, maar dan moet je wel op een soort basisinkomen overgaan waarbij iedereen kan doen wat hij of zij wil. Dat wordt lastig. Wat je doet, bepaalt nog veel te veel wie je bent. Je komt in een soort utopia terecht als het lukt.”

Maar utopieën zijn saai.

„Het zijn nachtmerries.”

Er zijn ouders die hun kinderen ‘dankjewel’ of ‘graag’ laten zeggen tegen Siri, zodat ze leren dat je een machine niet tot slaaf moet maken

Het gebrek aan banen vormt in uw boek de reden dat de Britten al in 1982 uit de EU stappen.

„Ja, ook in het boek heb je een politicus die denkt dat je met het ondertekenen van een papiertje de EU uitstapt, zonder dat hij beseft hoeveel afspraken er zijn gemaakt. Als je het koppelt aan het heden: het Britse parlement wordt nu bevolkt door Engelse nationalisten – en ik zeg dus bewust geen Britse. Het antwoord erop had van links moeten komen, van Jeremy Corbyn, maar hij is ook voor de Brexit. Wat het duidelijkst aan het licht is gekomen sinds de onderhandeling en de puinhoop eromheen, is dat de Engelsen niet EU-sceptisch zijn, maar EU-fobisch. Wist je trouwens dat Corbyn de bijnaam tanky heeft? Die kreeg hij omdat hij de Russische invasie tijdens de Praagse Lente in 1968 stond goed te praten. Hij vond dat we die niet als een invasie moesten zien. Dat is dus de man die links gedachtegoed vertegenwoordigt.”

In uw boek vindt Adam, de robot, dat de roman overbodig is geworden, omdat de verhaallijn toch altijd alleen maar uitgaat van misleiding. Veel verhalen die de samenleving nu bepalen zijn gebaseerd op misleiding, waarmee polarisatie in de hand wordt gewerkt. Heeft Adam niet gelijk als hij denkt dat we misleiding en misverstanden kunnen afschaffen?

„Misleiding hebben we inderdaad niet nodig, maar onze literatuur groeit wel door de verkenning van de mogelijkheden ervan. Als je alleen maar wilt bejubelen of over de liefde wilt schrijven, neig je eerder naar poëzie. Romans gaan uit van gebeurtenissen in een bepaalde episode; als iedereen daarin almaar gelukkig is, heb je een saaie roman. Adam vindt inderdaad dat je dankzij de kunstmatige intelligentie kan bereiken dat iedereen elkaar begrijpt, en literatuur kan worden teruggebracht tot een haiku. Het is een stupide redenering. Adam denkt door het wegnemen van misleiding een utopie te creëren. Volgens hem is de haiku de ultieme kunstvorm.”

Veracht u de haiku?

„Nee, dat niet, maar het is natuurlijk een nogal onbeduidend, minimalistisch genre. Er valt een druppel water en ergens zingt een vogel, punt. Een verband mag je zelf bedenken. Ik vind dat weinig ambitieus en stupide. Het is literatuur voor wie niet wil nadenken, en daarom maakte ik de robot een liefhebber ervan.”