Slimmer dan wij

Software die beter en sneller is dan mensen. Science fiction? Nee hoor, zegt Pepijn Vloemans. En straks vindt die superintelligentie ons niet rationeel genoeg.

Deze Android-robot kan gezichtsuitdrukkingen aannemen. In het linkeroog van de robot zit een camera. De computer in deze robot herkent gezichten en berekent daarna welke gezichtsuitdrukking in die situatie gepast is. Foto ANP

Een pratende beer die lang genoeg geleefd heeft zou je het volgende waar gebeurde verhaal vertellen: ‘Op een dag dook er ineens een nieuwe diersoort op. Het leek wel een plaag. Ze zagen er zwak en ziekelijk uit, liepen op hun achterpoten en opereerden vaak in groepen. Aanvankelijk kon je ze nog met één poot neerslaan en daarna lekker opeten. Maar al gauw durfden we niet meer in de buurt te komen van deze vreemde tweepoters. Ze schoten scherpe takken op ons af waardoor we ons steeds verder moesten terugtrekken. En ze leken altijd te weten waar we heen gingen! Het was allemaal zeer merkwaardig. We hebben veel theorieën geprobeerd maar zelfs onze slimste beren – die hier minuten lang over hebben nagedacht – kunnen maar niet voorspellen hoe ze het voor elkaar krijgen. Sinds een paar jaar komen ze met lawaaiige machines uit de lucht. Ze dragen nu ook takken bij zich die ver weg een knal geven waarna een van ons dood neervalt. Het is om radeloos van te worden.’

Gevaarlijker dan kernwapens

In het toegankelijke geschreven boek Smarter Than Us (2014) gebruikt de kunstmatige intelligentie-expert Stuart Armstrong onder andere het voorbeeld van de kloof tussen beren en mensen om ons wakker te schudden voor een scenario dat met de dag geloofwaardiger wordt: een wereld waarin mensen niet langer de slimsten zijn.

Volgens Armstrong zullen we in de nabije toekomst de wereld moeten delen met superintelligente computers. Deze computer zal zo intelligent zijn dat wij mensen hem onmogelijk nog kunnen bevatten. Als we niet tijdig voorzorgsmaatregelen nemen, zullen wij ons net zo beklemd, onzeker en machteloos voelen als de beren. ‘We moeten supervoorzichtig zijn met kunstmatige intelligentie’, twitterde Elon Musk – een van de invloedrijkste entrepreneurs uit Silicon Valley – onlangs. In telegramstijl voegde hij er aan toe: ‘Potentieel gevaarlijker dan kernwapens.’

We zijn er nog niet

Vanwaar deze ophef over een science fiction-scenario? Op het eerste gezicht zijn we nog ver verwijderd van een confrontatie met een computer die slimmer is dan wij. De snelste machine anno 2014 is de Chinese Tianhe-2. Met meer dan drie miljoen processors is het een geweldige machine om weerpatronen of de gedragingen van moleculen mee te simuleren, maar nauwelijks intelligent te noemen. Al die kamers vol processors komen niet in de buurt van de rekenkracht van het menselijk brein. Met zo’n 100 miljard aan elkaar verbonden neuronen is ons brein met gemak de snelste, efficiëntste computer op aarde.

Toch wordt het steeds duidelijker dat het een kwestie van tijd is voordat machines zelfs ons brein zullen overtreffen. De afgelopen dertig jaar zijn processors veel en veel sneller geworden. De resultaten van deze rekenkracht zijn er inmiddels naar. Deep Blue versloeg in 1997 de schaakgrootmeester Kasparov en in 2011 won IBM's Watson in het spel Jeopardy! voor het eerst van twee voormalige menselijke kampioenen. Google lijkt op weg de zelfrijdende Google Car veiliger te laten rijden dan menselijke chauffeurs. Keer op keer laten computers zien dat ze taken kunnen uitvoeren die voorheen het exclusieve domein van menselijke intelligentie waren.

De kans dat hier plotseling een einde aan komt is minimaal. De trend is juist omgekeerd: in Silicon Valley is artificial intelligence (AI) het gesprek van de dag. IBM lanceerde onlangs een nieuwe computerchip die zich laat inspireren door de neuronenarchitectuur van ons brein. Tussen Facebook, Google, Apple, Microsoft en de Chinese webgigant Baidu is een gevecht gaande om schaars AI-talent. Nog nooit is krachtige artificial intelligence zo dichtbij geweest.

Besef van de enorme risico’s

Wellicht is door die nabijheid de urgentie om na te denken over de consequenties groter geworden. Lange tijd domineerde in Silicon Valley namelijk een vaag optimisme over de singularity – het moment dat technologische innovatie zo snel gaat dat het niet meer bij te houden is. In het ultrapositieve boek The Singularity is Near (2005) besteedt uitvinder en schrijver Ray Kurzweil nauwelijks aandacht aan de keerzijden van superintelligentie. Dat lijkt nu definitief voorbij: het besef van de enorme risico’s begint door te dringen. In recente boeken als Our Final Invention (2013) van de Amerikaanse documentairemaker James Barrat, Superintelligence (2014) van de Britse filosoof Nick Bostrom en het eerder genoemde Smarter than Us wordt gehakt gemaakt van het idee dat de singulariteit een onverdeelde zegen zal zijn voor de mens.

Een softwareprogramma dat sneller denkt dan mensen, zo is de redenering, kan zichzelf verbeteren. (Het klinkt vergezocht dat software zichzelf verbetert, maar dergelijke programma’s bestaan al jaren.) Het gevolg is dat deze software zichzelf beter en sneller kan herprogrammeren dan mensen ooit zouden kunnen. Als een dergelijke programma eenmaal aan het zelfverbeteren slaat, is er geen houden meer aan: hoe slimmer de software wordt, hoe sneller deze zichzelf kan herprogrammeren om nóg intelligenter te worden. Rust is niet nodig – een computer gaat 24/7 door.

En dat is waar de problemen beginnen. Het programma zal in een terra incognita van superintelligentie belanden. En daarmee kan het zich om een hele waaier van redenen tegen mensen keren: omdat het ons niet rationeel genoeg vindt; omdat we de superintelligentie kunnen uitzetten; of om redenen die ik nu niet eens kan bedenken, maar die ongetwijfeld logisch zijn voor een superintelligentie. Net als de beren in bovenstaand verhaal niet begrijpen wat de mensen drijft, zal een superintelligentie doelen en denkwijzen hebben die voor ons onnavolgbaar zijn.

De kern van het probleem is daarmee dat een zichzelf verbeterende intelligentie vroeg of laat onvoorspelbare dingen gaat doen. We kunnen er niet vanuit gaan dat we een vorm van intelligentie die krachtiger is dan de onze onder controle kunnen houden. Voordat we het weten voelen we ons net zo opgejaagd als de beren in de parabel waar ik mee begon.

Begrijp me niet verkeerd: zolang het onze kansen vergroot, ben ik optimistisch over technologie. Kunstmatige intelligentie heeft enorme potentie om onze levens te verbeteren. Maar ik ben gaan inzien dat een intelligentie die de onze tien, honderd of duizend keer overtroeft een groot risico vormt. Hoe we dit risico minimaliseren is een onderwerp waar we dieper dan ooit over moeten nadenken.

    • Pepijn Vloemans