Opinie

    • Rosanne Hertzberger

Bovenaan de voedselketen

Vorig jaar versloeg het algoritme van Google-dochter DeepMind voor het eerst de allerbeste Go-speler in de wereld. Dat lijkt op het eerste gezicht geen groot nieuws: het is twintig jaar geleden dat IBM-computer Deep Blue de grote Russische schaakkampioen Kasparov versloeg. Toch zat er een groot verschil tussen beide overwinningen. Waar Deep Blue vooral leunde op brute rekenkracht en geheugen, leerde de Google-computer zichzelf Go spelen met alleen een lijstje spelregels in de hand. Om zijn buitengewone intelligentie ten toon te spreiden leerde hij zichzelf begin deze maand ook nog even in een middagje schaken en versloeg vervolgens de beste schaakcomputer van deze tijd.

Weer een stapje dichterbij superintelligentie: algoritmes die overal beter in zijn dan mensen. Voor wetenschapper Max Tegmark is het niet de vraag òf er ooit dat soort superintelligentie zal bestaan, maar wanneer. Hij schreef het boek Life 3.0 – met als ondertitel ‘mens zijn in het tijdperk van kunstmatige intelligentie’. De grote vraag: wie zijn wij nog als we niet meer de slimste op deze planeet zijn? En wat moeten we doen als we onze schepsels niet meer onder controle kunnen houden.

Sommige wetenschappers vergelijken dit soort vragen met zorgen over overpopulatie op Mars: een probleem met bijzonder weinig urgentie. Toch is het niet ondenkbaar dat dit vraagstuk zich eerder aandient dan we denken. Waarom heeft de mens ooit macht gekregen over dieren? Niet omdat we sterker waren, of sneller, maar alleen maar vanwege onze intelligentie. Waarom zou een intelligenter wezen dan niet machtiger kunnen zijn dan wij? Tegmark vergelijkt de controle van mensen over superintelligentie met een groep kleuters die een volwassene in een cel opsluit. Lijdzaam moet hij toezien hoe zijn cipiers elkaar de tent uitvechten, de boel laten vervuilen, ziek worden, ongelukken krijgen. Het lukt hem uiteindelijk om een kleuter om te kopen met de belofte van een ijsje, waarna hij zichzelf kan bevrijden en de orde kan herstellen.

Ik weet niet of de verschillende scenario’s van een superintelligentie realistisch zijn, laat staan of die superintelligentie enige macht kan uitoefenen over ons. Ik weet niet of die superintelligentie subjectieve ervaringen zal hebben, en of zijn werk vooral positief of negatief zal uitvallen. Tegmark adviseert om iedereen die beweert dat wél te weten vooral te wantrouwen, omdat zelfs onder de grootste experts de meest uiteenlopende toekomstscenario’s te vinden zijn. Ikzelf gok dat de angst voor massale werkeloosheid onterecht is. De enorme hoeveelheid bullshit-jobs waar we ons nu al ‘druk druk druk’ mee houden, geeft vertrouwen dat we in de toekomst nog veel meer van dat werk kunnen verzinnen voor ons zelf. En zo niet; dan is er altijd nog de onuitputtelijke voorraad uitmuntende series en films waarmee de algoritmes ons kunnen vermaken. Nee, we zullen ons niet vervelen.

Toch staan zelfs Tegmarks meest optimistische scenario’s me tegen. Wéér blijkt dat er helemaal niets bijzonders is aan ons mensen. Onze planeet is niet het centrum van het universum. Wij zijn niet de kers op de schepping. Onze genen zijn niet bijzonder talrijk of mooi. Ons bewustzijn en onze empathie zijn niet uniek in het dierenrijk. En qua intelligentie zijn we straks ook maar gewoon een middenmoter tussen onze kunstmatige nakomelingen. Gewoontjes, dat is de mens. Dat blijft een teleurstelling.

Ik gok ook dat die nieuwe superintelligentie ons straks voor een aantal lastige dilemma’s zet. Wat is ons ‘natuurlijk’ recht nog om andere niet-mensen gevangen te zetten, tot slaaf te maken, te doden? Die vraag wordt nu al regelmatig gesteld met betrekking tot zelfbewuste, intelligente dieren met een rijk gevoelsleven. Het antwoord is: geen enkel. Toen wij mensen de universele mensenrechten uitvonden en opschreven besloten we die te beperken tot slechts één groep individuen, willekeurig geselecteerd op taxonomische grond. Een puur fascistisch besluit. En toch lijkt het me goed om die mensenrechten in het licht van nieuwe niet-menselijke superintelligentie, niet uit te breiden, maar juist nog nadrukkelijker te beperken tot alleen mensen. Een mens zou geen enkel niet-menselijk zelfbewust individu (dier of robot) onnodig mogen laten lijden. En toch denk ik dat menselijk lijden altijd erger moet blijven dan niet-menselijk lijden. Ik geloof dat het belangrijk is om de menselijke waardigheid, vrijheid en macht te waarborgen. Om ondanks onze middelmatigheid, onze plek bovenaan de voedselketen te garanderen.

Rosanne Hertzberger is microbioloog.

    • Rosanne Hertzberger