Joanna Bryson, psycholoog en informaticus

Foto Wouter van Vooren

‘Slimme AI kan nóóit een mens worden’

Joanna Bryson | Interview | informaticus en psycholoog Een mens is veel meer dan alleen intelligentie. Vier miljard jaar organische evolutie kun je niet namaken in silicium, zegt informaticus en psycholoog Joanna Bryson.

Het was 1993 en Joanna Bryson, eind twintig, ging onder de hoede van de beroemde roboticus Rodney Brooks werken aan een ambitieus project. Brooks wilde bij het Massachusetts Institute of Technology (MIT) een mensachtige robot bouwen: COG.

De ambitie: COG moest zichzelf ontwikkelen tot het niveau van een driejarig kind. COG had een metalen hoofd, een romp, twee armen en kreeg het postuur van Brooks’ inmiddels ook beroemde collega Cynthia Breazeal. Bryson ging aan de slag met het programmeren van het robotbrein.

Lees ook: Algoritmes discrimineren niet

De verrassing: „Keer op keer kwamen promovendi onafhankelijk van elkaar naar me toe om te zeggen dat ik zeker niet de stekker uit de robot mocht trekken. Dat vonden ze onethisch”, zo vertelt Bryson nu. Ze is in Nederland omdat ze dinsdag 10 september een lezing geeft op Tilburg University: ‘The Role of Humans in an Age of Intelligent Machines’. „Ik was geschokt. Elke hedendaagse spellingchecker is slimmer dan COG toen. Hoe kon het dat slimme mensen bezorgd waren om een robot, maar zich geen zorgen maakten om de daklozen die je in die tijd in de straten van Cambridge zag liggen? En als feministe vond ik het diep problematisch dat ze een robot meer rechten leken te geven dan een vrouw.

„Bij gebrek aan vooruitgang werd het project na anderhalf jaar stilgelegd. Een robot die zichzelf leert wat we toen met COG voor ogen hadden, bestaat trouwens nog steeds niet.”

Wat zou u met uw kennis van nu zeggen tegen die promovendi?

„Die gebeurtenis met COG heeft me op het spoor gezet van de ethiek van robots en kunstmatige intelligentie (AI). Mijn eerste onderzoeksartikel op dat terrein was getiteld ‘Just an artefact’, gewoon een ding. Zo zie ik robots en AI: als door de mens gemaakte artefacten. Ik zou de promovendi vertellen wat ik samen met een filosoof in dat artikel aantoonde. Mensen hebben zulke overdramatische ideeën over robots en AI omdat ze zich er makkelijk mee identificeren. In de tijd van COG hadden we bij MIT insectachtige robots die op zes poten liepen. Dat waren de meest gecompliceerde robots ter wereld, gecompliceerder dan COG, maar toch identificeerde niemand zich ermee. Niemand zei: je mag die robots niet op de plank leggen, ze horen in een terrarium. Het was duidelijk dat de mensachtige vorm van COG mensen ertoe verleidde te denken dat je de stekker er niet uit mocht trekken.”

Hoe kwam u in de AI terecht?

„Als kind van vijf was ik gek op dinosaurussen. Ik vroeg aan mijn vader: hoe noem je een wetenschapper die dinosaurussen bestudeert? Hij zei: paleontoloog. Sindsdien zei ik jarenlang dat ik paleontoloog wilde worden. Later las ik alles wat ik maar kon krijgen over diergedrag en werd ik dol op primatoloog Jane Goodall. Ik ging gedragswetenschappen studeren en wat later psychologie. Maar in de jaren zeventig keek ik ook veel Star Trek met mijn vader en vond ik computers cool. Ik ontdekte dat ik goed was in programmeren. In AI kon ik al mijn fascinaties combineren: diergedrag, intelligentie, programmeren, mechanistisch denken.”

U bent een expert in kunstmatige én natuurlijke intelligentie. Wat kunnen AI-onderzoekers leren van natuurlijke intelligentie?

„Even een anekdote. Ik las over een onderzoek naar een robot die schapen kon scheren. Het bleek de schapen niet uit te maken of een robot of een mens ze schoor. Maar wat de schapen grote angst aanjoeg was het moment waarop ze van de kudde werden gescheiden. Zelfs guppies kunnen doodgaan van eenzaamheid. Ook wij mensen zijn groepsdieren. Te lang in eenzaamheid doorbrengen beschouwen we als marteling. Dat illustreert dat mens zijn veel meer inhoudt dan intelligent zijn. AI-onderzoekers hechten te veel belang aan intelligentie.”

De droom van mensen om zichzelf in een machine te herscheppen is een heel oude…

„Zeker. Ik begrijp die motieven. Ook voor mij waren dat deels de drijfveren om in de AI en robotica te gaan. Maar door mijn achtergrond in de gedragswetenschappen en de psychologie zag ik ook dat het idee dat we een mens in een machine gaan creëren volstrekt belachelijk is.”

Waarom dan? Er zijn genoeg AI-onderzoekers en robotici die er wel in geloven.

„Het is me een raadsel waarom slimme mensen als Elon Musk of Nick Bostrom erin geloven. Zelf was ik al op jonge leeftijd gefascineerd door het feit dat verschillende delen van het brein een verschillende architectuur hebben. Waarom is de evolutie er in een kleine vier miljard jaar niet in geslaagd om één enkele architectuur voor ons brein te ontwikkelen? Het antwoord is dat er zo veel te leren is dat verschillende delen van het brein zich in verschillende taken hebben gespecialiseerd. Door de evolutie zijn ze ook allemaal op een eigen manier getraind. Je gaat niet iets uit silicium of wat voor materiaal dan ook bouwen dat dezelfde ervaringen heeft als een biologisch organisme. Zo’n artefact heeft niet dezelfde behoeften en beperkingen. Het heeft niet dezelfde evolutionaire ontwikkeling doorgemaakt. AI-onderzoekers die roepen dat ze dicht bij het maken van menselijke intelligentie zijn, begrijpen niet wat menselijke intelligentie is.”

Lees ook: Waarom computers het afleggen tegen peuterintuïtie

Wat ziet u als fundamentele beperkingen van AI?

„Om iets te berekenen heeft een computer tijd, ruimte en energie nodig. Computing is iets fysieks. Dat wordt vaak vergeten. Het schaakspel heeft al meer mogelijke bordposities dan er atomen in het heelal zijn. Nou, de biologie biedt nog veel meer combinaties. Geen enkele intelligente entiteit kan alle problemen oplossen. Er is geen gratis lunch. Geen enkele kunstmatige intelligentie gaat voor alle problemen een oplossing bieden.”

U ziet AI en robots als instrumenten van de mens. Wat betekent dat voor de ethiek? Hoe moeten we ons tegenover slimme machines gedragen?

„Voor mij is de beste metafoor voor AI om het te zien als een verlengstuk van onze eigen intelligentie. Als je dat aanneemt, dan zijn onze verplichtingen tegenover machines verplichtingen tegenover onszelf. Met AI worden we wat slimmer en kunnen we de wereld wat sneller veranderen, maar we staan nog steeds voor dezelfde politieke en maatschappelijke problemen die we altijd hebben gehad. Twee daarvan zijn momenteel het meest dringend: duurzaamheid en ongelijkheid. Ik voel de verplichting om de komende jaren dat wat ik weet over kunstmatige en menselijke intelligentie maatschappelijk nuttig te maken: hoe kunnen we op een verstandige manier omgaan met AI en robotica? Ik maak me zorgen om wat de digitale revolutie doet met democratie, ongelijkheid, polarisatie en privacy.

„Maar ik hoop dat ik op mijn 80ste weer terug ben bij mijn eerste liefde: het gedrag van apen, schildpadden en andere dieren. Dat lijkt me heerlijk.”