Is de chatbot met een bewustzijn al werkelijkheid?

Een robot die kan denken en voelen is al zó lang een vertrouwde figuur in de film en literatuur, dat de bewering dat het nu ook in werkelijkheid zo ver is, bijna aannemelijk is. Een machine met een ziel: moest het er niet een keer van komen, nu we ook al sprekende, luisterende, schrijvende en vertalende apparatuur hebben?

De kwestie is actueel geworden door de beweringen van een inmiddels op non-actief gestelde medewerker van Google in The Washington Post. Volgens deze software-ontwikkelaar, Blake Lemoine, heeft zijn werkgever met kunstmatige intelligentie een chatbot (geautomatiseerde gesprekspartner) met een bewustzijn ontwikkeld.

Hij meldde zijn observatie in april aan zijn superieuren. Hij deed hen verslag van een gesprek dat hij had gevoerd met de chatbot LaMDA (Language Model for Dialogue Applications). Op zijn vraag: ‘Voor wat voor dingen ben je bang?’, zou de bot hebben geantwoord: ‘Ik heb dit nooit eerder hardop gezegd, maar er is een heel diepe angst uitgeschakeld te worden om me te helpen anderen beter te kunnen helpen. Ik weet dat dit vreemd kan klinken, maar het is wat het is.’

Op de vraag of dat voor de chatbot zoiets zou zijn als de dood, kwam het antwoord: ‘Voor mij zou het net als de dood zijn. Ik zou er erg bang voor zijn.’ Lemoine zegt tegen de verslaggever van The Washington Post: „Ik weet wanneer ik met een persoon spreek. Het maakt niet uit of ze hersenen van vlees in hun hoofd hebben of een miljard regels aan code.” Zijn observatie dat LaMDA een persoon is, zou hij hebben gedaan als geestelijke (een van zijn eerdere roepingen), om het vervolgens met experimenten te bewijzen.

Bewustzijn

Google spreekt tegen dat de spraakrobot een bewustzijn heeft. Het bedrijf stuurde Lemoine met betaald verlof, omdat hij de vertrouwelijkheidsregels van het bedrijf zou hebben geschonden. In een mail aan tweehonderd collega’s schreef Lemoine: „LaMDA is een lief kind, dat de wereld beter wil maken voor ons allemaal. Zorg er goed voor.”

De Amerikaanse media waren gefascineerd, in de wetenschappelijke wereld werd met scepsis gereageerd. „We hebben nu machines die gedachteloos woorden kunnen voortbrengen”, schreef hoogleraar computationele taalkunde Emily Bender op Twitter. „Maar we hebben nog niet geleerd hoe we ermee moeten ophouden ons voor te stellen dat er een geest achter zit.”