Robots 3

POINT MOOT was een stadje ergens in Texas. Een stadje dat bijna ten onder ging aan robots, aan een uit de hand gelopen aardigheidje. Point Moot was noch is op enige kaart te vinden. Het bestond alleen in een computer ergens op de campus van de Universiteit van Texas in Austin, in de vorm van een Multi User Dungeon (MUD), een gesimuleerd stelsel van kamers en gangen, waar bezoekers die van heinde en verre op de computer inlogden, konden spelen en met elkaar konden converseren. Point Moot was een digitaal sociaal experiment, een poging om een virtuele gemeenschap te cre‰ren.

Zoals het een MUD betaamt, zag het er niet uit. Er verscheen alleen wat tekst op het scherm, die kort beschreef waar je was, en wie er nog meer waren. Door korte opdrachten in te typen als 'say', 'go west' of 'look' kon de gebruiker met andere spelers interacteren en door de denkbeeldige wereld manoeuvreren. Maar al oogde het nog zo pretentieloos, Point Moot zat wel vol technisch vernuft, zodat het een werkelijk interessante en uitdagende omgeving was. Zo was er een arbeidsbureau waar je bij directeur Buford Moot een baan kon krijgen, want inwoners van Point Moot moesten hun verblijf verdienen met virtueel geld. Voor luilakken was er zelfs een stadhuis met een afdeling sociale zaken, waar je een uitkering kon halen. Die afdeling werd bevrouwd door ene Nurlene, een wat droog, nuffig type, maar in de grond niet kwaad. Buford en Nurlene bestonden net zo min echt als Point Moot zelf. Het waren bots, software robots. Programmaatjes die zelfstandig een paar taken konden verrichten en een beperkte conversatie konden voeren. Nuttige en verrassend 'menselijk' overkomende bedenksels van de bouwers van Point Moot. Maar ze waren niet de enige bots. Er waren ook nog de olijke Barney's, bedoeld als speels element. Die Barney's werden, zoals Andrew Leonard in zijn boek 'Bots, the origin of a new species' dramatisch beschrijft, bijna de ondergang van Point Moot.

De Barney-bot was eigenlijk alweer een variant op Fernando Corbato's aloude bot, het knechtje dat het computergeheugen constant controleert op nog niet opgeslagen bestanden. De Barney-bot schuimde constant de kamers van Point Moot af, en in plaats van bestanden op te slaan, liet hij in elke kamer zijn merkteken achter, door op het scherm van de daar aanwezige bezoekers te zetten: 'I love you, you love me'. Een geintje. Maar wel een hinderlijk geintje, vonden veel inwoners van Point Moot, en al gauw typte iemand de opdracht 'Kick Barney' in. Toen bleek, dat de Barney-bot meer kon dan alleen dat zinnetje roepen. Hij liet in zo'n geval een tekst als 'Barney spat in vier stukken uit elkaar' verschijnen, en begon vanaf dat moment vier keer zo snel zijn werk te doen. Voor de bezoekers was het alsof hij nu met vier Barney's van doen had, die vaker hinderlijk waren. Dat leidde tot meer geschop, en binnen de kortste keren werd Point Moot overstroomd door virtuele Barney's, wat wilde zeggen dat steeds vaker steeds langere rissen regels 'I love you, you love me' over het scherm trokken, zodat al het andere daarin verdronk. De Barney-bot was de digitaal vleesgeworden bezem van Goethes tovenaarsleerling, die uiteindelijk slechts kon worden gestopt door menselijk ingrijpen van de 'wizards' zelf, de bouwers van Point Moot.

Point Moot bestaat allang niet meer, maar het leerde ons wel ten minste drie belangrijke lessen over robots. De eerste les is dat wij mensen zo graag ergens intelligentie in zien, zo graag menselijke eigenschappen aan alles om ons heen toekennen, dat we zelfs primitieve computerprogrammaatjes moeiteloos als onze gelijken accepteren. Al in de jaren zestig, de vroege middeleeuwen van het computertijdperk, had Joseph Weizenbaum dat bewezen met zijn programma Eliza. Eliza gaf antwoord als je ertegen 'praatte', op de vage manier van een Rogeriaanse therapeut. In feite herhaalde het programma de inhoudswoorden uit wat je tikte, gegoten in een van een reeks van standaardvragen en dooddoeners. Bijvoorbeeld zo:

U: ik voel me de laatste tijd wat eenzaam.

Eliza: Wat bedoel je precies met eenzaam?

U: Nou, niemand houdt van mij.

Eliza: Vertel eens wat meer...

Heel wat mensen vielen als een blok voor Eliza, tot Weizenbaums afgrijzen overigens. Ze 'geloofden' in haar. Buford en Nurlene Moot konden een stuk minder dan Eliza, maar ook zij 'praatten', en dus werden ze moeiteloos als 'mens' geaccepteerd. En de Barney's, die weinig meer waren dan een dom zinnetje op het scherm, bleken in staat om bij brave computeraars onvervalste moordlust op te wekken.

De tweede les is dat we niet zo goed zijn in het omgaan met zulke domme, maar intelligent lijkende dingen. We behandelen ze als mens, als redelijk en slim. Daarom slaan we ook een onwillige televisie, schoppen we tegen de frisdrankautomaat, en smeken we al even onzinnig een onwillige fax om alsjeblieft aan het werk te gaan. Daarom ook wekten de Barney's zoveel agressie op. Zulk onfatsoen verdiende straf! We zullen ze mores leren! Maar programmaregels hebben geen weet van fatsoen, straf, of mores. Er zijn geen motieven, geen overwegingen, geen angsten. Het is als bij de onheilspellende Borg, ook al uit Star Trek: Weerstand is zinloos, wat u vindt is niet relevant. Bots reageren maar al te vaak heel anders dan we onwillekeurig toch steeds weer blijven verwachten.

De derde les is dat het juist daardoor ook met de beste bedoelingen bijna ondoenlijk is om een enigszins complexe bot goed te besturen. De zaken lopen onherroepelijk uit de hand, zoals bij de Barney's, of je raakt van de wal in de sloot. Een mooi voorbeeld van dat laatste is de pratende paperclip uit Windows Office. Die levert hulp op maat, op een semi-intelligente manier. Het is een heuse bot, en een van de beste die ooit gemaakt zijn, maar toch zullen degenen die hem gebruiken gemerkt hebben hoe vaak zijn hulp er net naast zit, of zelfs heel ver naast. Gelukkig is hij ongevaarlijk, omdat hij alleen maar adviezen geeft. Maar stel je voor dat de paperclip niet alleen hulp bood, maar uit zichzelf de suggesties die hij doet ook ging uitvoeren. Dat zou een regelrechte ramp worden.

Maar voor echte rampen moeten we toch ergens anders zijn. In de biotoop voor bots bij uitstek: het Internet.