Boodschappenrobot

Intussen in de wereld van de robots: alles in orde. Neuriënd maakt Grillbot de barbecue schoon. Chirurgierobot Da Vinci voert in de operatiekamer eigenhandig een paar prostaatingrepen uit. Gauw gefikst. Graag gedaan. Het fijne van robots is hun karakteristieke stompzinnigheid. Robots hebben geen ziel, zegt men. Om een machine te zijn, hoef je geen wiskunde te begrijpen, geen bewustzijn te hebben, geen echte intelligentie, geen flauw idee. Het interesseert machines zelfs niet of ze leven of doodgaan. Deze stompzinnigheid maakt de robot bij uitstek geschikt om moreel onberispelijk gedrag te vertonen. Niets leidt af van het goede.

Er bestaan daarom plannen robots in te zetten als soldaten of als gevangenisbewaarders, zegt cognitiewetenschapper Pim Haselager ergens. „Dan kun je misstanden als Abu Ghraib voorkomen. Als je die functie tenminste goed programmeert en niet uit kunt zetten.” En zo is dat. Robots – dom en voorgeprogrammeerd voor de deugd – zijn perfecte arbeiders. In de uitgestorven metaalmijnen van het Australische Pilbara werken reusachtige robottrucks van het bedrijf Rio Tinto Iron Ore 24 uur per dag onvermoeibaar voort. Over een afstand van anderhalf duizend kilometer worden ze aangestuurd door computers in Perth.

En die computers in de stad? Die behoren tot de min of meer intelligente elite. Witte boordenrobots zijn het. ’s Avonds hangen ze gezellig rond in kringen van AmigoBots: automaten waar ook honden dol op zijn, omdat ze bereid zijn speeltjes te verstoppen en weer terug te vinden. En vervolgens, bovenaan de maatschappelijke ladder, staan nog steeds de apparaten met natuurlijk gezag. Driedimensionale projecties van bazen. Hologrammen die sigaren roken. Zo lieflijk en idyllisch als dit klinkt, lijkt er geen reden voor een stukje in de krant. Tot ook in dit paradijs het kwaad binnensluipt. Verdorie! Denk je serieus op de tekentafel een wereld te hebben ontworpen waarin je volmaakt gedrag kunt organiseren, heb je toch weer regels nodig om schade en schuld af te handelen. Net heb je de geautomatiseerde toekomst tot in alle hemelse details uitgedacht. En pats! Je cyborg laat een vaas vallen.

Aansprakelijkheid voor de schade van de vaas valt nog wel te regelen. Maar verantwoordelijkheid? Zodra je in termen van schuld en ondeugd gaat denken, wordt de wereld der robots lastig. En toch moet het. Want robots kunnen onvoorspelbaar gedrag vertonen, zegt genoemde cognitiewetenschapper Haselager. Vooral als ze in de rommeligheid van het huiselijk bestaan terecht komen, of op straat. „Stel, je bent een boodschappenrobot en je bent op weg naar Albert Heijn. Hoor je dan in te grijpen als een kind onverhoeds de straat oprent?” Hier doemen problemen op van onvermoede proporties. Want ten eerste moet het programma in het hoofd van de robot immens zijn, wil het alle mogelijke goede en slechte uitkomsten van zo’n straatsituatie beschrijven. Ten tweede kun je de morele afwegingen tussen de verschillende uitkomsten eigenlijk niet programmeren, omdat we nog niet weten hoe die afwegingen in ons eigen hoofd werken. Ten derde is het de vraag of de robot zelf verantwoordelijk wordt, zodra hij morele beslissingen neemt. Het eerste is een praktisch probleem: dat slaan we over. Het tweede en het derde probleem werpen ons op onszelf terug: hoe intelligent zijn wij? Hoe werkt ons hoofd? Sommige wetenschappers zeggen dat je een robot gemakkelijk tot moreel wezen kunt programmeren. Je hoeft alleen maar de inhoud van een menselijk brein naar hem te uploaden. Kan dat? De uitvinder en futuroloog Ray Kurzweil beweert van wel. De principes van het brein, zegt hij, zijn simpel, je stopt ze in een programma, giet je eigen gedachten erin en blijft zo zelf eeuwig voortleven in de vorm van een machine.

Deze maand publiceerde kennislink.nl er een artikel over. Je brein in een computer. Daarin neigen wetenschappers ernaar Kurzweil niet te geloven. Een simpel model bouwen van een brein kan nog wel, zeggen ze, maar een geest erin stoppen lukt niet, omdat je niet alle gedachten, ervaringen en gevoelens kunt overgieten. We kunnen onze morele overwegingen nooit uitputtend in een programma beschrijven, omdat ze belichaamd zijn en geworteld in de ervaring. Maar volgens mij is de vraag ‘kan het?’ niet het belangrijkst. Een mens maken is niet zo moeilijk, een wezen op de wereld zetten met moreel talent lukt de meesten van ons nog wel. Maar de aantrekkingskracht van robots was nu juist hun verregaande stompzinnigheid. Het lijkt mij daarom niet de vraag of we wezens kunnen maken die sprekend op ons lijken en even fijnzinnig zijn als wij. De vraag is of we fijnzinnige taken willen laten uitvoeren door idioten. Stel, je hebt een boodschappenrobot: stuur je die naar de Albert Heijn?

Maxim Februari is filosoof en schrijver. Deze column is wekelijks.