Opinie

Regel nummer 1 van de robotica luidt:de mens blijft de baas

„De machines hebben nu het machtigste wapen in handen: de absolute controle over onze economie.” Daarmee eindigt Isaac Asimovs klassieker I, Robot (1950). En ofschoon de wereld anno 2017 nog niet op het punt is beland waarop deze dystopie eindigt, is veel van wat Asimov in de jaren veertig van de vorige eeuw schreef niet langer sciencefiction. Computers hebben niet de absolute controle over de economie. Maar we worden al wel omgeven door pratende robots. En door wat in de wandeling het ‘internet der dingen’ heet: van zelfstandig opererende elektriciteitsmeters en denkende ijskasten tot speelgoed dat data doorgeeft.

In een speciale Economie-bijlage schreef NRC zaterdag over het oprukken van de kunstmatige intelligentie. Over de enorme investeringen in artificial intelligence-start-ups, die het afgelopen jaar volgens adviesbureau McKinsey tussen de 26 en 39 miljard dollar (22 en 33 miljard euro) beliepen. Tendens: groeiend.

Techreuzen houden zich bezig met computers die zelf hun programma’s schrijven omdat die te complex worden voor mensen. Zelflerende computers zullen delen van het mensenwerk overnemen, constateerde NRC. Soms zou dat beter zijn, omdat de mens niet altijd even betrouwbaar is, bijvoorbeeld achter het stuur.

Maar over het algemeen is dat toch niet verstandig. Natuurlijk, slimme software kan specialisten bijstaan met dossierkennis die geen mens kan bevatten. En op medisch en justitieel terrein wordt ook al veel gewerkt met kunstmatige intelligentie. Alleen blijkt de mens, ondanks alle mogelijke gebreken op het terrein van kennis en geheugen, onmisbaar. Zo schreef de NRC-rubriek De Rechtsstaat recent dat er al expertsystemen zijn die in concrete zaken met bijna 80 procent betrouwbaarheid voorspellen hoe de Europese rechters in Straatsburg beslissen op de vraag of het Europese mensenrechtenverdrag is geschonden of niet. Gerechtsbestuurders kunnen straks voor het eerst rechters, gerechten, en rechtsgebieden in detail met elkaar vergelijken. Dat biedt kansen voor een verbetering van kwaliteit, van snelheid en strategie. Maar in de kern is het recht iets wat mensen doen. Bij de medische praktijk, zeker waar het gaat om vragen om leven en dood, zal dat a fortiori gelden.

Opmerkelijk was de waarneming in de NRC-special van de Amerikaanse schrijfster Cathy O’Neil, die in haar boek Weapons of Math Destruction voorbeelden aanhaalde van algoritmen die vooroordelen bevestigen en verschillen in geslacht, ras, inkomen en opleiding juist benadrukken. In een tijd waarin in de Verenigde Naties wordt gesproken over een verbod op volautomatische wapensystemen waarschuwt O’Neil terecht dat data niet moeten worden overgelaten aan datawetenschappers. Of de Europese Unie op het terrein van datamining voor een „morele balans” kan zorgen tegenover de Verenigde Staten en China zoals Max Welling, expert op het gebied van machine learning, denkt, is zeer de vraag. In ieder geval niet zonder brede steun van burgers en regeringen van Europese landen.

Het hoofdthema van het gebruik van kunstmatige intelligentie is sinds I,Robot dus niet veranderd, namelijk: wie heeft de controle?

Nederland Leest deelt nu Ik, robot gratis uit bij de openbare bibliotheken. Schrijver Ronald Giphart schreef samen met robot Asibot een nieuw hoofdstuk, Maar het was Giphart die uiteindelijk de dienst uitmaakte. De mens blijft de baas, dat moet in aanvulling op Asimov, de nieuwe hoofdregel zijn van robotica.

In het Commentaar geeft NRC zijn mening over belangrijke nieuwsfeiten. De commentatoren schrijven deze artikelen in samenspraak met de hoofdredactie.