Opinie

AI vraagt om overkoepelende toekomstvisie

Kunstmatige intelligentie

Commentaar

Soms vertelt één citaat het hele verhaal van een vuistdik rapport: „We maken ons zorgen dat de computer heel slim wordt en op een gegeven moment de wereld zal overnemen. Maar de werkelijkheid is: de computer is eigenlijk nog ontzettend dom, maar hééft de wereld al overgenomen.”

Van sociale media tot behandelkamers en pandemie-modellen: zelflerende computersystemen ondersteunen beslissingen, en nemen ze soms ook al zelfstandig. Artificiële intelligentie (AI) zit diep „in de haarvaten van de samenleving”, volgens het rapport Opgave AI dat de Wetenschappelijke Raad voor het Regeringsbeleid vorige week publiceerde. Het is een lijvige studie, aangevraagd door negen verschillende ministeries, en schetst een vrij onthutsend beeld. Op veel manieren hééft AI Nederland al overgenomen: in besluitvormingsprocessen, in de publieke ruimte, zowel online als offline. AI bepaalt mede welke informatie burgers te zien krijgen en waar politieagenten patrouilleren. Maar het gaat nu op zo’n beetje alle niveaus mis. Algoritmes worden niet goed begrepen, er zijn te weinig checks en balances om te voorkomen dat onethische beslissingen ongedaan kunnen worden gemaakt. Het rapport noemt de Toeslagenaffaire als voorbeeld, en ook de vele schandalen rondom de polariserende algoritmes op sociale media zijn volgens de onderzoekers een veeg teken.

De WRR werpt grote vragen op, die uiteindelijk draaien om wat een democratische samenleving in de 21ste eeuw is.

Het brede spectrum aan aanbevelingen in het rapport verdient serieuze discussie. Van de noodzaak van een AI-brevet voor mensen die ermee werken, tot openbare algoritmeregisters, en regulering van techreuzen.

Maar dat is niet voldoende. De WRR stelt, jaren nadat bedrijven als Google hetzelfde deden, dat AI een techniek is van de orde van elektriciteit of de verbrandingsmotor. Wellicht komt de techniek ooit in de orde van de impact van het menselijke brein. Het is een ‘systeemtechnologie’ met effecten in vrijwel alle geledingen van de samenleving. Die vaststelling moet aanleiding zijn voor een veel fundamenteler discussie dan politiek en maatschappij tot nu toe aandurven.

Wat voor een samenleving wíllen we dat AI mogelijk gaat maken? Welke rechten en plichten verankeren we? Wat worden de veiligheidsgordels en aardlekschakelaars van deze technologische revolutie? Dit zijn geen vragen voor specialistische werkgroepen of subcomités van adviesorganen van de regering alleen. Dit vergt een diepe en brede discussie over de diverse maatschappelijke toekomstbeelden die AI mogelijk maakt, over de risico’s, kansen en reële scenario’s.

En AI is slechts één van de grote technologische ontwikkelingen die dergelijke vragen opwerpen over welke samenleving er over enkele decennia mogelijk is. Van geavanceerde genetische technologie tot quantumcomputers en nanotech: de mensheid krijgt ongekende gereedschappen in handen die het leven veel beter kunnen maken, maar ook veel onaangenamer. De Nederlandse politiek en samenleving zouden minder bevreesd moeten zijn voor principiële en visionaire debatten hierover.

De WRR-conclusies worden in veel andere landen al jaren veel breder gedragen. Vladimir Poetin zei in 2017 al eens dat de leider in AI de leider van de wereld zou worden. In China staan diep doordachte strategieën over AI al vele jaren centraal in sociaal en economisch beleid. Nederland zou de ontwikkeling van deze techniek en de verantwoorde toepassing ervan niet moeten uitbesteden aan andere landen of techreuzen.