‘Toepassing van kunstmatige intelligentie zit in wildwestfase’

Van sociale media tot geavanceerde cruise control in auto’s en verzekeringssystemen die klanten een risico-score toekennen. Artificiële intelligentie (AI) is geen toekomstmuziek meer. De laatste jaren is het in de haarvaten van de samenleving gaan zitten, volgens een nieuw rapport van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR). Nederland is niet goed voorbereid op de gevolgen ervan, stellen de onderzoekers.

Volgens projectcoördinator Haroon Sheikh is het een technologie die op maatschappelijk, economisch en geopolitiek gebied meer verandert dan waar politiek en bestuurlijk Nederland én de samenleving rekening mee houden. „Kunstmatige intelligentie is niet zomaar een technologie zoals een grasmaaier of een medicijn, iets wat je voor één ding kunt gebruiken.” AI is wat de WRR een ‘systeemtechnologie’ noemt, een uitvinding met een systematisch effect door heel de samenleving heen. Net als de stoommachine, elektriciteit, de verbrandingsmotor.

De WRR is de belangrijkste onafhankelijke wetenschappelijke adviesraad van de regering. Dit nieuwe rapport, Opgave AI, is zeldzaam in zijn omvang en reikwijdte en werd geschreven op verzoek van negen ministeries die tegen vraagstukken rondom kunstmatige intelligentie aan liepen. „Het ministerie van Infrastructuur was benieuwd naar de gevolgen van de zelfrijdende auto, Justitie naar predictive policing, Landbouw wilde meer weten over precisielandbouw”, zegt Sheikh. Het resultaat is 508 pagina’s vol technologische en maatschappelijke analyses en beleidsaanbevelingen, van onderwijs tot geopolitiek. Vandaag biedt de WRR het aan het kabinet aan.

Rapporten van de WRR leiden doorgaans tot brede debatten en veel nieuwe wetgeving, dat gebeurde bijvoorbeeld bij rapporten over migratie en de toekomst van werk. Dat roept de vraag op: waarom nú een rapport over AI, zijn er niet urgentere zaken om de collectieve aandacht op de richten? Sheikh: „Wat ons betreft, hoort dit in het rijtje grote megatrends zoals de kantelende wereldorde, klimaat, maatschappelijke ongelijkheid.” Sheikh is recent benoemd tot bijzonder bijzonder hoogleraar Strategic Governance of Global Technologies aan de Vrije Universiteit (VU), en werkte drie jaar als auteur en coördinator aan dit WRR-rapport.

Wat ís kunstmatige intelligentie volgens Sheikh? „Het zijn computersystemen die intelligent gedrag vertonen, door data te analyseren en daar met een zekere mate van autonomie mee omgaan.” Het zijn computers die patronen herkennen in data en op basis van die patronen zelfstandig beslissingen kunnen nemen.

De toepassingen daarvan zijn dus nogal breed. Sheikh wijst naar elektriciteit om een beeld te krijgen van de impact: „De komst van elektrisch licht heeft bijvoorbeeld in Nederland de dag verlengd.” Het had ook allerlei onvermoede bijeffecten. „Zo heeft elektriciteit gezorgd voor een enorme verbetering van de positie van de vrouw. Huishoudelijke taken, het binnenhalen van allerlei goederen in het huishouden, elektrisch aangedreven watersystemen, de was doen, dat soort zaken is veranderd door de komst van elektriciteit.”

Gezichtsherkenningstechnologie

Op een vergelijkbare manier is nu volgens de WRR al zichtbaar dat AI sociale verhoudingen snel verandert. Het bepaalt welke informatie je te zien krijgt op sociale media, de partner die bij je past op Tinder. Spraakassistenten als Alexa of Siri doen suggesties voor aankopen. In de zorg worden AI-systemen gebruikt om te ondersteunen bij medische diagnoses. „Overheden gebruiken ook steeds meer automatische besluitvorming, dat zagen we bijvoorbeeld ook in de Toeslagenaffaire”, zegt Sheikh.

AI hééft Nederland al overgenomen

Deze podcast luister je ook in onze app

Die voorbeelden geven aanleiding tot zorg, volgens het rapport. Als er in de gegevens die een AI-systeem gebruikt vooroordelen staan over sociale groepen, bijvoorbeeld omdat bepaalde bevolkingsgroepen zijn oververtegenwoordigd in misdaadcijfers, dan worden zwakkere groepen nog zwakker. De technologie wordt nu soms gebruikt voor autoritaire doeleinden: gezichtsherkenningstechnologie om mensen verregaand te controleren.Er is sprake van enorme machtsconcentratie bij de bedrijven die voorlopen in AI, zoals Facebook, Google en Chinese bedrijven. „Het is niet te laat, maar ons rapport is wel bedoeld om te markeren dat we op een kruispunt staan: we kunnen nu niet wachten met ingrijpen.”

Het nieuws over AI gaat over het ene schandaal na het andere. Van Facebooks polariserende algoritmes tot crashes van zelfrijdende auto’s. „Dat betekent niet dat AI faalt en dat we het niet moeten willen gebruiken, maar dat we in een wildweststadium zitten.” Ook dat kennen we volgens Sheikh uit het verleden: „Elektriciteitsdraden lagen gewoon open en bloot op straat in het begin. Auto’s hadden geen gordels, er waren geen verkeersregels. Er waren allemaal ongelukken. En nu bij AI liggen ook grote taken om nieuwe checks en balances in te bouwen.”

Sheikh haalt een citaat aan van AI-hoogleraar Pedro Domingos (University of Washington): „We maken ons zorgen dat de computer heel slim wordt en op een gegeven moment de wereld zal overnemen. Maar de werkelijkheid is: de computer is eigenlijk nog ontzettend dom, maar hééft de wereld al overgenomen.”

Er staat veel op het spel volgens Sheikh, juist vanwege de grote beloftes. AI kan allerlei saai werk uit handen nemen waarin mensen proberen analyses te maken of voorspellingen te doen. Vervoer kan veiliger worden, energieverbruik efficiënter, medische diagnoses preciezer. Met hulp van AI kunnen wellicht betere oplossingen worden berekend voor het klimaatprobleem en de energietransitie.

Maar er is ook veel wat AI níét kan. Deels staat de mythevorming rondom AI in de weg van verstandig beleid, volgens Sheikh. „Van de oude Grieken tot Rusland tot Estland, overal zijn er mythes over robots en kunstmatig leven.” Dat leidt tot allerlei beelden en fantasieën over robots, zoals Frankenstein en sciencefictionfilms. „Dat soort ideeën en angstbeelden zijn onderdeel van ons culturele repertoire. Maar daaruit komt ook een verkeerde indruk van wat het nou eigenlijk ís.”

We hebben vaak onrealistische verwachtingen van AI door films en verhalen.

Patronen herkennen

„AI kan beter dan wij patronen herkennen. Maar staat niet op het punt om al onze complexe vaardigheden over te nemen.”

Daarom is de eerste opgave volgens de WRR: ‘demystificatie’. Dat impliceert een verschuiving van perspectief volgens Sheikh: geen Terminator-scenario’s, maar realistische discussies. „Op zoveel plekken beïnvloedt het ons leven al: of we een hypotheek krijgen, of we voor bepaalde uitkeringen in aanmerking komen. Algoritmes maken en ondersteunen al heel veel beslissingen: en algoritmische besluitvorming groeit in heel de wereld.”

De samenleving laat die systemen nu veel te makkelijk en rechtlijnig doorgaan, mensen vertrouwen er te veel op, staat in het rapport. „Omdat Tesla zijn cruise control autopilot noemt, halen we de handen van het stuur, en boem, dan botst er soms één tegen een vrachtwagen op. Eigenlijk zien we dit op kleine schaal overal. Het meest extreme voorbeeld is death by GPS, waarbij mensen blind hun navigatiesysteem het ravijn in volgen.”

Het is volgens de WRR belangrijk dat we de juiste discussies voeren, zonder fictieve angstbeelden maar wel met scherp oog op wat er nu al misgaat. En het rapport benadrukt het belang van het voorkomen dat er zoveel kan blijven misgaan met de manier waarop AI wordt gebruikt. ‘Maak leren over AI en de toepassing daarvan tot een expliciet doel bij het handelen door de overheid’, staat in het rapport.

Er staan verder ideeën in zoals een „AI-brevet”, een stelsel van opleiding en certificering voor mensen die met AI-systemen werken. Ook staat er dat overheden pro-actiever moeten worden in het reguleren van AI-systemen en het aan banden leggen van bedrijven.

Regulering

Is dat realistisch? „In het begin klinkt bij dit soort technologieën altijd het bezwaar: reguleren is te moeilijk, te duur,” zegt Sheikh. Neem de discussie over het modereren van terroristische of racistische content op sociale media. „‘Onmogelijk!’ zegt de industrie dan. Maar als dan de druk maar hoog genoeg wordt, blijkt het toch te kunnen.” Bij de auto gebeurde dat ook, volgens Sheikh. „Die zou onverkoopbaar worden, veel te duur, als er allemaal gordels en andere veiligheidsmaatregelen in moesten. Nou, dat is toch uiteindelijk gewoon gelukt.”

Ethische codes, keurmerken, regulering dus. „Dat is tot nu toe in veel sectoren goed gelukt. In melk werd ooit kalk gestopt om het witter te laten lijken. Vlees werd onder verschrikkelijk vieze omstandigheden geproduceerd. Na protesten, onthullende boeken, schandalen, ontwikkelden samenlevingen een hele reeks maatregelen. Dat moet nu ook gebeuren.”

Maar het is zó’n brede opgave, misschien wel zo breed dat die eerder verlamt dan activeert. Wat verwacht Sheikh van de reacties op het WRR-rapport? „We hebben geen keus”, denkt hij. Het vergt vormen van toekomstbeelden en richting, het is een opgave van vele decennia. Is de samenleving daarop toegerust? „Ik denk dat dat inderdaad nu eenmaal de tijd is waarin we leven. De vraagstukken zijn te groot geworden om de markt gewoon zijn gang te laten gaan en achteraf een beetje bij te sturen.”