Kunstmatige intelligentie gaat regeren

Technologie

Wie alle data beheert, kan de samenleving runnen, met kunstmatige intelligentie. Google, Apple en Facebook liggen voor op Washington.

Een model van de menselijke hersenen, gemaakt van draden en stekkers. Foto Getty Images

Niet toevallig is Barack Obama deze verkiezingsmaand gasthoofdredacteur van het toonaangevende technologieblad Wired Magazine. Technologie, en in het bijzonder kunstmatige intelligentie, gaat de komende jaren ongelooflijk veel veranderen, voorspelt de Amerikaanse president. En daar kan zijn opvolger maar beter goed op letten.

Obama waarschuwt onder meer voor de gevolgen van zelflerende computers die op de aandelenbeurzen zonder menselijk toezicht hun gang gaan en volstrekt onvoorspelbare koersbewegingen zullen veroorzaken. Het risico van ongekende volatiliteit op de financiële markten en zelfs manipulatie ligt volgens hem op de loer. Zelfrijdende auto’s op basis van kunstmatige intelligentie gaan de komende jaren zorgen voor een revolutie in het vervoer, denkt hij. En als computers die uit zichzelf slimmer worden bepaalde banen overbodig gaan maken, moeten overheden serieus gaan nadenken over het verschaffen van een basisinkomen aan alle burgers, volgens Obama.

Onlangs publiceerde het Witte Huis een dik rapport over de politieke uitdagingen die kunstmatige intelligentie met zich meebrengt: van sociale zekerheid tot financiële regulering tot nationale veiligheid. Ideeën over de impact van technologie zijn in de Amerikaanse politiek verder dan hier.

Het rapport van het Witte Huis. Tekst gaat verder onder het document:

PR-lobby van Silicon Valley

Maar de ontwikkelingen in de technologie gaan de laatste tijd zó snel dat zelfs de politieke discussie in de VS sommige critici niet diep genoeg gaat. „Het is vooral de PR-lobby van Silicon Valley die je hoort in Obama’s ideeën”, zegt Evgeny Morozov, een van oorsprong Wit-Russische technologiecriticus die in het Amerikaanse debat een prominente rol speelt. NRC sprak hem bij filosofiefestival Brainwash in Amsterdam dit najaar.

„Als Obama zegt dat hij ruim baan wil voor zelfrijdende auto’s, is wel duidelijk door wie dat is ingestoken.”

In Wired pleit Obama ervoor om goed op de risicio’s te letten, maar kunstmatige intelligentie in eerste instantie toch vooral de ruimte te laten zonder al te veel overheidsbemoeienis.

Waarvoor zou Obama’s opvolger volgens Morozov meer aandacht moeten hebben? „Je ziet dat steeds meer technologiebedrijven en investeringsmaatschappijen hun eigen infrastructuur aanleggen”, zegt hij. „Uber, Airbnb, Facebook en Google beheren de platforms waarop de data-economie draait. Deze bedrijven bouwen de basale infrastructuur en omzeilen overheden. Dat geeft ze macht om voorwaarden te dicteren.”

Uber neemt volgens Morozov steeds meer taken over van vervoersbedrijven, en straks al helemaal – als de visioenen van dat bedrijf uitkomen over vloten zelfrijdende taxi’s. Airbnb is een belangrijke aanbieder van tijdelijke woonruimte.

Google en Apple tonen steeds meer interesse in zorg en energie. „Deze bedrijven bouwen de infrastructuur voor het leveren van diensten die voorheen publiek waren. Ze stoppen die infrastructuur helemaal vol met sensoren om alle data te verzamelen.”

Deze bedrijven kunnen doordat ze via de infrastructuur data verzamelen op ongekend efficiënte wijze menselijk gedrag analyseren, geavanceerde systemen op basis van kunstmatige intelligentie bouwen en allerlei diensten gratis of met grote kortingen aanbieden, in ruil voor data.

„Als ze die infrastructuur eenmaal beheren, hebben ze toegang tot alle data: een vrijwel oneindige bron van waarde. Wie die in handen heeft, zal in staat zijn om op termijn de hele samenleving te automatiseren”, aldus Morozov.

Politiek uithollen

Dat gaat de invloed en het draagvlak van de politiek uithollen, voorspelt Morozov: als de publieke infrastructuur wordt beheerd door een handjevol private bedrijven, wie gaat er dan nog zorgen dat het publieke belang wordt behartigd?

„Het lastige is dat de bedrijven ongetwijfeld zeer efficiënt zullen zijn in het aanbieden van al die diensten. Waarschijnlijk hebben burgers liever dat die bedrijven hun samenleving runnen dan de politici in wie ze sowieso al steeds minder vertrouwen hebben. Maar je kunt grote vraagtekens zetten bij de sociale gevolgen als bedrijven met technologie alle inefficiënties uit het systeem proberen te persen.”

Is het überhaupt een goed idee om data en kunstmatige intelligentie te gebruiken om de samenleving en de economie verregaand te automatiseren? Daarop klinkt de laatste tijd ook steeds meer kritiek. „De samenleving is geen machine die je zomaar kunt optimaliseren,” zegt de Duitse hoogleraar computationele sociologie Dirk Helbing (TU Delft, ETH Zürich).

Volgens Helbing worden massale dataverzameling en kunstmatige intelligentie steeds meer gebruikt om een totalitair systeem op te tuigen waarop weinig tot geen democratische controle is. „We gaan snel toe naar een wereld waar politici en beleidsbepalers simpelweg doen wat de data ze opdragen,” zegt hij.

„Dat is een bedreiging voor democratie. De volgende Amerikaanse president zal cruciale beslissingen moeten nemen om dit te voorkomen.”

Wedloop in superintelligentie

Naast de vragen over individuele vrijheid en democratie die de opkomst van kunstmatige intelligentie oproept, brengt die ook geopolitieke uitdagingen mee. Opvallend in het recente rapport van het Witte Huis is de grote nadruk die er ligt op cyberveiligheid, en oorlogsvoering met hulp van kunstmatige intelligentie.

Welk Amerika gaat de nieuwe president leiden? Lees hier meer trendverhalen over de VS

De technologie kan immers ook gebruikt worden op het slagveld (voor het aansturen van drones of gevechtsrobots bijvoorbeeld) en voor het uitvoeren van geavanceerde cyberaanvallen. Volgens veel technologie-experts duurt het nog maar een paar decennia voordat computers slimmer worden dan mensen.

Ook Obama waarschuwt daar voor in Wired:

„Als je een heel goed zelflerend algoritme hebt met als opdracht: ‘dring door tot nucleaire codes, en zoek eens uit hoe je een paar raketten kunt lanceren’, dan heb je een groot probleem.”

Het land dat als eerste supermenselijke intelligentie tot zijn beschikking heeft, heeft een enorm voordeel op rivalen. De Amerikaanse techniekfilosoof Sam Harris riep daarom onlangs op tot een Manhattan Project voor kunstmatige intelligentie, net zoals dat voor de ontwikkeling van de atoombom werd gedaan.

Een wedloop in kunstmatige intelligentie tussen de VS en China is al een tijd aan de gang. Volgens het Witte Huis-rapport over kunstmatige intelligentie is China de VS al enkele jaren voorbij, gemeten naar het aantal wetenschappelijke publicaties over deep learning, een belangrijke variant van kunstmatige intelligentie. De Russen, Japanners en Europeanen blijven voorlopig achter, maar de vraag is hoe lang ze zich dat nog kunnen veroorloven.

Eén ding is zeker voor de volgende president: kunstmatige intelligentie zal één van de essentiëelste ontwikkelingen zijn waarmee hij of zij te maken krijgt – of het nou gaat om de urgente vragen over de gevaren van algoritmische beurshandel, de macht van internetbedrijven of over diepe zorgen over supermenselijke computers in oorlogsvoering. En de gevolgen zullen niet beperkt blijven tot de VS.