‘Er woedt een Koude Oorlog over kunstmatige intelligentie’

De hightechwedloop tussen de VS en China loopt uit de hand, meent ‘geopoliticoloog’ Bremmer, en daarmee de strijd over het leiderschap in de wereld. Europa is nergens te bekennen.

Illustratie Pepijn Barnard

Ian Bremmer vindt zichzelf geen doemdenker. „Ik geloof niet dat de Derde Wereldoorlog aanstaande is”, zegt hij aan de telefoon vanuit de VS. „Maar als je me vraagt: op welke manier kan de Derde Wereldoorlog ontstaan? Dan is dít de manier.”

Bremmer, hoogleraar politicologie aan New York University, oprichter van de zeer invloedrijke denktank Eurasia Group en één van ‘s werelds meest vooraanstaande denkers over geopolitiek, lijkt de laatste maanden op een kruistocht om de wereld te waarschuwen.

Volgens hem loopt de technologische wedloop tussen China en de VS volledig uit de hand. „Er is een Koude Oorlog bezig over kunstmatige intelligentie. Dat is een gevaarlijke dynamiek, die makkelijk kan ontsporen.”

De ontwikkeling van kunstmatige intelligentie en verwante technieken – zoals gezichtsherkenning, stemherkenning en, in potentie, quantumcomputers – zit in een stroomversnelling. Amerikaanse bedrijven als Facebook, Google en Amazon lopen voorop. Chinese staatsmonopolisten als Alibaba, Baidu en Tencent lopen snel in. China is wat het aantal wetenschappelijke publicaties over en patenten op kunstmatige intelligentie betreft de VS zelfs al enkele jaren voorbij. Europa staat in deze wedloop op grote achterstand.

China en de VS blokkeren in hun handelsoorlog nu al over en weer overnames van strategische technologiebedrijven. Vorige week lieten de VS een topvrouw van Huawei, één van de belangrijkste techbedrijven van China, arresteren vanwege vermeende schending van sancties tegen Iran. Door die arrestatie raakten de VS en China in een diplomatieke rel verzeild. Een Chinese rechter verbood afgelopen week de verkoop van sommige modellen van Apples iPhone, omdat patenten zouden zijn geschonden. Beide landen delen steeds hardere klappen uit aan elkaars techindustrie.

Lees ook: NRC commentaar: Huawei-zaak legt Europese afhankelijkheid pijnlijk bloot

Bremmer waarschuwt dat de snelle ontwikkelingen in kunstmatige intelligentie olie op het vuur zullen gooien. „In amper tien jaar tijd is China uitgegroeid van een middelmatig industrieland tot een wereldleider in allerlei innovatieve technologieën”, zegt hij. „In de vijfjarenplannen staat expliciet dat kunstmatige intelligentie voor hen strategisch onderwerp nummer 1 is. De Chinezen bevoordelen hun industrie enorm, met door de staat gefaciliteerde monopolies, miljardeninvesteringen. De overheid stemt zelfs politieke doelen af met techbedrijven.” Zo helpen grote Chinese technologiebedrijven bijvoorbeeld mee met het optuigen van een zeer uitgebreid en geavanceerd systeem voor digitaal toezicht op burgers.

Kunstmatige intelligentie wordt nu nog vooral gebruikt voor consumententoepassingen zoals digitale assistenten, stemherkenning, zoekmachines en adverteren ‘op maat’. De mogelijkheden zijn echter veel groter: van medische diagnoses tot autonome wapens.

Bremmer staat niet alleen in zijn waarschuwingen voor kunstmatige intelligentie als mogelijke bron van conflict tussen supermachten. Ook een andere invloedrijke Amerikaanse denktank, Rand Corporation, waarschuwde dit jaar voor een ‘AI Cold War’. De Russische president Vladimir Poetin stelde vorig jaar al vast dat de leider in kunstmatige intelligentie „de leider van de wereld wordt”.

Pre-emptive strike

Hoe zou de wedloop rondom kunstmatige intelligentie de spanningen kunnen verergeren? „Ik ben het meest bezorgd over de gevolgen van preventieve acties van de één om te voorkomen dat de ander een beslissende voorsprong neemt,” zegt Bremmer. „Dat kan leiden tot een dynamiek als die tussen de VS en de Sovjet-Unie rond de jaren 60.” Sabotage, spionage en uiteindelijk de constante dreiging van een militair conflict, dus.

En hoe zou zo’n pre-emptive strike eruit kunnen zien? „Neem quantum-computing”, zegt Bremmer. Met die nog zeer experimentele technologie kunnen mogelijk computers worden gemaakt die vele malen sneller zijn dan de huidige. De toekomstige toepassingen ervan zijn nog allerminst duidelijk. Sommige experts voorzien dat de potentieel enorme sprong in rekenkracht van quantumcomputers het makkelijker maakt beveiligingssystemen te omzeilen.

„Misschien is met een quantumcomputer wel alle beveiliging te kraken”, zegt Bremmer. „Als Chinezen op het punt staan van een doorbraak, dan móét de Amerikaanse regering haast wel actie ondernemen om dat te voorkomen. Dat kan door sabotage, spionage, of bijvoorbeeld een aanval – zoals met het virus Stuxnet in Iran, waarmee kerncentrales onklaar werden gemaakt. Dat zijn zeer gevaarlijke acties, die makkelijk kunnen escaleren tot een militair conflict.”

Europa heeft de boot volledig gemist in deze wedloop, stelt ook Bremmer vast. „Europese bedrijven zijn nérgens te bekennen op dit gebied. Wel zet Europa snel stappen om kunstmatige intelligentie te reguleren.”

Europa heeft de boot volledig gemist in deze wedloop

Hij had een paar weken geleden bezoek van eurocommissaris Margarethe Vestager, die onder mee gaat over regulering van techbedrijven. „Daarin loopt Europa voorop. Je zou kunnen zeggen dat Vestager daardoor inmiddels misschien wel meer invloed heeft op de technologische ontwikkeling dan een gemiddelde bestuursvoorzitter van een groot Amerikaans techbedrijf.”

Gezamenlijk en wereldwijd afspraken maken over wat wel en niet mag met de kunstmatige intelligentie zou een hoogoplopend conflict kunnen voorkomen, denkt Bremmer. De slotverklaring van de G20-top in Buenos Aires, waar wereldleiders begin december spraken over wereldproblemen, biedt een beetje hoop. Daarin staat expliciet dat de landen willen „samenwerken op het gebied van kunstmatige intelligentie en andere opkomende technologieën”. Al zijn er nog weinig concrete afspraken.

Europese miljardeninvestering

Vorige week kwam ‘Brussel’ uiteindelijk ook met een strategie om fors te investeren in kunstmatige intelligentie, „één van de meest strategische technologieën van de 21ste eeuw”. Volgens de Europese Commissie moet tot 2020 minstens 20 miljard euro in Europa worden geïnvesteerd om de achterstand in te halen. Duitsland kondigde half november aan op eigen houtje al 3 miljard euro in de technologie te steken. Het riep bovendien op „een Airbus voor AI” te creëren: een Europese superonderneming, net zoals eerder is gedaan met de Europese luchtvaartreus. Airbus kon dankzij intensieve samenwerking tussen bedrijfsleven en overheden uitgroeien tot wereldspeler, en brak de macht van het Amerikaanse Boeing. Een Nederlandse AI-strategie ontbreekt vooralsnog.

Bremmer: „De vraag is: gaan de Europeanen in hun eentje proberen te vechten tegen zowel de Chinezen als de Amerikanen? Of gaan ze het samen met de Amerikanen doen? We hebben een stuk meer gemeen met elkaar dan met de Chinezen lijkt me.”

Is dat dan niet toch een beetje kiezen tussen twee kwaden? Amerikaanse kunstmatige intelligentie betekent vooral kunstmatige intelligentie van Amazon, Google en Facebook. En dat zijn bedrijven die zich ook niet echt fijn gedragen, gezien alle schandalen waarin ze de laatste tijd verwikkeld zijn.

„Het gedrag van de techbedrijven is net zo goed een probleem voor de Amerikanen”, zegt Bremmer. „Facebook is niet een Amerikaans patriottisch bedrijf, het is een westerse multinational die op dit moment zowel een bedreiging vormt voor de Amerikaanse als voor de Europese democratie. Dat zou geen issue moeten zijn wat Amerika en Europa uit elkaar drijft, maar juist iets wat ons dichterbij elkaar moet brengen.”

En waarom zou Europa eigenlijk niet de kant van China kiezen?

„Dat lijkt me erg onwaarschijnlijk, ook al lonken de Chinese cheques misschien. Europa ligt – op het gebied van internationale handel, op het gebied van internationale afspraken – nog altijd veel meer op één lijn met de Verenigde Staten dan met China. We delen democratische waarden en instituties. Ik ben niet bezorgd dat de Europeanen ineens voor China kiezen. Ik ben bezorgder dat de Europeanen gaan denken dat er een derde weg is, en dat Facebook en Google een Amerikaanse bedreiging zijn voor Europa. Het is een gedeelde uitdaging.”

Botsende logica

Bremmer worstelt wel met de botsende logica van deze twee problemen, geeft hij toe. „Ik heb de laatste vijf jaar niet zóveel moeite gehad om mijn gedachten over een onderwerp op een rijtje te krijgen als nu bij deze kwestie. De internetbedrijven gebruiken algoritmes om mensen te veranderen in producten voor adverteerders. Dat is buitengewoon schadelijk voor het publieke debat, en zelfs voor de kracht en legitimiteit van democratische instituties als de pers en de politiek. Dat vereist ingrijpen, en snel. Maar ik ben er niet uit hoe we deze bedrijven kunnen aanpakken zonder de achterstand op China te verergeren.”

Deze bedrijven zijn strategisch van enorm belang, en de staat moet actief bijdragen aan hun succes, vindt de hoogleraar. „Maar aan de andere kant zijn het monopolies die de samenleving uit elkaar scheuren. Beide punten zijn waar, maar ik zie niet hoe deze twee kunnen worden verenigd.”

Het is het moeilijkste probleem van onze tijd, volgens Bremmer. „Ik heb geen oplossing, ook al denk ik hier al heel lang over na. En ik hoor ook niemand die al wél een goed antwoord heeft. Daarom moeten veel meer mensen zich met deze vraag bezig houden dan nu. We hebben hiervoor veel meer denkkracht nodig.”