Vergeet China en Silicon Valley

Technologie Als Europa een technologiebeleid wil waarin democratische rechten centraal staan, dan moet ze haar eigen software ontwikkelen, schrijven en .

Een kunstwerk van graffiti-artiest Banksy in London.
Een kunstwerk van graffiti-artiest Banksy in London. Rosie Hallam

Steeds vaker zijn vraagtekens te plaatsen bij de afhankelijkheid van vitale technologie, ontwikkeld door ándere grootmachten. Deze week nog. Chinese oud-medewerkers van ASML hebben bedrijfsgeheimen van het Nederlandse hightechbedrijf gestolen, schreef Het Financieele Dagblad.

Vooral China moet het momenteel bekopen. De Verenigde Staten gingen het eerst in de aanval: ze verordonneerden Canada een bestuurder van de Chinese telecom- en elektronicagigant Huawei te arresteren en dringen er bij Europa op aan om Huawei’s 5G-technologie te boycotten. Deze telecominfrastructuur moet onder meer (Europese) dataverbindingen sneller en stabieler maken. Kabinet Rutte III stelt momenteel een bredere ‘China-strategie’ op en zegt te worstelen met risico’s omtrent 5G-technologie; China zou vitale systemen die afhankelijk van 5G zijn op afstand kunnen platleggen of kunnen inzetten voor cyberspionage.

Het lijkt er op, kijk maar naar Duitsland, dat Europese landen de kritiek van de VS tegemoet willen komen door striktere veiligheidsstandaarden op te leggen aan álle 5G-aanbieders. China zal moeilijk aan deze voorwaarden kunnen voldoen, constateerde een van Trumps lobbyisten. Al is het afwachten of dat daadwerkelijk zo is.

Weegt het feit dat wij onze kritieke infrastructuur om economische redenen afhankelijk van China maken, op tegen de morele en geopolitieke risico’s van China’s autoritaire technologie-agenda? De Franse krant Le Monde onthulde onlangs dat China vijf jaar lang het hoofdkantoor van de Afrikaanse Unie in Ethiopië bespiedde. Dat was mogelijk omdat China de bouw van het pand had gefinancierd – inclusief de IT systemen.

Daarnaast zet China volop in op de export van haar technologie voor algoritmische massa-surveillance – compleet met dubieuze, slecht functionerende gezichtsherkenning via camera’s in het publieke domein. Op die manier kan een overheid niet alleen burgers op de voet volgen, maar kan zij ook, op basis van hun chatverkeer, financiële keuzes en verkeersgedrag een ‘sociaal krediet’ toekennen. Loop je een paar keer door rood, dan kun je je hypotheek of huurtoeslag vergeten.

Lees ook: hoe big data Big Brother dreigt te worden in China - en hier

China exporteert deze technologie voor volkscontrole graag naar andere landen met autoritaire leiders; de bijbehorende bestuurlijke aanpak wordt gratis meegeleverd.

In dit licht bezien is de Amerikaanse kritiek op Chinese technologie te begrijpen. Toch is die kritiek ook hypocriet. Zo werd deze week bekend dat Microsoft ‘innig’ samenwerkt met de Chinese militaire academie op het gebied van artificiële intelligentie voor surveillance.

Waar het oosten het redelijk vaak – maar lang niet genoeg – moet ontgelden in politieke discussies over technologie en geopolitieke invloed, lijkt Europa de praktijken van onze bondgenoten in het westen bijna nooit ter discussie te stellen. Misschien omdat de situatie diametraal omgekeerd is. In China worden bedrijven gecontroleerd door de staat; in Amerika vormen de oppermachtige techreuzen een staat op zichzelf en is overheidsregulering grotendeels afwezig. Hier zijn het de bedrijven die de ethische grenzen overschrijden en wet- en regelgeving aan hun laars lappen. Europa treedt hier niet adequaat tegen op, een enkele megaboete wordt vaak met een grote grijns betaald.

Maar één ding is ons duidelijk; als we China hogere standaarden opleggen, moeten we dat ook doen voor onze vrienden in het westen. Te beginnen bij Google en Facebook.

De techreuzen

Op 26 maart kondigde topbestuurder Kent Walker van Google de oprichting van een externe adviesraad voor geavanceerde technologie aan. De raad moet Google helpen zich aan zijn ethische principes voor artificiële intelligentie (AI) te houden en er zo voor te zorgen dat het bedrijf controle houdt over deze steeds complexere en lastiger te beheersen technologie. De adviesraad is een reactie op aanhoudende kritiek, met name van Googles eigen werknemers. Die ontstond toen bleek dat Google in het geheim voor het Pentagon werkte aan artificial intelligence (AI)-technologie voor militaire drones (Project Maven), en voor China aan zoekmachines die filteren op staatsgevoelige informatie (Project Dragonfly).

Onderzoeksjournalisten brachten beide tot dan toe geheime projecten aan het licht, waarna werknemers van Google via een open brief afdwongen dat ze werden gestaakt. Je zou denken dat Google zijn lesje had geleerd, maar al snel na de oprichting van de externe adviesraad bleek een lid aan het hoofd te staan van een uiterst rechtse denktank en bleek een ander lid CEO te zijn van een bedrijf dat militaire drones ontwikkelt.

Wederom gingen alle alarmbellen af bij een grote groep werknemers: dit ging lijnrecht tegen de principes in! Amper een week na de aankondiging reageerde het bestuur: de adviesraad wordt weer opgeheven, en het bestuur van Google gaat terug naar de tekentafel. Intussen is het wantrouwen rond de techreus verder aangewakkerd en is het heersende sentiment versterkt dat ethiek vooral wordt ingezet als publiciteitsstunt om het groeiende momentum voor regulering te verzwakken en om het publiek het gevoel te geven dat Google zijn problemen zélf kan oplossen. Dit wordt ook wel ‘ethics (white) washing’ genoemd.

De enkele megaboete wordt met een grote grijns betaald

De bestuurlijke stuiptrekkingen en protesten leggen een fundamentele tekortkoming bloot bij het zo vaak bejubelde Google. Wat is er aan de hand? Ten eerste heeft Google geen enkele formele vorm van inspraak voor medewerkers zoals wij dat in Nederland gewend zijn. Adequate vertegenwoordiging van werknemers in besluitvorming en interne transparantie zijn essentiële pijlers om wanpraktijken omtrent nieuwe technologie vroegtijdig te signaleren en grondig aan te pakken. Oefenen we vanuit Europa geen druk hier op uit, dan blijven we achter de feiten aanlopen, terwijl de techreuzen schandaal aan schandaal rijgen. Tenzij we strengere voorwaarden opleggen en naast en achter de tech-werknemers gaan staan, hoeven we van interne transparantie en klokkenluiders weinig te verwachten.

Bij die andere techreus, Facebook, dreigen andere gevaren. Afgelopen week toonden onderzoekers aan dat de algoritmes waarmee Facebook bepaalt wie welke advertenties te zien krijgt, in grote mate discrimineren langs ras en geslacht – zelfs als adverteerders aan Facebook vragen om hun advertenties aan een breed publiek aan te bieden. De discriminatie is problematisch, want de algoritmes bepalen wat mensen te zien krijgen, bijvoorbeeld op vitale onderwerpen als arbeids- en huizenmarkt.

Lees ook: Facebook is de frikandel van het internet

Het knappe – en frustrerende – aan deze studie is dat de onderzoekers het bewijs hebben verzameld zónder toegang tot Facebooks systemen. Die vallen immers onder bedrijfsgeheim en zijn niet toegankelijk – in de regel ook niet voor autoriteiten.

Wat we weten is dat het algoritme als een soort veiling dient waarbij adverteerders aangeven bij welke soort gebruikers ze hun advertenties willen plaatsen. Facebook past vervolgens een optimalisatie toe, maar op basis van welke criteria en hoe hierbij lerende algoritmes worden toegepast, is volstrekt onduidelijk. De onderzoekers kwamen erachter door zelf advertenties aan te bieden voor een zo breed mogelijk publiek. Vervolgens keken ze naar de populatie waar de advertenties uiteindelijk terechtkwamen.

Op die manier kwamen ze er ook achter dat Facebook advertenties actief scant, hoogstwaarschijnlijk om zoveel mogelijk clicks te krijgen.

Mark Zuckerberg van Facebook riep recent wetgevers op met regels te komen – uiteraard met zijn visie op wat gereguleerd zou moeten worden. Maar wie A zegt, moet ook B zeggen. Deze kritieke algoritmes zijn publieke infrastructuur en de wijze waarop content én gebruikers worden geprioriteerd kan niet langer door een paar miljonairs in hoodies worden bepaald. Facebook moet zijn systemen openstellen zodat autoriteiten en wetgevers deze kunnen checken op discriminatie. Daarbij, technologie beïnvloedt onze keuzemogelijkheden, informatievoorziening en gedrag. Die keuzes horen niet te worden ingevuld door louter bedrijven, die moeten op tafel.

We moeten zelf actief na gaan denken

In plaats van te vertrouwen op zelfregulatie of weg te kijken bij onethisch handelen en het exploiteren van onze data, moeten we de techreuzen veel strengere voorwaarden opleggen. Moeten we ons waar mogelijk onafhankelijk maken. We doen er goed aan onze software zo veel mogelijk zelf te ontwikkelen. Om onze software open en controleerbaar te maken en te houden. Dat geldt zeker voor zaken als vitale infrastructuur, gevoelige processen en bescherming van het individu. We zijn het aan onszelf verplicht de risico’s door te denken en verder te kijken dan de goedkoopste oplossing. De kennis en kunde is in Europa aanwezig. Wat we nodig hebben is een technologiebeleid dat expliciet democratische waarden centraal stelt, door in private aanbesteding verantwoording en transparantie af te dwingen over álle keuzes en aannames (open source is niet genoeg), en door binnen de overheid interne capaciteit op te bouwen om systemen onder eigen beheer en in samenspraak met de burgers te ontwikkelen en onderhouden.

Lees ook: Minder Google, in drie stappen

We zullen actief moeten nadenken en investeren in alternatieven die naast economische groei ook de belangen van mens, maatschappij en milieu weer centraal stellen. De nieuwe stedencoalitie voor digitale rechten, mede opgezet door Amsterdam, is een mooie testcase.

Van China en de VS hoeven we geen wonderen te verwachten. Beter houden we ons aan een oud adagium: Oost west, thuis best.

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.