Opinie

Laat technologie niet alleen over aan bedrijven

Tech-democratie Het is nog niet te laat om de macht van bedrijven in de digitale wereld te verkleinen. Maar samenwerking tussen democratische landen is hiervoor onontbeerlijk, schrijft
Illustratie Cyprian Koscielniak

Incidenten rondom sociale mediabedrijven domineren het nieuws. Leugens getweet door president Trump, het al dan niet tolereren van nazistische symbolen, of adverteerdersboycots tegen Facebook lijken de belangrijkste uitdagingen voor de democratie rond nieuwe technologie. Alleen zijn ze dat niet.

De controverses over sociale-mediabedrijven zijn zeker belangrijk, maar ze maskeren een veel groter probleem: de grote reikwijdte van private macht in het digitale domein. Daar, veelal onzichtbaar, is de democratie fundamenteel in het geding.

Die private machtsovername raakt aan kerntaken van de staat: het ontwikkelen van kunstmatige intelligentie, het bouwen en bedienen van kritieke infrastructuur (en de bescherming ervan), de ontwikkeling van technologie voor defensie maar ook voor aanvallen op anderen in het digitale domein of het slaan van digitale munteenheden. De technologie- en databedrijven zijn bezig een stille coup te plegen. Om de democratie te laten overleven moeten macht en tegenmacht structureel in evenwicht komen. Een coalitie van democratische landen die zich hier sterk voor maakt is hard nodig.

Inherent democratiserend

Toen nieuwe uitvindingen uit Silicon Valley razendsnel populair werden, omarmden technologiepioniers de taal van democratie en vrijheid.

„Technologie is inherent democratiserend”, zei Google-oprichter Sergey Brin in 2005. „De cloud is een democratie”, meende Marc Benioff van Salesforce. Volgens internetgoeroe John Perry Barlow was het internet zelfs de grootste bevrijdende kracht ooit ontdekt door de mensheid.

Ze beloofden een emanciperende en liberaliserende werking door het openbreken van monopolies op macht en informatie. Inmiddels zijn een handvol technologiereuzen zelf monopolisten geworden. Maar democratische regeringen zijn blijven vasthouden aan een laissez-faire-houding tegenover bestuur en regelgeving.

De Chinese regering stelt technologie volledig in dienst van haar belangen, en niet zonder succes

Zowel ingenieurs als democratische leiders hebben het belang van het bewust kiezen, ontwerpen en handhaven langs democratische principes onderschat. De hoop en verwachting was dat digitalisering als vanzelf voor meer efficiëntie, maar ook meer vrijheid zou zorgen. Dat wensdenken wreekt zich nu. Want zonder verankering raken we rechtsstatelijkheid en democratie kwijt. Machtige systemen die met een winst- of efficiëntie doel werden gebouwd, gevoed door ontransparante datasets en door machine-learningprocessen, hebben de democratie en het publieke belang uitgehold.

Grootste spelers

Hoe druk je de macht van technologiebedrijven uit? De marktwaarde van enkel de Amerikaanse technologiebedrijven stond vorige maand op 9.100 miljard dollar. Dat is meer dan de aandelenmarkten van de Europese Unie, Zwitserland en het Verenigd Koninkrijk samen (op dat moment 8.900 miljard dollar). De vijf grootste spelers, Apple, Alphabet (het moederbedrijf van Google), Amazon en Facebook, zijn samen bijna een kwart van de totale S&P500-beursindex waard. Hun gecombineerde aantal gebruikers beslaat het merendeel van de wereldbevolking: Microsoft en Google bedienen ieder ruim een miljard, en Facebook spant de kroon met 2,7 miljard actieve gebruikers.

Maar wat levert deze private waarde het publieke domein op? Uiteraard creëren bedrijven, en ook technologiebedrijven, producten die voor de economie van belang zijn. Het is ook niet zo dat overheden zelf mobiele netwerken of digitale snelwegen moeten gaan aanleggen. Maar anders dan bij een analoge stratenmaker, waarvan het product wordt afgenomen en het daarna letterlijk de openbare weg is, blijft bij het aanleggen van zogenoemde smart cities, veel waardevolle data in het bezit van diezelfde bedrijven. Vaak ontbreken transparantie, onafhankelijk toezicht en democratische verantwoording.

Illustratie Cyprian Koscielniak

De macht van bedrijven dringt zich zo op als een heel ecosysteem, dat voorbijgaat aan de macht van individuele technologiereuzen. De ontwikkeling van de informatie-architectuur en het managen van data die erdoor stroomt wordt door reclamebedrijven gerund. Het bouwen van de digitale infrastructuur, maar ook het verdedigen ervan, door consultancy-bedrijven. Het coderen van digitale munteenheden door schimmige zakenmensen. Beslissingen in het zakelijk belang bepalen op die manier normen en standaarden voor miljarden mensen wereldwijd.

Door de coronapandemie zijn ook onderwijs en zorg nu vitale sectoren waar bedrijven meer macht krijgen. De lijst van gebieden waar technologiebedrijven de dienst uitmaken zonder dat democratische regeringen of wetgeving een rol spelen groeit razendsnel. Welke belangrijke sector kunnen democratische regeringen nog wél runnen zonder afhankelijk te zijn van technologiebedrijven?

De publieke sector loopt nu zodanig achter als het gaat om kennis, salarissen en talent dat dit toezichthouders verhindert om ervoor te zorgen dat technologiebedrijven binnen rechtsstatelijke kaders opereren. Vaak ontbreken controle en onafhankelijk toezicht volledig omdat de technologische standaarden al bepaald zijn voor de wet er een kader omheen heeft gezet. De positieverschuiving tussen democratische regeringen en technologie- en databedrijven heeft gevolgen voor binnenlands beleid en geopolitieke verhoudingen.

Asymmetrie in capaciteit

Met de komst van kunstmatige intelligentie loopt de asymmetrie in capaciteit en dus macht verder uit de hand: tussen privaat en publiek, tussen democratische instituties en commerciële bedrijven. Er is een kennisgebrek, een talentenlacune, een data-gat en er is minder processorcapaciteit bij overheden. Samen leidt dat tot een machts- en verantwoordingsvacuüm.

De privatisering en digitalisering van kerntaken raakt ook essentiële filosofische elementen van de liberale democratie, zoals keuzevrijheid, eerlijke concurrentie, non-discriminatie en rechtvaardigheid. In Nederland werd de regering al op de vingers getikt omdat het Systeem Risico Indicatie (SyRI) dat uitkeringsfraude moest opsporen in strijd bleek met het Europees Verdrag voor de Rechten van de Mens. Het systeem was sinds 2014 in gebruik. Onderzoekster Joy Buolamwini toonde aan dat gezichtsherkenningssystemen zwarte mensen niet altijd herkennen of vrouwen als mannen identificeren. Het gebruik van commerciële gezichtsherkenningstechnologie in de openbare ruimte maakt privacybescherming in feite onmogelijk.

Die disbalans tussen private en publieke macht in de digitale wereld was er aanvankelijk niet. Overheidsinvesteringen zijn juist essentieel geweest voor het starten van de tech-industrie, zeker in Silicon Valley. Die vroege overheidsinvesteringen wekken ook de suggestie dat het strategisch belang van technologie en data werd begrepen, net als de om te besturen vanuit democratische waarden en principes.

Maar in plaats daarvan werd een andere aanpak de norm. Een aanpak waarbij democratisch gekozen politici op een steeds grotere afstand werden gerangeerd. De populaire frase ‘regulering smoort innovatie’ werd te pas en te onpas herhaald door vertegenwoordigers van techbedrijven wanneer wetgeving werd voorgesteld.

Ook in Europa, waar techbedrijven minder makkelijk uit de grond schoten dan in de VS, werd de angst om met wetgeving innovatie te belemmeren met succes uitgevent door een steeds grotere groep lobbyisten. Veel kostbare tijd ging zo verloren doordat democratische regeringen zich afzijdig hielden en het bedrijfsleven de ruimte gaven, terwijl ze het democratisch kader en machtige digitale systemen hadden moeten verankeren. We zien nu welke prijs de democratie en het publieke belang betalen.

Geopolitiek heeft de dominantie van het libertarische bestuursmodel een grote impact gehad voor het Westen. De periode waarin de relatieve achteruitgang van democratie op het wereldtoneel al duidelijk was, maar toen democratieën nog een competitief voordeel hadden door de technologische voorsprong, is nauwelijks benut.

De meest machtige democratische blokken, zoals de Verenigde Staten en de Europese Unie, lieten het na om het internationale, op regels gebaseerde systeem ook in het digitale domein te laten gelden. De ruimte die daarmee vrijkwam, werd snel gevuld door bedrijven zelf en door autoritaire regimes. Die laatste zetten de technologie en data in als verlengstukken van hun politieke doctrine en maken nu snel vorderingen in het uitrollen van standaarden wereldwijd.

Spionagesystemen

Maar ook toen China nog minder assertief handelde, en bleek dat Europese, Amerikaanse en Israëlische spionage- en hacking-systemen in dictaturen werden ingezet voor het opsporen van critici en dissidenten, werd hen nog geen strobreed in de weggelegd. Europese handel sprak zo het buitenlands- en mensenrechtenbeleid tegen. Vorige week nog bleek dat het Amerikaanse Sandvine technologie aan Wit-Rusland leverde waarmee het internet daar als antwoord op de vreedzame protesten kon worden afgesloten.

Het groeiend besef dat de democratie geleden heeft onder de ongebreidelde ruimte voor techbedrijven komt juist op het moment dat democratie wereldwijd een teruggang doormaakt, en China snel macht naar zich toetrekt met haar autoritaire bestuursmodel.

Vorige week nog bleek dat het Amerikaanse Sandvine technologie aan Wit-Rusland leverde waarmee het internet daar als antwoord op de vreedzame protesten kon worden afgesloten.

De Chinese regering heeft technologiebeleid volledig in dienst gesteld van haar belangen, en niet zonder succes. Het is marktleider in een aantal technologieën met autoritaire insteek, zoals gezichtsherkenning. Chinese bedrijven laten hun systemen gebruiken door de politie van Oeganda, bewakers van gevangenen in Mongolië, en langs de snelwegen in Kenia.

De succesvolle ontwikkeling van kunstmatige intelligentie en spionagetechnologie door bedrijven en onderzoekers in China kan niet los gezien worden van het repressieve beleid, met name tegenover de Oeigoeren. Het gedrag van autoritaire regimes was vrij voorspelbaar. Maar het uitbesteden van bestuur en macht door democratische machten aan private partijen had voorkomen kunnen worden.

Fundamentele vrijheden

De voortgang van private macht kan afgeremd worden en publieke belangen kunnen verstevigd. Door het handhaven van de democratische principes met binnenlandse wetgeving, zoals mededingingsregels, non-discriminatieprincipes en fundamentele vrijheden, kan de balans worden hersteld. Technologie moet niet aangepakt worden, maar net zozeer aan regels, standaarden en veiligheidseisen voldoen als bedrijven in andere sectoren. Daarvoor moeten onafhankelijke toezichthouders substantieel meer mandaat en kennis krijgen, zodat zij kunnen controleren of afgesproken principes gerespecteerd worden.

Investeringen in specifieke kennis over technologie moeten hen daarvoor klaarmaken, en ook onafhankelijk onderzoek naar de werking en impact van technologie moeten in het publieke belang en dus stevig publiek gefinancierd worden. Momenteel worden te veel universiteiten en maatschappelijke organisaties die technologie tegen het licht kunnen houden, gefinancierd door techbedrijven met een belang.

Ook internationaal is betere samenwerking tussen democratische landen nodig. Dat kan via de bestaande maar slapende Community of Democracies, of via een ‘D7’ of ‘D20’ van grootste democratische landen. Die coalitie zou diplomatie op een strategische manier moeten inzetten, maar ook handelsregels en veiligheidssamenwerking moeten opzoeken om democratie en rechtsstatelijkheid te bevorderen.

Hoewel de NAVO al belangrijk werk doet op het gebied van cyberveiligheid, omvat het bondgenootschap niet de kritieke massa aan democratische landen die wereldwijd nodig hebben om samen te werken. Japan, India, Mexico, Australië of Nieuw-Zeeland zijn logische partners voor de EU om mee samen te werken, zeker nu de betrouwbaarheid van de Amerikaanse regering als hoeder van democratie en multilaterale orde wankelt.

Nu digitalisering privatisering betekent, en technologie overal is, zijn techbedrijven machtige de-facto bestuurders geworden. De fundamentele discussie over wie de legitieme macht over het maken van regels heeft en kan beslissen over belangrijke aspecten van de levens van mensen moet dringend gevoerd worden. Zonder legitiem mandaat, controle op de macht, maar ook onafhankelijk toezicht en het afleggen van verantwoording is er geen democratie.

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.