Column

Digitale dictatuur

Altijd met de beste bedoelingen: deze week jubelde Facebook-CEO Mark Zuckerberg over de helpende hand die zijn bedrijf uitsteekt naar mensen die er een eind aan willen maken. „Vanaf vandaag upgraden we onze kunstmatige intelligentie om erachter te komen wanneer iemand zelfmoordgedachten op Facebook uit, zodat we hen kunnen helpen de steun te vinden die ze snel nodig hebben. De afgelopen maand alleen al hebben deze KI-tools ons meer dan honderd keer geholpen snel contact te maken met hulpverleners.”

Dat is nog maar het begin. Binnenkort is de techniek zo verfijnd dat ook andere signalen gemakkelijk door de algoritmen van Facebook kunnen worden herkend: pesten en haat. Nu er zoveel angst is voor wat kunstmatige intelligentie in de toekomst met ons zal doen, schrijft Zuckerberg, is het goed onszelf eraan te herinneren dat KI ook levens kan redden.

Jaaa, maar tegen welke prijs? Iedereen weet inmiddels, of zou moeten weten, dat de data die je in sociale media achterlaat gewoon handelswaar zijn. Het stelt bedrijven en instituties in staat je gericht te benaderen met producten waarvan ze zeker weten dat je er belangstelling voor hebt, politici om je heel precies te bestoken met standpunten waarvan ze bij voorbaat zeker zijn dat je het ermee eens bent.

En zoals onlangs bleek, landen als Rusland kunnen door fake-accounts proberen de boel op te stoken. Een maand geleden moesten Twitter, Facebook en Google voor een Amerikaanse senaatscommissie verschijnen vanwege Russisch aangestuurd nepnieuws. Men had zich onbekommerd in roebels laten betalen, zonder dat er een alarmbel afging. 75 procent van het nieuws komt tot het publiek via deze techgiganten, en men had mensen met kwade bedoelingen vrij spel gegeven.

Zuckerberg, die naar het schijnt in 2020 president wil worden, trok het boetekleed aan. Ook zijn recente lofzang op het algoritme dat mensenlevens redt, moet vast in het licht van zijn komende campagne worden gezien.

Want de publieke opinie slaat om: mensen begrijpen steeds beter dat de vooruitgangsideologie van techgiganten een inkzwarte kant heeft. Men pretendeert de burger heel gericht te bedienen, hem te beschouwen als een zelfstandig individu dat heel de wereld tot zijn beschikking heeft en zijn eigen keuzes maakt – terwijl hij in werkelijkheid gezien wordt als een eindeloos te sturen en te manipuleren object.

Ik noem het de grootste leugen van onze tijd: met de mond wordt overal nog het geloof in een democratie met zelfdenkende individuen beleden, terwijl dat geloof in werkelijkheid al achteloos opzij geschoven is – met behulp van technologie zijn u en ik steeds beter aan te sturen, zonder dat we het in de gaten hebben. Onze gedachten, verlangen, opinies kunnen heel precies in kaart worden gebracht – beter dan we het zelf zouden kunnen. Want zoals de Amerikaanse journalist Seth Stephens-Davidowitz in zijn boek Everybody Lies stelt: Google kent ons inmiddels beter dan wijzelf. Terwijl mannen in de kroeg stoer tegen elkaar opbieden met seksuele succesjes, is de meest ingetoetste zoekterm op Google small penis.

De techniek die ons zo goed bedient, die zoals Zuckerberg zegt, levens redt, kleineert diezelfde levens, maakt ons juist minder mens. Wat de CEO van Facebook doet in zijn jubelpost, verschilt niet van de argumentatie waarmee overheden de vrijheid en privacy van burgers inperken – we redden er levens mee! Of het nu gaat om terrorisme of het voorkomen van zelfmoord, het is een vorm van morele chantage: wie weigert zijn vrijheid in te leveren, wie zijn hand in protest opsteekt, wordt impliciet medeplichtig verklaard.

Het is immers allemaal voor je bestwil – begrijp je dat dan niet?

De twee gezichten van de tech zag je deze week in het bericht over hoe Amazon zijn depots beheert. De Daily Mirror publiceerde het relaas van een journalist die undercover was gegaan in hun distributiecentrum in Essex – de computergestuurde superklantvriendelijkheid van Amazon naar de klant toe, slaat achter de schermen om in een digitale dictatuur: alles van de werknemers wordt gemonitord en gemeten, men werkt in een volledig door techniek aangedreven omgeving. De productiviteit van de werknemer wordt exact bijgehouden, net als de duur van het toiletbezoek. Voor wie zijn targets niet haalt of, zoals vaak gebeurt, staand in slaap valt, dreigt ontslag – door een algoritme waarschijnlijk. „Waarom kunnen we niet even zitten als het rustig is?” zegt een van de inpakkers tegen de journalist. „We zijn mensen, geen slaven of dieren.”

Nog niet.

Bas Heijne schrijft elke week een column op deze plaats.