Recensie

Als we niets doen bepalen de grote techbedrijven onze toekomst

Jamie Susskind Codes en algoritmes zullen de politieke besluitvorming de komende decennia onherkenbaar veranderen. Technologie maakt het mogelijk om te controleren wat iedereen denkt en verlangt, betoogt deze Britse jurist.

Ontwerp van Norman Foster voor het hoofdkwartier van Apple in Cupertino, Californië.
Ontwerp van Norman Foster voor het hoofdkwartier van Apple in Cupertino, Californië. Foto Getty Images, bewerking NRC

Zoals de industriële revolutie de ‘massapolitiek’ inluidde, zo dwingen technologische veranderingen ons nu een fors eind in de richting van een ‘postmenselijke’ politiek. In de ‘digitale leefwereld’ die Jamie Susskind zich voorstelt in Future politics worden politieke communicatie, besluitvorming en vertegenwoordiging steeds minder door mensen en steeds meer door machines (lees: codes en algoritmen) bepaald.

Dit klinkt als doorsnee sciencefiction, en dus ouderwets, maar dat is het niet. Na lezing van Future Politics heb je sterk het idee dat de huidige discussie over de staat van onze democratie argeloos voorbijgaat aan de kern van de zaak. Hoe minder we zelf hoeven te denken (omdat al steeds meer voor ons wordt gedacht), hoe harder we roepen. Hoe harder we roepen, hoe minder we voor het zeggen lijken te hebben. In Susskinds digitale wereld krijgen politieke macht en vrijheid een heel nieuwe betekenis.

De politieke kernvraag van de 20ste eeuw was de keuze tussen vrijheid of rechtvaardigheid: hoeveel macht geven we aan de staat of laten we aan de samenleving en de markt? De belangrijkste kwestie van deze tijd, meent Susskind, is de mate waarin, en de voorwaarden waarop, we ons leven laten leiden en controleren door digitale systemen, waarop we steeds minder vat lijken te hebben.

Over het effect van technologie op politiek wordt verschillend gedacht. In de optimistische visie kunnen digitale middelen de verstarde procedures en instituties van de vertegenwoordigende democratie nieuw leven in blazen en bieden ze de oppositie in autoritaire landen nieuwe instrumenten voor machtsvorming buiten de staat (geen ‘revolutie’ meer zonder Twitter of Facebook). Kortom, digitale technologie dient de democratie.

Tegenover dit cyberoptimisme staat een pessimistische zienswijze, gestoeld op de overtuiging dat sommige dieren op internet gelijker zijn dan andere. Moderne technologie wordt beschouwd als een nieuw machtsmiddel waarmee de sterken de zwakken onder de duim houden, zoals ze dat altijd hebben gedaan. In Future Politics klinken beide visies door.

Cyber-utopie

Susskind wordt niet gehinderd door cyberutopie: de naïeve veronderstelling dat digitale communicatie een onontkoombaar emancipatoir effect zou hebben. Uitgesproken pessimistisch is hij evenmin, als we tenminste in staat blijken onze 19de-eeuwse democratie aan te passen aan de technologie van de 21ste eeuw.

De kern van Susskinds betoog is dat als er niets gebeurt de grote techbedrijven – de toekomst van de democratie zullen bepalen. Technologie houdt ons in de gaten, verzamelt gegevens over ons, slaat ze op en gebruikt ze. Ook dwingt technologie ons te doen wat we anders wellicht niet zouden doen, of niet te doen wat we misschien wél zouden willen. Dit heet ‘macht’, in de overtreffende trap.

De moderne wereld is gebouwd op de gedachte dat meer informatie tot betere beslissingen en meer controle leidt. In ‘New Dark Age’ betoogt Bridle dat dat ideaal niet langer opgaat. Lees ook: Gedachteloos aanklikken bracht dit Frankensteiniaanse genre op YouTube voort

Susskind noemt het ‘perceptie-controle’, de mogelijkheid te controleren wat anderen denken en willen, en hoe ze zich zullen gedragen, ook in de politiek. Dit klinkt als de ultieme ambitie van de totalitaire regimes uit de vorige eeuw, maar hun machtsmiddelen waren als een botte bijl vergeleken met de geavanceerde technologieën waarover staten en techbedrijven nu beschikken. Een bijl zie je aankomen, maar van een gedachten sturend algoritme ben je je niet bewust. In de digitale wereld krijgt zelfs ‘toekomst’ een heel andere betekenis, want wanneer algoritmen bepalen hoe we denken en handelen, worden onzekerheid en onvoorspelbaarheid steeds verder uitgebannen.

Hoe weren we ons tegen de macht van de ‘machines’ die onze morele en politieke keuzes bepalen? Wie controleert de digitale machthebbers? Hoe dwingen we politieke openheid, verantwoordelijkheid en terughoudendheid af?

Eenvoudige antwoorden zijn er niet. De liberale keuze voor de markt lijkt volgens Susskind achterhaald. Er is immers al nauwelijks een digitale markt meer. De machtsconcentratie door enkele grote techbedrijven heeft de vorm aangenomen van een quasi-monopolie. Het breken van hun macht door de staat is evenmin een optie. Susskind wijst erop dat we met zo’n radicale aanpak in het verleden weinig goede ervaringen hebben opgedaan. Hij refereert aan het communistisch experiment uit de vorige eeuw. De nationalisering van het private ondernemerschap heeft in alle communistische landen de ondernemingszin uit de samenleving geranseld en de staat opgeblazen tot een totalitaire, conservatieve moloch.

Volledige staatscontrole over technologische ontwikkeling is onmogelijk en bovendien onwenselijk, want uiteindelijk wellicht een nog grotere bedreiging voor vrijheid en democratie dan een voortdurende accumulatie van macht door Google, Amazon en Facebook. Experimenten in China, waar de overheid werkt aan een ‘sociale kredietcode’ voor alle burgers, een beoordelingssysteem op basis van sociaal gedrag, geeft een inkijkje in de toekomst. Zoals Amazon zijn consumenten volgt, conditioneert de communistische partij haar onderdanen.

Ingrijpende aanpassing

Naarmate Susskind dichter bij de democratie van de toekomst komt, en hoe die in te richten, wordt zijn verhaal ingewikkelder en problematischer. Hij concludeert dat democratie en digitale technologie best samengaan, maar dan alleen op voorwaarde dat we de monopolistische macht van de grote techbedrijven breken en we onze huidige, ‘vermoeide’, ‘elitaire’ democratie ingrijpend aanpassen.

Susskind onderscheidt vijf mogelijke digitale democratietypen, die echter allemaal een zeer vergaande mate van regulering en digitale geletterdheid vragen, precies de zaken die nu lijken te ontbreken. ‘Uitdagingen’ is een veel gebruikt begrip in Future Politics. Het is een ander woord voor problemen waarvoor we nog geen oplossing weten. ‘Waakzaamheid’ is een andere notie die Susskind graag gebruikt, maar hoe beschermen we ons tegen technologische veranderingen die we vaak niet eens herkennen, laat staan begrijpen?

Future Politics is geen handboek voor de democratie in de digitale leefwereld. Jamie Susskind heeft zijn lezers willen inspireren om opnieuw na te denken over grote politieke vraagstukken, in het licht van de meest ingrijpende technologische veranderingen die we ooit hebben meegemaakt. Zijn boek geeft daarvoor een stevige aanzet.

Correctie (18 februari 2019): Susskind treedt niet 18 februari, maar 21 februari op in Spui25. Dat is hierboven aangepast.