Recensie

Recensie

Het hongerige monster van het surveillancekapitalisme

Surveillancekapitalisme Sociaal-psychologe Shoshana Zuboff waarschuwt in haar nieuwe boek voor de manier waarop techbedrijven met onze internetdata omgaan. De mens wordt steeds meer onderworpen aan algoritmen waarop hij geen invloed heeft.

Illustratrie Aron Vellekoop León

Surveillancekapitalisme – op maandag 28 januari liet theatermaker George van Houts het lange woord vallen in een geruchtmakende aflevering van De Wereld Draait Door. Surveillancekapitalisme is ‘commerciële curatele’, legde Van Houts uit tijdens de toelichting die hij met de vier andere acteurs van De Verleiders gaf op hun theatervoorstelling #niksteverbergen: we denken dat we de baas zijn over onze uitgaven maar bedrijven krijgen via Google en Facebook de macht over onze portemonnee. We worden gestuurd door ‘het systeem’, vulde Verleider Tom de Ket aan, en dat is een gevaar voor de democratie. We worden ook gevolgd, beweerde Van Houts en hij gaf een voorbeeld. „Stel: jij woont in een wijk waar veel moslims wonen en jij hebt een zak kunstmest gekocht, gewoon voor je volkstuintje. Dan heb je een vlaggetje: mogelijke terrorismeplannen.”

Het DWDD-item met De Verleiders riep een storm van kritiek op. De vijf theatermakers waren complotdenkers die onzin uitkraamden, zo lieten verschillende techjournalisten en ook minister van Binnenlandse Zaken en Koninkrijksrelaties Kajsa Ollongren weten. Maar al klopte er weinig van hun verhalen over de wijze waarop techbedrijven als Google en Facebook de gebruikers van hun diensten bespioneren en manipuleren, de strekking van hun betoog was beslist niet onzinnig, zo blijkt uit The Age of Surveillance Capitalism van de Amerikaanse sociaal psychologe Shoshana Zuboff.

Lees ook het profiel dat we schreven over Verleider George van Houts.

Vijf jaar geleden geleden muntte Zuboff het begrip surveillancekapitalisme in het pamflet A Digital Declaration. De uitwerking hiervan tot het bijna zevenhonderd pagina’s tellende The Age of Surveillance Capitalism is zo mogelijk nog alarmerender en verontrustender dan het betoog van De Verleiders. Uitgebreid laat Zuboff lezen hoe techbedrijven zich meester maken van velerlei gegevens waarmee ze vervolgens het gedrag en de ervaringen van hun gebruikers niet alleen in kaart brengen maar in toenemende mate ook sturen. Zonder het te weten leveren de gebruikers de grondstof voor de techbedrijven die daar hun enorme winsten mee maken. Als het industriële kapitalisme een vampier van de arbeid is, zoals Karl Marx beweerde, dan is het surveillancekapitalisme een vampier die leeft van menselijke ervaringen, schrijft Zuboff.

De voorbeelden die ze geeft van de Big Brotheractiviteiten van techbedrijven zijn niet minder spectaculair dan de onzinverhalen van De Verleiders. Zo vertelt ze de anekdote over de man die al felicitaties ontving met zijn verloving voor hij zijn vriendin had gevraagd. De computers van Facebook hadden opgemerkt dat hij een verlovingsring had gekocht en had hier melding van gemaakt op zijn profiel. Vergeefs maakte de man bezwaar tegen de voortijdige bekendmaking van zijn verloving op Facebook. Want zoals bijna alle gebruikers van Facebook was hij akkoord gegaan met de ellenlange gebruiksvoorwaarden van Facebook zonder die goed te hebben gelezen.

Uitvinding

Zuboff ziet het surveillancekapitalisme niet als het onvermijdelijke gevolg van de ontwikkeling van de digitale economie en technologie, maar nadrukkelijk als een uitvinding. Die werd gedaan in 2002, vier jaar nadat Larry Page en Sergey Brin Google hadden opgericht. Hun zoekmachine op internet werd een succes, vooral doordat Google die steeds wist te verbeteren door de analyse van behavorial data, gegevens de gebruikers onbedoeld achterlaten bij hun zoektochten op het internet. Toch maakte Google, zoals zo veel internetbedrijven, de eerste jaren van zijn bestaan geen winst. Met ordinaire, algemene advertenties wilden Page en Brin hun gebruikers niet lastig vallen. Maar een ander verdienmodel voor hun bedrijf hadden ze niet.

Na het uiteenspatten van de internetzeepbel in 2000 werd de druk van de financiers van Google steeds groter om winst te maken. Toen kwamen Page en Brin op het lumineuze idee om de ‘gedragsdata’, de ‘digitale broodkruimels’ zoals Google die eufemistisch noemt, niet alleen te gebruiken voor de verbetering van hun zoekmachine maar ook voor een nieuw soort ‘doelgerichte’ advertenties. Op basis van de informatie die de broodkruimels gaven over het gedrag en de voorkeuren van de gebruikers, konden die worden bestookt met ‘gepersonaliseerde’ advertenties voor producten en diensten waarin zij vermoedelijk zijn geïnteresseerd en die zij dus minder als storend ervaren.

Met de uitvinding van het surveillancekapitalisme was de geest uit de fles, schrijft Zuboff. Niet alleen hadden internetbedrijven als het in 2004 door Mark Zuckerberg opgerichte Facebook nu een kant-en-klaar verdienmodel, maar ook breidde het vergaren van gedragsdata zich steeds verder uit. Het monster van het surveillancekapitalisme kreeg een niet te stillen honger naar gegevens: hoe meer data, des te meer kennis over niet alleen gedrag en ervaringen van de gebruikers maar ten slotte ook over hun gevoelens en gedachten. En het gaat verder: zeker nu the internet of things, smart houses en smart cities vorm beginnen te krijgen, kunnen de computers van Google en Facebook met steeds grotere waarschijnlijkheid voorspellen waar hun gebruikers naartoe gaan en zelfs wat ze gaan doen.

Bovendien gebruiken de techbedrijven de kennis over hun gebruikers niet alleen voor steeds doelgerichtere en subtielere advertenties, maar verkopen die ook aan bedrijven, politici, overheden, geheime diensten en iedereen die er maar voor wil betalen. Het verhaal van Tom de Ket in DWDD dat verzekeringsbedrijven grote belangstelling hebben voor de informatie van techbedrijven was in ieder geval niet uit de lucht gegrepen, blijkt uit The Age of Surveillance Capitalism.

Zuboff, die haar hele wetenschappelijke carrière heeft gewijd aan de gevolgen van de digitale revolutie, is niet de eerste die de ontwrichtende gevolgen van de interneteconomie beschrijft. Zo wees de vroegere internetondernemer Andrew Keen er vorig jaar al in Staying Human in the Digital Age op dat de interneteconomie in hoog tempo tot economische en maatschappelijke ongelijkheid leidt. En net als Zuboff nu liet Jamie Bartlett in The People vs Tech al zien dat internet en sociale media niet hebben geleid tot wereldwijde verbroedering en een global community, maar juist tot segregatie, fragmentatie en de vergiftiging van het publieke debat en zo een gevaar vormen voor de democratie.

Zuboffs boek doet herhaaldelijk denken aan Het Kapitaal van Karl Marx

Maar in The Age of Surveillance Capitalism graaft Zuboff op indrukwekkende wijze dieper dan haar voorgangers. Met behulp van het werk van economen als Joseph Schumpeter en Karl Polhanyi en filosofen als Hannah Arendt en Jean-Paul Sartre analyseert ze de ‘parasitaire economische logica die producten, goederen en diensten onderwerpt aan een mondiale architectuur van gedragsmanipulatie’. Door het gebruik van begrippen als ‘accumulatie’ en ‘commodificatie’ doet haar breed uitwaaierende analyse herhaaldelijk denken aan Het Kapitaal, de 19de-eeuwse speurtocht van Karl Marx naar de ‘ijzeren wetten’ van het kapitalisme. Maar uiteindelijk komt ze tot de conclusie dat het surveillancekapitalisme toch een ander karakter heeft dan het industriële kapitalisme van Marx. Bij het industriële kapitalisme draait het om de beheersing van de natuur: uit de aarde worden grondstoffen gedolven die met behulp van arbeid en kapitaalgoederen worden bewerkt tot producten als benzine en auto’s. Het surveillancekapitalisme staat in het teken van de beheersing van human nature, schrijft Zuboff: uit de mensen wordt informatie over hun ervaringen en gedrag gewonnen die tot verkoopbare diensten worden omgevormd. Zo wordt de mens in het surveillancekapitalisme onderworpen aan computers, algoritmes en kunstmatige intelligentie waar hij geen enkele zeggenschap over heeft.

Het gevaar van het surveillancekapitalisme voor de democratie schuilt ook – en misschien wel vooral – in de ideologie van de techondernemers, waarschuwt Zuboff. Andrew Keen wees er al eens op dat opvallend veel ondernemers in Silicon Valley aanhangers zijn van een door het werk van Ayn Rand geïnspireerde libertarische Übermensch-ideologie. Zuboff gaat hier dieper op in. Ze wijst Alex Pentland, directeur van het Human Dynamics Lab van het Massachusetts Institute of Technology, aan als de belangrijkste ‘hogepriester’ van het surveillancekapitalisme. In zijn boek Social Physics uit 2014 beschrijft Pentland een technocratische utopie waarin big data de politiek en democratie hebben vervangen. Zoals planners in de Sovjet-Unie in de jaren zestig dachten dat ze met behulp van computers een perfect werkende planeconomie konden besturen, zo gelooft Pentland nu dat alwetende technocraten op basis van een onvoorstelbare hoeveelheid gecomputeriseerde informatie een harmonieuze samenleving kunnen besturen.

Lees ook: Internet blijkt een monopoliemachine

Einde van de open samenleving

Zo’n ‘instrumentaristische’ samenleving, zoals Zuboff die noemt, betekent het einde van de open samenleving en de individualiteit van de mens. Maar dat is ook juist Pentlands bedoeling: de open samenleving zorgt volgens hem alleen voor maar voor strijd en conflicten. Bovendien is hij ervan overtuigd dat de mens geen vrije wil heeft en door technocraten met hun ‘goddelijke blik’ kan worden gestimuleerd tot goed gedrag. Pentlands visioen van een totalitaire maatschappij wordt gedeeld door Mark Zuckerberg en Larry Page die zich in hun toespraken en artikelen steeds meer opwerpen als de messiassen van het digitale tijdperk, die met hun wereldomvattende techbedrijven de wereld zullen redden.

Helemaal nieuw zijn Pentlands ideeën niet, stelt Zuboff vast. Ze zijn verwant met die van de Amerikaanse psycholoog Fred Skinner, de grondlegger van het behaviorisme van wie Zuboff nog les heeft gekregen toen ze studeerde aan Harvard. Ook Skinner, auteur van de bestseller Beyond Freedom and Dignity uit 1971, geloofde dat de mens geen vrije wil had en dat zijn gedrag, net als dat van duiven, ratten en andere dieren, kon worden gestuurd door het belonen van gewenst gedrag en het negeren of straffen van ongewenst gedrag. Maar toen Skinners inzichten in de sturing van gedrag werden gebruikt in door de CIA gefinancierd onderzoek naar mind control, stuitte dit op breed maatschappelijk en politiek verzet. Uiteindelijk stelde een senaatscommissie vast dat Skinners sturing van gedrag in strijd was met de vrijheid en onschendbaarheid van de mens en werd het onderzoek stopgezet.

Het surveillancekapitalisme is tot nu toe op opmerkelijk weinig weerstand gestuit, schrijft Zuboff. Zeker, vooral in Europa krijgen techreuzen als Google en Microsoft regelmatig boetes opgelegd wegens monopolievorming of andere overtredingen van Europese regels. En ja, nepnieuws en mogelijke Russische beïnvloeding van de Amerikaanse verkiezingen in 2016 hebben Facebook in moeilijkheden gebracht. Maar Zuckerberg kwam weg met vage beloftes.

Toch weet Zuboff ondanks haar indrukwekkende analyse van het surveillancekapitalisme zelf ook niet goed wat er tegen het parasitaire monster kan worden ondernomen. Verder dan ‘collectieve acties’, waarop Keen en Bartlett vorig jaar ook al wezen, komt ze niet. The Age of Surveillance Capitalism eindigt dan ook met een even strijdvaardige als onmachtige oproep tot verzet: ‘De Berlijnse Muur viel om vele redenen, maar bovenal omdat de bewoners van Oost-Berlijn zeiden: “Weg ermee”. [...] Laat dat ook onze oproep zijn: “No more”.’