Recensie

Gedachteloos aanklikken bracht dit Frankensteiniaanse genre op YouTube voort

Technologie De moderne wereld is gebouwd op de gedachte dat meer informatie tot betere beslissingen en meer controle leidt. In ‘New Dark Age’ betoogt Bridle dat dat ideaal niet langer opgaat. (●●●●)

Verontrustende tekenfilm-parodieën blijken wijdverspreid op YouTube.
Verontrustende tekenfilm-parodieën blijken wijdverspreid op YouTube.

Vorig jaar dwong James Bridle YouTube tot een beleidswijziging met een artikel getiteld Something is wrong on the internet. In het stuk, gepubliceerd op Medium in november 2017, legt Bridle het verdienmodel bloot van een platform waarop kinderen urenlang gebiologeerd naar vrolijke filmpjes kunnen kijken. Makers kopiëren, herhalen, en verzinnen variaties op een thema. Ook unheimliche variaties: Bridle vond filmpjes waarin tekenfilmfiguren bleekmiddel drinken, naar een stripclub gaan, en een clip waarin Minnie Mouse wordt aangerand en vermoord. Dat alles ontsproten aan een combinatie van wat kinderen schattig vinden, volwassenen spannend en het YouTube-algoritme winstgevend acht. Van de filmpjes, schreef Bridle, was vaak niet duidelijk of ze automatisch waren gegenereerd door een bot, of door malicieuze makers waren gemonteerd. Volgend op Bridles artikel kondigde YouTube in april 2018 aan om alle kinderkanalen voortaan niet langer door algoritmen maar door echte mensen te laten beheren.

Konijnenhol

Het konijnenhol van de gewelddadige YouTube-filmpjes voor kinderen is ook onderwerp van één van de hoofdstukken in Bridles eerste boek, New Dark Age. Technology and the End of the Future. Die gemuteerde YouTube-filmpjes, daar heeft niemand om gevraagd, niemand heeft ze nadrukkelijk bedacht, maar een vreemde combinatie van wat kinderen en wat volwassenen gedachteloos aanklikken bracht dit Frankensteiniaanse genre voort. Dat er niemand verantwoordelijk voor kan worden gehouden is één voorbeeld van wat er in de ‘New Dark Age’ gebeurt, volgens Bridle: in het netwerk, in de interactie tussen mens en computer, blijft het obscuur wie kiest, wie volgt, waar de vrije wil aan de leiband van het algoritme loopt.

Lees ook: YouTube neemt maatregelen tegen ongepaste ‘kinderfilmpjes’

De moderne wereld is gebouwd op de gedachte dat meer informatie tot betere beslissingen en meer controle leidt. In zijn boek betoogt Bridle dat dat ideaal niet langer opgaat. Hij schrijft: ‘Je tot het netwerk te verhouden is je verhouden tot een oneindige Borgesiaanse bibliotheek en alle inherente contradicties die daarin zijn opgenomen: een bibliotheek die geen enkele samenhang biedt […].’ Toch houden we obsessief vast aan het idee dat alles rekenkundig gerangschikt en opgelost moet worden – wat in zekere zin ook onvermijdelijk is, omdat data zich ophopen en ieder menselijk denkvermogen te boven gaan. Maar misschien was het in eerste plaats een misvatting dat de wereld kon worden begrepen aan de hand van data.

De centrale metafoor van internet is volgens Bridle de cloud: die vond zijn oorsprong in de diagrammen van computer-ingenieurs in de jaren vijftig waarmee zij hun systemen beschreven. Het symbool voor de cloud had de vorm van een soort gedachtewolkje, en verwees naar dat onderdeel van het circuit dat niet nader beschreven hoefde te worden: een ander netwerk, dat data of elektriciteit leverde. Het cloud-symbool gaf de ingenieurs de mogelijkheid zich op hun ontwerp te concentreren, zonder aanpalende systemen helemaal te hoeven begrijpen of uitschrijven. Nu, schrijft Bridle, is de cloud ‘een globaal systeem van enorme kracht en energie dat niettemin het aura van iets bovenzinnelijks heeft behouden.’ We uploaden van en naar de cloud, werken erin, en betalen ervoor, schrijft Bridle, zonder werkelijk te begrijpen wat het is of hoe het werkt.

Eén milliseconde voorsprong

James Bridle (1980) is kunstenaar en schrijver, die zich in beide disciplines ten doel heeft gesteld de onzichtbare digitale werkelijkheid zichtbaar te maken. In een serie getiteld Under the Shadow of the Drone (2014) tekende hij de contouren van drones in ware grootte op de straten van westerse steden; modellen die in gebruik zijn van het leger, data verzamelen en oorlogen uitvechten, maar zelden waargenomen worden (terwijl ze heel veel groter blijken te zijn dan de drone van de hobbyist die je weleens in een weiland ziet).

Lees ook: De Formule: hoe algoritmes ons dagelijks leven sturen

Zichtbaarheid, betoogt Bridle, is noodzakelijk als we ook de sociale en politieke implicaties van een gedigitaliseerde wereld willen begrijpen. Zo fietst Bridle ook in New Dark Age naar de randen van Londen, naar Basildon en Slough, om te zien waar de datacentra zijn gevestigd en hoe ze worden bewaakt. Hij post urenlang bij een vliegveld in Hampshire in afwachting van drie Cessna’s die elektronische signalen onderscheppen voor de Britse geheime diensten.

In Londen identificeert hij de privé-microgolfschotels van een grote Engelse bank, die er belang bij heeft data zo snel mogelijk te kunnen verzenden en ontvangen, omdat hun beurstransacties geautomatiseerd zijn. Volgens een Amerikaanse bankier die Bridle citeert, kan in de wereld van de high frequency trading één milliseconde voorsprong op de concurrent een jaarlijkse winst van 100 miljoen dollar betekenen. Dat concurrentievoordeel zit hem niet alleen in de snelheid van data, maar ook in de hoeveelheid; algoritmen die in aandelen handelen zijn ook geïnteresseerd in Twitter en Facebook, want ieder nieuwtje kan de koers beïnvloeden.

Inlichtingendiensten

Iets soortgelijks geldt voor de inlichtingendiensten, volgens Bridle: de informatie die ze verzamelen is voor het overgrote deel nutteloos (volgens klokkenluider en oud-technisch directeur van de NSA William Binney is zelfs 99 procent van de inlichtingen waardeloos omdat er geen capaciteit is om alle vergaarde informatie uit te kammen), maar de mogelijkheid een snipper informatie te verzamelen waarmee door een gelukkig toeval een terrorist kan worden opgepakt, is te aanlokkelijk om te verwaarlozen. Bovendien doen alle ons vijandig (en vriendschappelijk) gestemde landen het óók.

Zo jaagt technologie het verzamelen van data aan om het computationele, rekenende denken te voeden. Dat is geen complottheorie, want wederom heeft niemand het zo bedacht: het is nu eenmaal hoe computers zijn ontwikkeld, en een denkwijze die dominant is geworden.

In zijn boek onderzoekt Bridle in vele, soms wat uitwaaierende voorbeelden, op welke manieren we vat kunnen krijgen op de ongrijpbare gestalte van de cloud. Hij levert geen gratuite cultuurkritiek, hij is niet zomaar een techpessimist die zich beklaagt over de macht van Google en Facebook. In New Dark Age probeert hij in kaart te brengen hoe we kunnen nadenken over allesbepalende hoeveelheden data, en het is daarmee niets minder dan een poging te zien wat het menselijke brein nog te bieden heeft tegenover de ongenaakbare rekenkracht van computers.

    • Nynke van Verschuer