‘Google wil je brein zo lang mogelijk vasthouden’

Tristan Harris

Als je op YouTube komt, activeer je één van de krachtigste computers op aarde: die van Google. „En die supercomputer speelt een spelletje schaak tegen je brein”, aldus een prominente ex-medewerker van Google.

Illustratie Tomas Schats

‘Ze hebben het systeem gekaapt waarmee wij sociale relaties opbouwen. Ze controleren hoe vaak mensen zichzelf sociaal geaccepteerd voelen. Dat is enorm zorgwekkend.” Tijd voor gezellig geklets is er niet bij voor Tristan Harris. Hij is duidelijk op een missie. Harris (33) is een van de vele prominente ex-medewerkers van grote techbedrijven die de laatste maanden naar buiten zijn gekomen met heftige zorgen en beschuldigingen aan het adres van hun oud-werkgevers. Harris is een van de meest activistische van hen: „Ik ken maar één andere bedrijfstak die zijn klanten ‘gebruikers’ noemt, en dat zijn drugsdealers.”

Harris – rossig baardje, rustige ogen – werkte zo’n vijf jaar als technicus en ethicus bij Google. Daar werd hij na het schrijven van een kritische memo aangesteld om te bedenken hoe Google zijn producten minder verslavend en tijdrovend kon maken. Maar hij vertrok in 2016 omdat hij vond dat er te weinig naar zijn oplossingen werd geluisterd.

Hij richtte eerder dit jaar het Center for Humane Technology op in Silicon Valley, dat zich richt tegen onethisch gedrag van techreuzen. Hij was onlangs in Brussel waar hij Europese politici en beleidsmakers toesprak op uitnodiging van europarlementariër Marietje Schaake (D66, ALDE). Hij geeft TED Talks en zijn ideeën winnen politiek terrein, vooral in links- liberale partijen.

„Het meest bezorgd ben ik over het feit dat ons vermogen om in de waarheid te geloven aan het afbrokkelen is, en dat we steeds minder inzien dat er überhaupt zoiets is als een gedeelde waarheid.” Door ons constant te omringen met mensen en geluiden waarmee we het eens zijn en nooit meer tegengeluiden horen, zien we niet meer wat echt is en wat nep, zegt hij. Harris refereert aan de film The Truman Show, waarin acteur Jim Carrey de hoofdrol speelt in een perfect gecontroleerde en onechte wereld die helemaal om hem heen is gebouwd. „Wat bedrijven als Google en Facebook doen lijkt daarop. Ze tonen je alleen nog wat je wilt zien en wilt geloven, waardoor de wereld er de hele tijd precies uitziet zoals je hoopte en zoals het past bij wat je toch al vond. En dat voor alle gebruikers: ruim 2 miljard Truman Shows.”

Lees ook: Oud-medewerkers van techreuzen keren zich tegen ex-werkgevers

Het zijn op zich bekende argumenten, maar Harris relateert ze aan het verdienmodel van de bedrijven en probeert dat door zijn activisme te veranderen. Hij constateert dat ondanks recente beloftes van Google en Facebook om hun gedrag te verbeteren, hun activiteiten nog steeds draaien om het zo lang mogelijk vasthouden van onze aandacht. „Facebook, YouTube, Netflix, Snapchat: ze handelen in één valuta en dat is aandacht. Die aandacht houden ze vast door je te tonen wat je wilt zien, niet wat er belangrijk of écht is.”

Dat is volgens Harris vooral zichtbaar in de trucs die de bedrijven gebruiken om hun klanten verslaafd te maken. Hoe langer mensen doorbrengen in de apps, hoe meer data ze kunnen verzamelen en hoe meer advertenties ze kunnen tonen, immers.

Illustratie Tomas Schats

Valse bevestiging

„Dat gebeurt op zeer manipulatieve manieren. Stel: iemand is al een week niet actief op Facebook. Dan suggereert Facebook een vriend van hem om diegene in een foto te taggen, zodat hij weer sneller terugkomt. Er zijn allerlei algoritmes die valse sociale bevestiging genereren om mensen maar tijd te laten doorbrengen in een app en weer terug te lokken.”

„Als je YouTube opent: hetzelfde verhaal. Je komt er voor één video, en vervolgens schrik je twee uur later op en heb je er tientallen bekeken. Als je op YouTube komt activeer je één van de krachtigste supercomputers op aarde: die van YouTubes moederbedrijf Google. En die supercomputer speelt een spelletje schaak tegen je brein om jou zo lang mogelijk vast te houden. Hij voorspelt welke video hij automatisch moet afspelen om je te laten blijven. Waarom gebruiken we de krachtigste supercomputers van de wereld niet om kanker te genezen of klimaatverandering aan te pakken? In plaats daarvan manipuleren ze ons brein en uiteindelijk maken ze onze democratie stuk.”

Te langzaam

Harris’ waarschuwingen hierover dateren al van voor de openbaring van het Cambridge Analytica-schandaal in maart dit jaar, waarbij data van tientallen miljoenen Facebook-gebruikers werden misbruikt voor psychologische politieke campagnes. Zijn ideeën slaan inmiddels ook aan in Silicon Valley. Facebook, Google én Apple kondigden de afgelopen maanden maatregelen aan tegen de verslavende effecten van hun producten en de manipulatie die er kan optreden.

Sterker nog: Facebook refereerde in die plannen zelfs expliciet aan ‘Time well spent’, een slogan van Harris die oproept tot het bouwen van technologieën die de tijd van gebruikers núttig besteden in plaats van er simpelweg zoveel mogelijk van te claimen. Succes voor Harris zou je zeggen.

„Maar hun reactie is veel te langzaam”, zegt hij. „Bovendien hebben bedrijven als Facebook vaak gelogen. Na de Amerikaanse verkiezingen zeiden ze dat misschien 1 à 2 miljoen mensen last hadden gehad van gemanipuleerde campagneboodschappen, later bleken dat er tientallen miljoenen. Ze bagatelliseren steeds hun eigen invloed, vertragen oplossingen en zijn gewoon niet eerlijk tegen ons. Dus er moet nog heel veel meer gebeuren.”

Volgens Harris zijn er vier grote dingen die moeten gebeuren. „Ten eerste moeten mensen zich veel beter bewust zijn van de manipulatie door techbedrijven. Ten tweede moeten overheden er beter in worden om deze bedrijven tot de orde te roepen.”

„Ten derde moeten we beïnvloeden hoe medewerkers van deze bedrijven zich voelen over hun keuzes: zij kunnen hun bedrijf dwingen tot het maken van andere beslissingen. En ten vierde moeten we laten zien dat er alternatieve verdienmodellen bestaan voor puur het oogsten van aandacht. Technologie kan ook worden ontworpen op een menselijke manier die góed voor ons is. Ik ben ook niet tegen technologie of sociale media, maar wel tegen het verdienmodel dat nu dominant is.”

Illustratie Tomas Schats

Hij laakt dat verdienmodel omdat het leidt tot manipulatie waarvoor uiteindelijk vrijwel niemand immuun is. „We denken altijd dat het de suffe, domme mensen zijn die zich laten beïnvloeden door Facebook. Maar mensen moeten doorkrijgen dat die invloed zó slim, zó geraffineerd, zó op maat gemaakt is dat we het vaak niet eens zien. Mensen moeten inzien dat dit een serieuze bedreiging is, dat dit hele samenlevingen in gevaar brengt.”

„Het is alsof we allemaal een kabel in ons hoofd hebben. Een techneut bij Facebook, Instagram of Twitter heeft voor jou bepaald wat je te zien krijgt. En zelfs als je wegkijkt van je smartphone, zitten die beelden en keuzes nog in je hoofd en bepalen ze hoe je de wereld ziet.”

„Het probleem is dat deze producten, die op deze hele specifieke manier zijn ontworpen, onze sociale werkelijkheid overnemen. Ze zijn de nieuwe dorpspleinen, de nieuwe plekken waar we studeren, onze vrienden ontmoeten, de plekken die onze democratieën definiëren. En we moeten ons afvragen of we al die belangrijke dingen op deze manier wel in handen willen brengen van deze bedrijven.”

    • Wouter van Noort