Illustratie Gijs Kast

Interview

Big Tech bedreigt de vrijheid te denken wat je wil, betoogt deze mensenrechtenadvocaat

Data Voor techbedrijven is het niet meer genoeg om enkel ons gedrag in de gaten te houden. Ze proberen toegang te krijgen tot onze gedachten en gevoelens, waarschuwt advocaat Susie Alegre.

Niet alleen ons gedrag wordt met steeds verfijndere digitale middelen voortdurend in de gaten gehouden en bestudeerd. Ook wat er in ons hoofd gebeurt, waarschuwt Susie Alegre, is niet meer veilig voor de dataverzamelaars van Big Tech. „En daarmee staat een elementaire vrijheid op het spel: de vrijheid om te denken wat je wil.”

Alegre is een Britse mensenrechtenadvocaat, met een scherp oog voor de gevolgen van technologie en kunstmatige intelligentie voor privacy en de vrijheid van denken. Toen haar dochter een jaar of zeven was vroeg ze waarom ze geen Alexa op haar kamer mocht hebben. Haar vrienden hadden wél zo’n spraakgestuurde digitale assistent van Amazon, waaraan je allerlei vragen kunt stellen en opdrachten kunt geven – om informatie op te zoeken bijvoorbeeld, muziek op te zetten of iets te bestellen.

Alegre wilde er niets van weten, vertelt ze in haar boek Freedom to Think; The Long Struggle to Liberate Our Minds. Ze legde haar dochter uit: „Alexa steelt je dromen en verkoopt ze.”

„Ik ben geen tegenstander van technologische vooruitgang”, benadrukt Alegre in een videogesprek. „Ik wil echt niet terug naar de twintigste eeuw.” Maar ze vindt wel dat er wettelijke grenzen gesteld moeten worden, nu de technologische mogelijkheden fundamentele rechten bedreigen.

„Er wordt steeds meer technologie ontwikkeld om toegang te krijgen tot onze gedachten en gevoelens. Dat is gevaarlijk, want zo kunnen we gemanipuleerd worden. Sommige dingen moet je voor jezelf kunnen houden. Maar dat wordt steeds moeilijker.

„In de wereld van Big Brother, in 1984 van George Orwell, zegt de hoofdpersoon: niets is van jezelf, behalve die paar kubieke centimeters in je schedel. Maar zelfs die paar kubieke centimeters zijn nu te koop voor de hoogste bieder. Het lijkt wel alsof we 1984 niet hebben opgevat als waarschuwing, maar als model.”

Spraakgestuurde apparaten

Als jurist analyseert Alegre het probleem vanuit het recht. En daarin zoekt ze ook de oplossing. Ze pleit dringend voor wetgeving, die de greep van technologiebedrijven op ons leven en denken aan banden moet leggen. Haar uitgangspunt, net als dat van andere technologiecritici, is dat we met ons online gedrag meer over onszelf prijsgeven dan we beseffen.

„Dat doen we niet alleen door de inhoud van wat we op internet delen, maar ook door metadata: waar we zijn, hoe snel we ons verplaatsen, wanneer en met welke regelmaat we rondhangen op sociale media, wat we wanneer opvragen bij spraakgestuurde apparaten. Al die gegevens kunnen worden samengevoegd en geanalyseerd om een beeld te krijgen van wie we zijn, wat we denken en waar we naar verlangen.

„Facebook kent je beter dan je familie, schreven kranten en nieuwssites een paar jaar geleden al. Uit wetenschappelijk onderzoek bleek dat je persoonlijkheid redelijk goed afgeleid kan worden uit je opgestoken duimpjes op Facebook: of je een open karakter hebt, plichtsgetrouw bent, neurotisch, inschikkelijk of extravert.” Zo zou liefde voor meditatie, voor het werk van de schilder Salvador Dalí of TED Talks wijzen op een open karakter.

„Veel advertenties die op internet aan je worden voorgeschoteld zijn speciaal op jou toegesneden, of beter gezegd: op de mens die Facebook en Google willen dat je bent. Je kunt zeggen: wat geeft dat? Maar het kan bijvoorbeeld betekenen dat jij bepaalde vacatures, huurwoningen of potentiële partners niet te zien krijgt, omdat jij daar volgens het algoritme niet het geschikte type voor bent.”

Kan vervelend zijn, maar word ik daardoor in mijn dénken beperkt?

„Ja, want de grote tech-bedrijven bestuderen ons om ons te manipuleren. Het is hun verdienmodel. Uit je gedrag op internet kunnen ze je kwetsbaarheden en je emotionele toestand afleiden. Dat is interessant voor een bedrijf dat ons iets wil verkopen.

„Deze persoon is een zorgelijk type, concluderen ze bijvoorbeeld uit hun data, iemand die om elf uur ’s avonds nog eindeloos op Facebook zit te scrollen. Dat is een goed moment om een product aan te bieden dat inspeelt op die zorgelijkheid en profiteert van de kwetsbaarheid, bijvoorbeeld door advertenties voor gokken te presenteren.

„Politieke campagnes maken ook gebruik van dat soort persoonsgerichte advertenties – ‘microtargeting’. Dat bleek al uit het schandaal rond Cambridge Analytica (het Britse bedrijf dat voor de Amerikaanse presidentsverkiezingen van 2016 gegevens van miljoenen Facebook-gebruikers benutte voor de verspreiding van advertenties voor Donald Trump onder mensen die daarvoor gevoelig leken, red.).

„Je zal daardoor niet opeens van links heel rechts worden. Maar het kan je wel aanmoedigen, of juist ontmoedigen, om te gaan stemmen. En zelfs als het niet werkt is het toch een poging tot manipulatie van ons denken.

„De gedachte dat je in je eigen denkwereld niet vrij bent, niet vrij om te denken wat je zelf wil, is zo verschrikkelijk dat we niet kunnen verdragen erover na te denken. Maar dat is wel nodig.”

De vrijheid van gedachte is in algemene termen beschermd in het internationale recht, onder meer in de Universele Verklaring voor de Rechten van de Mens. Het is een absoluut recht, zegt Alegre, waar in geen geval inbreuk op gemaakt mag worden, zoals ook het verbod op martelen en het verbod op slavernij absoluut zijn.

„Het recht op privacy kan in bepaalde gevallen wél opzij geschoven worden, bijvoorbeeld als de nationale veiligheid in het geding is. Bij de vrijheid van gedachte kan dat niet, het is fundamenteel voor de menselijke waardigheid, voor wat het betekent om mens te zijn. En als je de vrijheid om te denken verliest, is het heel moeilijk die weer terug te krijgen.

„Als individu hebben we mentale privacy nodig. Een innerlijke ruimte waarin je kunt ontdekken wie je bent, wat je wil zijn, wat je vindt van dingen, zonder dat je het met iemand anders hoeft te delen. Waarin je ideeën kunnen evolueren. Een veilige plek waar je ook kunt nadenken over vreselijke of gevaarlijke dingen die in je opkomen en waar je kan overwegen wat je daarmee aan moet.

„Als mensen kunnen zien wat we denken, en zelfs als ze alleen maar zéggen dat ze dat kunnen, dan kan dat tegen ons gebruikt worden. In het strafrecht of in een dictatuur kunnen de gevolgen voor je vrijheid heel groot zijn. Lijkt deze persoon iemand die wel eens misdadige plannen zou kunnen koesteren, of dissidente opvattingen?”

Hebben reclame en propaganda niet altijd al tot doel gehad in ons hoofd te komen, ook lang vóór internet?

„Tot op zekere hoogte wel. Maar de grote vraag is nu: waar ligt de scheidslijn tussen beïnvloeding en manipulatie, tussen preken en hersenspoelen? Bij advertenties ligt die grens bij digitale surveillance en personalisatie. Die vorm van beïnvloeding gaat veel verder dan een reclamebord langs de weg.

Lees ook: Het hongerige monster van het surveillancekapitalisme

„Wat mij betreft worden alle vormen van gepersonaliseerd adverteren verboden. Online advertenties zijn dan nog steeds mogelijk, maar wat je te zien krijgt hangt niet meer samen met wat een site of een tech-firma weet over je persoonlijke eigenschappen of je gedrag. De context, het onderwerp van het artikel dat je leest of het filmpje dat je bekijkt, bepalen wat voor advertentie getoond wordt – aan jou en alle andere bezoekers.

„President Biden heeft het Congres opgeroepen gepersonaliseerd adverteren voor kinderen te verbieden. Ik zou zeggen: waarom verbied je het dan niet meteen voor iedereen? Ik denk dat het in vijf tot tien jaar niet meer mag.”

Maar moeten we regeringen laten bepalen wat we kunnen zien of lezen en wat niet? Gaat dat niet juist ten koste van onze vrijheid?

„Het is een lastige kwestie. Maar je moet beseffen: de regulering waarvoor ik pleit gaat niet over de inhoud, maar over wat er met onze gegevens gebeurt.

„Neem websites voor geestelijke gezondheid, waarop mensen vragenlijsten invullen over hoe het met ze gaat en of ze depressief zijn. Dus over wat er in hun hoofd omgaat. Uit een onderzoek in het Verenigd Koninkrijk, Frankrijk en Duitsland bleek dat de antwoorden in veel gevallen verkocht werden aan derden. De sleutel naar de geest van mensen bleek geveild te worden! Het is toch evident dat dát niet toegestaan moet zijn?

„Of neem apps die helpen je menstruatiecyclus te voorspellen. Niet alleen voeren mensen daarop allerlei informatie in, maar die kan ook gecombineerd worden met andere data uit je telefoon. Dat levert een berg gegevens op over de vruchtbaarheidsstatus, seksuele activiteit en emotionele toestand van talloze vrouwen. Sommige van die apps gebruiken de informatie om je aan te sporen: je bent nu 29, de perfecte leeftijd een baby te krijgen. Dat lijkt behulpzaam, maar kan ook een vorm van onaangename sociale controle zijn.

„Of neem dating apps. Mensen delen daarop vaak veel over zich zelf, van hun seksuele voorkeuren tot hun gezondheid en politieke opvattingen. Gebruikers stemmen ermee in dat anderen dat kunnen zien. Maar beseffen ze hoe die data worden opgeslagen, geanalyseerd, gedeeld, verkocht en gebruikt om algoritmes te ‘trainen’?

„Schokkend vond ik dat Amerikaanse onderzoekers met behulp van kunstmatige intelligentie en foto’s van dating apps beweerden dat je op basis van een foto van iemands gezicht zijn of haar politieke voorkeur of seksuele oriëntatie kunt vaststellen. Je gaat naar zo’n app omdat je iemand wil ontmoeten. Maar je foto kan dus gebruikt worden om een programma te ontwikkelen dat iemand anders elders in de wereld in gevaar kan brengen, omdat een gezicht kennelijk je politieke of seksuele identiteit kan verraden.”

Wat kun je zelf doen om je mentale privacy te beschermen?

„Je kan minder apps installeren en je telefoon vaker laten liggen – zelf kijk ik er na zeven uur ’s avonds niet meer op. Je hebt ook apps tegen de verslavende werking van je telefoon, zoals de Freedom-app (waarmee je jezelf acht uur digitale rust oplegt, red.). Helemaal ontsnappen kun je nooit. Als je maar zelden online bent, en ook geen sporen nalaat doordat je altijd contant betaalt, dan sta je ook te boek als een bepaald type.

„De echte verandering moet komen van regulering via wetten. In de tech-wereld wordt nu veel gesproken over ethiek, maar lang niet genoeg over mensenrechten en wetgeving. Want ethiek is vrijwillig en daar kun je voor kiezen of niet. Om je ethische gedrag alleen kun je niet voor de rechter worden gedaagd. Daarom moeten we bij wet vastleggen wat er met onze gegevens mag gebeuren, wat alleen met uitdrukkelijke toestemming mag en wat in geen geval mag.”

Hoe realistisch is dat? Er wordt heel veel verdiend met het verzamelen van data en het verkopen van gepersonaliseerde advertenties.

„Tim Cook, de ceo van Apple, sprak in 2019 op Stanford University over het gevaar dat we in een wereld zonder digitale privacy ‘de vrijheid om mens te zijn’ verliezen. Hij doelde op de vrijheid van gedachte.

„Als we dertig jaar geleden de afleiding en manipulatie door digitale media van nu hadden gehad, was er geen innovatie geweest, betoogde hij. Dan had Silicon Valley niet bestaan. Dat hij dat zei vond ik hoopgevend.”