Cultuur

Interview

Interview

dpa / Alamy Live News

‘Silicon Valley ziet de mens als een algoritme’

De macht van data

Wat is er zo erg aan de groeiende macht van technologiebedrijven? De Duitse techcriticus Yvonne Hofstetter waarschuwt voor een maatschappij waarin programmeertaal het overneemt van democratische wetten.

Kunstmatige intelligentie sluipt ons dagelijks leven binnen en verdringt zo menselijke beslissingen, waarschuwt de Duitse IT-ondernemer en prominent technologiecriticus Yvonne Hofstetter. Met big data worden digitale profielen van ons opgesteld en wordt ons huidige en toekomstige gedrag steeds beter begrepen. Het leidt volgens Hofstetter tot ongemerkte betutteling en manipulatie door overheden en de technologiegiganten Alphabet, Amazon, Facebook, Microsoft en Apple.

De Big Five uit Silicon Valley worden groter en groter, is dat een gevaar?

„De huidige grootmachten hebben niet alleen massa’s data over de samenleving, maar ook de technologie om deze data te analyseren. Er ligt heel veel kapitaal in relatief weinig handen.”

Het verdienmodel van het internet, is dat volgens u het verzamelen van data?

„Absoluut. Data zijn dé nieuwe handelswaar. Vroeger verdiende men vooral geld met arbeid, grondstoffen derven en beleggen. Nu hebben grote bedrijven allerlei gegevens over ons persoonlijke leven in handen en leren ze met welke knoppen je ons gedrag kan veranderen.”

Hoe ziet u deze Big Five terug in ons dagelijks leven?

„2016 was het jaar waarin duidelijk werd dat jij in jouw echokamer leeft, en ik in de mijne. Algoritmen filteren data die voor jou relevant zijn om beter advertenties te kunnen verkopen, maar zo missen we een gezamenlijk perspectief op de werkelijkheid. De samenleving raakt gefragmenteerd en dat werkt populisme in de hand. We zouden sterker staan als we een gedeeld begrip van realiteit hebben, en een gemeenschappelijk doel.”

U pleit er in uw boeken voor de menselijke waardigheid tegen de digitale revolutie te verdedigen. Hoe wordt deze ondermijnd?

„Het idee van mensen manipuleren, nudging, komt uit de VS. Daar is een sterke aversie tegen overheidsregulering, die ook zichtbaar is bij de afkeer voor wapenwetgeving. Als lawmaking minder belangrijk is, hoe beïnvloed je mensen dan? Met hulp van heel veel data. Een voorbeeld zijn de Amerikaanse verkiezingen van 2012. Het campagneteam van Obama maakte met een team van tientallen wiskundigen – met hulp van Facebook – profielen van potentiële kiezers. Zij kregen een lid van het campagneteam met een gepersonaliseerde boodschap op de stoep.”

Hofstetter noemt ook het voorbeeld van predictive policing. In de VS loopt een proef: wanneer iemand een alarmlijn belt, worden de bewoners op het adres door een computersysteem met politieverslagen, eigendomsregisters, commerciële databases en socialemediaberichten gehaald. Elke bewoner krijgt een code – groen, geel of rood – over het mogelijke gevaar dat hij oplevert. Hoe het algoritme de berekeningen maakt, weet ook de politie niet, omdat het bedrijfsgeheim zou zijn van de softwareleverancier.

Uw laatste boek heeft een dreigende titel: ‘Het einde van de democratie’.

„Klassieke wetten hebben een nieuwe uitdager: programmeertaal. Wetten werden altijd door een parlement opgesteld, maar nu worden de wetten uit computercode steeds belangrijker terwijl ze zijn bedacht door bedrijven met commerciële doelen. Ik las recent een advertentie van het bedrijf X.ai, dat met kunstmatige intelligentie onder meer vergaderingen regelt. Het schreef mensen productiever te maken en er ook voor te willen zorgen dat ze beter gedrag gaan vertonen. Wie heeft jou daartoe eigenlijk de opdracht gegeven, denk ik dan.”

Lees meer over de macht van technologiereuzen: De tech-revolutie groeit helemaal scheef

Welke van de vijf grootste technologiebedrijven jaagt u de meeste angst aan?

„Google focust zich de laatste tijd op gezondheid vanuit een soort geloof dat de mens meer waarde kan krijgen door zich te verbeteren. Zo wordt er een medicijn ontwikkeld voor vrouwen waarbij nanorobots moeten gaan voorkomen dat vrouwen borstkanker krijgen. Het lichaam moet per se geoptimaliseerd worden.”

Wat is er mis met mensen op deze manier mensen helpen?

„Het probleem is breder: Silicon Valley ziet een mens als een machine of algoritme. Een mens is meer dan wat meetbaar is. Naast een wiskundige realiteit bestaat er een werkelijkheid van ‘zachte’ waarden als geloof, vriendschap, tolerantie en hoop. Die zijn niet te vertalen in de wiskundige modellen van big data en kunstmatige intelligentie.”

Onze waarden zijn niet te vertalen in de wiskundige modellen van big data

Als directeur van Teramark Technologies verdient u ook uw geld met kunstmatige intelligentie.

„Wij focussen dan ook op ethische algoritmen. We proberen morele regels te creëren in programmeertaal, het idee van een stofzuigende robot een bochtje laten maken om een spin. Tegelijk is het ook voor ons lastig maatschappelijke concepten te vangen in code, die is heel absoluut: ‘als dit, dan dat’.”

U wijst er in uw boeken op dat dataverzamelaars zich ook tegen ons kunnen keren.

„We hadden een rechtszaak in Duitsland waarbij een man een ongeluk veroorzaakte met zijn gehuurde Car2go-auto. Een fietser overleed en de bestuurder vluchtte weg. Hoewel Car2go vooraf had gezegd dat er geen bewegingsprofielen worden bijgehouden, lukte het de openbaar aanklager toch om data te krijgen over wie waar reed. Een auto wordt op die manier een getuige in rechtszaal. Ander voorbeeld: bij een moordzaak in de VS kreeg het openbaar ministerie opnames van Amazon Echo, dat is een geluidsbox voor in huis met een met ‘slimme assistent’. We hebben er geen moeite mee om apparaten in ons huis te zetten die ons kunnen bespioneren.”

Gedragen we ons anders nu we steeds meer beseffen dat grote technologiebedrijven of overheden ons kunnen monitoren?

„Natuurlijk, meer conform wat van je wordt verwacht. Bij betogingen tegen de overheid in de Oekraïense crisis kregen demonstranten een sms’je: ‘Beste klant, we herkennen jou als deelnemer van een massademonstratie’. Als je overheid je heeft herkend, zou je dan opnieuw gaan?”

Hoe groot zijn de bedrijven die worden aangeduid met ‘The Frightful Five’? We vertellen het in deze video: