‘Macht techbedrijven zet grondrechten onder druk’

Digitalisering

Techbedrijven beslissen over burgers zonder dat goed wordt gelet op hun grondrechten, stelt het Rathenau Instituut.

Illustratie Studio NRC

De overheid, bedrijven en burgers doen te weinig om grondrechten in de digitale wereld te beschermen. Dat zegt het Rathenau Instituut in het donderdag verschenen rapport Opwaarderen – borgen van publieke waarden in de digitale samenleving.

Het onderzoeksinstituut schreef het rapport op verzoek van de Eerste Kamer. „Het speelkwartier met nieuwe technologieën moet nu echt voorbij zijn”, zegt hoofdonderzoeker Linda Kool. „Technologiebedrijven nemen beslissingen over burgers die zeer ingrijpend zijn in hun dagelijks leven, zonder dat goed wordt gelet op maatschappelijke waarden en grondrechten. Dat moet snel veranderen.”

Opwaarderen by Billy Gentry on Scribd

Taak zonder toezicht

In het rapport staan veel voorbeelden van potentiële grondrechtschendingen door bedrijven als Google, Facebook, Uber en Airbnb. Zo bleek in 2015 uit onderzoek van de Amerikaanse universiteit Carnegie Mellon dat vrouwen die op Google zochten naar vacatures, stelselmatig lagere functies kregen aangeboden dan mannen, door vooroordelen in de algoritmes. Google zegt dit inmiddels te hebben opgelost.

Facebook bepaalt met zijn algoritmes voor een belangrijk deel welke berichten gebruikers (zo’n 1,7 miljard wereldwijd) te zien krijgen en heeft daardoor een belangrijke taak als mediabedrijf, zonder dat daarop overheidstoezicht is. Airbnb en Uber beslissen mee over wie er wel of geen toegang heeft tot accommodatie, vervoer, en in toenemende mate ook banen. In de VS raakte Airbnb eind vorig jaar verzeild in rechtszaken over vermeende discriminatie van gebruikers met een donkere huidskleur, waarna het bedrijf zijn voorwaarden aanpaste.

Andere technologieën, zoals big data-analyse, worden in sommige landen zelfs gebruikt om rechters te ondersteunen bij veroordelingen. In de VS bleek dergelijke software vooroordelen tegen mensen met een donkere huidskleur in de hand te werken.

Volgens het Rathenau-rapport is er de laatste tijd in de politiek wel aandacht voor problemen op het gebied van privacy en veiligheid. Maar zoiets als het recht op gelijke behandeling staat vrijwel niet op de agenda, terwijl juist daar veel misgaat, zeggen de onderzoekers. Veel cruciale algoritmes zijn niet openbaar. Kool: „We waarderen technologie regelmatig op, maar we zijn vergeten om de maatschappij te updaten.”

Geen grens meer

Het rapport wijst ook op de scheve machtsverhouding tussen de dominante techplatforms als Facebook, Apple en Google aan de ene kant en burgers aan de andere kant. Het meest urgente is volgens Kool dat overheden, bedrijven en burgers onderkennen dat tussen de digitale en de fysieke wereld geen duidelijke grens meer is. Kool: „We moeten echt af van het idee dat het digitale domein apart staat. Regels en rechten moeten overal gelden, ook online.”

Het Rathenau Instituut stelt onder meer voor versterking van de toezichthouders, zoals de Autoriteit Consument en Markt, de Autoriteit Persoonsgegevens en het Agentschap Telecom. Ook stellen ze een ‘digitaliseringsakkoord’ voor waarin bedrijven, overheid en maatschappelijke organisaties afspraken maken over bescherming van publieke waarden en grondrechten. Er zou ook een kabinetsvisie komen over de gevolgen van digitalisering voor mensenrechten moeten komen. Europese instanties zouden dit probleem op Europees niveau nadrukkelijker moeten aankaarten.

Lees meer over de mensen die algoritmes schrijven: Zij weten precies wat jouw voorkeuren zijn