Hoe big data Big Brother dreigt te worden in China - én hier

China

Stemherkenning maakt afluisteren nog makkelijker in China, waar het arsenaal aan big data alarmerend groot wordt.

Op een kruispunt in Shanghai is een camera geïnstalleerd voor gezichtsherkenning, die beelden maakt van mensen die zich niet aan de verkeersregels houden. Foto Chandan Khanna/AFP

China bouwt aan een staatssurveillancemachine zonder weerga. Met kunstmatige intelligentie, data-analyse, stem- en gezichtsherkenning legt het land databanken aan om gedrag van burgers digitaal te beoordelen en houdt het communicatie op almaar indringender manieren in de gaten. Mensenrechtenorganisaties zijn kritisch.

Human Rights Watch (HRW) sprak zondag zijn zorgen uit over één van de meest recente snufjes van de Chinese staat om zijn burgers in de gaten te houden. Volgens HRW werken de Chinese autoriteiten samen met het techbedrijf iFlytek, de absolute marktleider in China waar het gaat om stemherkenningstechnologie – zeg maar de Chinese Siri.

Met hulp van het bedrijf ontwikkelt de staat een systeem dat stemmen in telefoongesprekken kan herleiden tot personen, om zo te kunnen helpen met zeer specifiek afluisteren. Dat gebeurt volgens HRW zonder dat er voldoende waarborgen zijn voor de rechtmatigheid van die surveillance. Autoriteiten kunnen die data misbruiken om critici monddood te maken, vreest de organisatie.

Stoute anime-stripboeken

„Het Chinese arsenaal wordt steeds groter terwijl het recht op privacy daar ver achteraan hobbelt”, schrijft de mensenrechtenorganisatie. Volgens HRW moet de Chinese overheid direct stoppen om de ‘zeer gevoelig biometrische informatie’ te verzamelen, totdat er meer duidelijkheid komt over de rechten van burgers.

De Chinese regering lijkt dat voorlopig bepaald niet van plan. Integendeel: het stemherkenningsprogramma is slechts één van de vele high-tech-projecten die er lopen om de 1,4 miljard inwoners volledig te omspannen met een net van afluistertechnieken.

Er is bijvoorbeeld de laatste maanden veel te doen over Sesame Credits, een project om Chinese burgers massaal te voorzien van een score op basis van onder meer aankoopgedrag en economische activiteit. Als je lokale landbouwproducten koopt, krijg je pluspunten, als je stoute anime-stripboeken uit Japan koopt, krijg je minpunten. Nu is deelname nog vrijwillig, maar in 2020 wordt dat waarschijnlijk verplicht. Er zijn plannen om de score te laten meewegen in de beslissing of iemand recht heeft op sociale huisvesting of uitkeringen.

Technische beperkingen

„Er is reden tot voorzichtigheid, veel kritiek in westerse media is slecht geïnformeerd”, nuanceert Rogier Creemers, onderzoeker aan de Universiteit Leiden die veel onderzoek doet naar Sesame Credits. „De kritiek gaat vaak voorbij aan de technische beperkingen van de systemen – die kunnen nog helemaal niet zomaar alles analyseren. En bovendien kun je veelal dezelfde kritiek hebben op de surveillance van Westerse overheden op hun eigen burgers.”

Ook in Nederland hebben geheime diensten toegang tot privécommunicatie, en gebruiken ze kunstmatige intelligentie en big data. Denk aan de ophef rondom de zogeheten sleepnet-wet, die diensten meer bevoegdheden geeft. Nederland werd dit jaar het eerste land ter wereld dat landelijk een systeem invoerde voor predictive policing: een techniek om met hulp van data over criminelen en criminaliteit misdaad te voorspellen. Gezichtsherkenning en andere biometrische technieken worden hier al veel langer door overheden gebruikt. Dat gebeurt hier wel met sterkere juridische waarborgen dan in China.

Groeiende dreiging terrorisme

„De steeds geavanceerder surveillance komt in China mede vanwege de groeiende dreiging van terrorisme door separatisten”, zegt Creemers. „Het is een land waar het belang van het collectief wel vaker voorrang heeft boven individuele rechten.”

Hij ziet bovendien een groot verschil tussen de Sesame Credits en technieken zoals de automatische stemherkenning. „Je moet je bedenken dat de Chinese staat nu veel minder van burgers weet dan veel westerse overheden.” Je hebt er geen functionerende basisadministratie zoals hier. „Sesame Credits lijken eerder ontworpen als Chinese versie van een bevolkingsregistratie om mensen in kaart te brengen dan als een soort dystopische Big Brother.”

Wel ziet Creemers risico’s in het koppelen van databanken, en het vermengen van de dataverzameling door grote techbedrijven als Alibaba en Tencent met de datahonger van de staat.

Dat is ook precies waar HRW bang voor is. „Technologiebedrijven hebben ook een verantwoordelijkheid om zeker te stellen dat hun producten niet worden gebruikt voor mensenrechtenschendingen.” Overigens heeft Human Rights Watch zich in het verleden ook zeer kritisch uitgelaten over de massasurveillance van de Amerikaanse geheime dienst NSA. Privacyschendingen zijn bepaald niet een uniek Chinees probleem.