Zo werkt de geheime dienst van Facebook

Op Facebook worden de huisregels gehandhaafd door een klein leger werknemers. Hoe werkt dat precies?

Het was „de lange arm van Ankara”. Toen Facebook onlangs een spotprent van cartoonist Ruben Oppenheimer over de Turkse president Erdogan verwijderde, werd die conclusie snel getrokken. Een paar dagen later schrapte het sociale netwerk nóg een satirische Erdogan-afbeelding van Oppenheimers Facebookpagina en werd ook een anti-Erdogan-gedicht van columnist Annabel Nanninga naar de digitale prullenbak verwezen. Een rel was geboren.

Vijf vragen over het beleid van de Facebookpolitie.

1. Wie zat erachter?

We kunnen veilig concluderen dat Erdogan noch de Turkse overheid Facebook onder druk heeft gezet om de satirische berichten te verwijderen. Waarschijnlijk hebben Nederlandse gebruikers geklaagd over de berichten, die vervolgens werden beoordeeld en verwijderd door een moderator. Moderatoren zijn als het ware de politieagenten van Facebook: een klein leger werknemers – niemand weet hoeveel het er zijn – dat de huisregels van het sociale netwerk handhaaft.

De moderatoren bekijken in principe alleen berichten die door gebruikers worden gerapporteerd. Daarom blijven racistische teksten bijvoorbeeld vaak staan op Facebook, ook al zijn ze tegen de richtlijnen. Wat niet wordt aangegeven, wordt ook niet geblokkeerd. Aangezien Nanninga en Oppenheimer een overwegend Nederlands publiek hebben, kwamen de klachten waarschijnlijk uit die hoek.

Voor zover bekend gebruikt Facebook geen moderatiesoftware die gewelddadige video’s, naaktfoto’s of scheldpartijen automatisch herkent.

2. Waarom werden de berichten verwijderd?

Nanninga’s gedicht bevat volgens Facebook racistische teksten. De verwijdering van één cartoon van Oppenheimer werd ongedaan gemaakt: foutje, aldus Facebook. De andere afbeelding zou als haatdragend zijn aangemerkt, en blijft geschrapt van het netwerk.

Het maakt niets uit of iets eenmalig of honderd keer is gerapporteerd: Facebook verwijdert alleen materiaal dat tegen de richtlijnen in gaat. Dat klinkt eenvoudiger dan het is. Zo moeten moderatoren het onderscheid kunnen maken tussen haatdragend taalgebruik (verboden) en satire (toegestaan). Vermoedelijk ging dat mis bij de eerste cartoon van Oppenheimer, waarop Erdogan seks heeft met een Twittervogel: die werd geblokkeerd tot een moderator besloot dat het toch om satire ging. We zullen het nooit precies weten: Facebook doet geen uitspraken over individuele gevallen.

3. Waarom is Facebook zo streng?

De rel legt een pijnlijk probleem voor Facebook bloot: haar moraal is vaak strenger dan die van haar gebruikers. Het gedicht van Nanninga werd immers uitgezonden op de publieke omroep en landelijke nieuwssites plaatsten Oppenheimers cartoons ongecensureerd door. Waarom speelt Facebook voor moraalridder, vroegen mensen zich verontwaardigd af.

De regels zijn zo streng, zegt Facebook, omdat 1,6 miljard mensen van verschillende leeftijden en culturen gebruikmaken van het netwerk. En die moeten er allemaal prettig op kunnen rondstruinen. Facebook accepteert, met andere woorden, dat een Zweed die van internetporno houdt het netwerk niet voor zijn hobby kan gebruiken, ter wille van een Saoediër die aanstoot neemt aan seksfilmpjes in zijn timeline. De Facebookmoraal is een moraal waar de hele wereld mee moet kunnen leven.

Meer lezen over tech en media? Volg ons op Twitter: @NRCTechMedia 

4. Wie zijn dat eigenlijk, die moderatoren?

Dat is een van de best bewaarde geheimen van het internet. Facebook en andere internetdiensten schermen hun online ordebewakers extreem goed af. We weten niet eens waar ze precies werken. Eigenlijk lijkt de politiemacht van Facebook meer op een geheime dienst. Moderatoren ondertekenen een geheimhoudingsverklaring en mogen zelden tot nooit geïnterviewd worden door de pers.

Die geheimzinnigheid is voor hun eigen bestwil, zeggen de internetdiensten. Raakt hun identiteit bekend, dan kunnen ze worden lastiggevallen door geblokkeerde of verontwaardigde gebruikers. Maar volgens Sarah Roberts, een wetenschapper die zich bezighoudt met de huisregels van het internet, hebben de diensten ook een andere reden voor die geheimzinnigheid: ze houden graag de illusie in stand dat u naar een ongecensureerde versie van het internet kijkt.

Niets is minder waar. Volgens schattingen zorgen ruim honderdduizend moderatoren er dagelijks voor dat een bezoek aan Facebook, Instagram, Twitter, YouTube, et cetera verschoond blijft van de meest duistere uitingen van de menselijke natuur: onthoofdingsvideo’s, verkrachtingen, kinderporno.

Dag in dag uit naar die horror kijken is loodzwaar, blijkt uit een sporadisch interview met een uit de school geklapte moderator. Tegen technologietijdschrift Wired vertelde een Filippijnse YouYube-moderator dat de meeste werknemers na drie tot vijf maanden tegen een muur aanlopen. „Je denkt, holy shit, waar besteed ik mijn dag aan? Dit is verschrikkelijk.”

Het werk van moderatoren wordt vaak, maar niet altijd in lage loonlanden uitgevoerd. Grote sociale netwerken als Facebook hebben ook Nederlandstalige moderatoren in dienst, die voldoende kennis hebben van de Nederlandse cultuur om publieke figuren van individuen te kunnen onderscheiden en satire van haat.

5. Mag Facebook zomaar de vrijheid van meningsuiting inperken?

Juridisch gezien mag Facebook zelf bepalen welk materiaal het toelaat. Maar, zeggen internetexperts, het netwerk heeft ook een publieke functie als journalistiek platform. Ruwweg eenderde van het internetverkeer van nieuwssites komt van Facebook. Dat betekent dat veel mensen hun mening baseren op wat ze op Facebook voorbij zien komen.

Dat spanningsveld werd goed zichtbaar bij de verkiezingsprotesten van 2009 in Iran. De veel gedeelde video waarop filosofiestudent Neda Agha-Soltan wordt doodgeschoten, was volgens de toen geldende richtlijnen niet toegestaan. Facebook liet hem staan en maakte voortaan een uitzondering voor nieuwswaardige beelden. Maar wat nieuwswaardig is, bepaalt Facebook zelf.

Wat gebeurt er als je iets bij Facebook rapporteert? Bekijk het schema (klikken of inzoomen voor vergroting).
fb