In Manilla vindt veel moderatie-werk plaats voor Facebook.

‘Facebook verdient aan haat en woede’

Hans Block De schaduwkanten van sociale media als Facebook vallen niet meer te ontkennen. Dat blijkt opnieuw uit documentaire ‘The Cleaners’. Maar de stekker eruit trekken is volgens regisseur Hans Block ook geen optie.

Negeren of verwijderen? Tot 25.000 keer per dag stellen de vijf Filippijnse ‘content moderators’ die worden gevolgd in documentaire The Cleaners zichzelf die vraag. Ze werken voor online platforms als Facebook, Twitter of Google en krijgen het ene na het andere geüploade filmpje of beeld op hun scherm; van onthoofdingen in Syrië tot de spotprent van de Nederlandse cartoonist Ruben L. Oppenheimer. In die laatste is de Turkse president Erdogan te zien die het Twittervogeltje penetreert, onderschrift: „Erdogan is NOT a goatfucker”. Negeren of verwijderen?

De Duitse regisseur Hans Block deed samen met Moritz Riesewieck drie jaar lang onderzoek naar wat online blijft en wie daarover beslist. Block: „Op een gegeven moment hoorden we een content moderator in Manilla over de prent van Oppenheimer zeggen: ‘Het is een tekening van een oude man die seks heeft met een vogel’. Hij had geen idee wie de man op de tekening was, noch dat de vogel het logo van Twitter is. Hij noemde de afbeelding een voorbeeld van ‘bestialiteit’ en dat is verboden op het platform waarvoor hij werkt.” Hij verwijderde de cartoon.

Dat is treffend, vindt Block. Platfoms als Facebook en Twitter doen volgens hem alsof er ‘objectieve’ standaarden zijn om te bepalen wat wordt verwijderd. „Dat uitgangspunt lijkt op de grondwet van een staat, maar eigenlijk weten wij als gebruikers helemaal niet wat die grondwet is, noch wie de regels en richtlijnen handhaven.”

Meer diversiteit in de achtergrond van de moderatoren is volgens Block belangrijk; gebrek aan kennis en specifieke religieuze en politieke opvattingen spelen een rol. „In de Filippijnen geef je bijvoorbeeld geen commentaar op de president.”

Omdat deze ‘schoonmakers’ door bedrijven als Google en Facebook worden ingehuurd via outsourcing-bedrijven is het zeer moeilijk om te achterhalen met hoeveel ze zijn en waar ze zich bevinden. Volgens Block zijn er kantoren in steden als Berlijn, maar vindt het overgrote deel van het moderatiewerk plaats in de Filippijnse hoofdstad Manilla. Waarom daar? Block: „Verschillende redenen. Zo halen lokale outsourcebedrijven zelf buitenlandse opdrachtgevers binnen met de claim dat de lokale bevolking goed op de hoogte is van westerse denkwijzen.” Volgens de regisseur is er nog een andere reden: „Het merendeel van de Filippijnse bevolking is zeer gelovig en binnen hun religieuze beleving speelt het idee dat ‘schoon’ zijn een teken is van spirituele puurheid en goedheid. Veel werknemers zien het ‘schoonhouden’ van internet bijna als een religieuze missie, je moet de wereld bevrijden van ‘zonden’. Ze zijn dus zeer accuraat bij het verwijderen van berichten. Daar zit natuurlijk een bedenkelijke kant aan.”

Block ziet parallellen met de politieke situatie in de Filippijnen waar problemen zoals drugsverslaving door de president, Duterte, niet worden opgelost maar met harde hand ‘verwijderd’.

The Cleaners toont behalve talloze wantoestanden door het uitbesteden van moderatiewerk in lageloonlanden ook andere zaken aan waar veel gebruikers van sociale media zich niet van bewust zijn. Zo horen we een voormalig beleidsmedewerker van Google en Twitter, Nicole A. Wong, vertellen over een deal die ze sloot met de Turkse regering; bepaalde beelden en filmpjes kunnen nu binnen Turkije zelf niet meer worden gedeeld. Block: „Het moeilijke is dat we niet exact weten wat wordt geblokkeerd in Turkije. Dit zijn deals die in achterkamertjes worden gesloten.”

In het tweede deel van de documentaire ligt de focus minder op wat er offline wordt gehaald, maar op wat er online blijft staan. Block vertelt dat hij zelf nog meer geschrokken is van de effecten daarvan. Zo zien we in de film de rol die Facebook speelt in de opleving van haat tegen de Rohingya in Myanmar. „Mark Zuckerberg claimt altijd dat andere mensen die het platform gebruiken verantwoordelijk zijn voor het verspreiden van haat en fake news.” Dat is volgens Block niet het volledige verhaal: „Facebook is zo gebouwd dat het extreme berichten en beelden stimuleert. Hoe extremer je post, hoe meer clicks en views je genereert.” Als een bericht veel aandacht krijgt, levert dat meer geld op via advertenties. Block: „Het businessmodel van deze bedrijven stimuleert dus haat en woede.” Volgens Block is het niet alleen belangrijk dat de kwaliteit van de content moderators omhooggaat, maar ook dat er iets verandert aan de structuur van een voorziening zoals Facebook. „Zodat er een duidelijker onderscheid is tussen opinies en nieuws en zodat meer complexe informatie een betere kans krijgt.”

Zit hij zelf nog op Facebook? „Ja. Het zou te gemakkelijk zijn om het platform simpelweg te verlaten. Discussies en debatten in de digitale wereld vinden plaats op Facebook. Ik wil deze gesprekken niet de rug toekeren; ik ben geen cultuurpessimist die in een hutje in het bos wil gaan zitten. We moeten deze platforms gebruiken om een luide discussie te hebben over wat er misgaat op dit moment.”