Column

De vuilnismannen van Facebook

Marc Hijink

Het is een hardnekkig misverstand dat de techindustrie draait op software-ontwerpers en wetenschappers. Facebook en YouTube zouden nergens zijn zonder moderatoren: duizenden mensen die dag in dag uit beroepsmatig kijken naar onthoofdingen, verkrachtingen en kinderporno zodat wij het niet hoeven te doen. 

Toch ligt Facebook onder vuur omdat het gruwelijke video’s niet snel genoeg verwijdert. De oogst van april: een man uit Cleveland deelde een video van een moordpartij en een Thaise vader liet op Facebook zien hoe hij zijn 11 maanden oude baby vermoordde. Oprichter Mark Zuckerberg belooft daarom 3.000 extra mensen aan te nemen om zulke troep sneller weg te halen. Een forse uitbreiding; er werken op dit moment 4.500 van zulke moderatoren bij Facebook.

Wie zijn deze vuilnismannen- en vrouwen? Het is onduidelijk of de moderatoren volwaardige personeelsleden worden (nu telt Facebook 19.000 werknemers) of dat dit onaangename klusje wordt uitbesteed aan gespecialiseerde bedrijfjes.

Google kiest voor de laatste optie: het huurt tienduizend mensen in die voor 16 euro per uur onder meer aanstootgevende YouTube-video’s filteren. Het scheiden van onlineafval wordt ook uitbesteed naar lagelonenlanden als India en de Filippijnen. Daar ‘doen’ ze vooral porno en geweld, om haatzaaierij en nepnieuws te beoordelen is meer kennis van de lokale taal en cultuur nodig.

Veilige omgeving

Zuckerberg schrijft dat Facebook een veilige omgeving wil zijn „voor de gemeenschap”. Lees: een veilige omgeving voor adverteerders. Facebook wil, net als YouTube, meer video-advertenties verkopen. Daarvoor zijn kwaliteitsprogramma’s nodig, geen aanstootgevend materiaal.

Om advertentie-omzet bij traditionele tv-netwerken weg te kapen moet het niveau omhoog en de uitzendingen langer worden. YouTube kondigt een reeks eigen programma’s aan van onder anderen Ellen Degeneres en Katy Perry, Facebook komt deze maand naar verwachting met eigen premium content, Twitter begint een onlinezender met Bloomberg.

In deze oogballenoorlog nemen sociale netwerken het op tegen de betaalde videodiensten van Amazon, Netflix en Apple, dat vanaf dit najaar eigen programma’s gaat aanbieden. De grote Amerikaanse techbedrijven zijn niet alleen doorgeefluik, ze transformeren tot entertainmentreuzen en krijgen verantwoordelijkheden die passen bij de traditionele mediasector, zoals openheid en aansprakelijkheid.

We tolereren nog vaak missers van de techsector, omdat fouten maken bij De Vooruitgang hoort. Laagdrempelig moet het zijn, en makkelijk schaalbaar. Het is de cultus van hacken en patchen: eerst iets stukmaken, daarna kijken of het beter kan. Ondertussen halen waanzinnigen het wereldnieuws met één druk op de opname-knop.

De groeiende inzet van moderatoren bewijst dat de techniek fundamenteel tekortschiet en dat frictionless sharing – Facebooks ‘delen zonder drempels’ – een idée fixe blijft. Kunstmatige intelligentie is nog lang niet in staat om zieke geesten te weren. Dat is mensenwerk. Ook met 3.000 extra rekruten is Zuckerbergs leger vuilnismannen en -vrouwen niet groot genoeg om de bagger van 2 miljard gebruikers op te ruimen. Het lijkt een groots gebaar, maar het is niet meer dan een eerste stapje.

Ik ben benieuwd wat de maand mei aan moordvideo’s oplevert.