Opinie

    • Marc Hijink

Facebook Live is blind voor geweld

‘De gouden tijd van online video gaat nu beginnen.’ Om grote woorden zat Mark Zuckerberg niet verlegen toen hij in 2016 Facebook Live introduceerde, het videonetwerk waarop gebruikers rechtstreeks beelden kunnen delen met 2,3 miljard andere Facebook-leden. Elke telefoon een tv-zender. Laat vrienden meekijken naar een toneeluitvoering of de hockeywedstrijd van je dochter. „Een leuke, krachtige manier om nieuwe volgers te krijgen.”

Maar Facebook Live was ook het middel dat de dader van de schietpartij in twee moskeeën in Christchurch gebruikte om zijn daden wereldkundig te maken. Zeventien minuten lang kon hij rechtstreeks en ongestoord de beelden van zijn GoPro-camera verspreiden. Dat deze uitzending gestopt werd was niet te danken aan Facebooks eigen filters, maar aan een waarschuwing van de politie.

Alle aanwijzingen om groot alarm te slaan. Toch deed Facebook zeventien minuten lang niets

Hoe kon Facebook deze video zolang ongemoeid laten? Website Motherboard publiceerde afgelopen week uit interne richtlijnen voor Facebook Live-moderatoren. Dat zijn de duizenden mensen die Facebook inhuurt om live gestreamde ellende te filteren zodat wij het niet hoeven te zien. De moderatoren worden onder meer geacht te letten op „signalen van menselijke wanhoop, zoals huilen, bidden en smeken.”

De video van Christchurch voldeed aan alle aanwijzingen om groot alarm te slaan: wapens, schoten, geschreeuw, een aankondiging van de daad. Toch deed Facebook zeventien minuten lang niets.

Een live uitgezonden massamoord is het dieptepunt in een lange reeks incidenten, van zelfdodingen tot misdrijven, die gestreamd werden via Facebook Live.

Een genadeloze kopieermachine

Eenmaal online, zijn zulke bestanden onuitroeibaar. Het web is een genadeloze kopieermachine: horrorvideo’s blijven circuleren en vinden telkens opnieuw een podium. Wie dacht dat we onze fascinatie voor gruwelijkheden in de Middeleeuwen hadden afgezworen, vergist zich. Sociale media halen de barbaarsheid moeiteloos naar boven.

Volgens Facebook werd de aanslag Christchurch in 24 uur tijd minstens 1,5 miljoen keer opnieuw geüpload. In 1,2 miljoen gevallen werd de video meteen geblokkeerd. Dat betekent dat 300.000 uploads toch in eerste instantie de filters passeerden, zelfs al waren de beelden al bij Facebook bekend.

Sociale netwerken steken veel geld en tijd in het bestrijden van aanstootgevend en auteursrechtelijk beschermd materiaal. Maar geweld is moeilijker te weren. Zolang algoritmes het laten afweten, ziet Facebook Live Video geen onderscheid tussen een toneelstuk en een terreurdaad. Daarom leunt het moderatiesysteem op waarschuwingen van anderen. Maar dan is het kwaad al geschied.

Facebook verwijdert inmiddels ook bewerkte versies van de Christchurch-video waaruit gewelddadige fragmenten zijn weggeknipt – „uit respect voor alle betrokkenen.” Het zou van meer respect getuigen als Facebook zijn Live-dienst op pauze zet, zolang extreme gewelddadigheden moeiteloos door de mazen van het web glippen. Zuckerbergs ‘gouden tijd van online video’ is voorbij voordat ie ooit begon.

Marc Hijink is redacteur technologie.

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.