Sociale media willen extremistische propaganda tegengaan – maar hoe?

Vier vragen over oproepen tot terreur

Technologiebedrijven gaan samenwerken om de verspreiding van gewelddadige beelden tegen te gaan. Werkt dat?

Volgens de Europese Commissie wordt nu slechts 40 procent van het haatdragend materiaal binnen 24 uur verwijderd.

Vier grote Amerikaanse technologiebedrijven presenteren samen een opmerkelijk plan om de verspreiding van extremistische propaganda en gewelddadige beelden tegen te gaan. Facebook, Microsoft, Twitter en YouTube maakten maandag bekend dat ze elkaar gaan tippen als ze oproepen tot terreur verwijderen op hun netwerk. Ze gebruiken een techniek die gebruikt wordt om bijvoorbeeld illegale kopieën of kinderporno op te sporen.

Met name sociale netwerken liggen regelmatig onder vuur omdat ze onvoldoende maatregelen zouden nemen om onlinerekrutering en -radicalisering tegen te gaan. Maandag uitte de Europese Commissie scherpe kritiek op de techbedrijven, die volgens de verantwoordelijke eurocommissaris Vera Jourová te weinig zouden doen om haatzaaien tegen te gaan. In de VS worden Facebook en Twitter door de FBI opgeroepen om strengere maatregelen te nemen tegen het kweken van ‘homegrown jihadists’.

1 Hoe werkt het?

De vier bedrijven hebben een gemeenschappelijke verzamelplek waar ze de digitale vingerafdruk (‘hash’) bewaren van berichten, video’s en foto’s die als terroristische propaganda beschouwd worden.

Het is een identificatiemiddel, een versleuteld bestand met daarin de eigenschappen van de informatie (meestal foto’s of video’s). YouTube gebruikt een soortgelijke manier om te controleren of video’s die gebruikers uploaden niet een kopie zijn van een bestaand bestand. Microsoft gebruikt zo’n methode om kinderporno te detecteren. Microsoft is eigenaar van Skype en binnenkort ook van sociaal netwerk LinkedIn.

2 Verdwijnt een video met één druk op de knop op alle netwerken?

Een als ‘terreuroproep’ gebrandmerkte film of foto verdwijnt niet automatisch op alle netwerken tegelijk: elke partij kan met de vingerafdruk kijken of soortgelijke video’s ook bij de eigen dienst terug te vinden zijn. Dan kunnen ze vervolgens zelf bepalen of een video de voorwaarden overschrijft. Facebook houdt er de strengste voorwaarden op na als het gaat om het filteren van aanstootgevend materiaal, Twitter en YouTube zijn doorgaans ruimdenkender.

3 Om welke informatie gaat het?

Het gaat in eerste instantie om de meest gewelddadige video’s, zoals onthoofdingen – die hoogstwaarschijnlijk op elk van de vier netwerken geweerd zullen worden. Er wordt geen persoonlijke informatie gedeeld over de personen die de gewraakte beelden online hebben gezet.

4 Gaat het helpen?

Dit soort samenwerkingen zullen wel enigszins effect hebben, maar ze hebben een beperkt bereik. Extreem geweld wordt nu al geweerd – met behulp van mensen en software. Het is moeilijk om meer subtiele of verborgen propaganda te weren.

In mei tekenden de bedrijven nog een gedragscode met de EU, waarin ze beloofden opruiende haatberichten binnen 24 uur te verwijderen. Volgens een onderzoek van de Commissie gebeurt dat echter slechts met 40 procent van het haatdragend materiaal. De Commissie dreigde maandag met nieuwe wetgeving als de bedrijven zich niet meer zouden inspannen.

Zelfs al wordt verspreiding via de grote sociale netwerken beteugeld, dan nog zijn er andere manieren om informatie te delen, zoals in besloten groepen van chatdiensten.

Technologiebedrijven zien zich doorgaans als doorgeefluik en zijn huiverig om zich met de inhoud van gebruikers te bemoeien. Dat is tijdrovend en mensenwerk. Er wordt wel gefilterd op kinderporno en geweld, maar zodra de inhoud complexer wordt is filteren en verwijderen lastig. Zo worstelen Facebook en Google met de verspreiding van nepnieuws, dat niet altijd eenvoudig is te herkennen.