Techbedrijven werken samen tegen extremistisch materiaal

Via een digitale vingerafdruk moet materiaal dat terrorisme promoot, automatisch herkend en verwijderd worden.

Foto: Leon Neal / AFP

Facebook, Microsoft, Google en Twitter slaan de handen ineen in de strijd tegen de online verspreiding van terroristische propaganda. Op maandag kondigden de technologiebedrijven een nieuw programma aan. Via zogenaamde ‘hashes’, volgens de bedrijven zelf een soort digitale vingerafdrukken, moet foto- of videomateriaal dat terrorisme promoot automatisch herkend en verwijderd worden.

Nadat één van de bedrijven extremistisch materiaal heeft gesignaleerd en verwijderd, kunnen andere met behulp van de hash het materiaal eveneens snel signaleren en verwijderen. Voorbeelden zijn onthoofdingsvideo’s, rekruteringsfilmpjes of opruiende memes. De bedrijven benadrukken volgens de Financial Times dat de nieuwe database niet werkt als een automatische censor, maar dat het materiaal nog altijd door mensen wordt beoordeeld.

Twitter avatar marchijinkNRC marc hijink @nrc Blijkbaar is het makkelijker terroristische oproepen in de kiem te smoren dan valse nieuwsberichten 2/2 https://t.co/msf8IfxMQN

Eerder werd vergelijkbare technologie door Microsoft ontwikkeld om kinderporno te detecteren en verwijderen. Verschil is dit keer dat die technologie zich richtte op expliciet juridisch strafbaar materiaal, omdat het verspreiden van kinderporno illegaal is. De techbedrijven hebben echter verschillende opvattingen over wat als onacceptabel extremistisch materiaal wordt beschouwd en wat geldt als vrijheid van meningsuiting. Voorlopig valt alleen het meest extreme materiaal daarom onder het samenwerkingsprogramma, aldus een woordvoerder van Facebook tegen persbureau AP. Het nieuwe project wordt donderdag gepresenteerd op het EU Internet Forum om begin 2017 in werking te treden.

Kritiek

De technologiebedrijven kwamen de afgelopen tijd regelmatig onder vuur te liggen omdat ze onvoldoende maatregelen zouden nemen om online rekrutering en radicalisering tegen te gaan. Maandag uitte de Europese Commissie scherpe kritiek op de techbedrijven, die volgens de verantwoordelijke eurocommissaris Vera Jourová te weinig zouden doen om haatzaaien tegen te gaan.

In mei tekenden de bedrijven een gedragscode met Brussel, waarin ze beloofden hate speech binnen 24 uur te verwijderen. Volgens een onderzoek van de Commissie gebeurt dat echter slechts met 40 procent van het haatdragend materiaal. De Commissie dreigde maandag met nieuwe wetgeving als de bedrijven zich niet meer zouden inspannen.

Het nieuwe programma is op deze kritiek geen directe reactie, aldus de techbedrijven tegen de Financial Times, maar was al langer in de maak. In een reactie prees het Witte Huis het nieuwe samenwerkingsverbond. “We geloven dat de innovatieve private sector een unieke positie heeft in het tegengaan van rekrutering en radicalisering online”, aldus een woordvoerder van de National Security Council.