Blinde vlek voor radicaliseringsmachine

Een dag voor de aanslag in de Amerikaanse grensstad El Paso, waarbij 22 mensen het leven verloren, lekte een intern document van de FBI uit. De dienst stelde dat „door samenzweringstheorie gedreven binnenlandse extremisten” een groeiende binnenlandse terroristische bedreiging zijn. De FBI verwacht dat in de aanloop naar de presidentsverkiezingen van 2020 de „intensiteit” van complottheorieën zal toenemen en vreest dat meer mensen gemotiveerd worden om geweld te gebruiken. De FBI onderkent dat complottheorieën zich sneller verspreiden door internet en sociale media, maar de dienst heeft duidelijk een blinde vlek voor de polariserende krachten van het internet als radicaliseringsmachine. Zolang de FBI het internet als neutrale katalysator van communicatie blijft beschouwen, zullen radicalisering en geweld niet stoppen.

Volgens de FBI kunnen de complottheorieën in drie categorieën worden onderverdeeld. Allereerst is er een categorie die ‘anti-overheid’ is. Samenzweerders geloven dat er een internationale elite is, een Nieuwe Wereld Orde (NWO), die achter de schermen aan de touwtjes trekt. Zo zouden de Verenigde Naties een internationaal complot zijn om de Amerikaanse soevereiniteit aan te tasten. De tweede categorie bestaat uit „op identiteit gebaseerde” complottheorieën. Joodse agenten zouden in het geheim Westerse landen controleren, en er zou een gemeenschap van radicale moslims zijn die wachten op een teken om in actie te komen. Tot slot is er nog de categorie „buitengewone politiek”. Hieronder valt bijvoorbeeld de ‘Pizzagate complottheorie’ – het idee dat Hillary Clinton aan het hoofd staat van een pedofielennetwerk dat in de kelder van een pizzarestaurant in Washington opereert. Ook de ‘Qanon samenzweringstheorie’ valt onder deze categorie. De Qanon stelt dat de president een trekpop is van de deep state, een geheim verbond van machtige mannen die het land achter de schermen in een bestuurlijke greep houden.

Politiek incorrecte internetplatforms als 8chan en Gab, maar ook ‘neutrale’ platformen als Facebook, Twitter, WhatsApp en YouTube dragen sterk bij aan de virale verspreiding van allerlei complottheorieën. Middels een eigen beeld- en taalcultuur wordt een realiteit gecreëerd waar anoniem keiharde grappen gemaakt worden over Joden, moslims, mensen van kleur of vrouwen. Aanhangers van een complottheorie kunnen door informatie op deze platforms toe te voegen de complotten sterker maken of wendingen geven. Zo ontstaat een mengelmoes van grappig bedoelde memes, extreem-rechtse en nationaal-populistische ideeën, en doelbewust verspreidde desinformatie. Dat heeft serieuze gevolgen. Online manifesten veranderen van verklaringen in handleidingen voor gerichte acties. Geweld gaat viraal en wordt een meme.

Lees ook: El Paso bewijst weer dat de ‘eenzame wolf’ allang niet meer zo eenzaam is

Hoe ver de gitzwarte humor gaat, werd pijnlijk duidelijk na de aanslag in El Paso. Gebruikers van 8chan deelden onderling een Google-spreadsheet waarin aanslagen met scores in ranglijsten werden bijgehouden: datum, locatie en het aantal doden. Anders Breivik en Brenton Tarrant, die op 8chan worden aangeduid als ‘martelaren’, voeren de lijst aan. Onderzoekscollectief Bellingcat noemt het de ‘gamificatie’ van massaal geweld en terrorisme, onder meer omdat aanslagen ‘high scores’ krijgen op basis van het aantal doden. Bovendien heeft de manier waarop de aanslagen gepromoot worden, iets weg van een online game. De dader van de aanslag in Christchurch had bijvoorbeeld een camera op zijn helm gemonteerd en zond de beelden van zijn schietpartij live uit via Facebook. Voor de kijker leek het alsof hij deelnam aan een First Person Shooter videospel. Het was een uiterst bewuste keuze om een zo groot mogelijk publiek te bereiken. De dader slaagde erin een groot publiek te bereiken: in de eerste 24 uur na de aanslag verwijderde Facebook wereldwijd 1,5 miljoen video’s van de aanval.

Sociale media zijn zeer effectieve radicaliseringsmachines. De aanbevelingsmechanismen op de fora zijn niet geïnteresseerd in wat waar is, of in wat gezond is voor de democratie. Ze willen louter zo lang mogelijk de aandacht van de gebruiker vasthouden, daar wordt immers mee ‘betaald’. Sociale media zijn geoptimaliseerd om emoties als woede, angst en opwinding te stimuleren. Door in te spelen op dit type emoties wordt er meer gedeeld en geliked dan door in te haken op weinig opzienbarende, rustige berichten. Er wordt dus ingespeeld op emotie, met polarisatie tot gevolg. Spijtoptanten zijn er in de technologiesector genoeg.

Lees ook: 8chan: toevluchtsoord voor extremisten

Guillaume Chaslot, een van de bedenkers van YouTube’s aanbevelingsalgoritme, voert nu actie tegen zijn eigen creatie omdat hij zich zorgen maakt dat de aanbevelingen mensen tot extremen aanzet. Chris Wetherell, een van de oprichters van Twitter, heeft openlijk spijt van de mogelijkheid om tweets te retweeten: „We hebben daarmee een 4-jarige een geladen wapen in handen geven”, zei hij in een interview met Buzzfeed.. Ook Mark Zuckerberg, CEO van Facebook, gaf eerder aan dat de „dictatuur van de likes” moet veranderen. De FBI waarschuwt dus voor meer geweld in aanloop naar de verkiezingen. De focus ligt bij hen op het verspreiden van complottheorieën en niet op het radicaliserende mechanisme dat ten grondslag ligt aan het geweld. Juist nu hier een groeiende consensus over is, van de oprichters van het internet tot academici, moeten er concrete maatregelen volgen. Dit vereist meer inmenging van overheden en een accuratere analyse van veiligheidsdiensten. Bovendien is harder ingrijpen vanuit de FBI broodnodig. De vervolgstap ligt dan voor de hand. Terwijl de FBI nu enkel content reguleert, waardoor je bijvoorbeeld geen naaktfoto’s kunt delen, moet het ook ingrijpen op de architectuur van de platforms. De polariserende trucs moeten ontmanteld om doorgeslagen discussies te deradicaliseren.