De strijd tegen de trollen verhardt

Desinformatie De verkiezingen in de VS zijn een vuurproef voor sociale media: kunnen zij het nepnieuws aan?

Facebook gaat de strijd aan tegen nepnieuws rond verkiezingen. Een speciaal team van medewerkers uit alle geledingen van het bedrijf zit samen in een ‘war room’ bij Facebook in Menlo Park, Californië. Foto EPA

Voor socialemediabedrijven als Facebook en Twitter zijn de midterms, de tussentijdse verkiezingen komende dinsdag in de VS, een vuurproef. De bedrijven werden twee jaar geleden, bij de presidentsverkiezingen, niet alleen overvallen door een lawine van politieke nepnieuwsverhalen, ook hadden ze niet door dat Russische internettrollen op hun platforms miljoenen Amerikanen bereikten met berichten ontworpen om tweespalt te zaaien en Donald Trump aan de overwinning te helpen. De grote vraag luidt nu: lukt het de bedrijven een herhaling van 2016 te voorkomen?

Vooral Facebook, eigenaar van de grootste sociale netwerken in de VS en daarbuiten, heeft sinds het debacle van 2016 de strijd tegen politieke desinformatie opgevoerd. Die strijd wordt sinds kort gecoördineerd vanuit een zenuwcentrum op het kantoor in Silicon Valley, ook wel de „War Room” genoemd. In de kamer tonen tv-schermen naast een Amerikaanse vlag data over viraal nieuws, spam, en pogingen tot stemonderdrukking. Veertig experts uit alle gelederen van het bedrijf nemen er beslissingen over desinformatiecampagnes tijdens verkiezingen, tot nu toe die in Brazilië en de midterms in de VS.

Lees ook: Het lukte een journalist van Brandpunt+ om op Facebook advertenties met nepnieuws in te plannen

„We controleren materiaal in meer dan 50 talen, 24 uur per dag, zeven dagen per week”, zegt een woordvoerder tegen NRC. Sinds 2016 is het bedrijf gaan samenwerken met factcheckers over de hele wereld die berichten op Facebook en Instagram controleren. Het aantal moderatoren dat toeziet op naleving van de huisregels en nepaccounts verwijdert is verhoogd naar 20.000. De advertentieregels zijn aangescherpt, zodat politieke adverteerders in een drietal landen zich nu moeten identificeren en hun locatie moeten laten verifiëren. Ook is het voor alle gebruikers mogelijk om alle advertenties van een pagina te bekijken, zodat ze kunnen controleren dat bijvoorbeeld politici niet tegenovergestelde beweringen doen. Bovendien blokkeert het bedrijf met behulp van kunstmatige intelligentie dagelijks miljoenen nepaccounts, zegt de woordvoerder. „98 procent van de nepaccounts wordt verwijderd voordat ze worden gerapporteerd door gebruikers.”

Nepnieuws minder snel viraal

En, helpt het? „Ja en nee”, zegt journalist en nepnieuwsonderzoeker Craig Silverman aan de telefoon vanuit de VS. „Volledig verzonnen nieuwsverhalen gaan tegenwoordig veel minder snel viraal. Dat komt echt door de ingrepen die sociale mediabedrijven hebben gedaan.” Maar terwijl de ene drakenkop tenminste deels lijkt te zijn afgehakt komt er alweer een ander voor in de plaats. „Complottheoriën zijn nu wijdverbreider dan ooit.”

Silverman werkt voor nieuwssite Buzzfeed News en is verantwoordelijk voor twee toonaangevende verhalen die vlak na de verkiezing van Trump de term ‘nepnieuws’ in het publieke bewustzijn lanceerden. Hij onthulde dat tijdens de verkiezingen Macedonische tieners duizenden dollars verdienden met nepverhalen over de kandidaten, en bracht in kaart hoe in aanloop naar de verkiezingen compleet uit de duim gezogen politiek nieuws méér werd gedeeld dan echt nieuws van betrouwbare bronnen.

Nepverhalen die toen populair waren, zoals ‘Paus steunt Trump’ en ‘Clinton heeft kanker’, zijn redelijk makkelijk op waarheid te controleren, zegt Silverman. „Dat geldt niet voor complexe, altijd veranderende complottheoriën, zoals QAnon.” Dat is een populaire, onnavolgbare theorie rond onder meer Donald Trump, die op het punt zou staan om een netwerk op te doeken van duizenden toppolitici en Hollywoodfiguren die zich zouden inlaten met corruptie en kindermisbruik.

„We hebben net een bizarre week van extremistisch geweld in de VS achter de rug”, zegt Silverman. „Een aanslag op een synagoge én bompakketten in de brievenbus van politici. Ik denk dat de Amerikaanse complot-cultuur daar medeschuldig aan is.” Zowel de dader van de aanslag op de synagoge als de verdachte die bompakketten naar mikpunten van extreem-rechts stuurde, waren fervente aanhangers van op sociale media rondgepompte samenzweringstheorieën.

Probleem van bots niet opgelost

Twitter loopt achter in de strijd tegen desinformatie, zegt Silverman. „Ze zijn niet goed in het tegengaan van haatberichten en er gaat nog veel mis bij de aanpak van gecoördineerde en geautomatiseerde acties, waarmee vaak nepverhalen worden verspreid.” Twitter heeft sinds de zomer miljoenen nepaccounts verwijderd. Maar daarmee is het probleem van bots, geautomatiseerde accounts, volgens Silverman nog niet opgelost. Volgens één studie nemen bots maar liefst 66 procent van alle tweets naar populaire websites voor hun rekening.

Er is ook goed nieuws. „De grote techbedrijven hebben zich de laatste twee jaar tenminste gerealiseerd dat ze in actie moeten komen, dat ze moeten investeren om het probleem aan te pakken.” Facebooktopman Mark Zuckerberg beweert dat het bedrijf zoveel geld uitgeeft aan het controleren van politieke advertenties dat ze er geen winst op maken.

Hoe groot het probleem van nepaccounts voor Facebook is werd in maart duidelijk toen het bedrijf bekend maakte in zes maanden tijd 1,3 miljard nepaccounts te hebben verwijderd. Een bijna onvoorstelbaar aantal, als je bedenkt dat maandelijks 2,2 miljard gebruikers actief zijn op het platform. Het ging, zo liet Facebook weten, in de meeste gevallen om nieuwe accounts die „enkele minuten na registratie” werden geblokkeerd. „De cijfers zijn in zekere zin misleidend”, zegt Silverman. „Ze laten namelijk niet zien wat Facebook mist.” Nog steeds schat het bedrijf, blijkt uit de resultaten over het tweede kwartaal van 2018, dat drie tot vier procent van de maandelijks actieve gebruikers nep zijn.

Dat er ondanks alle investeringen nog veel aan de aandacht van Facebook ontsnapt, bleek vorige week uit een onthulling van Vice News. Journalisten van de nieuwssite slaagden er in advertenties te kopen in naam van prominente politieke figuren, zoals vicepresident Mike Pence en de Democratische partijvoorzitter Tom Perez. Een exacte kopie van een advertentie waarmee Russische trollen in 2016 de publieke opinie probeerde te beïnvloeden, stond door de actie van Vice op Facebook met de tekst ‘betaald door Mike Pence’. Vice wist ook een advertentie op naam van „Islamitische Staat” goedgekeurd te krijgen.

Vice News adverteerde met Russisch propagandamateriaal onder de naam van Mike Pence. Beeld Vice

Silverman zucht. „Facebook is echt effectiever geworden in het bestrijden van nepverhalen en nepaccounts. Maar er is nog een hoop werk te verzetten.”

Niet alleen het nepnieuws, maar ook buitenlandse beïnvloedingscampagnes zijn sinds 2016 van gedaante veranderd. De trollen gaan geraffineerder te werk, zeggen experts, en zijn inmiddels afkomstig uit verschillende landen.

„De kans op een exacte herhaling van 2016 is klein”, zegt Kathleen Hall Jamieson aan de telefoon. De 71-jarige hoogleraar, verbonden aan de Universiteit van Pennsylvania, geldt als vooraanstaande onderzoeker op het gebied van politieke communicatie. In haar laatste boek, Cyberwar: How Russian Hackers and Trolls Helped Elect a President, analyseert ze Ruslands beïnvloedingscampagnes rond de verkiezingen van 2016.

Maatregelen om inmenging tegen te gaan, zoals een transparanter advertentiesysteem en strengere controle op politieke berichten, houden de trollen gedeeltelijk tegen, maar ze stimuleren ze ook om slimmer te worden, zegt Jamieson. Facebook rolde in juli een netwerk van 32 nepaccounts op die gelijkenis vertoonden met activiteiten van de beruchte Russische trollenfabriek Internet Research Agency (IRA). In augustus verwijderde het bedrijf nog eens 652 accounts, groepen en pagina’s die betrokken waren bij het verspreiden van politieke desinformatie. Het zou gaan om accounts die gecoördineerd werden door groepen gelinkt aan de Iraanse en de Russische staat.

Nathaniel Gleicher, Facebooks hoofd van cyberveiligheid, merkte bij de eerste actie op dat de trollen „gedisciplineerder” te werk gingen dan voorheen. Ze gebruiken VPN-verbindingen om hun ip-adressen te maskeren en zorgden er voor dat hun mobiele telefoons hun locatie niet konden verraden. Dat maakt het steeds moeilijker om ze aan te pakken.

Wat ziet Facebook over het hoofd?

Het roept de vraag op hoeveel activiteiten van buitenlandse trollen niet worden waargenomen. Jamieson: „We weten dat er momenteel activiteit is van Russische trollen in de VS, omdat de inlichtingendienst ons dat hebben verteld. De laatste aanklacht van speciaal aanklager Mueller, waarin hij een aan het IRA verbonden Russin aanklaagt vanwege bemoeienis met de midterms, bevestigt dat feit. Maar we weten niet in hoeverre alle activiteit is ontdekt. We kunnen redelijkerwijs aannemen dat er meer is dan we tot nu toe hebben gevonden, maar we weten niet hoeveel dat is.” De Russen zitten in ieder geval niet stil. Volgens de aanklacht van Mueller heeft het IRA, verantwoordelijk voor beïnvloedingscamapgnes over de hele wereld en gefinancierd door een vertrouweling van president Poetin, de eerste zes maanden van 2018 een verdubbeling van het budget gekregen.

Lees ook: VS klagen Russin aan voor bemoeienis met midterms

Bovendien zijn het niet meer alleen de Russen waar Amerikaanse inlichtingendiensten en sociale mediabedrijven zich zorgen om moeten maken. Facebook heeft inmiddels honderden accounts gesloten van Iraanse trollen die zich voordeden als Amerikanen en politieke onrust probeerden te zaaien. Deze zaterdag nog verwijderde het bedrijf 82 Iraanse neppagina’s en -accounts.

„Ik ga ervan uit dat staten over de hele wereld kwetsbaar zijn voor beïnvloedingcampagnes door andere landen en het een vergissing zou zijn om onze aandacht alleen op Rusland te richten”, zegt Jamieson. „Maar omdat we min of meer weten wat Rusland heeft gedaan, zouden we ons in ieder geval moeten afvragen hoe we dat in de komende verkiezingen kunnen voorkomen.”

Dat lukt alleen als alle instituties de strijd tegen de trollen aanbinden, zegt de hoogleraar. Niet alleen de sociale mediaplatforms, maar ook de traditionele media, de overheid en inlichtingendiensten.

Zo heeft het Pentagon „Russische spelers” die de midterms zouden willen beïnvloeden, gewaarschuwd dat hun activiteiten worden gevolgd, meldde The New York Times onlangs. Het ministerie van Defensie hoopt dat het vooruitzicht van meer sancties en bevroren tegoeden een afschrikwekkende werking heeft.

In de rol die media zouden moeten spelen heeft Jamieson het minst vertrouwen. „Nieuwsorganisaties hebben in 2016 flink uitgepakt met door Rusland gestolen materiaal, zoals de voor Clinton zeer schadelijke mails van haar campagnemanager Podesta. Ze konden op dat moment echter niet weten of de mails echt waren en identificeerden de data onvoldoende als door Russen gestolen materiaal, terwijl dat toen wel al duidelijk was. Daarmee deden ze het werk voor de Russen. Ik ben bang dat ze dat in de midterms, in het geval van een hack in de laatste dagen van de campagne, weer zullen doen.”

    • Reinier Kist