‘We stevenen af op een informatie-apocalyps’

Dossier nepnieuws: interview Aviv Ovadya Door nieuwe technieken wordt het steeds moeilijker om echt van niet echt te onderscheiden, waarschuwt onderzoeker Aviv Ovadya. Met grote gevolgen voor onze democratie.

Illustratie Lynne Brouwer

We staan op een keerpunt, volgens nepnieuwsonderzoeker Aviv Ovadya. „Het is alsof we rijden op een weg waar steeds minder lantaarnpalen staan”, zegt hij aan de telefoon vanuit de VS. „Het gaat straks zo donker worden dat we niet meer kunnen rijden. We kunnen een punt bereiken dat we als samenleving niet meer kunnen functioneren. We moeten voorkomen dat we onder dat punt komen. Het wordt snel donkerder, en tegelijkertijd wordt de weg kronkeliger, en we rijden steeds sneller.”

Aviv Ovadya is geen grote optimist over hoe de informatiestroom die op mensen afkomt zich de komende jaren gaat ontwikkelen, dat moge duidelijk zijn. Hij werd bekend in de VS nadat hij ruim voor de presidentsverkiezingen van 2016 had voorspeld dat nepnieuws via sociale media die verkiezingen wel eens sterk zou kunnen beïnvloeden. Hij werkt als onderzoeker onder meer voor de University of Michigan en adviseert technologiebedrijven over de toekomst van nepnieuws. Zijn voornaamste zorg: „We staan aan de vooravond van een informatie-apocalyps. We gaan naar een situatie toe van totale informatie-wanorde.” Het wordt volgens Ovadya steeds moeilijker om te bepalen wat echt is en wat niet. „Dat ligt voor een deel aan de manier waarop informatie wordt gedistribueerd. Hoe informatie door een samenleving stroomt. Sociale media zoals Facebook, Youtube, Twitter, en op andere manieren ook Instagram en Pinterest, hebben de manieren waarop we communiceren veranderd, en dus de manier waarop desinformatie zich kan verspreiden. Dat is inmiddels wel bekend.”

Obama levensecht nabootsen

„Maar wat nieuw is, en wat veel gaat veranderen de komende tijd: we kunnen niet alleen informatie op heel nieuwe manieren verspreiden, maar ook de manier waarop we informatie creëren gaat radicaal veranderen.” Ovadya, en met hem ook andere experts, wijst al een tijd in diverse publicaties bezorgd naar nieuwe technieken om audio en video zeer vergaand te manipuleren. Met hulp van kunstmatige intelligentie zijn bijvoorbeeld video’s te maken waarmee menselijke mimiek en spraak precies zijn na te bootsen. Deze deepfakes verschijnen de laatste tijd bijvoorbeeld al op pornosites: dan lijkt het net alsof beroemdheden in die films spelen terwijl dat nep is. Diverse universiteiten publiceren de laatste tijd daarnaast deepfakes waarmee ze wereldleiders zoals Poetin en Obama levensecht nabootsen en kunnen laten zeggen wat ze maar willen. Dat kunnen grapjes zijn, maar natuurlijk ook opruiende, paniekzaaiende of politiek zeer gevoelige zaken.

„De productiekosten van beeld- en geluidsmanipulatie nemen enorm af”, zegt Ovadya. „Dit zorgt voor een nieuw domein van nepinformatie. We hebben nog niet gezien wat er allemaal mogelijk is, maar dat er actoren zijn die belang hebben bij het ondermijnen van het publieke debat moge duidelijk zijn. In 2016 ging het rond de Amerikaanse presidentsverkiezingen vooral mis aan de distributie-kant. Daar was eigenlijk nog geen innovatie aan de maak-kant. Wat er toen nieuw was, waren de aanbevelingsmachines van Facebook, de mechanismes voor gepersonaliseerde advertenties en nieuwsberichten, en kwaadaardige actoren die daarvan misbruik maakten. Maar wat we nu krijgen is dat we allerlei nieuwe dingen, video’s, nieuwsgebeurtenissen, kunnen creëren die volledig buiten de werkelijkheid liggen.”

„We waren in 2016 niet klaar voor de middelen die toen nieuw waren. Maar we zijn al helemaal niet klaar voor wat er straks gaat gebeuren met nepvideo en -audio van prominente mensen en gebeurtenissen.”

Twitter avatar metaviv Aviv Ovadya We are careening toward a future where the ability to distort reality shakes the foundations of democracy. Thanks @cwarzel for giving me the opportunity to highlight the challenges ahead of us.
https://t.co/BM3kv9ctb6

Sleutelrol bij techbedrijven

Waarschuwingen over deepfakes klinken nu al ruim een halfjaar, toch zijn er nog geen ingrijpende voorbeelden bekend, buiten experimenten van nieuwsorganisaties, universiteiten en porno. De videoredactie van NRC probeerde een deepfake te maken met voor iedereen te downloaden software, maar slaagde er niet in een overtuigend nepfilmpje te produceren. „Ze zijn inderdaad nog steeds best moeilijk om te maken. Maar het is wel mogelijk. En over een paar jaar is de software alweer veel beter. Kosten en gemak ontwikkelen zich snel.”

Een sleutelrol bij het voorkomen van de verspreiding van deepfakes, net als bij nepnieuws, ligt bij de technologiebedrijven die de platforms beheren: Twitter, Facebook, Google. Die bedrijven hebben de laatste maanden diverse acties aangekondigd tegen nepnieuws en desinformatie. Hoopvol? „Ja, ze beginnen een beetje verantwoordelijkheid te nemen”, zegt Ovadya. „Ze lossen bepaalde problemen een beetje op. Er is hoop dat het de goede kant op gaat. Maar er komt een hele nieuwe golf aan waarop ze nog helemaal niet zijn voorbereid. Wat overigens kan helpen in dit geval is dat het monopolisten zijn. Als dit kleine aantal bedrijven het goed aanpakt, kan het probleem effectiever aangepakt worden dan als er veel meer verschillende kanalen waren. Maar ze werken nu vooral aan oplossingen voor de distributiekant. We moeten ook naar oplossingen toe voor de productie van nepmateriaal. Hoe gaan de platforms nepvideo’s herkennen, opsporen en tegenhouden? Facebook werkt daar al wel aan, het loopt wat dat betreft voor op sommige andere techbedrijven.”

Bekijk ook onze video over deepfakes:

Wakker worden

Ovadya vraagt zich af of de urgentie bij de bedrijven, en in de samenleving wel echt gevoeld wordt. „Ik weet niet wat ervoor nodig is dat mensen wakker worden. Dat kan via een grote crisis gaan zoals bij de vorige presidentsverkiezingen, maar wat er ook kan gebeuren is death by a thousand cuts, dat het sluipenderwijs steeds erger wordt en de schade zich blijft opstapelen. Je weet straks niet meer zeker of wat je ziet, echt is. Je kunt niet meer vertrouwen dat een politicus echt de dingen zegt die jij ziet. Ik weet niet hoe de grote crisis eruit gaat zien die eruit voortvloeit. Maar als mensen niet meer kunnen vertrouwen op wat de werkelijkheid is, dan komen er grote problemen. Dan komen er steeds meer onwaarheden in het debat. We zien nu al hoe destructief dat is voor vertrouwen in de politiek en elkaar. Hoe ga je nog afspraken met elkaar maken als je niemand kunt vertrouwen, hoe komen internationale samenwerkingen dan nog tot stand? Of politieke afspraken binnen een land? Je krijgt een low trust-society.”

Uit de jaarlijkse onderzoeken van communicatiebedrijf Edelman blijkt dat vertrouwen in instituties zoals de politiek, de media en sinds kort ook de sociale media de laatste jaren al sterk afneemt. Dat belooft weinig goeds, vreest Ovadya.

„Wantrouwen is een basisingrediënt voor autoritaire samenlevingen. Voor een democratie heb je tenminste een minimaal niveau van onderling vertrouwen nodig. Een gezamenlijk begrip van wat waar is en wat niet is daarvoor cruciaal. We móeten boven die ondergrens blijven.”

    • Wouter van Noort