Google wil helpen om online discussies op te schonen

lezersreacties

Samen met Wikipedia en The New York Times bouwt Google software om ‘giftige’ lezersreacties te herkennen. Die moet discussiefora automatisch opschonen.

Perspective van Google.

Elfduizend reacties per dag krijgt The New York Times op de artikelen die de krant online publiceert. En dat terwijl je op slechts 10 procent van de kopij kunnen reageren. De krant leest eerst alle reacties van te voren en bepaalt dan pas of ze op de site kunnen. Maar die luxe is voor weinig nieuwsorganisaties weggelegd. Velen besloten daarom hun fora te sluiten of ernstig te beperken. Vorige week nog meldde het AD dat het lezers niet langer laat reageren onder artikelen. Discussies ontaarden te veel in gescheld en ander ‘giftig’ commentaar.

Is het echt alles of niets: intensief modereren of sluiten van fora? Google gelooft dat kunstmatige intelligentie kan helpen om webfora schoon te houden. Het bedrijf presenteerde donderdag een nieuwe, nog in ontwikkeling zijnde technologie. Vier vragen over het project Perspective.

1. Kan technologie internetdiscussies verbeteren?

Ja, denkt Jared Cohen, de baas van Google’s denktank Jigsaw, voorheen Google Ideas, dat Perspective ontwikkelde. „Veel sites hebben hun discussies volledig gesloten”, zegt Cohen op de site van Perspective. „Maar zij zeggen ook dat dat niet de oplossing is die zij wensen. Technologie kan hen van dienst zijn.” Perspective is overigens lang niet de enige oplossing die moet zorgen voor schone fora. Sommige nieuwsorganisaties laten alleen geregistreerde abonnees reageren. En The Washington Post, The New York Times en de Mozilla Foundation – van browser Firefox – werken bijvoorbeeld samen in het Coral Project.

2. Waarom is het initiatief van Google dan interessant?

Perspective steunt op de ruime kennis, tijd en geld van het Amerikaanse zoekbedrijf, met name van Google’s Conversation AI-initiatief. Die afdeling onderzoekt hoe artificiële intelligentie (AI) kan worden toegepast bij (digitale) gesprekken. Perspective is een hulpmiddel waarmee uitgevers automatisch lezersreacties kunnen laten classificeren van heel giftig (very toxic) naar heel gezond (very healthy). Het is daarna aan de uitgever wat hij doet met die reacties: alleen de schoonste tonen, redacteuren de beste laten beoordelen, hulp van gebruikers inschakelen, et cetera.

3. Hoe werkt het?

De onderzoekers van Jigsaw verzamelden honderdduizenden lezersreacties van The New York Times, Wikipedia en andere, niet bekendgemaakte discussiefora. Elke reactie werd (online) voorgelegd aan een panel van tien personen. Die moesten de reactie classificeren op de bovengenoemde toxic-tot-healthy-schaal. Op de site van Perspective toont Jigsaw voorbeelden over drie thema’s: klimaatverandering, Brexit en de verkiezingen in de VS.

Over klimaatverandering: de reactie ‘het gebeurt nu eenmaal; wie anders denkt is een idioot’ was met 84 procent zekerheid giftig. De reactie ‘het is prima: het voelt warm, terwijl het koud zou moeten zijn’ is voor 1 procent giftig.

Alle reacties en hun scores werden vervolgens gevoerd aan een computersysteem dat op basis van machine learning, een AI-techniek, regels afleidt om nieuwe reacties te kunnen beoordelen.

4. Onderscheidt het systeem alleen giftige reacties?

Ja, voorlopig wel. Perspective classificeert reacties naar giftigheid, of de kans dat lezers afhaken en de discussie de rug toekeren. Het systeem kan nu ook alleen nog Engelstalige reacties beoordelen, maar Jigsaw werkt met partners aan andere talen. Bovendien willen de onderzoekers de inhoudelijke mogelijkheden uitbreiden en ook kunnen bepalen of reacties niet relevant, off-topic of anderszins er minder toe doen.

5. Zijn er ook bezwaren?

Critici zeggen dat een systeem als Perspective een hulpmiddel kan zijn voor censuur. Je kan eenvoudig onwelgevallige reacties blokkeren. In een reactie stelde Jared Cohen van Jigsaw dat voor veel nieuwssites de enige alternatieven zijn om hun fora te sluiten of onhandige zwarte lijsten van verboden woorden te gebruiken. Reacties van lezers, vinden de ontwikkelaars van Perspective, moeten een tweede kans krijgen.