SXSW#2: Zo kan je Trump alles laten zeggen

Deel 2 van een verslag van het SXSW-festival in Austin, Texas. Hoe kunstmatige intelligentie Trump alles kan laten zeggen, studenten strijden tegen haatspraak, en een Zweedse krant een algoritme de homepage laat samenstellen.

Zo werkt Face2Face: linksboven de acteur wiens gezicht wordt gescand, linksonder het originele beeld. De gezichtsuitdrukkingen van de acteur plakt de computer op de echte beelden van Trump.

Hè, deed hij dat nou echt? Donald Trump rolt met zijn ogen, trekt zijn mond in een grimas, beweegt zijn gezicht op een vreemde manier. Het is niet de echte Trump. Een acteur trekt de gekke bekken, de computer registreert ze en projecteert ze op het gedigitaliseerde gezicht van Donald Trump.

Face2Face heet de software, van de Duitse universiteit van Erlangen-Nürnberg, het Max-Planck Instituut en Standford University in de VS. De onderzoekers namen ook Vladimir Poetin en George W. Bush onder handen.

Face2Face is een krachtig voorbeeld van automatische gezichtsherkenning, een toepassing van artificiële intelligentie (AI). Maar het toont ook de gevaren van AI, aldus informaticus Eric Horvitz. De directeur van het Microsoft Research Lab gaf een inleiding op de mogelijkheden en de gevaren van kunstmatige intelligentie, zaterdagochtend op het South by Southwest-festival.

Misbruik is snel gemaakt, fake news 2.0 is een fluitje van een cent.

AI is overal, hier in Austin. Artificiële intelligentie, machine learning en breder, de ‘intelligente toekomst’, vormen een populair thema tijdens deze editie van SXSW. Vrijdag zat de zaal al vol bij een sessie over het automatisch herkennen van emoties, en zaterdagochtend vroeg trok de gerenommeerde informaticus Horvitz eveneens veel belangstelling.

Waarom is AI nu populair? Ten eerste: de techniek wordt volwassen. De computer benadert de mens: hij herkent spraak op bijna-menselijk niveau, hij onderscheidt beelden met steeds minder fouten, hij helpt chirurgen bij ingewikkelde operaties. Intelligente onderwijssystemen bieden volgens Horvitz binnenkort elke student een gepersonaliseerde syllabus voor dezelfde stof: de computer snapt tenminste waarom jíj die wiskundesommen niet begrijpt en kan het beter uitleggen dan de docent.

Maar AI maakt is vooral sucesrijk omdat nu veel meer data beschikbaar zijn dan vroeger. Zo kunnen we machines beter laten ‘leren’. Het gaat om gegevens van grootschalig (geautomatiseerd) onderzoek, maar ook de bergen data van Facebook en Twitter stellen computers steeds beter in staat te zoeken naar patronen in die data en daarmee te redeneren.

Horvitz prees alle mogelijkheden van AI, maar bekende ook wakker te liggen van alle manieren om misbruik te maken van de techniek.

Wat gebeurt er bijvoorbeeld als de zelfrijdende auto de verkeerde verkeersborden herkent - omdat het systeem is gehackt? Horvitz noemt dat adverserial machine learning.

Of: hoe eerlijk is onze democratie nog als we op basis van Facebook-berichten precies weten hoe iemand zich voelt en hoe je hem moet bespelen om niet (of wel) te gaan stemmen?

Welke vooroordelen ten opzichte van bijvoorbeeld blanke of zwarte criminelen bevat een computersysteem dat rechters moet assisteren bij het besluit om een gevangene vervroegd vrij te laten?

Daarom, pleit Horvitz, moeten de gebruikte data, de gehanteerde modellen, en het onderzoek te allen tijde beschikbaar zijn voor wetenschappelijk onderzoek en controle van buitenaf.

Nog twee interessante sessies zaterdag op SXSW:

In de sessie Taking back the Internet: countering extremism kwam een sympathiek initiatief van de Amerikaanse organisatie EdVenture Partners ter sprake om haat, vooroordelen en extremisme op internet te veminderen.

In het project Peer2Peer wordt studenten gevraagd projecten te bedenken om extreme denkbeelden tegen te spreken. Vorig jaar kregen studenten van de Universiteit Utrecht overigens de (gedeelde) eerste prijs voor het beste project:

In het redactionele systeem van Svenska Dagbladet moet een eindredacteur aangeven wat de nieuwswaarde en de levensduur van een artikel zijn.

En op de late regenachtige zaterdagmiddag in Austin sprak hoofdredacteur Fredric Karén van de Zweedse krant Svenska Dagbladet (Svd) over de digitale wedergeboorte van zijn krant. Nog maar een paar jaar geleden leed SvD zware verliezen en liep de papieren oplage snel terug. Karén - en zijn uitgever, het Noorse Schibsted Media Group - besloten tot een drastische digitalisering. ,,Goede journalistiek maak je alleen met goede technologie.”

Zo wordt de homepage van de site svd.se nu volledig automatisch samengesteld. Eindredacteuren moeten bij artikelen alleen de nieuwswaarde opgeven (met een cijfer tussen 1 en 5) en de verwachte levensduur van een artikel (low, mid, high). Een artikel met nieuwswaarde 1 en levensduur high blijft soms wel een paar dagen hoog op de homepage; een stuk met low haalt de homepage helemaal niet.