Techbedrijven zoeken mensen. Echte mensen

Apple, LinkedIn, Twitter en andere techbedrijven nemen mensen aan om nieuws te selecteren. Algoritmes zijn niet goed genoeg. En van mensen kunnen we het nou eenmaal beter verkroppen als ze een fout maken.

illustratie Mariette Twilt

In juni plaatste Apple een opmerkelijke vacature: het bedrijf zocht redacteuren met ‘een goed instinct voor brekend nieuws’, die ook in staat zijn ‘originele, pakkende verhalen te selecteren die niet worden herkend door algoritmes’. Aankomende herfst komt Apple News uit, een nieuwsapp die ‘alle artikelen verzamelt die u wilt lezen’. Om dat project te laten slagen wil Apple blijkbaar mensen achter de knoppen.

Apple staat hierin niet alleen: steeds meer techgiganten zijn van mening dat algoritmes alleen niet voldoende zijn. Zo werkt Twitter aan de gecureerde nieuwsfeed Project Lightning, zet SnapChat een redactioneel team op poten en heeft LinkedIn aangekondigd nieuwe mensen aan te nemen die voor haar app Pulse de beste artikelen zullen selecteren.

Waarom? Niet omdat de algoritmes niet goed presteren, maar omdat ze niet foutloos presteren. En van mensen kunnen wij – gebruikers van al die diensten – het een stuk beter verkroppen als ze eens een keer een vergissing maken.

Wat doet een algoritme precies? Simpel uitgelegd: een algoritme is een reeks instructies die een systeem moet doorlopen om een probleem op te lossen, of een vraag te beantwoorden. Bij Google zorgt het algoritme ervoor dat de beste zoekresultaten bovenaan verschijnen, en bij Facebook kiest het de foto’s uit die op de nieuwsfeed verschijnen. Elke keer dat er nieuwe input is – je kijkt een filmpje op YouTube, of je klikt op het bovenste resultaat in Google – leert het systeem beter te voorspellen wat het moet tonen om je zo lang mogelijk op de website te houden, en je zo vaak mogelijk te laten terugkomen.

Op zich werkt dit prima, dus waarom dan toch mensen in dienst nemen? Allereerst is het gewoon slimme marketing. Apple gebruikt bijvoorbeeld termen als ‘handgeselecteerd’ en ‘human touch’ om maar te laten zien: bij ons krijg je echt iets bijzonders. Qobuz, de streamingdienst die zich vooral richt op klassieke muziek, heeft als motto: ‘We hebben menselijke muziekexperts én we hebben algoritmes’.

Liever een dj dan Spotify

Er is meer aan de hand, denkt Mark Deuze, UvA-hoogleraar Mediastudies. Hij stelt dat de bedrijven nu inzien dat de klant het aanbod ook op een emotionele manier wil beleven. En de juiste combinatie van artikelen, of liedjes, luistert nauw. „Dat merk je bijvoorbeeld bij Spotify. Soms luister je naar een liedje dat een bepaalde snaar raakt, dan begint het volgende liedje en ben je er in één klap uit, omdat het er totaal niet bij past. Een goede dj of muziekcurator maakt die fout niet.”

Ook sociale normen herkennen is lastig voor een algoritme. Eind 2014 ging Facebook de mist in met de feature Year in Review, een gepersonaliseerd jaaroverzicht van foto’s en berichten, met de tekst: ‘Het was een mooi jaar!’ Het algoritme maakte het overzicht op basis van likes; berichten over overleden familieleden en relatiebreuken werden ook meegenomen. Facebook bood excuses aan.

Algoritmes zijn dus niet onfeilbaar, maar mensen ook niet. Toch toonde onderzoek van de University of Pennsylvania vorig jaar aan dat we nog altijd meer vertrouwen hebben in het menselijk oordeel, zelfs als we bewijs hebben gezien dat het algoritme betere keuzes maakt. Dit gevoel is nog sterker wanneer het algoritme eens een foutje maakt. Een vriend kunnen we het nog vergeven als hij ons een slechte film aanraadt, Netflix niet.

Mensen houden hun fouten stil

Dat we zo onverbiddelijk zijn heeft diverse redenen, stelt Chris Snijders. Hij is hoogleraar Sociologie van Technologie en Innovatie aan de Technische Universiteit Eindhoven, en deed onderzoek naar dit fenomeen. „Wat meespeelt, is dat mensen geneigd zijn hun eigen fouten stil te houden. Terwijl dat bij een algoritme breed wordt uitgemeten. Zo ontstaat het beeld dat het algoritme minder goed presteert, terwijl dat misschien niet zo is.”

Ook ervaren we de manier waarop een systeem een keuze maakt als te simplistisch. „Dat zag je bijvoorbeeld in een Amerikaans experiment, waar studenten werden toegelaten tot een bepaalde universiteit puur op basis van hun cv en hun scores, dus zonder interview. Studenten die werden afgewezen vonden dat oneerlijk. Als ze een gesprek hadden kunnen voeren, was het idee, dan waren hun verborgen kwaliteiten boven komen drijven.”

Dat veel techbedrijven nu inzetten op mensen om hun content bij te schaven, betekent niet dat algoritmes gefaald hebben; het geeft eerder aan dat ze volwassenheid bereikt hebben. De algoritmes kunnen niet veel beter worden, dus is het aan de mensen om het verschil te maken.