‘Onze hele economie draait op het verkeerde algoritme’

Interview We moeten technologie niet demoniseren na het Facebook-schandaal, maar snel de fouten repareren, zegt Tim O’Reilly, ‘het orakel van Silicon Valley’. „Ons maatschappelijke systeem draait om manipulatie.”

Het is wel duidelijk dat we door het dataschandaal rondom Facebook en Cambridge Analytica in een situatie terecht zijn gekomen die we zelf niet goed begrijpen, zegt Tim O’Reilly: „We moeten nú leren om de algoritmes die ons dagelijks leven beheersen beter onder controle te krijgen, en daar zijn we nog lang niet. Maar ik denk dat er de laatste weken ook sprake is van flink wat hype en overreactie.”

Als Tim O’Reilly spreekt, luistert Silicon Valley. Hij is er al sinds de jaren negentig adviseur, uitgever van invloedrijke technische boeken en organisator van conferenties die zeer populair zijn bij de werknemers van de grote techbedrijven. Hij populariseerde de term Web 2.0 en op zijn conferenties ontstond de open source-beweging. Sindsdien staat hij in Amerikaanse media bekend als ‘het orakel van Silicon Valley’. Zijn nieuwe boek What’s The Future, is net in het Nederlands vertaald, als De nieuwe economie.

Aan de telefoon spreekt O’Reilly als een wandelende boekenkast: om de paar zinnen refereert hij aan een nieuw boek, een nieuw onderzoek of een recente ontmoeting die hij had met een topmanager uit Silicon Valley. Als hij het over ‘Mark’ heeft, gaat het over Mark Zuckerberg.

„Er is de laatste tijd veel haat tegen techbedrijven”, constateert hij. „Het is goed dat ze ter verantwoording worden geroepen. Maar het is ook weer niet zo dat Silicon Valley te vergelijken is met sigarettenfabrikanten die vijftig jaar lang het verband tussen kanker en roken ontkenden, of de energielobby die klimaatverandering decennialang onder het tapijt schoof.”

„De problemen die door Cambridge Analytica aan het licht zijn gekomen, zijn ongeveer anderhalf jaar oud. Facebook reageert misschien nog niet adequaat maar wel veel sneller dan die andere industrieën. Als ik Mark spreek, lijkt hij dit soort zaken buitengewoon serieus te nemen.”

Controle over algoritmische systemen

O’Reilly, van nature een optimistische ondernemer, vindt dat we de huidige crisis moeten benutten om de échte vragen over de technologische toekomst te beantwoorden: hoe kunnen we de controle houden over algoritmische systemen? En: hoe zorgen we dat die systemen op basis van data en algoritmes goed passen in de maatschappij die we willen hebben?

„Als je kijkt naar het grotere plaatje hoeven we niet al te verbaasd te zijn dat Facebook-data zijn misbruikt om miljoenen mensen te manipuleren,” zegt hij. „Heel Silicon Valley draait om de vraag: hoe manipuleren we mensen zodat ze op advertenties klikken en de meeste data afgeven? En niet alleen in Silicon Valley, al decennia draait de reclamewereld om manipulatie, zelfs ons politieke systeem. Misleiding en fraude zijn ingebakken in onze samenleving.”

„Onze hele economie draait om het verkeerde algoritme.” Een algoritme is simpelweg een set instructies die toe werkt naar een doel. „Het doel van onze economie is verkeerd afgesteld, net zoals het doel van Facebook verkeerd staat afgesteld. Facebook dacht: we gaan de wereld met elkaar verbinden, maar creëerde tegelijkertijd een platform voor grootschalige manipulatie en polarisering. Het is tijd dat techbedrijven menselijke zwaktes proberen te verkleinen in plaats van ze te versterken en er geld aan te verdienen.”

O’Reilly vertelt dat hij groot fan is van Oxford-econoom Kate Raworth, die in haar recente boek De Donuteconomie betoogt dat we onze economische activiteit zo moeten organiseren dat én mensen een prettig leven hebben, én dat we binnen de grenzen van de planeet blijven. „Dat is heel moeilijk te rijmen met het hoofddoel van ons economische algoritme: aandeelhouderswaarde vergroten. Dat leidt juist tot eindeloze groei, die de planeet niet aankan.”

„De problemen van Facebook zijn zo bezien dezelfde als van elk ander bedrijf dat zegt: ‘Ja, we maken ons product wel iets slechter, maar daardoor wordt onze marge hoger en creëren we toch mooi aandeelhouderswaarde. We verneuken onze klant een beetje, maar we verdienen er wel aan.’”

Hij wijst op de farmaceutische industrie die jarenlang met succes lobbyde tegen waarschuwingen op verpakkingen van verslavende opiaten in de VS. Dat heeft volgens hem, en veel andere deskundigen, bijgedragen aan de opiatenepidemie in grote delen van de VS.

Op hol geslagen

„De situatie rondom Facebook moet een leermoment zijn voor onze hele samenleving. Onze economie is zo gefinancialiseerd, grote banken en geld zijn zo dominant. De financiële sector is de grootste sector van de economie, en is al het verst met het automatiseren en loslaten van algoritmes op cruciale beslissingen. In feite is de financiële sector de eerste echte rogue AI, de eerste op hol geslagen kunstmatige intelligentie. Daarvan kunnen we leren hoe het níét moet.”

Hoe zou het dan wel moeten? „Kijk naar Google. Dat bedrijf heeft jarenlang veel kritiek gehad op de werking van zijn belangrijkste zoekalgoritme. Google bekijkt zijn kernalgoritmes nu regelmatig met een zeer kritische blik om te zien of het nog wel het beoogde doel bereikt, en past het aan waar nodig. Facebook is nu ook bezig zijn cruciale algoritmes te herzien, maar ik zie de samenleving als geheel dat nog niet doen.”

O’Reilly zegt bezorgd te zijn geworden door de recente ondervraging van Mark Zuckerberg in het Amerikaanse Congres. „Onze politici hebben duidelijk nog niet eens de basis door van hoe dit soort platforms en algoritmes werken. Ze doen hun best maar slagen er telkens alleen in om ouderwetse beleidsrecepten toe te passen op een wereld waar die recepten niet meer werken.”

We zullen volgens O’Reilly bijvoorbeeld nieuwe manieren moeten bedenken om tegen monopolies aan te kijken zoals die van Facebook en Google. Er gaan de laatste jaren af en toe stemmen op om de bedrijven dan maar op te splitsen om hun macht te breken. „Maar eigenlijk willen we niet dat deze bedrijven verdwijnen, maar dat ze het béter gaan doen. Het probleem is: er is in feite geen vrije markt meer in deze branches door de schaalvoordelen van de reuzen.”

Maar of opbreken wenselijk is? „Volgens mij moeten onze overheden veel meer de uitkomsten gaan reguleren, in plaats van processen en mechanismen, zoals hoe de bedrijven georganiseerd zijn. En ze moeten vooruitkijken.”

O’Reilly wijst naar zelfrijdende auto’s die er over een aantal jaar waarschijnlijk aankomen. „Waarom eisen we niet van fabrikanten zoals Tesla en Waymo dat ze cruciale data over routes en navigeren openbaar maken zodat iedereen ervan kan profiteren? Als data worden gedeeld, neemt de kans op nieuwe monopolies in die branche af.”

Volgens hem zou je dat ook met belangrijke data van bedrijven als Google, Amazon en Facebook kunnen doen. Maar is dat niet veel moeilijker dan het klinkt? Bij het Cambridge Analytica-schandaal bleek toch juist dat er dingen misgaan als derden toegang krijgen tot gevoelige data?

„Je kunt ook niet álles openbaar maken, niet álles verplicht delen. Maar de data over hóé de systemen werken wel. Facebook moet bijvoorbeeld veel transparanter zijn over hoe het algoritme werkt dat bepaalt wat de 2,2 miljard gebruikers dagelijks in hun nieuwsfeed te zien krijgen.”

Facebook kan leren van Google

Maar is ook dat niet te makkelijk gedacht? Neem het voorbeeld van het Google-algoritme. Google kán niet precies vertellen hoe het allesbepalende zoekalgoritme precies werkt, omdat mensen dat dan kunnen misbruiken om hun eigen bedrijf hoger te laten eindigen in de resultaten. „Het is een delicate balans tussen wat je wel en niet kunt delen. Maar je ziet wel degelijk dat Google veel meer data deelt, en dat dat ook goed is voor het bedrijf. Het groeit hard, maakt enorme winst. Facebook heeft een veel minder transparante benadering tot nu toe, het deelt bijna niets. Ik geloof erin dat Facebook daarin kan leren van Google. Daar ligt mijn belangrijkste focus, ook in mijn boeken en conferenties: zorgen dat bedrijven leren van elkaar in plaats van dat overheden ze vertellen wat ze moeten doen.”

In de felle publieke reactie op het Facebookschandaal schuilt een groot gevaar, zegt hij. „We moeten erg oppassen dat we technologie niet gaan demoniseren. We moeten dit moment aangrijpen om het te hebben over transparantie van de algoritmes die ons leven beheersen, en over hoe we mensen verantwoordelijk kunnen houden voor die algoritmes. We hebben het antwoord nog niet, dat is juist het punt. We moeten goed kijken naar hoe Facebook problemen oplost zodat we daar allemaal wat aan hebben.”

„En voor ons allemaal ligt de vraag voor: wat is een eerlijke samenleving, en wat bedoelen we überhaupt precies met eerlijk? Hoe krijgen we die doelen in onze kernalgoritmes?” En dat is volgens hem precies de vraag die Facebook zichzelf nu heel hard stelt. „Als ik met Mark praat, blijkt dat hij veel nadenkt over wat goed is en wat fout.” Daarom is O’Reilly uiteindelijk optimistisch over de huidige crisis rondom Facebook. „Er wordt hard aan oplossingen gewerkt en het is een geweldige kans om het te hebben over de cruciale vragen die onze toekomst gaan bepalen.”