Facebook-rechters of gemankeerde arbiters?

Leven en werken in Silicon Valley Facebook laat zijn moderatiebeleid beoordelen door experts. Marietje Schaake twijfelt of dit helpt.

Illustratie Pepijn Barnard

Het vak dat ik doceer op Stanford, kunstmatige intelligentie en de rechtsstaat, nadert de zomerstop – al lijken zonnige afstudeerfeestjes achter de laptop ver weg.

De tijd die mensen tijdens de lockdown online besteden neemt overal exponentieel toe. En terwijl techbedrijven de publieke ruimte daarmee steeds verder de hunne maken, worden kernvragen over instandhouding van de rechtsstaat onder Covid-19-omstandigheden eerder steviger gemarkeerd dan beantwoord.

Online kregen de studenten college van prominente gastsprekers uit de hele wereld: een rechter van het Europees Hof voor de Rechten van de Mens, een computerveiligheidsspecialist die doceert aan Harvard, experts in mededinging en Europees recht, academici die alles weten over gebruik van kunstmatige intelligentie in China en India. De gelaagde en diepe impact van digitalisering op rechten, vrijheden en regelgeving voor mensen wereldwijd wordt door deze gastcolleges glashelder. Ook het belang van goed en democratisch openbaar bestuur daalt in – bij informaticastudenten soms voor het eerst.

Hoe groot de machtsverschuiving is, bijvoorbeeld bij beslissingen over censuur en vrije meningsuiting, daarvan zijn de technologiebedrijven zich maar al te bewust. Controversiële keuzes van Facebook, dat een foto van een marmeren Neptunus in Italië offline haalde – het beeld zou ‘seksueel expliciet’ zijn – en een gemanipuleerde video van een ‘dronken’ Nancy Pelosi juist online liet staan, werden wereldnieuws.

Nog belangrijker zijn de minder zichtbare interventies die dagelijks massaal worden gepleegd. Faciliteert het platform haatzaaiende demonstranten, of snoert het onschuldige burgers de mond? Hoe meer mensen online leven, hoe belangrijker de kaders voor het recht op vereniging en demonstreren. De behoefte aan wet- en regelgeving is nu zo groot dat de directeuren er zelf om vragen.

Intussen ontplooien ze ook eigen initiatieven. Facebook kondigde net zijn langverwachte oversight board aan: twintig internationale prominenten gaan het bedrijf helpen betwiste beslissingen over het modereren van berichten te evalueren. Critici zien een poging het Facebook-imago op te poetsen en lastige besluiten af te schuiven. Anderen verwelkomen de oversight board juist als revolutie in het aansturen en controleren van technologieplatforms.

Dat bestuursvoorzitter Mark Zuckerberg eerder sprak van een ‘Facebook-hooggerechtshof’, leidde direct tot nieuwe controverse. De vergelijking met arbitrage gaat eerder op, en dan met beperkt mandaat. De oversight board gaat niet over algoritmes, dataverzameling of reclames, essentieel voor de macht en het verdienmodel van Facebook. En pas nadat Facebook zelf een beslissing heeft genomen, kan de board die herzien. Het oordeel is vervolgens wel bindend.

Deze oversight board maakt tegelijk nog eens duidelijk hoezeer democratische overheden treuzelen met het indammen van de grote commerciële krachten in de mondiale informatiearchitectuur. Die reiken veel verder dan vrije meningsuiting en toegang tot informatie. De informatiesamenleving wordt tot in haar haarvaten niet transparant gerund. Zelfs als de oversight board een verbetering is, gaat het maar om een klein deel van het terrein waarover Facebook de regie voert.

Zo kregen mijn studenten op de valreep nog een levendig voorbeeld van de spanning tussen besturen vanuit de rechtsstaat of winstoogmerk. Gaan private bestuursmodellen bijdragen aan de geloofwaardigheid van bedrijven, of blijken ze een schaamlap die de behoefte aan echt onafhankelijke regels onderstrepen?

Dat laatste is volgens rechtsstatelijke principes een eis. Facebooks oversight board zal met een vergrootglas worden gevolgd. Ik kijk uit naar de interpretatie van studenten rechten, informatica en politicologie voor ze aan hun vakantie beginnen.

Marietje Schaake, voormalig Europarlementariër, werkt voor de universiteit van Stanford, waar ze zich vooral bezighoudt met kunstmatige intelligentie. Ze schrijft een tweewekelijkse rubriek over leven en werken in Silicon Valley.