Facebook onder de eigen loep. Werkt dat?

De macht van Facebook, met z’n 1,8 miljard dagelijks actieve gebruikers, mag groot zijn. Maar het orgaan dat Facebook kan terugfluiten is ook hard bezig een invloedrijke rol op te eisen.

De eerste thema’s waarover de Facebooks Oversight Board zich begin dit jaar uitsprak waren verschillende vormen van haatzaaien, de toelaatbaarheid van vrouwelijke tepels, nazi’s en misinformatie over het coronavirus. Kortom, „de greatest hits van de controverses rond Facebooks contentmoderatie”, zoals Harvard-jurist Evelyn Douek het samenvatte. In vier van de vijf behandelde gevallen draaide de Board, in feite een Raad van Beroep, besluiten van Facebook terug (zie inzet).

Dit voorjaar zal de Raad ook bepalen of Facebook een filmpje met Zwarte Piet terecht van het platform heeft verwijderd. En internationaal wordt vooral met spanning uitgekeken naar een uitspraak van de Raad die grote politieke implicaties kan hebben: had Facebook voldoende redenen om Donald Trump voor onbepaalde tijd van het sociale medium te verbannen?

Die drastische maatregel werd op 7 januari genomen. Een dag eerder had een menigte – die door de toenmalige Amerikaanse president op sociale media was aangevuurd - het Capitool in Washington bestormd. Omdat ook Twitter en YouTube Trump schorsten, was de leider van supermacht Amerika zo zijn voornaamste middelen van communicatie met z’n achterban kwijt. Hij viel opeens stil.

Lees ook: De bestorming van het Capitool werd aangewakkerd op sociale media

De maatregel leidde tot instemming, maar ook tot kritiek op de socialemediabedrijven, en niet alleen van Trumps aanhangers. De Russische oppositiepoliticus Aleksej Navalny bijvoorbeeld sprak van „een onacceptabele daad van censuur”. Hij waarschuwde dat „vijanden van de vrijheid van meningsuiting over de hele wereld” naar de schorsing van Trump zullen wijzen, om te laten zien dat het „heel gewoon” is om iemand het zwijgen op te leggen.

Bondskanselier Merkel noemde de maatregel bij monde van haar woordvoerder „problematisch”, omdat het een ingreep zou zijn in het recht op vrije meningsuiting. „Dat grondrecht kan worden ingeperkt, maar alleen via de wet en binnen de kaders die de wetgever definieert, niet op basis van een besluit van de bedrijfsleiding van socialemediaplatforms.”

Eén dag na de inauguratie van Trumps opvolger Biden vroeg Facebook de Oversight Board de omstreden schorsing te toetsen. En dat niet alleen. Het concern wilde van de Raad ook advies hoe het in het algemeen moet denken over verwijdering van bijdragen van wereldleiders en het eventueel schorsen van machtige politici.

Een Oversight Board – wat moet ik me daarbij voorstellen?

Al jaren worstelen sociale media met de vraag welke omstreden uitingen ze moeten verwijderen en welke ze moeten laten staan. Het blijven grote technologie- en advertentieconcerns, gespecialiseerd in het verzamelen van grote hoeveelheden data, maar slecht toegerust voor lastige afwegingen rond de vrijheid van meningsuiting en de morele, culturele en politieke argumenten die daarbij komen kijken. Hoeveel mensen ze daarvoor ook inhuren, en hoe verfijnd ze de automatisering van de besluitvorming via hun algoritmes ook maken – keer op keer levert het hun kritiek op.

In 2018 zei Facebook-topman Mark Zuckerberg dat hem voor dat soort heikele kwesties een soort ‘Hooggerechtshof voor Facebook’ voor ogen stond. Een orgaan op afstand, dat Facebook de lastige keuzes uit handen kon nemen. Afgelopen najaar was het zover en kon de Oversight Board zijn werk beginnen.

Negentien experts uit alle delen van de wereld zijn geselecteerd en tot de raad toegetreden. Onder hen prominente juristen, journalisten, een Nobelprijswinnaar, een oud-premier en activisten voor mensenrechten en digitale burgerrechten (zie inzet). Uiteindelijk moet het ledental tot veertig worden uitgebreid.

Hoe gaat de Oversight Board precies te werk?

Facebook dankt het idee voor een eigen ‘Supreme Court’ aan Noah Feldman, hoogleraar staatsrecht aan Harvard Law School en bevriend met Facebook-bestuurder Sheryl Sandberg. „Van de vele miljoenen berichten die iedere dag op Facebook geplaatst worden, moet bij een groot aantal gewogen worden of ze niet in strijd zijn met de regels van Facebook”, licht Feldman het ontstaan van zijn idee in een telefoongesprek toe. „Soms zijn dat heel lastige beslissingen met verstrekkende gevolgen. Te belangrijk, besefte ook Mark Zuckerberg, om in laatste instantie over te laten aan de leiding van zijn onderneming.

„Een mogelijke oplossing leek me om een onafhankelijke arbiter in het leven te roepen, waarbij ik keek of het model van een constitutioneel hof bruikbaar kon zijn. Dat is een analogie, die behulpzaam kan zijn om de opzet te begrijpen als je de vergelijking niet te letterlijk neemt.

„Het gaat erom dat je een instantie hebt die transparant is en helder uitlegt hoe het op basis van de regels en waarden tot zijn beslissingen komt. En die daarmee jurisprudentie schept.” Facebook geeft hiermee welbewust macht uit handen, zegt Feldman. Dat ziet hij als grote winst.

Kun je onafhankelijk zijn als Facebook je financiert?

De bedoeling is dat het orgaan, waarvan de besluiten voor Facebook bindend zijn, functioneert als onafhankelijke beroepsinstantie. Julie Owono, lid van de Raad en directeur van de organisatie Internet Sans Frontières, ziet de Raad zelfs als „tegenwicht tegen Facebook”, zegt ze per Zoom.

Maar van die onafhankelijkheid is niet iedereen overtuigd. De leden zijn uitgekozen door Facebook. Facebook heeft ook voor de financiering gezorgd via de oprichting van een juridisch onafhankelijk fonds, door het concern voorzien van 130 miljoen dollar en vijftig man ondersteunend personeel voor de Raad.

Alan Rusbridger, oud-hoofdredacteur van The Guardian en lid van de Oversight Board, verzekerde onlangs in een hoorzitting voor het Britse Hogerhuis dat hij en zijn collega’s heus niet het gevoel hebben dat ze voor Facebook werken. Er zou geen enkele verplichting zijn „om aardig dan wel vervelend te doen tegen Facebook”. Op zijn eigen website heet de Raad kortweg de Oversight Board, zonder het woord Facebook in zijn naam – alsof men daarmee z’n onafhankelijkheid wil markeren.

Dat is niet voldoende voor critici, zoals de in september opgerichte Real Facebook Oversight Board, een groep experts die zeer kritisch staat tegenover Facebook en Big Tech in het algemeen. De officiële Oversight Board zou niet snel genoeg kunnen werken en veel te weinig bevoegdheden hebben.

Bekende namen die zich bij deze alternatieve waakhond hebben aangesloten zijn onder meer Shoshana Zuboff, auteur van The Age of Surveillance Capitalism, Marietje Schaake, directeur internationaal beleid bij het Cyber Policy Center van de Stanford Universiteit en columnist van NRC, historicus Timothy Snyder en Toomas Hendrik Ilves, oud-president van Estland en misinformatie-expert.

Dat de Raad niet democratisch tot stand is gekomen, erkent staatsrechtgeleerde Feldman, die Facebook het idee aan de hand deed. Maar „het is nu eenmaal heel lastig om met bijna drie miljard gebruikers democratische verkiezingen te houden”. En regeringen en andere overheden staan niet te dringen om dit soort taken op zich te nemen. „Ze hebben ook niet de capaciteiten om over die honderden miljoenen berichten op sociale media te besluiten wat kan blijven staan en wat niet.”

Kan deze Oversight Board Facebook hervormen?

Dit blijft een vorm van zelfregulering en dat is niet genoeg, zegt Katy Glenn Bass, een van de critici van de Oversight Board, in een interview per Zoom. Bass, onderzoeksdirecteur van een instituut voor persvrijheid van Columbia University in New York, vindt dat de Board een veel te beperkt mandaat heeft gekregen van Facebook.

„Natuurlijk zijn besluiten om bepaalde bijdragen op Facebook al dan niet te verwijderen belangrijk. Maar Facebook beïnvloedt de samenleving veel meer door de manier waarop het platform is ontworpen. Door te bepalen welke Facebook-groepen voor mij wel en voor jou niet interessant zijn. Wat bovenaan je tijdlijn staat. Wat voor bijdragen of politieke advertenties jij of ik op Facebook te zien krijgen, hoe vaak en waarom.

„Dat wordt bepaald door aanbevelingsalgoritmes. Maar hoe die functioneren, daar krijgt de Raad geen inzage in, laat staan dat hij zich erover mag uitspreken.” In een opiniestuk in The New York Times betoogden Bass en een collega dat de Raad zijn oordeel over de verbanning van Trump van Facebook daarom moet uitstellen.

„Facebook kan er zelf aan hebben bijgedragen dat de situatie rond het Capitool zo uit de hand liep”, zegt ze. „Bijvoorbeeld door de manier waarop de algoritmes er in de weken voor de bestorming voor zorgden dat grote hoeveelheden misinformatie steeds werden verspreid.

„En heeft Facebook genoeg gevolgd wat er in de Facebook-groepen van gewapende milities werd gezegd? Dat alles kun je niet buiten beschouwing laten als je wilt weten wat er rond de bestorming van het Capitool op het platform misging. De Board moet oppassen niet door Facebook gebruikt te worden als vijgenblad.”

Toch vindt Bass de instelling van het beroepsorgaan „een waardevol experiment”. „We moeten uitproberen hoe de enorme invloed van digitale ondernemingen op het maatschappelijk debat aan banden gelegd kan worden. Maar ik denk dat dat zonder krachtige regulering door de overheden moeilijk denkbaar is.”

Correctie (23 maart 2021): In een eerdere versie van dit artikel werden inmiddels verouderde cijfers genoemd bij de aantallen aangemelde klachten en het aantal ondersteunende personeelsleden. Dat is hierboven aangepast.