Zijn de grote technologiebedrijven te machtig voor een democratie?

Vrijheid van bedrijven of vrijheid van meningsuiting?

Dilemma 1

Op zich staat het bedrijven vrij om gebruikers te blokkeren die zich niet aan de gebruiksvoorwaarden houden. Sterker: de maatschappelijke en politieke roep daarom groeit al jaren. Onder meer de Europese Unie en het Amerikaanse Congres werken aan strengere regels om techbedrijven verantwoordelijker te maken voor het weren van schadelijke inhoud. Democratische regeringen willen een einde aan de veenbrand van woede en desinformatie die op sociale media woedt, een brand die bovendien wordt aangewakkerd door de algoritmes die polarisering in de hand werken.

Trump schond jaren diverse van zulke richtlijnen door op te roepen tot geweld, te discrimineren, haat te zaaien en desinformatie te verspreiden. Ook Donald Trump heeft ooit op ‘OK’ gedrukt voor die voorwaarden, dus wat is dan het probleem als die bedrijven hun regels handhaven?

Het dilemma ontstaat door het feit dat de oligopolistische techbedrijven met hun gelijktijdige stap in één klap iemand vrijwel volledig kunnen blokkeren, zoals nu. Trumps blokkade maakt zichtbaar dat een handvol techbedrijven aanklager, rechter en beul tegelijk is. Er is geen bezwaar mogelijk, geen arbitrage, geen rechterlijke toets, niets.

De bedrijven zijn zo dominant, dat het gebruikers ontbreekt aan serieuze alternatieven en ze mogelijk kunnen worden beschouwd als cruciale infrastructuur, waarover democratische controle zou moeten zijn.

Tegenstanders van Trumps verbanning wijzen daarnaast naar het vrijwel gelijktijdige offline halen van tienduizenden andere socialemedia-accounts die samenzweringstheorieën zouden verspreiden. En op het offline gaan van het alternatieve sociale medium Parler, waarop veel Trump-aanhangers zaten. Nadat eerst Google en Apple de app van Parler schorsten uit hun appwinkels, besloot een andere dominante techreus, Amazon, om Parler niet langer de benodigde serverruimte te verhuren.

De Amerikaanse onderzoeksjournalist Glenn Greenwald, die zich ontpopt heeft als activistisch criticus van links Amerika, twitterde bezorgd: „Wat er met Parler is gebeurd, kan niet overdreven worden. Zij [de techreuzen] hebben een systeem gecreëerd om op hun monopolistische platforms niet alleen iedereen monddood te kunnen maken die ze willen, maar ook complete platforms – hun concurrenten - te kunnen verwijderen van internet. Nieuwe wapens worden nooit slechts één keer gebruikt.”

Democratie of controlestaat?

Dilemma 2

Moet een democratie zichzelf beschermen tegen anti-democratische opruiing? Waar ligt de grens? En beoordelen de machthebbers, rechters of bedrijven wat ondemocratische opruiing is, en wat legitiem protest?

Vooral omdat politieke tegenstanders van Trump, zoals Michelle Obama, zo expliciet opriepen tot zijn verbanning, zijn er onder Republikeinse Amerikanen zorgen dat dit slechts het begin is van een politiek gekleurde zuiveringsoperatie. Voormalig Republikeinse presidentskandidaat Marco Rubio twitterde: „Zelfs Trumps tegenstanders zouden het gevaar moeten zien van een kleine, ongekozen groep met de macht om wie dan ook uit te wissen.”

Tekenend is dat prominente politici die onder autocratische regimes strijden voor democratisering, kritiek uitten op het in de ban doen van Trump. De Russische opositieleider Aleksei Navalny sprak op Twitter van een „onacceptabele daad van censuur”. „Dit schept een precedent dat uitgebuit zal worden door vijanden van vrije meningsuiting wereldwijd. Ook in Rusland. Elke keer dat er nu iemand monddood gemaakt wordt, zullen zij zeggen: dat is doodgewoon, kijk naar wat er met Trump is gebeurd.” Heldere regels voor burgers en bedrijven, opgesteld door gekozen politici en getoetst door onafhankelijke rechters, zouden het verschil maken. Technologiebedrijven werken intussen wel aan oplossingen voor het grote gebrek aan verantwoording. Zo heeft Twitter-oprichter Jack Dorsey al in 2019 de ambitie uitgesproken om de macht over Twitter te ‘decentraliseren’, dus terug te brengen naar de gebruikers in plaats van het centrale gezag dat nu op hemzelf rust. Een studie daarnaar loopt nog. Facebook begon eind vorig jaar een onafhankelijke Oversight Board met prominente mensenrechtenactivisten en politici, die een nieuw soort ‘Hooggerechtshof’ moeten vormen om te oordelen over toelaatbaarheid en censuur. Het kan wellicht een aanzet zijn tot nieuwe digitale instituties die de absolute macht van techbedrijven wat kunnen inperken. Maar voor zowel Amerikaanse als Europese politici lijken deze vormen van zelfregulering verre van afdoende.

Onwenselijk is nog niet illegaal

Dilemma 3

Schadelijk, onwenselijk, stuitend, onsmakelijk – veel van wat op sociale media wordt gepost is geen toonbeeld van beschaving. Maar is het daarmee ook strafbaar?

Het is de kern van een discussie over online regulering die ook in Europa al jaren woedt. Onlangs presenteerde de Europese Commissie nieuwe voorstellen voor het reguleren van de digitale wereld. Maar het probleem van dat ‘grijze gebied’ is daarmee niet opgelost.

In een opiniestuk pochte Eurocommissaris Thierry Breton (Interne Markt, Frankrijk) maandag dat de EU door de onlangs gepresenteerde Digital Services Act (DSA) voorop loopt in het reguleren van de digitale wereld. Wat offline illegaal is, zo schreef Breton, moet dat online ook worden. Daarmee wees de Eurocommissaris meteen op een zwakke plek. De tweets van Trump, of andere weinig verheffende uitingen, zijn doorgaans helemaal niet illegaal.

De nieuwe DSA richt zich expliciet op illegaal materiaal, dat sociale mediabedrijven sneller en pro-actiever moeten gaan verwijderen, zoals kinderporno, of oproepen tot geweld. Over wat te doen met materiaal dat niet als illegaal, maar enkel als ‘schadelijk’ geldt, is het Europese wetsvoorstel minder duidelijk. Denk bijvoorbeeld aan desinformatie of online pestgedrag. Nieuwe voorstellen willen alleen dat platforms dit beter gaan monitoren en dat zij grootschalige verspreiding ervan remmen.

Grote platforms moeten daarom gedetailleerd gaan rapporteren over wat, hoeveel en waarom is weggehaald en op welke manier hun algoritmes bepalen hoe zichtbaar iets is. Zo moeten ze, wil Brussel, hun ‘zwarte doos’ gaan openen.

Platforms behouden zo echter wel degelijk een rol in het reguleren van het online publieke debat. Breton benadrukte dat Twitter en Facebook nu terecht hun verantwoordelijkheid hebben erkend. „Ze kunnen zich nu nooit meer verschuilen door te zeggen dat ze alleen een hosting service aanbieden.”

Nationaal aanpakken wat internationaal gebeurt

Dilemma 4

Iedereen lijkt het erover eens dat sociale media te veel macht hebben in het online toezicht. Maar leg je dit toezicht bij de nationale wetgever en de rechter, dan ontstaat automatisch een wirwar van verschillende regelingen. Op de sociale mediaplatformen zoals Facebook komen miljarden gebruikers uit bijna tweehonderd landen samen. Die vallen onder tal van verschillende nationale wetten.

Alleen al in Europa zorgde de aanzwellende roep om op te staan tegen de macht van Big Tech afgelopen jaren voor een lappendeken van regels . Duitsland en Frankrijk liepen de afgelopen jaren voorop in pogingen sociale media te reguleren. Vooral de Duitse wetgeving is berucht: die verplicht sociale mediabedrijven illegaal materiaal binnen 24 uur te verwijderen op straffe van torenhoge boetes. Uit vrees voor die boetes, zo betoogden critici, zou veel te veel verwijderd gaan worden. Een rechter blokkeerde de Franse regering die vergelijkbare wetgeving wilde invoeren afgelopen zomer, om dezelfde kritiek.

Zo zag je in Europa al wat consequenties kunnen zijn als overheden het toezicht op sociale media meer binnen hun eigen rechtsstaat willen halen. Europese landen, Duitsland voorop, kennen een veel sterkere traditie van het begrenzen van de uitingsvrijheid dan in de VS – zie het verbod op Holocaustontkenning. Het leidt ertoe dat sommige berichten in Duitsland wel verborgen moeten worden, maar elders gewoon zichtbaar blijven. Europese critici klagen tegelijk regelmatig over een ‘preutse Amerikaanse moraal’ die via Facebook en Instagram aan de hele wereld wordt opgelegd, waardoor bijvoorbeeld in Europese ogen onschuldig naakt wordt verwijderd. Brussel probeert met de nieuwe wetgeving de verschillen glad te strijken, maar helemaal zal dat niet lukken. Over iets als godslastering verschilt de wetgeving binnen de EU bijvoorbeeld ook.