Opinie

Gebrek aan ethisch besef bij Twitter, Google en Facebook is systeemrisico geworden

Big Tech

Commentaar

Het uitvinden van de retweet-knop op Twitter was alsof je een „geladen wapen gaf aan een kind van vier”, aldus de uitvinder van de functie zelf. Hij betuigde in een opmerkelijk interview vorige week spijt. Mark Zuckerberg, de baas van Facebook en Instagram, is bezig met experimenten om de door hem groot gemaakte ‘like’ minder belangrijk te maken, omdat die net als de retweet onwenselijke sociale druk zou creëren. De uitvinder van de ‘oneindige scroll’, de functie dat sociale media altijd nieuwe berichten blijven laden, hoever je ook naar beneden veegt, noemde zijn eigen vinding eerder dit jaar „psychologische cocaïne”.

Het zijn opmerkelijke spijtbetuigingen uit Silicon Valley. Het wetenschappelijke bewijs stapelt zich op dat de spijtoptanten grotendeels gelijk hebben, als je hun dramatische beeldspraak even wegdenkt. De dynamiek op sociale media, van constant met elkaar wedijveren om zoveel mogelijk likes en retweets, is voor grote groepen mensen en het maatschappelijke discours schadelijk. De boetedoening komt alleen wel rijkelijk laat, nadat de bedrijven miljarden hebben verdiend aan de vindingen waarvan ze nu zelf zeggen dat ze gevaarlijk zijn.

Het wijst op een bijzonder zorgelijke tendens in de technologie-industrie. Spijt komt telkens te laat, of het nou gaat om het stimuleren van ongezonde sociale interacties, privacyschendingen of nalatigheid bij de verspreiding van nepnieuws.

Het gebrek aan ethisch besef is extra zorgwekkend omdat het doet denken aan een andere vitale economische sector die eerder ontspoorde: de banken. Journalist Joris Luyendijk schetste na de crisis van 2007 in zijn boek Dit kan niet waar zijn een angstaanjagend beeld van hoe de financiële sector functioneerde: als een vliegtuig waar niemand in de cockpit zat. Het systeem was zo complex geworden dat niemand er nog verantwoordelijkheid voor nam.

Net als riskante financiële producten toen, worden nu algoritmes door techbedrijven de wereld in geslingerd, zonder dat voldoende wordt meegewogen wat de maatschappelijke gevolgen zijn. Het hoeft niet eens expres immoreel te zijn, het is amoreel: ethiek speelt simpelweg geen rol. Het enige wat telt is hoeveel aandacht en data van gebruikers de bedrijven kunnen oogsten: dat is waar de zeer lucratieve verdienmodellen op drijven.

De klokkenluiders die in de cockpit van Big Tech hebben gekeken, treden de laatste tijd unaniem geschokt naar buiten. „Facebook is puur bedoeld om menselijke zwakte uit te buiten,” volgens een oud-bestuurder van het bedrijf. „Behalve tech is de enige bedrijfstak die zijn klanten ‘gebruikers’ noemt de drugshandel,” volgens een prominente oud-Google-medewerker. Hoeveel waarschuwingen zijn er nodig?

Nog een veeg teken is hoe Google de laatste tijd is omgegaan met medewerkers die begin dit jaar protesten organiseerden tegen seksuele intimidatie en discriminatie in de technologiesector en bij Google zelf. De meeste van de organisatoren van deze zogeheten Walk Out-acties zijn inmiddels vertrokken bij Google, naar eigen zeggen omdat ze zijn tegengewerkt. Eén van hen is Meredith Whitaker, een prominente onderzoeker die werkte aan ethische richtlijnen voor het gebruik van kunstmatige intelligentie. „Het is duidelijk dat Google geen plek is waar ik dit werk kan voortzetten,” schreef ze in een boze blogpost.

Technologiebedrijven zijn zo machtig geworden dat interne en externe kritiek ze niet meer weerhoudt van het ontplooien van activiteiten die ten koste gaan van mensen. Ze wanen zich onaantastbaar. Het is het definitieve einde van Google’s nobele slogan uit de begintijd: ‘Don’t be evil’.

Internationaal beginnen overheden in actie te komen. Australië wil zijn markttoezichthouder speciale bevoegdheden geven om Big Tech aan te pakken. De Amerikaanse waakhond FTC legde vorige week aan Facebook een recordboete op van 5 miljard dollar vanwege herhaaldelijke grove privacyschendingen en het niet nakomen van afspraken.

Dit soort acties komt geen moment te vroeg. Ook in de EU en Nederland zijn ingrijpender maatregelen en nieuwe toezichts- en beleidsinstrumenten nodig om burgers te beschermen tegen systeemrisico’s die Big Tech veroorzaakt.

Want dat is wat het morele falen van de techbedrijven meebrengt: risico’s voor cruciale maatschappelijke en democratische infrastructuur. De echo’s van de bankencrisis van 2007 klinken steeds duidelijker. Het is hoog tijd dat overheden ingrijpen.