Opinie

    • Anna Gerbrandy

De platformeconomie kan (nog) zonder algoritmewaakhond

Heeft een wereld die zo wordt gestuurd door algoritmes daar een aparte Europese toezichthouder voor nodig? Nee, schrijft Anna Gerbrandy in de Europacolumn.

beeld fotodienst nrc

Ons leven wordt in toenemende mate bepaald door algoritmes. Die van Google doorzoeken zeeën van informatie en bepalen welke informatie relevant is. Amazon biedt literatuursuggesties en Facebook geeft een gepersonaliseerd overzicht van het laatste nieuws en updates van familie en vrienden.

Algoritmes kunnen bepalen wie er een lening krijgt en wie niet. Ze spelen een rol in allerlei vormen van nieuwe financiële dienstverlening, onder ander mogelijk gemaakt door de binnenkort van kracht wordende Europese regelgeving die het delen van financiële gegevens makkelijker moet maken. Zij zijn bovendien behulpzaam in de gezondheidszorg, op de arbeidsmarkt, en bij de plaatsing van leerlingen op middelbare scholen. Dat betekent vaak innovatieve, betere, snellere, op maat gesneden dienstverlening. Tegelijkertijd klinkt er een roep om meer toezicht en meer transparantie. Is een nieuwe Europese toezichthouder op algoritmes een goed idee?

Donkere kant

Het gebruik van algoritmes kent schaduwzijden. Algoritmes kunnen bevooroordeeld zijn, bijvoorbeeld omdat onze bias doordringen in het algoritme zelf. Door algoritmes te bespelen krijgt nepnieuws een kans (maar algoritmes kunnen ook ingezet worden tégen nepnieuws). Algoritmes leiden tot blikvernauwing en filterbubbels. Algoritmes in zelfsturende auto’s worden belast met ethische afwegingen. Algoritmes kunnen prijsafspraken maken. Misschien is het zoals Cathy O’Neil stelt: algoritmes zijn ‘weapons of math destruction’.

De problemen hebben betrekking op een aantal kernwaarden van liberale democratieën. Ze zouden grofweg in twee categorieën kunnen worden verdeeld: problemen waardoor waarden van democratie en rechtsstaat onder druk komen te staan en problemen die de waarden van open markten raken. De eerste groep betreft bescherming van grondrechten, gelijke behandeling en het recht op privacy, maar ook persvrijheid, mediapluriformiteit en de robuustheid van de democratie zelf. De tweede groep omvat de waarden van economische vrijheid, welvaart en innovatie.

Toezichtdeksel

Veel van deze waarden worden al beschermd door Europese of nationale regelgeving. Zo biedt de Algemene Verordening Gegevensbescherming vanaf 25 mei 2018 verdergaande bescherming bij gebruik van privacygevoelige data door ondernemingen. Europees mededingingsrecht verbiedt prijsafspraken, of ze nu door algoritmes worden gesloten of niet. Mediapluriformiteit wordt beschermd in de Mediawet. En de Algemene wet gelijke behandeling probeert discriminatie te voorkomen.

Voor veel van deze regelgeving is er een eigen toezichthouder. Deze toezichthouders – in Nederland bijvoorbeeld de Autoriteit Consument en Markt, de Autoriteit Persoonsgegevens, het Commissariaat voor de Media – hebben elk hun eigen bevoegdheden. Op basis daarvan kunnen ze ‘hun’ stukje van de problematiek aanpakken. Die bevoegdheden worden ook aangepast aan onze algoritmische en datagedreven samenleving, zoals de nieuwe bevoegdheden van de Autoriteit Persoonsgegevens laten zien, als het gaat om bescherming van persoonsgegevens.

Daarmee is niet gezegd dat er op elk probleem een toezichtdekseltje past. In het mededingingsrecht is er volop discussie over de vraag of het huidige Europese kader nog wel past bij de platform-economie. Het ene platform is het andere niet: zo zijn Google en Facebook, en de bij hen beschikbare data en verfijnde algoritmes, van een andere grootheid dan een buurtapp om gereedschap te delen. Dus is het de vraag of het Europese mededingingsrecht in de volle breedte van de platformeconomie kan worden toegepast, of dat er – om de hierboven geïdentificeerde problemen aan te pakken - een fundamentele vernieuwing van concepten nodig is.

EU algoritme-agent

Ondertussen klinkt de roep om meer transparantie en meer toezicht, bijvoorbeeld door een ‘AI Watchdog’, of een ‘Algorithm Safety Board’. Binnen een Europese context ligt dan al snel een Europese toezichthouder, of een Europees netwerk van nationale algoritmetoezichthouders, voor de hand. Voorstelbaar is dat deze toezichthouder vooral is belast met bescherming van de waarden van democratie en grondrechten. Immers, de marktgerelateerde waarden worden, in ieder geval voor een deel, al door de Europese Commissie als mededingingstoezichthouder beschermd.

De roep om een nieuwe toezichthouder is echter ook wel een beetje gemakzuchtig. Het levert afbakeningsproblemen op met bevoegdheden van bestaande toezichthouders. Hoewel een nieuwe algoritmetoezichthouder goed klinkt, zijn er ook andere opties. Allereerst – niet zo spannend, moet worden toegegeven – moet worden bezien in hoeverre er daadwerkelijk ‘gaten’ zitten in de bestaande bevoegdheden van toezichthouders. Vervolgens kunnen, indien nodig, bevoegdheden van huidige toezichthouders worden uitgebreid. Zo wordt aangesloten bij bestaande kennis en expertise. Natuurlijk is een goede afstemming en samenwerking tussen die toezichthouders van groot belang. En uiteraard vereist dat ook besef van de alomtegenwoordigheid van algoritmes en de macht van sommige bedrijven.

Aan alle burgers

Ten tweede kan aan ondernemingen een publieke verantwoordingsverplichting, in het kader van accountability en transparantie, worden opgelegd. Die transparantie over de werking van algoritmes is des te meer van belang omdat met name grote platformondernemingen daadwerkelijk impact hebben op democratische processen. Over die impact, en de wijze waarop dat algoritmisch vorm krijgt, zouden zij verantwoording moeten afleggen: niet zozeer aan hun consumenten maar aan alle burgers; en niet (pas) indien daar door een toezichthouder om wordt gevraagd, maar voortdurend en publiekelijk. Indien die beide stappen worden genomen is een Europese toezichthouder voor algoritmes niet direct nodig.

Anna Gerbrandy is hoogleraar Mededingingsrecht aan de Universiteit van Utrecht. De Europacolumn verschijnt wekelijks.

    • Anna Gerbrandy