EU wil AI temmen met strenge nieuwe regels

Kunstmatige intelligentie Kan Brussel kunstmatige intelligentie nog in toom houden? Dat vragen critici zich af na de presentatie van nieuwe EU-regels.

Een scherm met gezichtsherkenningtechnologie op een congres in Shanghai.
Een scherm met gezichtsherkenningtechnologie op een congres in Shanghai. Foto Qilai Shen/Bloomberg

Als regelmachine is de Europese Unie traditioneel ijzersterk. Maar bij een nieuwe poging ook artificiële intelligentie (AI) te reguleren, staat de EU wel voor een buitengewoon grote uitdaging.

Deze woensdag presenteerde de Europese Commissie langverwachte voorstellen die de inzet van AI in Europa door overheden en bedrijven aan banden moeten gaan leggen. De voorstellen zijn ambitieus, en zouden bijvoorbeeld het gebruik van gezichtsherkenning in de openbare ruimte verbieden. Maar critici vragen zich af of de EU de steeds innovatievere toepassingen van AI met alleen een omslachtig regelboek wel kan temmen.

„Hoe hoger het risico, hoe strenger de regels”, vatte Eurocommissaris Margrethe Vestager de aanpak samen. AI die de veiligheid of grondrechten van burgers bedreigt, moet volgens Brussel helemaal verboden worden. Als voorbeeld noemde Vestager speelgoed dat kinderen stiekem gevaarlijk gedrag influistert. Ook het gebruik van „sociale scoresystemen” door overheden, zoals in China, wordt in Europa taboe.

Lees ook: Wat wil Europa met AI en gezichtsherkenning?

Hoog risico

De nieuwe regels richten zich in het bijzonder op ‘hoog risico-AI’, die gaat over gevoelige onderwerpen. Daaronder vallen bijvoorbeeld systemen die de kredietwaardigheid van klanten beoordelen, of die worden ingezet bij het filteren van CV’s. Om in de EU te worden gebruikt, moeten zulke systemen voortaan aan bepaalde voorwaarden voldoen. Zo moet er een gedetailleerde uitleg bij zitten over de precieze werking, moeten de data waarmee het systeem werkt van ‘hoge kwaliteit’ zijn om discriminatie te voorkomen en moeten er voortdurend mensen mee kijken – zowel bij het ontwerp als de toepassing.

Extra streng zijn de regels voor zogeheten ‘biometrische identificatie’, bijvoorbeeld gezichtsherkenning. Het ‘real time’ gebruik daarvan in de openbare ruimte wordt verboden. Uitzonderingen blijven niettemin mogelijk: bijvoorbeeld als een kind wordt vermist, of als er sprake is van een acute terreurdreiging.

Niet zonder trots probeert Brussel nu als eerste ter wereld AI te reguleren. „In onze samenlevingen is geen plek voor ‘mass surveillance’”, benadrukte Vestager woensdag – een nauwelijks verholen verwijzing naar hoe dat in China wel gebeurt. Doel is te zorgen voor een „Europese aanpak” van AI, die „de mens centraal stelt en duurzaam, veilig, inclusief en betrouwbaar” is. Maar kritische Europarlementariërs en burgerrechtenorganisaties wezen al direct op mazen in de wet en een te groot aantal uitzonderingen. Ook over toezicht zijn er vragen. Dat ligt bij nationale autoriteiten, maar uit de ervaringen met de Europese privacyrichtlijnen blijkt al jaren hoe lastig dat is.

AI-experts en -ontwikkelaars vrezen juist dat nieuwe regels de ontluikende AI-industrie in Europa in de kiem smoren. Lastig is immers dat de EU probeert te reguleren waarin ze zelf nog mijlenver achterloopt op de Verenigde Staten en China. Brussel hoopt met de duidelijke regels, nieuwe EU-fondsen en het faciliteren van datanetwerken innovatie te stimuleren. Eurocommissaris Thierry Breton (Interne Markt) woensdag: „Het is nu duidelijk: als je iets met AI wil, moet je naar Europa. We hebben de grootste hoeveelheid industriële data en een goede infrastructuur, plus we geven je duidelijke regels en richtlijnen.”

Niet iedereen in de EU is zo optimistisch. Voor de nieuwe regels in werking treden, moeten het Europarlement en de lidstaten het bovendien nog eens worden – iets wat nog jaren kan duren.