Wat wil Europa met AI en gezichtsherkenning?

Plan De Europese Commissie presenteerde woensdag haar visie op de digitale toekomst. Daarin zoekt ze de balans tussen stimulering van de Europese techsector en bescherming van burgers.

Simulatie van gezichtsherkenning bij de Europese Commissie
Simulatie van gezichtsherkenning bij de Europese Commissie Foto Europese Commissie / bewerking NRC

Twintig miljard euro aan investeringen per jaar in onderzoek en innovatie voor artificiële intelligentie (AI). Een Europees systeem van open data, waarin bedrijven en wetenschappers data met elkaar delen om medicijnen te ontwikkelen of verspilling van grondstoffen tegen te gaan. Een Europese cloudstrategie, die beoogt dat data binnen Europa worden opgeslagen. Striktere regelgeving voor bedrijven die AI willen toepassen.

De Europese Commissie presenteerde woensdag haar visie op de digitale toekomst – met een pakket aan plannen en voornemens voor hoe Europa met thema’s als AI, cyberveiligheid en gezichtsherkenning wil omgaan. Later dit jaar moeten er wetsvoorstellen volgen, die in potentie veel impact hebben op hoe bedrijven in Europa straks kunnen opereren.

Kern van de plannen: Europa wil enerzijds technologische innovatie stimuleren om mee te blijven doen in de race met China en de Verenigde Staten. Tegelijkertijd wil het burgers beschermen tegen nieuwe technologieën, zodat burgers ook het benodigde vertrouwen daarin krijgen. Zo overwoog de Commissie een tijdelijke ban op gezichtsherkenning op te nemen in de plannen, maar die is in de definitieve versie van woensdag geschrapt.

Visie bleef lang uit

Voorzitter Ursula von der Leyen van de Europese Commissie kondigde bij haar eerste speech in november vorig jaar aan dat een betere „digitale bescherming” van Europese burgers haar belangrijkste prioriteit is. Een visie op en heldere spelregels voor AI – slimme software die met hulp van data voorspellingen doet en zelfstandig besluiten neemt – is daarin het belangrijkste aandachtspunt. Tekenend was dat Von der Leyen woensdag tijdens een persconferentie in Brussel techcriticus Yuval Noah Harari citeerde: „Mensen zijn altijd beter geweest in het uitvinden van nieuw gereedschap, dan in daar verstandig mee omgaan.”

Nu bedrijven digitaliseren en data als brandstof gebruiken voor hun technologische ontwikkeling, is AI in elke sector een belangrijk onderwerp. Denk aan algoritmes die diagnoses stellen op basis van medische data, algoritmes die aan de hand van klantdata voorraden efficiënter helpen inrichten of algoritmes die helpen vliegtuigen en containerschepen de snelste route te laten afleggen. Meer dan de helft van de Europese bedrijven gebruikt een vorm van AI, constateert de Commissie.

Meer dan de helft van de Europese bedrijven gebruikt een vorm van AI, constateert de Commissie

Tot frustratie van AI-wetenschappers bleef een Europese visie over hoe ver bedrijven en overheidsorganisaties hierin kunnen gaan lang uit. Veel individuele lidstaten, waaronder Nederland, kwamen al met eigen plannen. Zo kondigde staatssecretaris Mona Keijzer (Economische Zaken en Klimaat, CDA) in oktober aan dat Nederland de komende zeven jaar een miljard euro extra in AI wil steken, een verdubbeling van de investeringen.

Lees meer over investeringen in AI van het Nederlandse bedrijfsleven en de overheid: Nederland investeert miljarden in kunstmatige intelligentie: waarom?

Waar de VS en China elkaar aftroeven met miljardeninvesteringen en bedrijven (Amazon, Google, Alibaba, Huawei) voortbrengen met wereldwijde invloed, blijft Europa achter. Europa hoopt, door wereldwijd de standaard in AI-wetgeving te zetten, investeringen naar zich toe te trekken en onderscheidende technologie te kunnen voortbrengen. Maar om die achterstand in te halen, zal meer nodig zijn, constateren ambtenaren in Brussel. Zoals een EU-ambtenaar het zegt: „We gaan het op dit gebied niet winnen door kampioen regelgeving te zijn.” Er moet, kortom, geld bij, uit zowel de EU-begroting als nationale begrotingen.

Ogen gericht op Europa

De razendsnelle technologische ontwikkelingen gaan, zo schrijft de Commissie, gepaard met risico’s, zoals discriminatie of burgers die een speelbal worden van geautomatiseerde beslissingen . Het zijn risico’s die duidelijke regelgeving vereisen. De ogen, ook van de Amerikaanse techreuzen, zijn daarbij gericht op Europa, dat sinds privacywet GDPR de reputatie heeft internationaal de standaard te zetten.

Deze volgende stap moet voor Brussel bij uitstek een manier worden om aan burgers te laten zien wat Europa kan betekenen: via regelgeving zorg dragen voor een veilige omgeving. Zoals Europa eerder standaarden zette voor de veiligheid van speelgoed, voedsel en voertuigen, wil Brussel dat ook in de digitale wereld doen. Zodat burgers bijvoorbeeld, zo wordt in het Commissievoorstel beschreven, niet met gezichtsherkenning te maken krijgen die discrimineert op basis van huidskleur.

Een van de voorstellen waar bijvoorbeeld Duitsland veel voor voelt, is het verplicht stellen van een certificaat vooraf voor bepaalde vormen van AI met een ‘hoog risico’. De kans dat iets vergelijkbaars uiteindelijk in nieuwe wetgeving komt te staan is volgens betrokkenen aanzienlijk. Maar alles valt of staat bij het toezicht. En dit kan niet worden overgelaten aan nationale toezichtsorganen, aldus Eurocommissaris Margrethe Vestager (Mededinging) woensdag. „We moeten zorgen voor een gezamenlijke Europese autoriteit, om fragmentatie van de handhaving te voorkomen.”

Big Tech wil meepraten

De grote Amerikaanse techbedrijven proberen ondertussen een voet tussen de deur te krijgen. Big Tech ziet zich in toenemende mate geconfronteerd met miljardenboetes van Eurocommissaris Vestager wegens belastingontduiking en privacyschendingen. Ngo Transparency International meldde vorig jaar dat Google, Apple, Facebook en Amazon hun lobbybudgetten in Brussel sinds 2014 hebben vervijfvoudigd.

Verregaande regulering zet de aanhoudende groei van de vijf grote Amerikaanse techbedrijven onder druk. Lees meer over de vijf zwakke plekken van Big Tech

Big Tech vraagt Brussel nu expliciet om regulering. Facebook-topman Mark Zuckerberg kwam afgelopen maandag speciaal naar Brussel om met beleidsmakers te overleggen over de nieuwe regelgeving. En ook Google-topman Sundar Pichai was onlangs in Brussel om daar een speech te geven over AI.

De plannen van de Commissie werden woensdag in een eerste reactie door experts positief ontvangen. Hoogleraar Lokke Moerel: „Ik heb nog niet eerder zo’n ambitieus stuk gezien, waarbij zoveel geld wordt ingezet om een nieuwe technologie een boost te geven.” Maarten de Rijke, wetenschappelijk directeur van AI-innovatiecentrum ICAI: „Op ieder visiestuk kun je kritiek hebben, op de snelheid ook. Maar het is goed dat dit nu met de nieuwe Commissie met flink wat vaart wordt opgepakt en de vaart erin blijft.”

Kritiek is er met name op de geringe aandacht die de Commissie besteedt aan het stimuleren van talent en onderwijs. Terwijl dat „nou juist als eerste moet worden opgepakt”, zegt De Rijke. In Nederland studeren jaarlijks zevenhonderd AI-studenten af, waar de arbeidsmarkt om duizenden mensen vraagt. „We zullen echt veel meer moeten investeren in universitair onderwijs op dit gebied”, zegt Rineke Verbrugge, hoogleraar logica en cognitie aan de Rijksuniversiteit Groningen. „Met de huidige werkdruk hebben AI-wetenschappers veel te weinig tijd voor onderzoek. Dit gebeurt in de vrije tijd.”