Europese SER: nú meer controle op kunstmatige intelligentie

Kunstmatige intelligentie

De ontwikkeling van kunstmatige intelligentie gaat hard. Heel hard. En dus is er nú meer controle nodig, vooral op de ethische implicaties.

Illustratie Roland Blokhuizen

‘Kunstmatige intelligentie van Google verslaat Go-kampioen’, ‘Kunstmatige intelligentie neemt werk van jonge advocaten over’, ‘Haalt China de VS in met kunstmatige intelligentie?’. En dit is nog maar een kleine greep uit het wereldnieuws over kunstmatige intelligentie van de afgelopen paar weken. De snelle opmars van de techniek levert allerlei economische, maatschappelijke, geopolitieke en dus zelfs denksport-gerelateerde vragen op. Steeds meer science fiction-achtige voorspellingen komen uit.

Daarom is meer politiek beleid nodig, en dan vooral meer controle op de ethische implicaties van kunstmatige intelligentie. Dat stelt het Europees Economisch en Sociaal Comité (EESC) in een woensdag aangenomen advies aan de Europese Commissie. Het EESC is de vergadering van Europese werknemers, werkgevers en maatschappelijke organisaties, enigszins vergelijkbaar met de Sociaal Economische Raad (SER). Adviezen wegen politiek zwaar maar zijn niet bindend.

Zelfstandig beslissingen nemen

„Het is nú tijd voor meer discussie en beleid,” zegt Catelijne Muller, de speciale rapporteur voor kunstmatige intelligentie van de EESC. De werkgevers en werknemers willen onder meer een verbod op wapens die zelfstandig beslissingen nemen over leven en dood op basis van kunstmatige intelligentie. Dat is een oproep die de laatste jaren door steeds meer maatschappelijke organisaties wordt gedragen.

En superintelligente wapens zijn slechts één van de gevaren. Economen waarschuwen voor banenverlies omdat kunstmatige intelligentie taken van mensen zal overnemen. Ethici wijzen op de afname van menselijke autonomie als we steeds meer belangrijke beslissingen toevertrouwen aan computers. En wat als systemen met kunstmatige intelligentie racistische afwegingen maken?

Het belangrijkste uitgangspunt moet volgens de EESC zijn dat er altijd een mens achter de knoppen moet zitten bij de techniek. Tegelijkertijd erkent Muller dat dat technisch gezien een nogal ingewikkeld uitgangspunt is, omdat kunstmatige intelligentie zó werkt dat het zich juist zelfstandig ontwikkelt. Per definitie zonder menselijk toezicht dus. Anders dan normale computerprogramma’s volgt kunstmatige intelligentie niet de instructies van een programmeur op, maar ontwikkelt het zijn eigen instructies door patronen te ontdekken in grote hoeveelheden data. Dat maakt het bijzonder ingewikkeld om op alle aspecten van kunstmatige intelligentie menselijke controle te houden.

Muller: „Toch moet dat het uitgangspunt zijn, omdat je op die manier kunt zorgen dat toepassingen van kunstmatige intelligentie de maatschappij dienen. Wellicht dat recente wetenschappelijke doorbraken kunnen helpen om betere controle mogelijk te maken op de instructies die kunstmatige intelligentie voor zichzelf creëert.”

Om te zorgen dat fabrikanten op een verantwoorde manier kunstmatige intelligentie ontwikkelen, wil het EESC een Europees normerings- en certificeringssysteem. Dat om te controleren of kunstmatige intelligentie voldoet aan standaarden voor „veiligheid, transparantie, begrijpelijkheid, verklaarbaarheid en ethische waarden.”

Kill switch inbouwen

Het Europees Parlement en de Europese Commissie zijn op diverse niveaus al bezig met wetgeving rondom kunstmatige intelligentie. In februari stelde het Parlement voor om fabrikanten van kunstmatige intelligentie en robots te verplichten om een kill switch in te bouwen. Dat is een soort knop die alle functies in één klap kan uitschakelen als de techniek buiten de controle van mensen dreigt te raken.

Het EESC hamert er in het nieuwe advies op dat Europese overheden en bedrijven wereldwijd een voortrekkersrol moeten spelen. Dat is des te actueler na de oproep die de Duitse bondskanselier Angela Merkel afgelopen weekend deed aan Europa om onafhankelijker te worden van de VS. Juist ook op technologisch gebied is Europa vooralsnog zeer afhankelijk van de Amerikanen. Amerikaanse bedrijven lopen wat betreft kunstmatige intelligentie ver voor op Europese concurrenten. De grootste ondernemingen op dit gebied, waaronder Amazon, Apple en Google zitten sinds dit jaar samen in een overlegorgaan over de morele implicaties van kunstmatige intelligentie, waar met name Amerikaanse bedrijven de dienst uitmaken.

Een van de schaarse grote Europese bedrijven van betekenis in kunstmatige intelligentie, het Britse DeepMind, werd in 2014 overgenomen door Google. China werkt hard aan alternatieven voor de Amerikaanse dominantie, maar in Europa gaat dat veel trager. Ook wat wetgeving betreft loopt Europa niet bepaald voor. En dat terwijl de ontwikkeling de komende tijd volgens de meeste experts alleen maar verder zal versnellen.