Branded Content
Branded Content XTR Branded Content is de commerciële content op nrc.nl. De inhoud valt buiten de redactionele verantwoordelijkheid van NRC Media.

Lastige ethische en legale vragen bij kunstmatige intelligentie

Kunstmatige intelligentie is niet alleen techniek, we krijgen bijvoorbeeld ook te maken met nieuwe ethische kwesties. Moet de autonome auto kiezen voor de veiligheid van de inzittenden of voor de mensen op het zebrapad?

De komst van zorgrobots, virtuele artsen en zelfrijdende auto’s lijkt een kwestie van jaren. Maar zulke autonome handelende systemen moeten wel op een verantwoorde manier opereren binnen de wettelijke en ethische grenzen van onze samenleving.

Ethisch handelen

“Dat is een waanzinnig belangrijk en veelomvattend vraagstuk”, zegt prof. Peter Werkhoven, corporate science director bij TNO. “Je zou kunnen besluiten dat een mens op elk moment de controle moet hebben en in the loop moet zitten. Maar dat remt de intelligentie van autonome systemen af. Bovendien is menselijke controle geen garantie voor ethisch of legaal handelen, zeker niet onder tijdsdruk en in complexe situaties. Je zou ook het systeem van tevoren de gewenste keuzes in alle mogelijke situaties kunnen voorschrijven. Maar dat is praktisch onhaalbaar; het aantal mogelijkheden explodeert al snel.”

Meaningful control

TNO zet voor autonome systemen daarom in op een andere aanpak, op basis van meaningful control. Werkhoven legt uit, met een zelfrijdende auto als voorbeeld: “Stel: je zegt alleen dat je zo snel mogelijk naar Alkmaar wilt. Dan heeft de auto geen idee hoe om te gaan met bijvoorbeeld overstekende ganzen. Terwijl een menselijke bestuurder het ook belangrijk vindt om aanrijdingen en onnodige milieuvervuiling te vermijden. Ook die doelen moet de auto dus kennen, met bijbehorende gekwantificeerde waarden om een afweging te kunnen maken. De auto heeft meer nodig dan één doel om tot een optimale keuze te komen; door de mens gespecificeerde doelfuncties zijn cruciaal.”

Keuzes transparant maken

Dit raamwerk van doelfuncties en waarden moet liefst niet door de fabrikant of individuele gebruiker worden gespecificeerd, maar democratisch tot stand komen. Werkhoven ziet een belangrijke rol weggelegd voor de overheid om tot gekwantificeerde ‘ethische doelfuncties’ te komen, die transparant zijn voor de samenleving. “In feite kwantificeren we vaker ethische afwegingen tegen kosten, bijvoorbeeld bij het bepalen van verzekeringspremies of het ophogen van de dijken. Maar dat gebeurt niet altijd systematisch en transparant voor de samenleving. AI dwingt ons als samenleving om die ethische afwegingen wel expliciet en transparant te maken. Het houdt ons als het ware een spiegel voor.”

Meer expertise nodig

Dat vraagt om een sterk multidisciplinaire aanpak, zegt Werkhoven: “Naast techniek heb je ook expertise nodig over wet- en regelgeving, ethiek, menselijk gedrag, enzovoorts. Betrokkenheid van de samenleving – wetenschap, bedrijfsleven, overheid en individuele burgers – is een belangrijke voorwaarde voor de verantwoorde ontwikkeling van intelligente systemen. AI is een zaak van ons allemaal.”
Lees verder over meaningful control en AI op tno.nl/ai.

Innovation for life

Kunstmatige intelligentie is een van de belangrijkste ontwikkelingen van onze tijd. Daarom is het een van de aandachtsgebieden waarop TNO zich richt. TNO verbindt mensen en kennis om innovaties te creëren die de concurrentiekracht van bedrijven en het welzijn van de samenleving duurzaam versterken. Zo wordt aantoonbare meerwaarde geleverd voor overheid en bedrijfsleven op de grote maatschappelijke en economische vraagstukken.
Meer weten? Kijk op tno.nl