Opinie

Gezichtsherkenning, mag dat? Helaas, zo werkt ethiek niet

Hoe bepaal je of het gebruik van nieuwe technologieën ethisch verantwoord is? Simpele antwoorden zijn er niet, wel een uitgewerkte aanpak, schrijven en .
Bezoekers van de China Public Security Expo in Shenzhen kijken naar veiligheidsmonitoren
Bezoekers van de China Public Security Expo in Shenzhen kijken naar veiligheidsmonitoren Foto Noel Celis/AFP

De slimme camera die gezichten kan herkennen is nu zo ver ontwikkeld en is zo betaalbaar geworden, dat hij steeds meer zijn intrede doet in onze samenleving. NRC schreef de afgelopen dagen in een drieluik over de inzet van de camera in voetbalstadions, casino’s en luchthavens. En er komen steeds meer digitale technologieën zoals artificiële intelligentie en robotica, die breed inzetbaar en betaalbaar zijn. Deze ontwikkelingen en hun effecten in de samenleving zijn grotendeels ongekend, zowel de positieve als de negatieve.

Het ethische debat hierover kan volgens ons beter gevoerd worden. Veel ethische en politieke discussies over technologie gaan begrijpelijkerwijs over de vraag of het wel of niet aanvaardbaar is om een technologie toe te passen. Maar in die benadering plaats je techniek en samenleving tegenover elkaar. Technologie is dan een potentiële bedreiging voor de samenleving en het is de verantwoordelijkheid van de ethiek om te bepalen welke techniek toegelaten mag worden en welke niet. ‘Mag dit?’

Maar techniek en samenleving staan niet tegenover elkaar, ze zijn juist fundamenteel met elkaar verweven. De samenleving heeft altijd al vorm gekregen door interactie met technologie, vaak ook op manieren die niet expliciet bedoeld waren door ontwerpers. De boekdrukkunst leidde bijvoorbeeld niet alleen tot de mogelijkheid om gemakkelijker teksten te vermenigvuldigen, maar droeg ook bij aan de Reformatie, de opkomst van de moderne wetenschap en de universiteit. Mensen zijn net zo nauw verbonden met technologie als met taal: technologie maakt ons mede tot wie we zijn.

Welke waarden in het gedrang?

En ethiek draait ook niet slechts om ‘beoordelen’. In plaats daarvan kun je ethiek zien als hulp bij het normatief ‘begeleiden’ van technologie in de samenleving. Welke waarden staan er op het spel bij de introductie van een nieuwe technologie? En hoe kunnen we die meenemen in de praktijk van gebruik, ontwerp en implementatie? Met een brede werkgroep van mensen uit de overheid, het bedrijfsleven, de wetenschap en sectoren als zorg, veiligheid en energie hebben we een aanpak ontwikkeld om zo’n ethische begeleiding concreet vorm te geven.

Essentieel is dat we een technologie in haar eigen context beschouwen. De roep om algemene kaders is groot, zoals bij Tweede Kamerlid Kees Verhoeven die „algemene ethische en wettelijke regels” bepleit. Hoe verstandig zulke kaders ook zijn, ze missen doorgaans de concrete waarden vanuit het toepassingsgebied, zoals goede zorg of een veilige leefomgeving. Gezichtsherkenning om je computer te openen moet aan andere eisen voldoen dan het gebruik binnen Schiphol om sneller veilig door te kunnen lopen of door de politie om hooligans te herkennen in voetbalstadions. In elke situatie zijn er bij de inzet van technologie andere effecten, zijn er andere partijen betrokken en spelen er andere waarden. Die moeten allemaal onderdeel zijn van een ethische dialoog.

Vaak stoppen ethische methodes na het organiseren van zo’n dialoog, met soms een oordeel of een normenkader als sluitstuk. Bij de aanpak begeleidingsethiek gaat het ook om de vraag hoe we kunnen handelen, om technologie te introduceren in de samenleving op een manier die past bij onze waarden. We onderscheiden drie soorten handelingen.

Op drie manieren iets te doen

De eerste categorie betreft ingrijpen in de technologie zelf. In het ontwerp zouden belangrijke maatschappelijke waarden, zoals privacy, al meegenomen moeten worden. Zo wordt er op dit moment geëxperimenteerd met gezichtsherkenning in stadions, waarbij gezichtskenmerken zo worden opgeslagen dat ze onherkenbaar zijn. Ze worden pas herkenbaar als ze worden gekoppeld aan een nieuwe foto, bijvoorbeeld van iemand die ongewenst gedrag vertoont. Anders gezegd: bij deze vorm van technologie wordt je niet gezien als je niets fout doet en blijft je privacy gewaarborgd.

De tweede soort handelingen gaat om de context waarin die technologie functioneert. Denk aan het vastleggen van afspraken en aan communicatie over het gebruik van de technologie. Wanneer wordt gezichtsherkenning ingezet en wanneer uitgezet? Wie heeft er toegang tot de data? Hoe kunnen mensen (snel) in beroep gaan tegen het oordeel van een slimme camera? Wat moet je mensen vertellen of vragen, als je een camera met gezichtsherkenningtechniek aan je gevel hangt?

De derde categorie betreft het gebruik van de technologie. Hoe kunnen gebruikers in staat gesteld worden om kritisch om te gaan met nieuwe technologie, en hun sociale impact? Bij gezichtsherkenning gaat het er bijvoorbeeld om dat medewerkers voldoende getraind zijn dat ze data op een juiste manier kunnen interpreteren. Ook zullen ze een bewustzijn moeten ontwikkeling wat ze ten aanzien van burgers wel en niet mogen doen.

Lees ook dit opiniestuk: Investeer in kennisbasis AI of word een toeschouwer

Een ethisch verantwoorde omgang met technologie gaat niet alleen over wat we vinden van een technologie, maar juist ook over de praktijk van het concrete gebruik. Overal liggen sleutels om ethisch te handelen, die in elke context moeten worden onderzocht en afgewogen om tot beslissingen te komen. Onze tijd vraagt om een ethiek die niet alleen maar grenzen wil stellen, maar juist de voorwaarden wil scheppen voor een waarden-volle digitale wereld.

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.