Het recht om te weten waar ze aan werken

Liz O’Sullivan Techonderzoekster Liz O’Sullivan voert campagne voor ‘ethische tech’ en tegen autonome wapens.

„Ik was in shock. Mijn baas liet iedereen weten dat hij geen bezwaar had tegen het leveren van technologie voor wapens – autonome wapens – aan de overheid.” Liz O’Sullivan herinnert zich de personeelsvergadering van het softwarebedrijf Clarifai in februari maar al te goed. Ze nam de volgende dag ontslag. Nu voert ze campagne voor ‘ethische tech’ en tegen autonome wapens. Ze vertelt via Skype dat bedrijven transparant moeten zijn over de ontwikkeling ervan.

De techonderzoekster wist dat nieuwe ontwikkelingen ook een militaire toepassing kunnen hebben. Ze begon in 2017 bij Clarifai. Die start-up profileerde zich als een „sociaal bedrijf”, dat visuele herkenningssoftware maakt. Zo wees het eerder samenwerkingen met defensie af. Toen ze er aan het werk ging, vertelt O'Sullivan, waren consumenten en politici ook doordrongen van die risico’s. Overheden gingen evengoed door met het ontwikkelen van militaire toepassingen. Het Amerikaanse Pentagon begon Project Maven, om ‘algoritmische oorlogsvoering’ te onderzoeken.

Ook Clarifai sleepte een overheidscontract binnen. Maar na verloop van tijd ontstond ongemak onder O’ Sullivan en haar collega’s. Langzaam kwamen details naar buiten: het ging om Project Maven. De geheimzinnigheid was enigszins begrijpelijk, benadrukt O’Sullivan, maar ze besloot een openbare brief te sturen naar de directie. Werkte Clarifai aan software voor autonome wapens?

Die systemen zijn volgens O’Sullivan de schrik van veel ontwikkelaars. In publicaties zet ze de risico’s uiteen: de autonome wapens kunnen softwareproblemen ondervinden of worden gehackt. Algoritmes zijn achteraf moeilijk te doorgronden. Kunstmatige intelligentie zou oorlogsvoering escaleren en versnellen, voordat mensen er erg in hebben.

„Veel werknemers houden vast aan een ‘recht om te weten’”, zegt O’Sullivan in reactie op het PAX-rapport over de sector. „Ze bouwen jaren aan een product. Ze hebben idealen, of religieuze overtuigingen – misschien komen ze wel uit landen waar nu al drone-oorlogen worden gevoerd.” Vooralsnog is altijd sprake van menselijke betrokkenheid, stelt O’Sullivan. „Maar AI wordt al gebruikt bij het leger. En commerciële drones met semi-autonome besturing bestaan al. Ik maak me zorgen dat autonome besturing een software-update van ons verwijderd is.”