Wie rijd je liever dood: een baby of bejaarde?

Leven en werken in Silicon Valley Nieuwe technologie baart ook ethische kwesties. Gouden tijden voor juristen, ziet Marietje Schaake.

Illustratie Pepijn Barnard

Een zaal in een van de glazen kantoorgebouwen in San Francisco is gevuld met managers, juristen en consultants. Deze bijeenkomst over business and human rights is georganiseerd door een advocatenfirma. Het thema ligt gevoelig, en bedrijven delen hun dilemma’s niet graag. Over invoering van mensenrechtenstandaarden in digitale producten en diensten zegt een senior manager bij een groot technologiebedrijf: „Als ik meer aandacht wil voor ethische aspecten van onze producten, moet ik dat voorzichtig brengen. Als ik te ambitieus ben, zeggen mijn ingenieurs ‘no way’ en doen het gewoon niet.”

Nu niettemin steeds meer technologiebedrijven in de knel komen met mensenrechten en andere juridische kwesties, móéten ze wel veranderen. Ze kopen advies en sturing in. Als ze worden aangeklaagd, komt daar een team advocaten bij.

Ingenieurs, programmeurs, data-analisten, het zijn de ongekroonde koningen van Silicon Valley die op gympen de wereld besturen. Topmannen en -vrouwen staan met hun miljarden dollars veel in de schijnwerpers, op een markt met moordende concurrentie waar téchnisch genie van onschatbare waarde is. En die ingenieurs en data-experts willen ruimte en middelen om te experimenteren, met liefst zo min mogelijk beperkingen.

‘Move fast and break things”, zo typeerde Facebook-chef Mark Zuckerberg de cultuur in Silicon Valley. De dictatuur van ingenieurs verklaart ook een deel van de problemen die de technologische revolutie met zich meebrengt. Terwijl ze software schrijven voor producten en diensten, verankeren ze er ook waarden in – of juist niet. Een product dat optimaal werkt, kan onbedoeld negatieve effecten hebben op democratie of volksgezondheid. Wie onder tijdsdruk voorrang geeft aan winst of efficiëntie, zit al snel in een tunnel waar vrije meningsuiting of discriminatie alleen maar afleiden.

Nadat ik op de bijeenkomst heb gesproken, stelt een man zich aan me voor als investeerder die al met pensioen had kunnen zijn. Maar hij heeft nog zoveel lol in beleggen en adviseren van mensen met jonge bedrijven dat hij het werk niet kan loslaten.

„Wat doe jij nou precies op Stanford?”, vraagt hij. Ik leg uit dat ik me bezighoud met beleid gerelateerd aan technologie en kunstmatige intelligentie, AI. „Beleid?”, zegt hij schamper. „Vertel dan eens: hoe maak je dat voor de volgende kwestie? Een van mijn bedrijven maakt zelfrijdende auto’s en de ingenieurs vroegen me laatst wie ik liever dood wil als ze moeten kiezen: een baby of een oud iemand. Dat moet allemaal geprogrammeerd worden, hè?”

„Liever geen van beiden”, probeer ik. Bij hem blijkt geen ruimte voor luchtigheid. „Zeg het maar, of vertel me hoe jij de afweging zou maken – en o ja, menselijke bestuurders rijden gemiddeld meer mensen dood dan zelfrijdende auto’s.”

We bespreken of je de waarde van een mens überhaupt objectief kan berekenen en of je er een formule op los kan laten. Kan je een zelfrijdende auto zo programmeren dat die bewust in willekeurige richting uitwijkt? Dat het algoritme gewoon een lootje trekt om te kiezen tussen baby of bejaarde?

We stellen vast dat wetgevers of verzekeraars dit helder zullen willen krijgen, of anders rechters wel. Iemand moet immers aansprakelijk zijn als er een slachtoffer valt.

„Ik moet de eerste advocaat nog tegenkomen die het opneemt tegen onze AI”, zegt de investeerder. „Voor je het weet, is er een juridisch algoritme dat dat doet”, antwoord ik.

De vele vragen over de impact van technologie op rechten en plichten zijn voor juristen in Silicon Valley een melkkoe. Ik begrijp steeds beter dat ook zij hier gouden tijden beleven. Hoe lang kunnen techbedrijven zich nog verschuilen achter al die kleine lettertjes, zorgvuldig uitgedacht door juristen? Die vraag is vanmiddag niet beantwoord.

Marietje Schaake, voormalig Europarlementariër, werkt voor de universiteit van Stanford, waar ze zich vooral bezighoudt met kunstmatige intelligentie. Ze schrijft een tweewekelijkse rubriek over leven en werken in Silicon Valley.