Opinie

AI gaat de democratische rechtsstaat vormgeven

Maxim Februari

Volgens het hoofdredactioneel commentaar van NRC zijn mensenrechten best belangrijk. En open economieën dan, en democratische vrijheden? Ja hoor, die ook. Maar van zulke „mooie principes” kun je niet leven. De EU zal volgens de hoofdredactie dus serieus moeten gaan deelnemen aan de „wedstrijd”. De concurrentie aangaan met China en Poetin op het gebied van artificiële intelligentie. Investeren. Geld verdienen. Monopolies breken. Eigen techbedrijven beschermen. Niet alleen maar met een „opgeheven vingertje” aan de zijlijn staan en mekkeren over rechten (Europese AI-plannen zijn recept voor verdere achterstand, 22/2).

Ik chargeer een beetje, anders luistert er helemaal niemand. Ik geloof dat de hoofdredactie recht en democratie echt wel de moeite waard vindt. Maar toch was het standpunt in het commentaar zorgwekkend. AI is namelijk geen product dat je kunt maken en verhandelen op een markt, waarna je in je zondagse kleren probeert die markt in overeenstemming te brengen met de democratische rechtsstaat. De democratische rechtsstaat is zelf onderdeel van het product dat verhandeld wordt. AI gaat de democratische rechtsstaat vormgeven.

Rechten zijn dus geen „kaders” of „spelregels” die je – als je toevallig Europees bent en fijngevoelig – van buitenaf aan intelligente systemen kunt opleggen. Zodra de wereld door code wordt geregeerd zullen democratie en rechtsstaat verdwijnen, tenzij je de nieuwe wereld bewust als een democratische rechtsstaat ontwerpt. De principes zijn het product. Je hóeft ze niet te maken, natuurlijk, want zonder democratie, rechtsstaat en mensenrechten kunnen we ook leven: dat doen ze in dictaturen al tijden.

In de Europese verhoudingen is de strikte scheiding tussen economie, democratie en recht al op een heel basaal niveau onzinnig. Wat lees je tegenwoordig zoal in het nieuws? Interviews met Thomas Piketty over toenemende ongelijkheid. Berichten over slavernij bij bloeiend techbedrijf Amazon. Over uitbuiting van de pakketbezorgers. Er waart een onrust door de democratieën waaraan je goed kunt zien hoe verweven politiek en economie zijn.

De verwevenheid van economie en rechtsstaat zie je nu zelfs terug in het debat over de ‘voltooid-levenwet’. Vergun me een uitstapje naar die wet en dan zal ik straks eerlijk uitleggen wat ik bedoel. Waarom AI niet gemaakt en verhandeld kan worden zonder tegelijk het recht vorm te geven.

Eind januari verscheen het rapport van een onderzoek onder mensen met doodswens. Uit het rapport bleek dat het doodsverlangen niet altijd serieus gemeend is: mensen willen dood en toch blijven leven. Het gaat in veel gevallen om laagopgeleide vrouwen, mensen met geldproblemen. Ze willen ofwel een zelfdodingsmiddel ofwel „meer financiële ruimte”.

Nu kun je denken dat economische overwegingen geen rol mogen spelen in het gesprek over leven en dood, maar dat doen ze natuurlijk toch. Bij eerdere debatten in 2016 zei Lilian Marijnissen (SP) daarom dat je niet tegelijkertijd op ouderenzorg moet bezuinigen én een voltooidlevenwet invoeren.

Op filosofiesite Bij Nader Inzien schrijft ethicus Jan Vorstenbosch dat de staat mogelijk de financiële lasten van ouderen voor de samenleving „gaat erkennen als goede redenen om dood te willen”. Een verslechterende economie en oplopende zorgkosten zullen de druk op ouderen verhogen. Dat is onverstandig, want misschien kun je de economische situatie inderdaad niet veranderen, maar je moet die zeker niet per wet legitimeren als reden om dood te gaan.

Politici die voorstander zijn van de wet negeren deze argumenten vastberaden. Toenmalig minister Edith Schippers zei in 2016 in reactie op een afwijzend onderzoeksrapport dat het maatschappelijke debat nu eenmaal aanstuurde op „meer autonomie” voor mensen met een doodswens. D66-Kamerlid Pia Dijkstra liet voor het verschijnen van een nieuw onderzoeksrapport weten hoe dan ook zo’n wet te gaan indienen.

Deze manier van politieke besluitvorming is interessant. Bedenk je dat AI wordt ontworpen om zulke menselijke besluitvormingsprocessen te ondersteunen of over te nemen, dan is het goed voorstelbaar dat je AI op de markt brengt die is afgestemd op het denken van Edith Schippers en Pia Dijkstra. Je maakt een kunstmatig intelligente Pia Dijkstra die niet vatbaar is voor argumentatie over wat rechtens mogelijk is. En die de complexe verwevenheid van de overwegingen negeert.

Die AI ga je verkopen. Die krijgt dan meer macht dan politici ooit hebben gehad. Dan kun je suggereren dat je een winstgevend product hebt gemaakt waarmee mensen helemaal autonoom dood kunnen, maar je hebt ook de rechtsstaat veranderd.

Maxim Februari is jurist en schrijver, www.maximfebruari.nl.