Opinie

Algoritmen en tranen

Christiaan Weijts

Dat ze historici zijn is dan ook het enige wat Yuval Noah Harari en Mark Rutte gemeen hebben. Juist daarom plaatste het World Economic Forum de twee tegenover elkaar in een debat: ‘Hoe overleven we de eenentwintigste eeuw?’ De Israëlische doemprofeet versus de rasoptimist. De vergezichten van Homo deus versus de pragmatische visieloosheid.

Ook in Davos houden ze van de talkshowformule: twee tegenpolen doen beurtelings hun zegje, waarna de moderator vaststelt dat de tijd op is. Toch legde de ‘sessie’, donderdagochtend te volgen via livestream, wel iets onthutsends bloot.

Dat was nog niet eens dat toekomstscenario van Harari, vergeleken waarbij Brave New World maar een kinderboek is. Digitale dictaturen. Data-kolonies. Surveillance via biotech. „Dat is kennis die de Gestapo en de KGB nog niet hadden. Het algoritme kent onze diepste angsten en verlangens beter dan wijzelf. We zijn geen mysterieuze zielen meer, maar hackbare dieren.”

Nee, onthutsend was vooral Ruttes reactie: „Je hebt volkomen gelijk, Yuval. Ik heb deze week met eigen ogen de ravage gezien die algoritmes kunnen aanrichten. Ik zag tientallen burgers die de computer ten onrechte als belastingfraudeurs aanwees. Die mensen zijn gebroken, compleet vermalen in een systeem dat automatische dreigbrieven en boetes genereert, zonder uitweg. Hartverscheurend. Ik heb zelfs een tráán gelaten! Ik schrok ervan toen ik hoorde dat 48 procent van onze overheidsinstellingen algoritmes gebruikt en ingrijpende beslissingen over mensenlevens neemt, over hun gezondheidszorg, financiën, strafrechtelijke vervolging, huurtoeslagen. Deze toeslagenaffaire was nog maar een voorbode. Over zes dagen doet een rechter bij ons uitspraak in een bodemprocedure tegen SyRI, dat vermaledijde algoritme dat fraude moest opsporen. Maar toen die traan viel, viel bij mij ook het kwartje. Jouw verhaal, Yuval, gaf het laatste zetje. Ik bel straks mijn ambtenaren om SyRI nu al te staken.”

Fake news, uiteraard en helaas. Met droge ogen kwebbelde Rutte dat het wel mee zou vallen. Je moet regulering en transparantie hebben over hoe algoritmes tot hun besluiten komen. „Maar laten we ook niet bang zijn en het te strak reguleren want dan krijg je weer de vraag: wie reguleert de reguleerder?” Transparant zijn is prachtig, maar je moet er wel een lakstift bij krijgen. Harari bleef geduldig. Algoritmes gebruiken straks tienduizenden datapunten om één beslissing te nemen. Dat ís simpelweg niet meer te controleren.

Opvallend genoeg was Harari juist degene die optimistisch afsloot: er ís nu nog iets tegen te doen. Rutte bleef luchtig volhouden dat het allemaal wel losliep, zolang we een open democratie bleven. „De sterkste regulering is het onafhankelijke denken van burgers.”

Dat is geen optimisme, dat is de kop in het zand steken.

Christiaan Weijts schrijft op deze plek iedere vrijdag een column.

Reageren

Reageren op dit artikel kan alleen met een abonnement. Heeft u al een abonnement, log dan hieronder in.