Opinie

    • Maxim Februari

Bescherm de kwetsbare mens tegen digitalisering

Maxim Februari

Ik noem geen namen. Ik was in een plaatsje, dat we dan maar A zullen noemen, en ik las welke plannen de gemeente daar had voor de toekomst. „We gaan het merk A vermarkten”, stond er. „De maatregelen zullen ten spoedigste worden uitgerold.”

Interessant hoe instanties overal beslissingen nemen waarvan je op voorhand weet dat ze verkeerd zullen uitpakken. De publieke ruimte vermarkten. Surveillance opschroeven. Targets vermeerderen. Je besluit mensen niet langer te laten berechten door een rechter, maar door een openbaar aanklager met werkstress. En raad eens wat? Er worden onschuldigen veroordeeld! Verbaasd? Je besluit het salaris van een ING-topman op te hogen na een corruptiesschandaal. En verdomd, de mensen trekken met hooivorken door de straten. Verbaasd?

Net nu alle geleerde mensen in de krant schrijven dat we aan de rand van de afgrond staan – woedend volksoproer, autoritaire regimes, klimaatschade door kapitalisme – komt een gerespecteerd filosoof uit Oxford met een lumineus idee. Nick Bostrom, onderzoeker op het gebied van kunstmatige intelligentie, heeft een paper geschreven over surveillance in een kwetsbare wereld. De wereld is kwetsbaar, zegt Bostrom, informatietechnologie biedt binnenkort iedere dwaalgeest de mogelijkheid de aarde met mens en al te vernietigen.

De oplossing ligt volgens Bostrom in mondiale surveillance. Er moet snel een systeem van ‘intense sociale controle’ worden opgetuigd om stabiliteit in de wereld te brengen. Wil je massavernietiging voorkomen, dan moet je wereldwijd iedere burger vierentwintig uur per dag monitoren. Offline en online. Een hightech panopticum is daarvoor nodig. Camera’s in huizen. Toegang tot computers. Zodat de mondiale autoriteiten direct kunnen zien wat iedereen intypt op scherm. Totalitair? Hm, zegt Bostrom, als je oppast, valt dat best mee.

Het is een interessant voorstel: je weet op voorhand dat het tot rampen zal leiden. Eerst gebruik je technologie om maatschappelijke problemen op te lossen, en als die oplossingen tot nog grotere problemen leiden, gebruik je diezelfde technologie om de nog grotere problemen op te lossen, net zo lang tot je alle burgers preventief in de gevangenis stopt, puur om te voorkomen dat ze de technologie zullen gebruiken. Dr. Phil zou zeggen: „How is it working for you?

Met dit krankzinnige voorstel staat Bostrom niet alleen. Hij sluit aan bij autoriteiten die overal ter wereld en in Nederland naar repressie grijpen. Naar systemen die pretenderen misdaad en fraude op te sporen en dan volautomatisch te bestraffen. Die pretentie kan op geen enkele manier worden waargemaakt, recht is geen bingokaart. Maar autoriteiten krijgen zo toch het idee dat ze daadkrachtig optreden in een kwetsbare wereld waarin we aan de rand van de afgrond staan. Dit is precies de grappige cirkel waarin we gevangenzitten. De wereld is kwetsbaar, beleid wordt repressiever, bevolkingen worden bozer, de wereld wordt kwetsbaarder.

Op blogs van computerwetenschappers zingt een citaat rond van Pedro Domingos, onderzoeker op het gebied van kunstmatig intelligente systemen. „Mensen zijn bezorgd dat computers te slim zullen worden en de wereld zullen overnemen, maar het echte probleem is dat ze te stom zijn en de wereld al hebben overgenomen.”

Goed, zeg dan maar eens hoe het wel moet, hoor ik u mopperen. Nou, ik weet niet veel, maar ik weet wel dat intense controle niet tot sociale harmonie leidt, zoals Bostrom belooft. Zelf denk ik dat rechtvaardigheid een zekerder route is. Je kunt het recht vermarkten, opsporing en toezicht vermarkten, maar het resultaat is vooral dat je steeds onbetrouwbaarder wordt. En juist betrouwbaarheid van instituties is in woelige tijden essentieel.

Betrouwbaarheid, rechtvaardigheid, billijkheid; hoe woeliger de wereld, hoe onmisbaarder ze blijken. Sociale rechten, die verworvenheden waarover iedereen zoveel praat tegenwoordig, zijn geen accessoires waarmee je anderen wilt overtuigen van je fatsoen en je goede smaak. Als je ze serieus neemt, moet je ze verwezenlijken. De laagstbetaalden draaien al op voor de klimaatschade; de digitalisering gaat de kloof tussen arm en rijk nog groter maken. Iedere cultuur die serieus denkt superieure waarden te hebben, denkt ergens trots op te kunnen zijn, zou ermee kunnen beginnen de laagstbetaalden te beschermen tegen digitalisering en de techindustrie.

De mens is kwetsbaar. Als hij aan de rand van de afgrond staat, zoals de krant schrijft, valt het heil niet te verwachten van repressie en vermarkting, maar van rechtsbescherming en sociale rechtvaardigheid. Niet een hightech panopticum is hard nodig, maar bescherming tegen ieder hightech panopticum.

Maxim Februari is jurist en schrijver, www.maximfebruari.nl.