Opinie

Het wordt echt interessant aan de grens van de ethiek

Maxim Februari

De politie wil morele grenzen passeren. De krijgsmacht wil desinformatie verspreiden. Als gewone burger kan ik daarbij niet achterblijven. „It’s a new dawn, it’s a new day, it’s a new life for me.” Na vandaag ga ik liegen om de wereld beter te maken.

Vorige week organiseerde de politie „op een waanzinnige locatie” een innovatiefestival onder de titel Crxssing Bxrders. Volgens de annonce ging men er ver „over de grenzen van het voorstelbare, het ethische of het morele”. Mij verbaasde dat niks: innoveren is het nieuwe koketteren. Je kunt geen congres meer bezoeken of het is op een te gekke locatie en ze gaan er met z’n allen het onmogelijke mogelijk maken. De taal van de bloemenkinderen uit de jaren zestig, nu gebezigd door de autoriteiten en de bourgeoisie.

Hier en daar ontstond beroering over de plannen van de politie om morele en ethische grenzen te overschrijden. GeenStijl was er niet voor. Mogen we ons even „hardop verbazen over de matter-of-factness” van de annonce, vroeg de site. Waarna discussie volgde. Ene Dugo viel de politie bij en zei dat je jezelf niet moet beknotten met moraal en ethiek als je creatief naar oplossingen zoekt. „Beslissingen over moraal en ethiek kun je gerust uitstellen tot implementatie.” En daarmee waren we bij de kern van het misverstand.

De politie mag nadenken over de grens van sociaal gedrag zolang ze op straat de grens niet overschrijdt

Moraal stelt grenzen en die kun je inderdaad overschrijden. De politie wil volgens de annonce „in een testomgeving” bestuderen wat de gevolgen zijn van een dergelijke overschrijding en wat je ervan moet vinden. Dat nadenken over moraal heet ethiek, en er is niets mis mee, integendeel. Het is heel leerzaam de beweeglijke grenzen op te zoeken van sociaal gedrag. Zolang de politie buiten de deur maar gewoon de moraal dient die in de wet is vastgelegd.

Ethiek zelf, als studie van de moraal, heeft geen grenzen. Althans, ze zijn er misschien wel, maar ze zitten helemaal aan de buitenkant van ons verstand. Je kunt nadenken over moraal wat je wilt, totdat je hoofd weigert, omdat je intellect te klein is. Pas hier, aan de verre grenzen van ethiek en verstand wordt het echt interessant, want ik denk dat we die verre grenzen moeten opzoeken als we straks serieus willen innoveren. Overschrijdt de politie de grenzen van de ethiek? Praatjesmakers! Was het maar waar!

Lees ook: Desinformatie als militair wapen van de toekomst?

Het is een nieuwe dag, een nieuwe wereld. We innoveren op sociaal en bestuurlijk gebied en daarbij gaan dingen schuiven in de moraal, dat wil zeggen, de normen en waarden die in de samenleving gelden. Nu verbiedt de sociale norm ons bijvoorbeeld nog te liegen; maar stel nou eens dat nieuwe technologie ertoe leidt dat desinformatie gewoon wordt. Dan kon dat nieuwe normaal best eens de norm worden. Zo onderzoekt de krijgsmacht op dit moment de mogelijkheid om officieel nepnieuws te gaan inzetten tegen de vijand. Liegen dus. „Het narratief omzetten”, zegt het leger.

Fictieve wereld

Het mag voorlopig niet: fake-video’s maken en je vijanden dingen laten beweren die ze in feite niet hebben beweerd. Maar het is denkbaar dat het gaat gebeuren. De wereld wordt nu eenmaal razendsnel fictiever. Zojuist las ik over een virtuele mode-influencer, de digitale avatar Lil Miquela, die vorig jaar op Instagram werd gehackt door een al even virtuele Trump-trol met de naam Bermuda. Zulke conflicten in de modewereld kunnen tegenwoordig grote politieke gevolgen hebben. Om ons erin te mengen, moeten leger, politiek en u en ik misschien ook fictiever worden.

Veel ethisch onderzoek houdt zich hiermee bezig: toepassing van bestaand instrumentarium op nieuwe situaties. Mag je drones gebruiken om te vissen? Zijn de vooroordelen in algoritmes onwenselijk? Moet je kwaad met kwaad bestrijden? De politie kan tijdens congressen naar hartelust nadenken over zulke vragen, als ze op straat maar geen grenzen overschrijdt. Zoals de commandant der strijdkrachten zegt: „Voor elke operatie geldt dat die binnen de wet of het politieke mandaat moet vallen.”

De echt innovatieve vragen gaan intussen niet over de grenzen van de moraal. Die gaan over de grenzen van de ethiek, en ze raken de grenzen van onze intelligentie, omdat ze over andere intelligenties gaan. Wat als Lil Miquela, of de trol Bermuda, straks president wordt van de Verenigde Staten? Wat als dingen gedrag gaan vertonen dat tot nu toe was voorbehouden aan mensen? Zullen ze onze ethische systemen overnemen? Of komen ze met een nieuw ethisch systeem, dat werkt zonder principes? Zonder berekeningen van pijn en plezier? Een systeem dat wij ons helemaal niet kunnen voorstellen?

Over dit onderwerp heb ik nog nooit ergens iets zinnigs gelezen. Dus als de politie werkelijk ook de grenzen van de ethiek heeft overschreden, krijg ik dolgraag een verslag.

Maxim Februari is jurist en schrijver, www.maximfebruari.nl.