De overheid ziet u en vult straks uw stembiljet in

Technologie verwerft intelligentie, leest u, neemt uw beslissingen. Het ding wordt een dier, de mens een ding. De technologieverheerlijking is de grootste dreiging. Straks vult de overheid uw stembiljet in, meent Maxim Februari.

Alfa

Wat is eigenlijk het verschil tussen een dier en een ding? In het werk van Rudy Kousbroek wordt de grens tussen de twee al gauw vaag; hij schrijft over beide soorten even hybride.

Over een kip: haar kop ging ‘omhoog en omlaag als een periscoop’. Een schaap heeft volgens hem poten die duidelijk meer geschikt zijn voor een bijzettafeltje. En als hij over de kat schrijft, geeft hij toe dat die niet tot de natuur behoort; de kat woont op de radiator, naast de ijskast. Die hele natuur is trouwens, en hier citeert hij Hermans, niet meer dan een kapot tv-toestel.

Tegenover de dingen wordt Kousbroek juist weer heel lichamelijk. De Deux Chevaux noemt hij eerst nog een verstandig vervoermiddel, maar het duurt niet lang of hij bekent zijn overweldigende emotionele gehechtheid aan de Eend. Over de Alfa schrijft hij zelfs opvallend hitsig. De Eend mag een vertrouwde metgezel zijn, de Alfa Super Sprint 1750 is meer iemand voor iets heftigs en kortstondigs. „Ik heb het voorrecht gehad met een nog bestaand exemplaar van deze Alfa Romeo te rijden – dat is iets als met een van de grootste minnaressen van alle tijden naar bed geweest te zijn.”

Zo weet je in de wereld van Kousbroek al gauw niet meer waar de verliefdheid begint en het verstand eindigt. Is een kat een beest of een staaltje van technisch vernuft? Zijn schrijfmachines kleine huisdieren of nuttige voorwerpen met een functie? Vragen die steevast opkomen bij de tere bètastukken van Kousbroek, en tegelijk vragen die hij ons nadrukkelijk verbiedt te stellen. Er is juist geen enkele overeenkomst tussen het harde en functionele ontwerp van de techniek en de zachte en aaibare wereld van de natuur, zegt hij. Tussen dier en ding staan Chinese muren.

Hij zegt het in een tekst over een schemerlamp zelfs zo duidelijk dat je nooit meer anders zou durven beweren. „De natuur is een stortvloed van unieke, niet reproduceerbare, meervoudig gebogen oppervlakken, duidelijk onderscheiden van de wereld der abstracte cerebrale constructies.” Zo. Wie nu toch nog iets dierlijks in het ding wil zien, geeft blijk van afwezigheid van denken. Erger nog. Die is een alfa.

Achterlijk

Al met al is dit wel een interessante kwestie. Rudy Kousbroek, bij uitstek geneigd het aaibare te zien in alles, neemt het ding in bescherming tegen de onnozelheid van alfa’s door het alle aaibaarheid te ontzeggen. Dierlijke trekken toedichten aan dingen is volgens Kousbroek onwetenschappelijk, bijgelovig, en het is gevaarlijk.

Een alfa als de filmer Jean-Luc Godard bijvoorbeeld, schrijft hij, geeft de computer geen menselijke trekken mee om toenadering te zoeken tot de techniek. Integendeel. Die doet dat juist om de onmenselijkheid van techniek aan te tonen. Zo zijn alfa’s. Altijd maar bezig te laten zien dat de wereld duister is en niet te begrijpen. Geen inzicht in het wetmatige, geen respect voor het verstand. En zo, legt Kousbroek ons rustig uit, vloeien de achterlijkheid van het animisme en het maatschappelijke gevaar van technofobie in elkaar over. Want hoe menselijker, dierlijker, bezielder je de machines voorstelt, hoe groter het onbegrip en de angst van de mens ervoor worden. Door weerzin tegen machines, door een afkeer van technologische ontwikkelingen, blokkeert het animisme uiteindelijk de vooruitgang.

Mooi. Kousbroek is begonnen, zou je kunnen zeggen. Hij heeft de toon gezet door alfa’s af te doen als mensen met een babybrein. Hij beweert dat een menselijke kijk op techniek teert op „het humanistische en het ethische, kortom op de imbeciliteit”. Als we zo beginnen, denk ik, dan durf ik ook, en vandaar mijn bewering dat zo’n streng onderscheid tussen alfa- en bètadenken volslagen mesjogge is. Sterker nog, ik denk dat het negeren van de menselijke kant van de techniek tot onoverkomelijke ellende leidt.

De noodzaak van een alfa- en gammavisie op de techniek is namelijk dringend: geen enkel ander onderwerp is zo urgent. Dat intussen de technologiekritiek mijlenver achterloopt op de technologische ontwikkeling is daarom niet minder dan een ramp. Mens, uitvinding en maatschappij zijn in het digitale tijdperk gaandeweg zo verknoopt geraakt dat technologiekritiek niet anders is dan maatschappijkritiek. Doe je elke kritische benadering van technische ontwikkelingen af als angst, technofobie, paranoia, achterlijkheid of conservatisme, dan maak je politieke betrokkenheid onmogelijk en de democratie monddood.

Laat ik dus maar brutaalweg wijsgerig worden en beweren dat het ding een dier is. Houdt dat in dat ik een alfa ben? Ha! Dan moet dan maar.

Alfa Romeo

Dat het mechanische tijdperk voorgoed ten einde is, besefte ik toen ik ooit pech had met mijn oude Alfa Romeo 33. De mecanicien van de ANWB was dolblij dat ik geen Mercedes uit de S-klasse had gekocht, want daaraan viel voor hem niets meer te sleutelen. Terwijl zo’n oude Alfa? Geef een trap tegen de uitlaat en hij rijdt weer. Ook met mijn mechanische verwarmingsketel was ik nog een tijdje de lieveling van langstrekkende monteurs; totdat zelfs ik tot hun grote verontwaardiging een nieuw leven had, een nieuwe ketel, een nieuwe Alfa.

Het samenleven met de strikt mechanische dingen is voorbij en de nieuwe technologieën zijn niet meer empirisch aaibaar, ze geven de alfaman niet langer de illusie een groot minnaar te zijn. We begrijpen ze niet meer. Dat is geen jammerklacht van letterkundigen, het is de realiteit van monteurs, wetenschappers, experts. De WRR is in zijn rapporten net zo onzeker over de digitalisering als Jean-Luc Godard ooit was in Alphaville; ICT-experts hebben moeite alle ontwikkelingen bij te houden op het gebied van informatietechnologie, schrijft de Raad. „Zij tasten geregeld in het duister over de kans op grote verstoringen van de virtuele orde.”

Tegenwoordig zijn het dus niet alleen de leken die de ontwikkelingen met onbegrip volgen, het zijn vooral ook de deskundigen zelf. Geen mens die nog weet hoe iets werkt. Neem het Internet Der Dingen. Binnenkort maken meer dingen gebruik van het internet dan mensen – denk aan slimme energiemeters, medische apparatuur, monitorsystemen, sensoren in het landschap – en zonder ons medeweten praten die dingen met elkaar over ons. Wie weet wat ze allemaal bedisselen? Een voorzitter van een onderzoeksraad hoorde ik daarom bij een bijeenkomst rondom technologiebeleid verklaren dat haar raad had gekozen voor het devies ‘al doende leert men’. Technologische ontwikkelingen stop zetten kan niet, begrijpen ook niet, je kunt hooguit zo slim mogelijk meehollen en meedenken.

Zo sluipt meer mysterie in onze omgang met de machine dan Kousbroek prettig zou vinden. De hele wereld is een ondoorgrondelijke en delfische alfaplaats geworden. We’re not in control. Deskundigen tasten in het duister. En omdat we ingrijpen in de werkelijkheid en de gevolgen van dat ingrijpen niet overzien, beginnen de dingen ons te bijten, zoals Edward Tenner zegt in zijn boek Why Things Bite Back. Dat deden ze in het mechanische tijdperk ook al – toen de auto werd ontworpen kon niemand de milieuschade voorzien – maar ze bijten ons nu harder, sneller, en ze werken samen.

Robotchauffeur

Nog even iets over dat bijten. Het ding is een dier, heb ik gezegd. Het heeft dierlijke trekken of menselijke, en zo komt het dat het ding op twee manieren net zo gevaarlijk is als dier of mens. Ten eerste worden slimme apparaten voorzien van menselijke intelligentie, en alleen dat al maakt ze bijterig en onbetrouwbaar. Er zit een mens in slimme apparaten, in robots, en in die laptop van u, die alvast door het bedrijfsleven is gehackt voordat u hem aanschaft. En hoewel die mens in de machine een belangrijke attractie is, is het ook een voorname reden om op je hoede te zijn en er humanistisch, ethisch - ‘imbeciel’ – naar te kijken.

Zo kun je bijvoorbeeld denken dat het simpel is auto’s zonder menselijke bestuurder te laten rondrijden, maar dan blijkt al gauw dat ook die robotauto’s worstelen met morele dilemma’s. Is een robotauto geprogrammeerd volgens een ethisch principe dat jouw leven afweegt tegen dat van anderen, dan wil je graag inzage of zeggenschap in de voorgeprogrammeerde beslisboom voordat je hem huurt. Het is immers iets anders om je leven zelf te wagen dan dat je automatisch wordt geslachtofferd door een machine? En dan hebben we het nog niet over alle besluitvormingsproblemen rondom drones.

Het ligt kortom voor de hand apparaten niet zomaar met de eerste de beste ziel op pad te sturen. Het programmeren van hun ziel is werk voor deskundigen op het gebied van animisme. Alfa’s. Gamma’s. Toch komen ethici en juristen er niet aan te pas wanneer de virtuele orde wordt ingericht. Ministeries en NWO vragen bijvoorbeeld alleen wetenschappers met een exacte of technologische achtergrond technieken te ontwikkelen waarmee je cyberterrorisme te lijf kunt gaan. Collega’s buiten de exacte wetenschappen, schreef Beatrice de Graaf onlangs, worden „met lege handen naar huis gestuurd.”

Artificiële Intelligentie

De tweede manier waarop techniek bijterig wordt, heeft te maken met haar neiging zich zo mysterieus te verspreiden als asbest. Nano, zeggen onderzoekers, is het nieuwe asbest. Facebook, zeggen onderzoekers, is het nieuwe asbest. De asbestmetafoor is populair onder deskundigen, want nieuwe technieken duiken overal op, vreten zich in, planten zich voort, zijn ontembaar, onverwijderbaar, sterven niet en verteren niet; er zijn al Facebook cookies aangetroffen in vissen, vogels en ongewervelde dieren. Zodra nieuwe dingen de wereld intrekken is de mens de controle voorgoed kwijt. Waarom zouden machines, als ze eenmaal zelf kunnen nadenken en leren, straks geen eigen politieke agenda ontwikkelen?

In 2011 voorspelde Shane Legg, oprichter van het laboratorium DeepMind, de ondergang van de mensheid door toedoen van kunstmatig intelligente machines. Niet meteen volgend jaar, suste hij, en is het eenmaal zover, dan zullen we niet lang hoeven te lijden. Zo’n superintelligente machine regelt moord op de mensheid vast heel efficiënt. Hoe dan ook wees hij Artificiële Intelligentie aan als het grootste risico van de eeuw. Een risico dat door politiek en publiek nauwelijks wordt waargenomen.

De verzelfstandiging van de dingen kreeg hooguit iets meer aandacht toen Google begin dit jaar voor een half miljard dollar Leggs bedrijf DeepMind opkocht. Kort daarvoor had Google al het toonaangevende Boston Dynamics gekocht, maker van de beroemde robots BigDog en WildCat en robotleverancier van het Pentagon. Zo haalde Google in korte tijd alle topexperts in huis op het gebied van robotica én kunstmatige intelligentie, waardoor vanzelf geruchten ontstonden dat het bedrijf bezig is aan de opbouw van een onverslaanbaar robotleger. Terwijl de politieke wereldgemeenschap even werd afgeleid door de Russische inname van de Krim, waren achter haar rug de dingen ongestoord bezig aan hun opmars.

Is het ding een dier? Ja, het ding is duidelijk een dier. En deze tweede vorm van beestachtig bijten vraagt net zo goed als de eerste om een humanistisch-ethisch-imbeciele benadering. Gelukkig dus maar dat DeepMind bij de overname door Google de instelling eiste van een onafhankelijke ethiekraad, die zich het hoofd moet gaan breken over omgangsregels tussen mens en machine. Dat is nog helemaal niet zo eenvoudig, want zoals Legg in 2011 zei: „Hoe maken we iets veilig als we niet echt begrijpen wat het is en hoe het zal werken?”

Alphaville

Het denken over waarden vindt zo voorzichtig zijn weg door laboratoria, maar wil nog niet doordringen tot de politiek en het publieke debat. Hier geldt het denken over waarden nog steeds als bezigheid van imbecielen. Dat is een probleem.

Althans, zelf ethisch-humanistisch imbeciel zijnde denk ik dat het grootste gevaar voorlopig niet komt van de dingen. Vermoord worden door superintelligentie loopt de eerste jaren zo’n vaart niet; de technocratie vestigt zich voorlopig niet doordat apparaten de macht grijpen. Acuter is het gevaar dat mensen het land zelf veranderen in een totalitaire technostaat. Om maar geen alfa te lijken, schaffen ze klakkeloos alles af wat in eeuwen is opgebouwd aan recht, moraal en medemenselijkheid. Niet alleen privacy. De teloorgang daarvan is slechts een randverschijnsel, nu de rechtsstaat in zijn geheel wordt vervangen door een technostaat.

In een cultuur waarin technologie sturend wordt, liggen onze belangrijkste rechtsprincipes nu al – in praesenti - in de prullenbak. De onschuldpresumptie? Niet meer nodig. We kunnen daders immers aanwijzen met data en algoritmes! Beroepsgeheim van artsen? Opgeheven. Mensenrechten, hoor ik zeggen tijdens bijeenkomsten over profilering, hebben hun langste tijd gehad. We hebben nu gegevens en rekenkracht genoeg om te zien dat individualiteit niet bestaat. Bescheidenheid, schamperen kunstprofessionals, is niet meer van deze tijd! We hebben nu immers Twitter? Niet de technologie, maar de technologieverheerlijking is de grootste dreiging.

Voorlopig weigeren tijdgenoten in te zien dat met de komst van het elektronische tijdperk de status van kennis radicaal is veranderd. Ten tijde van het boek was de mens een kennend en lezend wezen. Ten tijde van het Internet der Dingen wordt de mens gekend en wordt hij gelezen. Uit slaafse aanbidding reduceert de mensheid zichzelf tot een verzameling van voorwerpen die restloos gekend kunnen worden, en de politieke consequenties daarvan zijn ingrijpend. Vandaag vult de overheid uw belastingformulier voor u in, morgen vult ze uw stembiljet in, overmorgen worden de verkiezingen afgeschaft. De staat kent immers uw preferenties, uw uitgangen en uw ingangen, zoals psalm 121 het formuleert. Zelf hoeft u niets te verwoorden, uw koopgedrag en locatiegegevens bepalen wie u bent: u bent een nutsfunctie, een bron van informatie, een potje data. En omdat uw wezen volmaakt wordt doorzien en behoed, is er geen politiek, besluitvormingsproces of rechtsstaat meer nodig. Het afschaffen daarvan is nu al begonnen.

Zo, terwijl het ding een dier wordt, wordt de mens een ding. De technologie verzelfstandigt zich, verspreidt zich even onverwijderbaar als asbest, verwerft intelligentie, leest de omgeving, leest u, denkt over u na en neemt uw beslissingen. Intussen verzuimt u uw politieke vrijheden op te eisen tegenover het Internet der Dingen en verzuimt u uw waarden mee te geven aan de techniek. O jee, schrikt u, is het al zover? Nee. Alles is nog niet verloren, maar dan moeten we ons wel snel bereid verklaren het menselijke te zien in de techniek. Dat is zonder twijfel de dringendste opgave van onze tijd, en we zullen er alleen in slagen als we eerst het menselijke zien in onszelf.

    • Maxim Februari