Frankenstein revisited

Gaat de techniek de mensheid overheersen? Aan het begin van de 21ste eeuw is deze oeroude vraag opnieuw opgeroepen door de Amerikaanse computerdeskundige Bill Joy, in een manifest met de dreigende titel 'Waarom de toekomst ons niet nodig heeft'. Biotechnologie, nanotechnologie en robotica zullen de mens marginaliseren, denkt Joy. Het stuk heeft geleid tot een fikse discussie tussen vooruitgangsdenkers en techniekpessimisten.

'Met hun Baconiaanse beheersing van de natuur zullen de mensen uiteindelijk zichzelf nucleair opstoken, verbranden via het gat dat zij in de ozonlaag hebben geslagen, oplossen in de zure regen, braden in het broeikaseffect, elkaar dooddrukken door hun aantal, zichzelf ophangen aan de dubbele Helix van het dna, stikken in hun eigen asfalt. De hel zal losbreken op aarde en de mensen zullen nog wel eens terugdenken aan onze goede oude tijd toen zij nog naar ons luisterden.'

Aan het woord is een engel die vanuit de hemel commentaar geeft op de aardse ontwikkelingen die Harry Mulisch in De ontdekking van de hemel beschrijft. De thematiek die Mulisch hier op literaire wijze aan de orde stelt, spookt al enkele eeuwen door het onderbewuste van de moderne westerse cultuur. In het begin van de 17de eeuw riep Francis Bacon de mens uit tot technisch heerser over de natuur. Dankzij wetenschap en techniek zou het aloude paradijs in de toekomst voor de mensheid herwonnen kunnen worden. Al in het midden van de volgende eeuw begon met Rousseau de Romantiek en staken de eerste angsten voor de techniek de kop op.

Die angsten hebben onze cultuur sindsdien nooit meer verlaten. Elke nieuwe techniek riep steevast, parallel aan de Baconiaanse beloften, ook ondergangsvisioenen op. Mulisch geeft een perfect beeld van de techni - sche ontwikkelingen die ons rond 1990 angst inboezemden. Naast de milieuproblematiek en de nucleaire technologie kondigde de genetische modificatie zich toen al aan. Recente ontwikkelingen als informatie- en communicatietechnologie en nanotechno logie speelden nog geen rol in onze collectieve angstdromen.

In het recente manifest Why the future doesn't need us van de Amerikaanse computerdeskundige Bill Joy staan deze ontwikkelingen centraal. Over Joy's artikel, dat afgelopen april verscheen in het tijdschrift Wired (een verkorte versie verscheen in NRC Handelsblad van 26 augustus), barstte in de Amerikaanse media direct een heftige discussie los over de gevaren van nieuwe tech-nologieën. Deze zouden volgens Joy al binnen enkele decennia de mensheid met de ondergang kunnen be-dreigen. Juist omdat het manifest ook in zekere zin een bekeringsverhaal is, sloeg het extra aan. Joy vertelt uitvoerig hoe hij tegenwoordig niet meer hele nachten doorwerkt op zijn vakgebied - hij is onder meer de bedenker van de computertaal Java - maar dat hij nu wakker ligt uit angst voor de gevaren van zijn beroep. Ook hierom werd Joy's manifest in de Verenigde Staten al snel vergeleken met de brief waarin de natuurkun-dige Albert Einstein in 1939 president Roosevelt opriep de atoombom te ontwikkelen om Hitler voor te zijn. Joy's boodschap is echter omgekeerd aan die van Einstein. Om te overleven zou de mensheid een moratorium moeten instellen bij de ontwikkeling van een aantal nieuwe technologieën.

Kort daarna waaide de discussie over naar Europa.

In Duitsland publiceerde de Frankfurter Allgemeine Zeitung een uitgebreide samenvatting. De discussie die hierop ook in Duitsland begon, kon direct aansluiten bij het zogenaamde Sloterdijk-debat dat net zo'n beetje op zijn einde liep. De ideeën van de filosoof Peter Sloterdijk over het temmen van het mensenras met behulp van gentechnologie konden moeiteloos worden uitgebreid met Joy's beschouwingen, die ook de nanotechnologie en de kunstmatige intelligentie in het spel brachten.

Ik kreeg het manifest van een collega. Hij meende dat zo ongeveer alle themata over technische heilsverwachtingen en ondergangsvisioenen, over utopieën en dys-topieën - zaken waar ik mij de afgelopen jaren mee bezig had gehouden - erin terugkwamen. Daar had hij gelijk in. Het lezen ervan was een feest der herkenning. Ook waar Bill Joy zich niet uitdrukkelijk op andere bronnen beroept en zijn eigen ideeën probeert te ontwikkelen, betreedt hij de platgetreden paden van de angst voor de techniek.

Zelfs de impact van zijn auteurschap maakt deel uit van deze technofobische traditie: als vooraanstaand computerwetenschapper en medeoprichter van Sun Microsystems kan hij er niet van verdacht worden, zoals hijzelf beklemtoont, een Luddiet, een machinehater, te zijn. Daarom zou zijn boodschap des te geloofwaardiger zijn. Dat gold in de vorige eeuw ook al voor Aldous Huxley met zijn Brave New World - juist omdat Huxley zich onder meer via zijn broer Julian in een hoogwetenschappelijk milieu bewoog, werd zijn technische dys-topie des te serieuzer genomen.

Platgetreden paden hoeven niet dood te lopen. Dat Bill Joy oude angsten oproept hoeft niet te betekenen dat hij ongelijk heeft. Maar waar is hij bang voor? Het centrale begrip in zijn verhaal is self-replication.

De drie grote technologieën die de 21ste eeuw zullen gaan beheersen zijn de genetica, de nanotechnologie en de robotica. Samen figureren ze in het manifest min of meer verzelfstandigd als 'gnr'. Als zodanig lossen ze het gevaarlijke 20ste-eeuwse driekoppige monster nbc (nucleaire, biologische en chemische technologie) af. Niet alleen is gnr veel krachtiger dan zijn voorganger, het opent vooral de totaal nieuwe mogelijkheid van zelfvermenigvuldiging. De producten van de drie sleuteltechnologieën van de 21ste eeuw kunnen zich los van menselijke interventie zelf voortplanten. Daarmee dreigen ze hun scheppers aan zich te onderwerpen en in het ergste geval uit te roeien.

Hoe moeten wij ons dit voorstellen?

Bij de genetica, de oudste van de drie sleuteltechnologieën, is het wel duidelijk. Dankzij genetische modi-ficatie kunnen wij levende organismen ingrijpend veranderen. Het is gemakkelijk voorstelbaar dat zo'n nieuw gemodificeerd levend wezen zich ongecontroleerd voortplant en de natuur en de mens bedreigt. Al in de jaren tachtig van de vorige eeuw deed een aan Lovelock ontleend horror-scenario hierover de ronde. Een gemodificeerde bacterie verbindt zich met een alg en verbruikt alle zuurstof in het water. De oceanen sterven en de mens zal ook snel hierna het loodje leggen.

Bij de robotica draait het om de ontwikkeling van kunstmatige intelligentie. Joy begint zijn manifest met een verwijzing naar het boek van zijn vriend, de com-puterexpert Ray Kurzweil: The Age of Spiritual Machines. Kurzweil betoogt dat over zo'n dertig jaar de grenzen tussen computers en mensen zullen vervagen. Computers zullen - al dan niet via het downloaden van menselijk bewustzijn - alle kenmerken van de mense-lijke intelligentie vertonen. Ook hier is het weer niet zo moeilijk om je voor te stellen dat intelligente machines zonder de betrokkenheid van mensen nog intelligentere machines ontwerpen. Dat deze laatste vervolgens het lot van de mensheid in handen nemen, mag zeker niet uitgesloten worden. De bedenker van het woord 'robot' voorzag tenslotte al een dergelijk scenario: in 1920 schreef de Tsjech Karel Capek het drama rur, de afkorting van de Noord-Amerikaanse firma 'Rorsum's Universal Robots', waarin deze nieuwe met menselijke intelligentie uitgeruste wezens het menselijk ras totaal dreigen uit te roeien.

Hoe zit het nu met de zelf-replicerende aspecten van de nanotechnologie? Hierover bestaan nog nauwelijks literaire of wetenschappelijke ondergangs-scenario's. Dat komt vooral omdat wij hier met een zeer recente technologische ontwikkeling te maken hebben. Ook al werd ze reeds in 1959 voorzien door de Nobel-prijswinnaar Richard Feynman in een beroemde rede over minitiaturisering, de nanotechnologie werd pas echt bekend in de jaren tachtig van de vorige eeuw, met Eric Drexlers utopische beloften in zijn studie Engines of Creation. Opererend op de schaal van de nanometer (een miljardste meter of, misschien beter voorstelbaar, een miljoenste millimeter) zouden wij volgens Drexler in een niet al te verre toekomst een wereld van technische overvloed kunnen bouwen. We zouden moleculen en atomen direct beheersen en naar onze wensen kunnen schikken. Uit afvalstoffen zouden we ons eten kunnen construeren en met nanobots, kleine nanomotortjes of nanorobotjes - een collega van mij aan de Universiteit Twente heeft het over duikbootjes - zouden we via de bloedbanen in ons lichaam geneesmiddelen kunnen transporteren en beschadigde cellen kunnen repareren. Een lang en gezond, misschien zelfs eeuwig leven zou zo voor ons in het verschiet liggen.

Met de utopische beloften van Drexler kwamen echter ook al snel de dystopische angsten voor de nieuwe technologische mogelijkheden. De Engines of Creation zouden zich wel eens als Engines of Destruction kunnen ontpoppen. En omdat de miniatuurrobotjes zichzelf kunnen vermenigvuldigen, ligt hier ook een extreme, onzichtbare dreiging voor de mensheid op de loer. In de discussie op internet over nanotechnologie staan de schoonste toekomstdromen tegenover de meest bizarre angsten over de ongehoorde vernietigingskracht die in het ontketende atoom zou schuilen.

Hoeveel waarheid bevatten de dystopische voorspellingen van Bill Joy over de drie sleuteltechnologieën van de komende eeuw? Het valt op dat geen enkele mij bekende natuurwetenschapper of technoloog het manifest van zijn of haar collega als totale onzin afdoet. Er zijn er echter ook bitter weinig die het geheel met Joy eens zijn. De meesten onderkennen de gevaren die hij schetst, maar menen ook dat hij ze veel te zwaar aanzet. De eerder genoemde Ray Kurzweil wijst er bijvoorbeeld op dat er in een recent verleden ook grote angsten heersten over een zichzelf reproducerende niet-biologische entiteit die zijn hele eigen leefomgeving zou kunnen vernietigen: het computervirus. Dat hebben we, ondanks de recente aanval van het 'I love you'-virus, toch ook redelijk aan banden gelegd.

Op soortgelijke wijze zouden we ons met technische maatregelen tegen de zichzelf reproducerende nanobots kunnen beschermen. Volgens Kurzweil zou in elk geval niemand vanwege het virusgevaar de zegeningen van de informatie- en communicatietechnologie willen op-geven. Ook de grote beloften van bijvoorbeeld de nanotechnologie om ziekten te genezen en de gezondheid te herstellen, mogen we niet lichtvaardig opzij schuiven op grond van mogelijke gevaren.

In algemene zin valt het op dat er geen wetenschappelijk uitsluitsel gegeven kan worden over de sombere toekomstvoorspellingen van Bill Joy. Zulke profetieën verdragen nu eenmaal geen louter empirische wetenschappelijke discussie, omdat daarbij onherroepelijk emoties en waardeoordelen meespelen. Dat gold ook al in het verleden voor andere ondergangsscenario's.

Joy wijst er zelf op dat vanaf 1947 een 'Doomsday-klok' op het kaftje van The Bulletin of the Atomic Scientists prijkt. De wijzers hiervan stonden al gauw op enkele minuten voor twaalf. Genadeloos leken zij voort te tikken in de richting van de grote kladderadatsj. Steeds opnieuw moesten zij echter teruggedraaid worden. De metafoor van de lopende klok bleek ongeschikt als ondersteuning van de atoomangst. Maar ook hier wil dat natuurlijk niet zeggen dat het nooit twaalf uur zal worden. Na de atoomproeven van India en Pakistan zijn de wijzers weer dichter bij de twaalf gekomen.

Dit laatste voorbeeld laat ook zien dat vage ondergangsvoorspellingen nooit weerlegd kunnen worden. Ze kunnen immers steeds naar een verdere toekomst worden verschoven.

En als ze, wanneer ze enigszins concreet zijn, al niet uitkomen, kan altijd gesteld worden dat het om zo-genaamde self denying prophecies ging. Juist door tijdig voor het gevaar te waarschuwen, zouden mensen aan-gespoord worden om zich ertegen te wapenen.

Vergeleken met de optimist is de techniekpessimist altijd een achtenswaardige figuur die het beste met de mensheid voor heeft en die daarom - zeker in moreel opzicht - nooit ongelijk lijkt te kunnen krijgen. Deze geur van achtenswaardigheid wordt ook op diverse wijzen door Joy in zijn tekst opgeroepen. Voor velen wordt zijn boodschap daarom kennelijk onweerstaanbaar.

Eerlijk gezegd wordt die boodschap voor mij hierdoor juist onuitstaanbaar. Joy's voorspellingen vormen een even gesloten universum als de honderden literaire en wetenschappelijke ondergangsprofetieën die onze cultuur nu al eeuwen overspoelen. Achteraf doen die vaak absurd en overdreven aan, op het moment dat ze gelanceerd worden krijgen ze meestal het voordeel van de twijfel. Ze weerspiegelen dan een aantal actuele wetenschappelijke ontwikkelingen die nooit adequaat weerlegd kunnen worden.

Maar ondanks mijn scepsis, moet ik toegeven, blijft op dit punt ook voor mij toch de onzekerheid knagen. Toen een paar jaar geleden de eerste voorspellingen over het millenniumprobleem gedaan werden, durfde ik die nog ronduit belachelijk te maken. Naarmate meer en meer serieuze ict'ers er achter gingen staan, dorst ik mijn mond niet meer open te doen. Stel je voor dat al die onheilsprofeten toch gelijk zouden krijgen. Als technische leek had ik geen wetenschappelijk argument om hun beweringen te weerleggen. Dat geldt uiteindelijk ook voor de doemscenario's van Bill Joy.

Als cultureel onderlegd techniekfilosoof moet mij wel van het hart dat het hoofdargument van Joy allerminst nieuw is, wat hij wel suggereert. Het staat al centraal in de belangrijkste Europese mythe die de angst voor techniek uitdrukt: het monster van Frankenstein. Het lijkt niet toevallig dat Joy nergens in zijn betoog naar dit verhaal verwijst. Dan was namelijk duidelijk geworden dat de angst voor zelf-reproductie al in Mary Shelley's uit de Romantiek stammende schepping het hoofdthema vormt. De schepping van Victor Frankenstein vraagt hem om een levensgezellin voor hem te produceren. Aanvankelijk gaat Frankenstein op dit verzoek in. Later bedenkt hij echter dat beide monsters kinderen kunnen baren. 'Dan zou er een heel ras van duivels op aarde ontstaan, waardoor het bestaan van de mens hachelijk en vol doodsangst zou worden.'

Het bestaan van de gehele mensheid kan zo in de waagschaal worden gesteld door de schepping van een nieuw levend wezen. Frankenstein besluit zijn laboratoriummateriaal te vernietigen. Het monster neemt gruwelijk wraak op hem, maar de mensheid is gered. Het centrale thema van de self-replication is niet, zoals Joy suggereert, kenmerkend voor 21ste-eeuwse technologieën, het is van meet af aan overheersend geweest in de culturele angst voor techniek.

Frankenstein werd zo'n twee eeuwen na Bacon door Mary Shelley geschreven. In zijn technische utopie Het nieuwe Atlantis droomde Bacon nog van het scheppen van 'nieuwe soorten' van 'volmaakte schepselen' en van 'het maken van nieuw voedsel uit nog niet in gebruik zijnde substanties'. Die volmaakte schepselen veranderden voor latere techniekpessimisten in monsters en het nieuwe genetisch gemodificeerde voedsel werd door Prins Charles naar Frankenstein vernoemd.

In de toekomst zal via nanotechnologie verkregen voedsel ook wel met deze naam getooid worden. Ook is het waarschijnlijk geen al te gewaagde voorspelling om ervan uit te gaan dat genetisch gemodificeerd voedsel tegen die tijd in enigerlei vorm ingeburgerd zal zijn en dat we ietwat meewarig terug zullen kijken op het - achteraf natuurlijk weer overdreven - verzet ertegen.

Deze laatste voorspelling houdt allerminst in dat ik de maatschappelijke discussie over sturing van technologie niet van het hoogste belang acht.

Een van de positieve gevolgen van Joy's manifest is ongetwijfeld dat ook het bredere intellectuele debat in de Verenigde Staten en in Duitsland zich op technologie is gaan richten. Frank Schirrmacher, de cultuurpaus van de Frankfurter Allgemeine Zeitung, decreteerde dat de opiniestukken meer over klonen van mensen, experimenten met hersenen en de bedreiging van de nano-techno logie moesten gaan.

De traditionele alfa-intellectuelen dienden zich meer om de bèta-onderwerpen te bekommeren. Omgekeerd moesten bio-informatici, computerspecialisten, hersenspecialisten en gen-onderzoekers hun licht over de maatschappelijke aspecten van hun vak laten schijnen.

Dit valt van harte toe te juichen. Een groot probleem is wel dat de voorzet die Bill Joy zelf met zijn manifest heeft gegeven zich op zo'n hoog filosofisch niveau beweegt - het gaat meteen over het voortbestaan van de hele mensheid - dat ze weinig op kan leveren.

De praktische aanbevelingen waarmee hij zijn manifest afsluit, zijn dan ook volstrekt gratuit. Ze komen neer op een moratorium voor gevaarlijke ontwikkelingen in de gnr-technologieën, verbonden met de teruggang naar de goede oude religie die ook de engel bij Mulisch voorschrijft. Alleen is het bij Joy de wijsheid van de Dalai Lama die ons leert om ons leven in liefde en meegevoel met anderen vorm te geven. Diens boodschap om in broederschap grenzen aan onze materiële behoeften te stellen, blijkt diepe indruk op Joy te hebben gemaakt. Hoe van hieruit de stap naar het leven met moderne technologie gezet kan worden, maakt hij helaas nergens duidelijk.

Technologische ontwikkelingen hebben grote gevolgen voor mens en maatschappij. Ze veranderen ons leven op velerlei vlak. Hoe moeten we omgaan met de nieuwe wetenschappelijke kennis over het menselijk genoom en de technische mogelijkheden die dit biedt, wat betekent de nanotechnologie voor onze beleving van ziekte en gezondheid, hoeveel van onze menselijke kennis en bekwaamheden kunnen we aan computersystemen delegeren?

Dit soort vragen zal de komende eeuw aan de orde blijven. Ze verschillen echter hemelsbreed van de absolute tweedeling tussen heil en ondergang die Joy ons in de maag splitst. Misschien kan een kleine filosofische voorzet ons tot slot bevrijden uit de valse tegenstelling waarin zijn tekst ons gevangen houdt.

Het mensbeeld waar Joy in zijn tekst van uitgaat, stamt regelrecht uit de tijd van de wetenschappelijke revolutie van de 17de eeuw. Denkers als Bacon en Descartes proclameerden toen het autonome subject dat als heer en meester de natuur aan zich onderwierp. Dat autonome subject heeft de afgelopen eeuw heel wat deuken en kwetsuren opgelopen. Dat gebeurde vooral doordat de technische ontwikkelingen niet zo gemakkelijk beheersbaar bleken als de heersende ideologie het voorstelde. Van de weeromstuit werd nu vaak de technologie als autonoom voorgesteld. Simpel gezegd: als het duidelijk is dat de mens niet de baas is over de techno-logie, dan moet het omgekeerde wel het geval zijn.

Het is kennelijk of/of. Joy citeert met instemming een tekst van de 19de-eeuwse denker Thoreau: 'Wij rijden niet op de trein, hij rijdt op ons'.

Natuurlijk is Joy vast bereid toe te geven dat de angst van Thoreau voor de overheersing van de mensheid door de stoomlocomotief achteraf overdreven lijkt, maar dat belet hem niet om Thoreau's vraag zonder meer over te nemen als het om gnr-technologieën gaat: 'De vraag luidt inderdaad: wie zal de heerser zijn? Kunnen we onze technologie overleven?'

Over de relatie mens-technologie zijn honderden vragen te bedenken die vruchtbaarder zijn dan deze ene die draait om ons voortbestaan als autonoom subject. Dat zijn dan vragen over de vele koppelingen die er tussen mens en technologie gelegd worden, en over het gegeven dat moderne mensen feitelijk al cyborgs zijn geworden, zoals de aan technologie gebonden wezens heten die wij kennen uit de science-fiction.

De discussie zou moeten gaan over de inhoud die wij aan het cyborg-begrip willen geven en over de wijze waarop technologieën waarden en normen incarneren, onze beleving en ideeën veranderen.

In de technologische toekomst waar Joy het in zijn tekst over heeft, bestaat inderdaad geen behoefte meer aan autonome subjecten. Maar Joy vergist zich als hij meent dat in plaats van het autonome subject de mens als zodanig een 'bedreigde soort' is. Er zijn vele technologische toekomsten mogelijk, met verschillende gevolgen voor menselijke subjectvormen. Over de vormgeving daarvan moet het debat gaan. M

Hans Achterhuis is hoogleraar Systematische Wijsbegeerte aan de Universiteit Twente. Hij schreef onder andere 'De erfenis van de utopie' (1998) en 'Politiek van goede bedoelingen' (1999).

Louis Visser is freelance illustrator. Zijn werk verscheen in onder meer Playboy, Elle en Holland Herald.

[streamliners]

Elke nieuwe techniek roept steevast ondergangsvisioenen op.

De drie sleuteltechnologieën dreigen hun scheppers aan zich te onderwerpen.

Vergeleken met de optimist is de techniek-pessimist altijd een achtenswaardig figuur die het beste met de mensheid voor heeft.

De vraag luidt inderdaad: wie zal de heerser zijn? Kunnen we onze technologie overleven?