De robot gaat ons niet afschaffen maar wel bespioneren ...

Dat wij worden bespioneerd – door de NSA, soortgelijke instellingen en grote bedrijven – komt niet door de intelligentie van de elektronica maar door de domheid van de mensen, meent Vincent Icke.

Kunnen wij een denkmachine maken? Nou en of. Dieren zijn denkmachines, gewervelde dieren zelfs vrij goede. Allemaal gebouwd uit gewone atomen: koolstof, stikstof, fosfor en de rest. Dus kunnen wij dat ook.

Willen we dat? Zeker, we doen het al, maar niet alles tegelijk.

Dat is niets nieuws. De grootste omwenteling in de zeventiende eeuw was niet het heliocentrisch wereldbeeld of de ontwikkeling van de mechanica, maar het besef dat de menselijke zintuigen op geen stukken na voldoende zijn om de natuur te omvatten. De telescoop, microscoop en andere toestellen waren veel belangrijker dan het idee dat de aarde om de zon draait, want dat dachten we al duizend jaar. Vanaf de tijd dat Leibniz de eerste mechanische rekenmachine liet bouwen, zijn de menselijke hersenen bijgezet in het rijtje organen die mooi zijn voor dagelijks gebruik, maar ontoereikend voor het grote werk.

Onze zintuig/hersencombinatie is beperkt doordat een levend wezen alles tegelijk nodig heeft, of tenminste zoveel als maar kan. Daardoor komt elk orgaan slechts een beetje aan bod en is iedere diersoort een product van evolutionair polderen.

Er is nauwelijks een menselijke capaciteit te noemen waarin een machine niet beter is: kracht, snelheid, uithoudingsvermogen, waarneming. Sinds de ontwikkeling van de computer is daar een snel groeiende rij bijgekomen: rekenkracht, reactiesnelheid, geheugencapaciteit, communicatiesnelheid, datavolume, patroonherkenning en nog veel meer.

Het ligt voor de hand te veronderstellen dat een combinatie van zulke eigenschappen uiteindelijk een machine zal opleveren die kan denken. Het heeft geen zin je te verschuilen achter sofisterij (hoe definieer je denken?), geloof (de mens is uniek), of pessimisme (de mens kan zoiets niet). Ook romantiek biedt geen schuilplaats (dingen denken niet). Een mens is een ding, dus ofwel wij denken niet, of dingen kunnen denken.

Stellingen als ‘machines doen wat ze doen, die kunnen niet denken’ slaan de plank mis als het om computers gaat. Een computer is een programmeerbare machine en geen apparaat met een onveranderlijke functie, zoals een fiets. Programmering is uitgevonden door Jacquard, een wever uit Frankrijk die zijn getouwen liet besturen door een soort ponskaarten, ongeveer zoals een draaiorgel. Vervolgens bedachten Ada Lovelace, Alan Turing en John von Neumann een programma dat zichzelf kan herschrijven. Daar zit hem de kneep: de rekenmachine van Leibniz deed gewoon wat-ie moest doen, het weefgetouw van Jacquard ook, maar een computer kan op zijn omgeving reageren en zich daarbij aanpassen.

Als een machine kan denken, betekent dat nog niet dat zij intelligent is. Daarvoor moet een machine ook op zichzelf kunnen reageren en zich daarbij aanpassen. Computers kunnen dat. Elke programmeertaal bevat een instructie die de ‘voorwaardelijke sprong’ heet. Dat is een uitdrukking van de soort ‘als dit, dan zus, anders zo.’ In de computertaal C, een zeer veel toegepaste programmeertaal, is dat het ‘if statement’: if [condition] then [instruction 1] else [instruction 2]. Die [opdracht X] kan op zijn beurt weer een voorwaardelijke sprong bevatten, maar kan ook een voorgeschreven actie zijn.

De voorwaardelijke sprong is het duveltje in het doosje. Turing bewees dat computers die voorzien zijn van zulke instructies letterlijk onberekenbaar zijn. Een essentieel kenmerk van intelligentie is de mogelijkheid om van mening te veranderen. Dankzij het ‘if statement’ kan een computer dat.

Volgens mij is intelligentie een zeer verregaande vorm van classificatie en associatie. Dat zien wij al weerspiegeld in de bedrading van de hersenen, waar brede banden zenuwen een groot aantal verschillend gespecialiseerde gebieden met elkaar verbinden door een soort Prins Claus Plein van neuronen. De programmatuur van zoekmachines en andere mijnbouw in de berg big data is vrijwel geheel gericht op die twee verrichtingen: het ontdekken en beschrijven van gelijkenissen (classificatie) en van verbanden daartussen (associatie).

Het ligt dus voor de hand te veronderstellen dat wij uiteindelijk een intelligente machine kunnen bouwen. Volgens de Stelling van Turing is zo’n toestel onberekenbaar. Maar betekent dit ook dat een intelligente computer onbetrouwbaar is? Lopen wij een groot risico door zulke dingen opzij gezet te worden?

Zullen de dingen ooit de baas worden? In de film 2001: A Space Odyssey vermoordt HAL, de computer, een bemanningslid van het ruimteschip door de zuurstoftoevoer van diens ruimtepak te kappen. Op het nippertje wordt HAL uitgeschakeld doordat de overlevende astronaut het computergeheugen blok voor blok verwijdert. Zo gaat HAL ten onder aan een soort e-Alzheimer.

De sf-schrijver Isaac Asimov bedacht zijn beroemde Drie Wetten der Robotica juist om zulke narigheid te voorkomen: 1) Een robot mag een mens geen kwaad doen, of door onachtzaamheid een mens schade bezorgen. 2) Een robot moet een bevel van een mens gehoorzamen, tenzij dat in strijd is met de Eerste Wet. 3) Een robot moet zijn bestaan beschermen, zolang dat niet in strijd is met de eerste of de Tweede Wet.

Die wetten kunnen we in principe opnemen in het besturingssysteem van onze computers. Maar daarmee zijn we niet gevrijwaard van dom of kwaadwillig gebruik, en dat brengt ons op het enige echte probleem met machines, of ze nu intelligent zijn of niet: de mens.

De grootste schade die via computers ontstaat, wordt onveranderlijk door mensen veroorzaakt. Op dit moment is de meest catastrofale vorm daarvan het verlies van onze privacy. In het klein doordat wraakzuchtige lieden de privévideo’s van hun ex op het web zetten, op gigantische schaal door geheime diensten en bedrijven. Die graven systematisch de big data-berg van persoonlijke gegevens af die de burgers hen gewillig leveren.

De NSA en hun soortgenoten uit alle landen bespioneren ons. Altijd zo geweest, zal altijd zo blijven. Merk op dat dit voornamelijk kan dankzij de wereldwijde invloed van computers die, gemeten naar intelligentie, gelijk staan aan het achtereind van een varken. Het is niet de intelligentie van de electronica, maar de domheid van de mensen die hier debet aan is.

Dat grote bedrijven ons bespioneren is onze eigen schuld. Zolang regeringen geen wetten maken die het verbieden en zolang burgers gebruik blijven maken van roofzuchtige diensten, zal de industrie zich niet beteren. Immers, domheid is altijd al de belangrijkste bron van zakelijke inkomsten geweest.

Kan het erger? Nou en of, maar niet doordat de computers ons zullen afschaffen; de kans daarop lijkt me nul. Wel doordat computers dingen zullen kunnen die nog gevaarlijker zijn dan automatische gezichtsherkenning of het stiekem plaatsen van vals bewijsmateriaal door geheime diensten.

Een van die dingen is taalbeheersing, waardoor de NSA en soortgelijke organisaties niemand meer nodig hebben om de betekenis van afgeluisterde communicatie te begrijpen. Dieren zijn spraakmachines, sommige gewervelde dieren (dolfijnen, chimpansees, mensen) zelfs vrij goede. Dus kunnen computers dat ook. Het zal misschien een halve eeuw duren, maar ooit bouwen wij een (ver)taalmodule die elk gesprek kan afluisteren en beoordelen.

Vrees die dag, en zeur niet over de heerschappij van intelligente computers. Tot die tijd kunnen wij troost putten uit de persoon van mr. Spock in StarTrek. Een zuiver intelligente computer heeft geen geloof, hoop of liefde. Hij zal daaruit de logisch onontkoombare conclusie trekken dat het leven geen zin heeft, en zichzelf terstond opheffen.

Daarna kunnen de restanten van de mensheid uit hun holen kruipen en fijn doorgaan met hun geknoei, totdat over vijf miljard jaar de zon ontploft. Dat geeft ons ruim de tijd om de Wetten van Asimov in onze eigen ethiek op te nemen, voordat wij voorgoed verdwijnen.