Column

Programmeur gezocht voor artificiële ethiek

Demis Hassabis is een uitmuntend schaker en gameontwerper. Een van zijn bekende creaties heet Evil Genius, een spel met in de hoofdrol een kwaadaardige wetenschapper die een apparaat bedenkt waarmee hij wereldoverheersing wil bereiken. Tegenwoordig houdt Hassabis zich bezig met iets dat ironisch genoeg door anderen gezien wordt als kwaadaardige wetenschap: artificiële intelligentie. En dit keer niet in de vorm van een spel. Hassabis is oprichter van DeepMind, een bedrijf dat zich bezighoudt met het ontwikkelen van artificiële intelligentie (AI). Hij wordt gezien als een van de slimsten in zijn werkveld. The Guardian noemt hem in een stuk „superhero of artificial intelligence”.

In 2014 kocht Alphabet, het moederbedrijf van Google, DeepMind voor zo’n 400 miljoen pond.

Het bedrijf wil de heilige graal van intelligentie vinden, en machines creëren die voor zichzelf kunnen denken. Dat gaat al aardig goed. Kunt u zich nog herinneren dat de AlphaGo-robot van Google vorig jaar het spel Go won van de menselijke wereldkampioen? De AI in die robot kwam van DeepMind. Go draait in essentie om het winnen van territorium op het speelbord. Daar is strategisch denken voor nodig, maar volgens kenners is intuïtie minstens zo belangrijk.

Afgelopen maandag trok Elon Musk, bedenker van Tesla en SpaceX, voor de zoveelste keer aan de bel over de gevaren van artificiële intelligentie. In een bijeenkomst met Amerikaanse politici noemde hij het „een fundamenteel risico voor het voortbestaan van onze samenleving”. Merkwaardige woorden van de bedenker van de zelfrijdende auto. Toch pleit Musk voor proactieve wetten om grenzen te stellen aan AI, voordat het te laat is, en robots door de straten rijden om mensen neer te schieten. Zijn woorden, niet de mijne.

Ik ken AI eigenlijk vooral van Siri, het spraakgestuurde programma op mijn telefoon. En als je Siri vraagt om te googlen op AI, dan kom je snel uit bij Hassabis. In een aan te raden stuk uit Vanity Fair eerder dit jaar wordt een lunch beschreven in de kantine van SpaceX, het raketbedrijf van Musk. Die vertelt Hassabis dat het ultieme doel van zijn bedrijf meteen het belangrijkste project van de wereld betreft, namelijk het koloniseren van een andere planeet.

Hassabis is het daar niet mee eens, volgens hem richt zijn bedrijf zich op het belangrijkste project van de wereld, namelijk het ontwikkelen van kunstmatige superintelligentie. Musk vindt dat juist een reden om Mars te koloniseren, zodat er een plan B is als kunstmatige intelligentie zich tegen zijn creator, de mens, keert. Zijn antwoord maakt weinig indruk op Hassabis, die fijntjes opmerkt dat de superslimme robots de mensheid dan gewoon volgen naar die andere planeet.

In hetzelfde artikel wordt een anekdote aangehaald van een investeerder die na een meeting met Hassabis grapt dat hij hem beter had kunnen doodschieten om de mensheid te beschermen.

Om u een idee te geven van hoever de overtuiging van DeepMind reikt: een van de collega’s van Hassabis beweerde eens dat het uitsterven van de mensheid werkelijkheid zal worden, en dat de technologie daar waarschijnlijk een rol in zal spelen.

Kunstmatige intelligentie biedt echt wel voordelen, het neemt een steeds groter deel van ons leven in. De algoritmes op Facebook, de assistent op je telefoon, de chatbot die op een website je vragen beantwoordt. Het scheelt tijd, het maakt het leven makkelijker. Maar het knaagt ook. Intelligentie en intuïtie zijn blijkbaar ook een apparaat zonder ziel bij te brengen. Maar hoe zit dat met ethiek?

Lamyae Aharouay werkt als redacteur bij BNR.