Column

Tijd voor de robotcolumnist

Machines worden steeds slimmer – en mensen steeds dommer, want technologie schept ons brein langzamerhand leeg. Dankzij internet en smartphone hebben we geen geheugen of richtingsgevoel meer nodig. Waar vroeger een simpel feit een eindeloze tafeldiscussie opriep, sluit Wikipedia het debat nu ter plekke kort. Steeds meer complexe beslissingen – welk boek te lezen of hotel te boeken – besteden we uit aan slimme algoritmes. Machines herkennen oma op onze vakantiefoto’s of een wijsje uit onze jeugd. Binnenkort bestuurt de computer ook de auto en doet zelfstandig boodschappen.

En dit alles is nog maar het begin. Brute rekenkracht gaat in hoog tempo ons leven bepalen. Machines ontwerpen en trainen de nieuwe generatie machines, net zoals mensen dat doen. De spectaculairste voorbeelden komen uit de wereld van de kunstmatige intelligentie. Daar is machine learning de nieuwste trend. Ondergedompeld in een onmetelijke zee van data, leren computers spontaan patronen herkennen en voorspellen. Wat wel of niet aan deze methode ten prooi valt, weet niemand vooraf. Ook voor de ingenieurs van Google was het een verrassing dat computers kunnen vertalen door pure patroonherkenning, zonder enige kennis van grammatica of woordenboek.

Een andere verrassing is het succes van AlphaGo, ontwikkeld door de Londense Google-dochter DeepMind. Dit jaar versloeg het de regerende Go-kampioen. Het programma trainde door alle geregistreerde partijen te absorberen en daarna eindeloos tegen zichzelf te oefenen. Maar ook robotroem is van korte duur. Vorige week werd deze machine alweer verslagen en wel door de nieuwe generatie, AlphaGo Zero. Dit algoritme begon from scratch met alleen de regels en speelde louter oefenrondjes tegen de oude machine. Uitslag: 100-0 voor de jeugd. Sic transit gloria machinae

Niemand weet wat zelflerende machines precies wel of niet aankunnen, hoeveel rekenkracht nodig is, of wat de kans is dat het fout gaat. De computer verwerft intuïtieve gedragspatronen zonder voorgeprogrammeerde structuur, maar kan niet uitleggen hoe hij het doet, net zoals menselijke rekenwonders uit voorbije jaren.

The Wall Street Journal heeft een mooie serie: beroepen van de toekomst. Laatst was dat de robotpsycholoog. In de toekomst zullen we de stabiliteit van slimme machines net zo moeten onderzoeken als de geestelijke gesteldheid van mensen. Niet door de hersenen of software te ontleden, maar door de robot op de divan te leggen voor een goed gesprek. Of anders vinden we binnenkort wellicht een robot in de stoel van de psycholoog.

Niet alleen computers ook, materialen en levensvormen worden slimmer. We manipuleren atomen en genen met hetzelfde gemak als informatie. En dit alles gaat steeds sneller. AlphaGo Zero had veertig dagen nodig om de oude generatie te verslaan. Dit jaar werd binnen zes maanden het genetisch materiaal van een varken op 62 plaatsen herschreven om zijn organen geschikt te maken voor menselijke transplantatie. Kan onze maatschappij zich aanpassen aan dit moordende tempo?

Een nuttig natuurkundig begrip hierbij is ‘adiabatische verandering’ – een verandering waarin op elk moment het evenwicht wordt bewaard. Denk aan het wandelen met een glas water. Als je dat rustig doet, zoals een goede ober, dan blijft het water keurig in het glas. Maar ga je te snel door de bocht, dan vliegt het water het glas uit. Het klimaat op aarde verandert permanent door natuurlijke oorzaken. Maar die veranderingen voltrekken zich typisch over duizenden jaren, geen tientallen, zodat ecosystemen zich rustig kunnen aanpassen. Nu de mens zo hard ingrijpt in natuur en samenleving, gaat het bewaken van het evenwicht steeds moeizamer.

Extra zorgwekkend is dat de ingrijpendste ontwikkelingen vooral achter de gesloten muren van bedrijven plaatsvinden. Het genetisch gemodificeerde ‘varken 2.0’ werd in een Chinese startup ontwikkeld. Alleen de private sector heeft op dit moment de visie om de enorme mogelijkheden van technologische doorbraken te zien en het lef om de even grote financiële risico’s te nemen. Ze investeren gemakkelijk vele miljarden in een route waarvan niemand weet waar die precies heen loopt, naar El Dorado of de afgrond. Overheden daarentegen denken klein, verlamd door de problematiek van alledag en de angst een fout te maken.

Dit alles leidt tot de ‘kennis-paradox’. Onderzoek graaft per definitie altijd dieper en is daarom steeds moeilijker te begrijpen, voor de burger én de expert. Maar die complexiteit maakt het ook krachtiger. Wetenschap en technologie scheppen zo een wereld die tegelijkertijd ongrijpbaar en allesbepalend is. Een beetje als de engelen in de film In weiter Ferne, so nah! (1993) van Wim Wenders: voor mensen onzichtbaar, maar angstvallig dichtbij.

Hoe overbruggen we deze groeiende kenniskloof? Wie bewaart het evenwicht en zorgt dat de maatschappij straks niet uit de bocht van de vooruitgang vliegt? Hier kan een rol liggen voor de sociale en geesteswetenschappen. Met hun kenmerkende neiging tot problematiseren en reflecteren, kunnen ze deze ontwikkeling in historisch, filosofisch, ethisch of levensbeschouwelijk perspectief plaatsen. Tenminste, als ze hard genoeg willen rennen om de technologie bij te benen en misschien zelfs vóór te zijn. Of is dit in de toekomst een rol voor robotfilosofen en robotcolumnisten?

Professor Robbert Dijkgraaf is directeur van het Institute for Advanced Study in Princeton