Kan een machine stelen?

Robots kunnen op eigen houtje investeringen doen, de mens kan dan geen roet meer in het eten gooien. Zorg er wel voor dat onze waarden ook in de digitale wereld een plek krijgen, waarschuwt Maxim Februari.

Laat ik u eens bijpraten over de verpakking van de roomboterzandkoekjes. Om de tekenen van de tijd te kunnen verstaan, moeten we die immers zoeken op trendy en contemporaine plekken, zoals de koekjesschappen van de supermarkt. ‘Traditional Dutch assortment’, staat daar op de zandkoekjes. ‘100% natuurlijk!’ Kijk eens aan: beetje nationalisme, beetje duurzaamheid, gericht op PVV’ers, kennelijk, met een bakfiets en een baard. En dan staat er: ‘Made by craftsmen, not machines.’

Toch nog een verrassing dus op de spritsen en de Goudse moppen. ‘Ambachtelijk’, ‘traditioneel’, ‘handgemaakt’: dat zijn kwalificaties waarmee fabrikanten al langer adverteren. Maar het is voor het eerst dat ik verzet tegen machines tegenkom op de verpakking. Waarbij zich dan wel de vraag aandient hoe de werklieden hun koekjes zonder gebruik van een machine hebben kunnen bakken. Misschien zijn ze erop gaan zitten.

De computercode is de baas over de transacties

Meer raadselachtig nieuws over de machine vinden we deze dagen in de krochten van de krant. In een klein hoekje achteraf en in geheimtaal die alleen te begrijpen valt voor ingewijden, lezen we dat er een grote roof van de digitale munt Ether heeft plaatsgevonden. „Bij een belangrijk project dat met Ether wordt betaald, DAO genoemd, is inmiddels voor bijna 80 miljoen dollar gestolen.” Een belangrijk project. DAO genoemd. Klinkt geheimzinnig. Je moet wel heel bijdehand zijn om hierin de Decentralized Autonomous Organization te herkennen.

Die gedecentraliseerde autonome organisatie is een code die draait op de blockchain, een gemeenschap van robots, en die daar investeringen en andere transacties bedisselt op basis van slimme contracten. Code en blockchain maken het mogelijk dat digitale activa – geld, aandelen, informatie – autonoom bewegen, zonder dat er nog een ouderwetse advocaat of bankier aan te pas komt. Zouden die transacties in de schappen van de supermarkt liggen, dan stond erop: „Made by machines, not craftsmen.”

Stel je koelkast is straks voldoende smart geworden om zelfstandig bij te houden hoeveel eten er nog in huis is. Dan kan haar software, rekening houdend met gegevens over je gezondheid en je financiële situatie, zelf kijken waar de halfvolle melk het voordeligst is en vervolgens een koop sluiten. Bij zo’n slimme transactie zit de mens niet meer in de weg met zijn gezeur. En op deze autonome manier regelt de DAO dus nu al investeringen, zonder dat de mens tussendoor roet in het eten kan gooien. Volgens de aanbevelingen is de DAO bij het aangaan van de investeringen niet te stoppen en niet bij te sturen. „Immutable, unstoppable, and irrefutable computer code.”

Smart. Handgemaakt. Je moet het allemaal met een korreltje zout nemen, want de werelden van mens en machine vloeien nog steeds in elkaar over. De koekjes worden gemaakt met de mixer en daarna moeten ze de oven in. De DAO is door mensen gemaakt en door een handige jongen of handig meisje gebruikt om 80 miljoen dollar te oogsten. Hopelijk drinkt de nerd nu cocktails op de Bahama’s. Ik geef toe, het is niet leuk voor de mensen die hun geld kwijt zijn, maar het is wel leuk vanuit juridisch perspectief. Want hoewel de krant nog rept van ‘roof’ en van ‘stelen’, is het maar helemaal de vraag of zulke begrippen nog opgaan in de wereld van de machines. Kan er nog sprake zijn van diefstal in een situatie waarin de code de baas is?

In hun vreugde over de ontwikkeling van de DAO zingen sommige ingewijden het mantra ‘code is law’ en met die geheimtaal bedoelen ze dan dat digitale code de wet vervangt. Lawrence Lessig, die in 1999 het befaamde artikel Code is Law schreef, bedoelde eigenlijk precies het tegenovergestelde.

Zijn artikel had beter Code is Power kunnen heten. Digitale code regeert en reguleert, schreef hij. En om je daartegen te beschermen moet je waarden uit onze constitutionele traditie een plaats geven in de digitale architectuur, anders ben je ze kwijt.

Doe je dit niet, vind je de mens te duur of te onbetrouwbaar, regel je je zaken via een digitale code die unstoppable haar gang gaat, dan is die code geen wet. Geen regel die moet worden toegepast en kan worden overtreden. Dan is die code een machtswoord. En als ze toestaat dat geld wegvloeit naar een handig type, is van stelen of hacken geen sprake. De code is immers de baas over de transacties – en dit was er simpelweg eentje.

Verhef je code tot absolute macht, dan ben je dus niet alleen je advocaat, je bankier en je notaris kwijt, je bent ook het begrip diefstal kwijt. Toen ik dit zag, heb ik er erg om moeten lachen, en ik heb er niet eens 80 miljoen aan over gehouden. Kun je nagaan hoe hard je moet lachen als je die 80 miljoen wel binnenhaalt.