Hoogleraar Andrew Murray: kunstmatige intelligentie kan fantastisch zijn, maar pakt wel ons brein af

De rechtenprofessor die waarschuwt dat kunstmatige intelligentie de rechtsstaat ondermijnt, zit thuis in Londen in quarantaine. Een algoritme in zijn smartphone-app heeft bepaald dat hij besmet kan zijn met het coronavirus. „De ironie hiervan ontgaat mij niet”, grinnikt Andrew Murray, die overigens kerngezond is, via Zoom.

Dit is precies waar Murray, dé Britse expert op het snijvlak van recht en de digitale wereld, op 26 november online een lezing over houdt voor het Haagse Asserinstituut: hoe kunstmatige intelligentie (artificial intelligence, AI), die ons leven in veel opzichten aangenamer maakt, langzaam maar zeker óók het menselijke vermogen om te denken en oordelen ondermijnt. Volgens hem moeten we AI eindelijk gaan reguleren.

Hoe bedreigt AI de rechtsstaat?

„Wij denken bij ‘rechtsstaat’ meteen aan wat er in Polen en Hongarije gebeurt: regeringspartijen die onafhankelijke instituties zoals de rechterlijke macht politiseren. Maar wat Cambridge Analytica deed bij de Amerikaanse verkiezingen in 2016, is óók een aanval op de rechtsstaat. Via Facebook stuurde het eenzijdige informatie naar kiezers, zodat ze op Trump zouden stemmen. Het Canadese bedrijf AggregateIQ heeft zo het Brexit-referendum beïnvloed ten gunste van VoteLeave. Nu zeggen mensen: als we hadden geweten wat Brexit was, hadden we anders gestemd. Het gebruik van AI verhindert mensen om autonoom besluiten te nemen. Dit verstoort de democratie en de rechtsstaat.”

Geeft u eens een voorbeeld?

„Stel, je wilt een hypotheek van de bank. Vroeger beoordeelde een bankmedewerker of jij aan de criteria voldeed. Bij twijfel vroeg hij door. Als jij zei dat je net een cursus financieel management had gedaan, kon hij denken: oké dan. Nu vult die medewerker, terwijl jullie praten, een vragenlijst in op zijn scherm. Zo’n cursus, daar heeft de computer geen box voor. Hij wijst je af. De menselijke afweging is verdwenen. De bankmedewerker communiceert tussen jou en de computer, meer niet.

„Op die manier wordt besloten of je een huurflat krijgt, een verblijfsvergunning, een baan. De medewerker zit er nog, maar de informatie die hij krijgt, is beperkt door het systeem. Bedenk eens wat dit voor juristen betekent.”

Werken rechtbanken met AI?

„Nee, maar er wordt over gesproken. De Britse hoogleraar Richard Susskind pleit voor onlinerechtbanken. Rechtbanken zijn duur en langzaam. Ze hebben achterstanden. Susskind zegt dat je simpele zaken snel en veilig met AI kunt afhandelen. Je zou nog wel in beroep kunnen bij een menselijke rechter. Waar advocaten al wel mee werken, is LawTech. Dat kijkt naar oude strafzaken en voorspelt hoeveel kans je hebt om je zaak te winnen. LawTech voorspelt vonnissen bij het mensenrechtenhof in Straatsburg beter dan mensen. Hiermee adviseren advocaten klanten: procederen of niet? AI is goed in data reduceren voor kansberekening. Het probleem is dat het geen context ziet.”

Welke context?

„Als er iets gebeurt wat niet is geprogrammeerd, weet de computer niet wat hij moet doen. Neem zelfsturende auto’s. Dat iemand plotseling de straat kan oversteken, is geprogrammeerd. Dan stopt de auto. Maar nu is er een groot gat in de weg. Een mens zou zeggen: omheen rijden. AI zegt: ik weet niet wat dit is.”

Dat kun je hem leren.

„Alleen als jij weet dat dit een mogelijkheid is. Maar je kunt niet alles voorspellen. Dit is het probleem. Als we wisten dat Facebook jou andere berichten laat zien dan mij, hadden we die toestanden met Cambridge Analytica kunnen voorkomen. Weinigen zagen dit aankomen.”

Kortom, we hadden dit niet kunnen reguleren?

„Wel als we alerter waren geweest en er energie in hadden gestoken. We discussiëren al sinds de jaren negentig over online porno, leugens, vrijheid van meningsuiting. Maar we hebben gezegd: laat de sector zichzelf reguleren. We hebben ook afgesproken wanneer platforms niet gestraft worden. In Amerika is een platform niet verantwoordelijk voor data die het ‘draagt’. Dat komt van een oude telefoniewet, die bepaalt dat de telefoonmaatschappij niet aansprakelijk is als ik jou opbel en je bedreig. Die wet geldt nu ook online. Google, Facebook en Twitter zitten in een grotendeels ongereguleerde ruimte. Zij verdienen veel geld. Dit is een commercieel model: information capitalism. Jij voedt die bedrijven met data van je telefoon, zij verkopen het.”

Hebben we zitten slapen?

„Ja. Als men ons in 1995 had gezegd: we stoppen een apparaatje in je zak dat jou bespioneert, dan hadden we vast nee gezegd. Maar men bood ons een smartphone met interessante gadgets, en we zeiden ja.”

Waren er destijds mensen die dit wilden reguleren?

„Jawel. Maar anderen zeiden: we hebben innovatie nodig, dit is de zuurstof voor de economie.”

Hetzelfde debat dat we destijds over banken voerden?

„Ja. Die zijn we pas gaan reguleren na de kredietcrisis in 2007/2008. Waar het met AI eindigt, weet niemand. De techniek is de maatschappij vooruit. Je zegt tegen de smart kids in Silicon Valley: ‘wouldn’t it be nice if…?’ Dan gaan zij programmeren. Zo is Uber bedacht. Zou het niet leuk zijn als iemand ons in zijn eigen auto oppikte? Cool! Het kan allemaal: het is onontgonnen terrein, ongereguleerd. Bestaande regulering over minimumloon, arbeidstijden en belasting wordt onklaar gemaakt. Als de wetgever eindelijk wakker wordt, is het al mondiaal. Wat betekent dit straks voor de zorg of defensie?”

Lees ook dit verhaal: AI moet geen pijn doen

Wat die kids doen is legaal, maar onethisch?

„Ja. En we zeggen dat ook steeds vaker, maar dat helpt weinig. Als ik in de board van Facebook zit en Facebook wil nieuwe dingen doen, zit ik daar om de belangen van aandeelhouders te beschermen. Ik kan ethische vragen stellen. We hebben het erover. Maar dan gaat alles gewoon door. Het is een hellend vlak.”

Kortom, we hebben wetten nodig?

„Ja. Harde regulering, want zelfregulering werkt niet. Ook omdat veel landen evidence based beleid voeren. Het ministerie van Binnenlandse Zaken ziet aan de data of er problemen zijn met immigratie, en gaat dan beleid maken. Wie de data beheerst, beheerst de debatten.”

Overheden doen weinig. Ze willen niet reguleren, anders krijgen andere landen een voorsprong

Beseffen beleidsmakers dit voldoende?

„Nee. Ngo’s wel. De meest succesvolle campagne is die tegen killer robots, autonome wapens. Niet alleen kunnen die worden ingezet tegen vreedzame demonstranten, terroristen kunnen de technologie ook gebruiken. Maar overheden doen weinig. Ze protesteren tegen nepnieuws op sociale media. Ze beginnen ethische vragen te stellen. Maar ze willen niet reguleren, anders krijgen andere landen een voorsprong. Ze zeggen: alleen mondiaal reguleren werkt. Vervolgens gebeurt er niets omdat grote landen het tegenwerken.”

Lees ook dit verhaal: Techbedrijven investeren in dodelijke, autonome wapens

De EU heeft toch een Witboek geproduceerd, een uitgebreide studie over het onderwerp?

„Ja. Dit is iets wat Europeanen samen moeten doen. Gelijkgestemde landen als Canada kunnen meedoen. Maar deze studie beveelt alleen wetgeving aan op gevoelige terreinen als de zorg. Veertien EU-landen, waaronder Nederland, hebben net per brief verklaard: laten we alleen soft reguleren. Ze willen de kip met de gouden eieren niet slachten.”

Christopher Wylie, klokkenluider van Cambridge Analytica, wil een soort pauzeknop voor content die viraal gaat op sociale media. Helpt dat?

„Ja, maar dat kan niet bij alles. AI organiseert mijn medische dossiers, reizen en financiën. Het regelt de effectenbeurs en transportsystemen. Pauzeren betekent dat je die systemen platlegt. Als AI een fout maakt, is het een systeemfout. Als een mens een fout maakt, is het een individuele fout. Dat Lehman omviel, in 2008, was een systeemfout. De algoritmes toonden: als je stukjes leningen aan elkaar plakt, is de kans op ongelukken bijna nul. Het ging wel mis, en de wereld lag plat.”

Op regeringen staat weinig druk om in te grijpen, omdat we lui zijn, en omdat we dol zijn op AI

Waarom is de druk op regeringen om in te grijpen niet groter?

„Omdat we lui zijn, en omdat we dol zijn op AI. Iedereen rijdt met satellietnavigatie. Niemand trekt dat in twijfel, al gaat er geregeld iemand een rivier in. Parlementariërs, die wetten moeten maken, zijn even lui als gewone mensen. Ze zeggen: je hoeft nepnieuws toch niet te geloven? Maar dat is het punt niet. Het punt is: als wij allebei ‘winterjas’ googlen, krijg ik andere jassen te zien dan jij. Google weet dat ik een man ben, hoe oud ik ben, welke kleur ik leuk vind. Dat bewijst: data zijn niet objectief. Niet over winterjassen, niet over politieke issues of rechtszaken. AI kookt onze beslissingen voor en verbergt informatie voor ons.”

Als het zo erg is, waarom roepen burgers dan niet ook om regulering?

„Omdat ze machteloos zijn. Bedrijven weten dat ze staatsbemoeienis kunnen voorkomen door softe zelfregulering. Het regent ‘convenanten’ en ‘partnerships’. Daarmee krijgen ze zelden straf. In de gokindustrie is de slogan: ‘When the fun stops, stop’. Het werkt niet, het is een manier om wetgeving te voorkomen. Burgers zijn machteloos. Geen wonder dat ze zich op sociale media storten. Dit is de tijd van burgeractivisme, van grassroots. Het is een uitlaatklep. Maar ook met dit activisme gaan machtige groepen op de loop. De Amerikaanse jurist Cas Sunstein noemt dit ‘online balkanisering’. Achter Black Lives Matter zitten nu groepen die de boel manipuleren. De Proud Boys zijn een pure creatie van zo’n groep.”

Komen we in een spiraal?

„Ja. AI kan fantastisch zijn, maar pakt ons ons brein af en ons vermogen om dingen te wegen. Onze autonomie verschuift naar bedrijven. Online zie ik vooral mijn eigen echobox. En de pizza waarvan Google denkt dat ik hem lekker vind. Het probleem is dat Google me dat niet vertelt. Het toeval verdwijnt. Je bubbel zegt altijd dat je gelijk hebt.

„Dit doet iets met mensen, met de samenleving, met onze rechtsstaat die gefundeerd is op autonoom denkvermogen. We moeten ingrijpen. Voor nationale wetgeving is het te laat. Dit is grensoverschrijdend. De EU moet een mondiale organisatie voor AI oprichten, zoals we ook organisaties hebben voor vluchtelingen of gezondheid. Als grote landen meedoen, kan er iets gebeuren.”