"Computers moeten leren vooruitkijken, zoals mensen", vindt Welling.

Foto Merlijn Doomernik

‘Europa moet zorgen voor de morele balans’

Max Welling De Nederlandse hoogleraar machine learning Max Welling verkocht zijn bedrijf aan chipfabrikant Qualcomm. Als Amerika ons IT-talent overneemt, speelt Europa dan nog een rol in de ontwikkeling van kunstmatige intelligentie?

Zijn zucht is bijna hoorbaar. Dat krijg je ervan als je een onderzoeker naar kunstmatige intelligentie weer eens vraagt wat ons te wachten staat als computers echt slimmer worden dan mensen.

Max Welling heeft weinig op met voorspellen. Hij ligt niet wakker van robots die de wereld overnemen. Eerder maakt hij zich zorgen wat er overblijft van het verzekeringsstelsel als je perfect kunt voorspellen wie er ziek wordt. Of wat er gebeurt als ieders gezicht overal herkenbaar is.

De Amsterdamse hoogleraar Max Welling is specialist op het gebied van machine learning, de technologie die de software-industrie volledig in zijn greep heeft. „Ik draag twee petten”, zegt hij. Op de ene staat het logo van de Universiteit van Amsterdam. De andere pet is van Qualcomm. Dat Amerikaanse chipbedrijf kocht dit jaar Scyfer, een start-up die Welling in 2013 begon met een oude studievriend en een paar studenten. Scyfer ontwikkelt zelflerende algoritmen die beeldinformatie en sensordata analyseren. Welling hoefde niet te verhuizen; het Nederlandse Qualcomm-lab staat al op het Science Park. Tweehonderd meter wandelen, meer is het niet.

Dit artikel is onderdeel van een IT-special over kunstmatige intelligentie.

- Het AI-woordenboek: Wat is een algoritme, wat doet een neuraal netwerk?
- Reportage Google Research Lab: Wat gebeurt er in de machinekamer van Google?
- Machine learning expert Max Welling: ‘Europa moet zorgen voor morele balans’
- Doe de stoomcursus AI: Wordt data-expert in één dag
- Genoeg investeerders in AI, maar waar blijven de zinnige AI-toepassingen?
- Waarom deze special? Kunstmatige intelligentie is mensenwerk.

Google doet het, Apple en Facebook ook: in hun zoektocht naar schaars talent nemen technologiebedrijven graag professoren in dienst. Ze zijn magneten om meer studenten aan te trekken.

De andere tactiek is de overname van veelbelovende start-ups. Bij Scyfer sloeg Qualcomm – dat in 2014 ook al een andere spin-off van de UvA kocht – twee vliegen in één klap: „Ik had tien mensen die elk vijf jaar ervaring hadden met het toepassen van deep learning-systemen. Zoveel ervaring, dat is best zeldzaam”, zegt de 49-jarige Welling.

Deep learning is een jong onderzoeksveld van machine learning – zelflerende computers. Softwarecode is niet gebaseerd op door mensen geschreven regels, maar op modellen van computers die grote hoeveelheden data afgrazen met neurale netwerken, op zoek naar patronen. Die modellen sturen onze mediaconsumptie, adviseren dokters bij diagnoses en verzekeraars bij risicoprofielen.

Welling: „Zoekmachines, robotica, beeldherkenning: machine learning is een component in al die toepassingen. Zie het maar als een hamer die je kunt gebruiken voor elke klus.”

Het is met name de zelfrijdende auto die een belangrijke rol speelt in Wellings overstap naar Qualcomm. De chipgigant wil namelijk voor 47 miljard dollar NXP overnemen, het Nederlandse chipbedrijf dat uitgroeide tot een belangrijke leverancier voor de auto-industrie.

Tegelijkertijd wordt Qualcomm zelf bedreigd door een vijandelijke overname: de Amerikaanse chipgigant Broadcom bood 105 miljard dollar – een deal die voorlopig door Qualcomm werd afgewimpeld. Zulke bedragen zijn er niet voor Scyfer betaald – hoeveel wel, dat is niet bekend.

Wat gaat u doen bij Qualcomm?

„We doen onderzoek naar spraakherkenning voor mobiele telefoons en beeldherkenning voor de camera’s die in auto’s zitten. Daarnaast zijn we bezig met het verkleinen van de neurale netwerken, zodat ze ook op een telefoon werken. Kunstmatige intelligentie breidt zich uit naar de ‘randen van het netwerk’: nu zit de rekenkracht voor machine learning nog vooral in de cloud, de grote computernetwerken. We willen chips ontwikkelen die algoritmes soepeltjes kunnen draaien op een telefoon of in een auto.”

Waarom is het belangrijk dat apparaten zelf zulke taken kunnen uitvoeren?

„Google doet zoiets met zijn nieuwe Clips Camera: die maakt automatisch foto’s van ‘leuke’ momenten. Als je iets knulligs doet, wil je niet dat die foto rechtstreeks de cloud in gaat naar Google. Analyse op het apparaat zelf beschermt je privacy én het is goed voor Qualcomm.”

„Een andere optie: onze apparaten vormen samen een neuraal netwerk [software die qua structuur lijkt op de neuronen in het menselijk brein] dat je blijft trainen met nieuwe data. Handig als een bedrijf gegevens heeft die het niet in de cloud wil opslaan. Zo bouw je een dynamische omgeving voor machine learning en blijft bedrijfsgevoelige data toch in je eigen netwerk.”

Voor een autofabrikant is het praktisch, live informatie te kunnen delen tussen voertuigen. Maar het gaat wel om erg persoonlijke gegevens.

„Op de UvA onderzoeken we hoe je een privacyvriendelijk neuraal netwerk bouwt. Door willekeurige ruis toe te voegen aan data kun je ervoor zorgen dat de overkoepelende informatie overleeft, maar de individuele informatie wordt vernietigd. Dan heb je een model dat bijvoorbeeld de gemiddelde lengte van alle mensen die in Amsterdam wonen berekent, maar jouw lengte wordt niet prijsgegeven en valt ook niet te reconstrueren.”

Als kunstmatige intelligentie de motor van innovatie is, dan is data de brandstof. Europese wetenschappers waarschuwen dat onderzoek naar kunstmatige intelligentie stokt als er vanaf 2018 strenge EU-privacyregels gaan gelden. Taalwetenschapper Arjan van Hessen schreef in NRC dat China en de VS er met het IT-goud vandoor gaan. Hij noemt de privacyregels een „strop om de nek” van Europese techbedrijven, als ze geen of moeizaam toegang krijgen tot grote hoeveelheden data. Ook René Obermann, de voormalige topman van Deutsche Telekom en Ziggo, pleitte afgelopen week op een Nederlands telecomcongres voor makkelijker toegang tot data om de Europese achterstand – met name voor de auto-industrie – niet te laten oplopen.

Volgens Max Welling loopt het niet zo’n vaart. „We kunnen data goed anonimiseren. Europa moet niet dezelfde kant op als de VS of China, maar juist voor de morele balans zorgen.”

Welling ziet andere haken en ogen aan die wet, die burgers het recht geeft te weten hoe algoritmes hen benaderen, om zo discriminatie te voorkomen. „Alles wat een algoritme doet moet uitlegbaar zijn. Dat is ongelooflijk vaag: ik kan niet eens uitleggen waarom ik zélf een beslissing neem. Kunstmatige intelligentie kan ook prima helpen menselijke vooringenomenheid te bestrijden: bijvoorbeeld als een algoritme constateert dat een universiteit statistisch gezien veel te weinig donkere mensen aanneemt.”

Lees ook het opiniestuk van Arjan van Hessen: China en VS gaan er met het nieuwe IT-goud vandoor

Wat zijn volgens u de risico’s?

„De verzekeraars maken reclame dat je premie omlaag gaat, bijvoorbeeld als je veiliger rijdt of gezonder leeft. Wat ze er niet bij vertellen, is dat premies voor anderen hoger worden. Corrigeerbaar slecht gedrag mag best duurder zijn, maar je mag nooit gestraft worden voor je slechte genen. Als je perfect weet wie er kanker gaat krijgen, verdwijnt alle solidariteit uit het systeem.”

„Mensen onderschatten ook hoe makkelijk hun gezicht herkend kan worden, zodat je overal kan worden gevolgd – in Eindhoven zitten er al camera’s in lantaarnpalen. En ik voel me ook niet prettig bij zo’n apparaat als de Alexa van Amazon, die altijd aan het luisteren is in je huis en data naar Amazon stuurt.”

Wat moet er gebeuren voordat de zelfrijdende auto werkelijk rondrijdt?

„Al is de robotauto veiliger dan mensen aan het stuur: als je ook maar één ongeluk hebt, is de negatieve publiciteit erg groot. Het zal nog jaren duren voordat je auto zelf door Amsterdam rijdt. Het is op dit moment gewoon nog te moeilijk om adequaat op alle mogelijke situaties in de Amsterdamse binnenstad te reageren; er zijn niet genoeg data uit het verleden en de algoritmen zijn nog niet slim genoeg.

„Er gaat veel onderzoeksgeld naar reinforcement learning, algoritmes die proefondervindelijk leren te plannen en beslissingen nemen. Ze leren als kinderen: vormen hypothesen, testen ze en onthouden wat werkt. Algoritmes moeten acties kiezen die op lange termijn de beste uitkomst hebben. Dan kun je beter inschatten of je een andere auto kunt inhalen of juist moet afremmen.

„Computers moeten leren vooruitkijken als mensen. Zo neem je zelf ook beslissingen: je gaat naar school, ook al vind je het misschien niet leuk om weer in de boeken te zitten. Maar op de langere termijn levert die investering je misschien een betere baan op.”

Dit artikel is onderdeel van een IT-special over kunstmatige intelligentie. Lees ook het hoofdverhaal: Wat gebeurt er precies in de machinekamer van Google?
    • Marc Hijink