Technologische hulp uit China is niet gratis

In Taiwan gebeurt het al. Maar dat ook Nederland Chinese algoritmes wil inzetten in de strijd tegen de huidige pandemie, sneeuwde vorige week bijna onder in de storm van coronanieuws. Slechts enkele media berichtten over het voornemen van radiologen van het Maastricht UMC om Chinese artificiële intelligentie in te zetten in de strijd tegen corona.

Het algoritme analyseert in enkele seconden longfoto’s van patiënten. De analyse helpt radiologen om te beslissen welke patiënten naar de intensive care moeten. Hoewel Nederlandse ziekenhuizen ook hard werken aan AI-software om diagnostiek te versnellen, wil het Maastricht UMC per direct aan de slag met het Chinese algoritme. Het algoritme – ontwikkeld met longfoto’s van Chinese patiënten – is een groot succes in ziekenhuizen in China.

Lees ook de column van Maxim Februari: Van wat valt te voorspellen wil je de helft niet weten

Het UMC mag het gratis gebruiken, maar moet de longfoto’s van Nederlandse coronapatiënten naar de Chinese commerciële ontwikkelaar sturen. De Raad van Bestuur van het Maastricht UMC heeft aangegeven eerst een privacycheck te willen doen. Er moeten namelijk longscans, bijbehorende diagnoses, informatie over het verloop van de ziekte en mogelijk andere informatie over de patiënt worden verstuurd aan het Chinese bedrijf. Anonimiseren van de data lijkt een oplossing, maar is niet bij elk AI-algoritme mogelijk.

Patiënt is baas over zijn gegevens

De Algemene Verordening Gegevensbescherming (AVG) bepaalt dat er in principe geen gezondheidsgegevens gedeeld mogen worden zonder toestemming van de patiënt zelf. Een uitzondering hierop kan gemaakt worden in het algemeen belang, zoals de volksgezondheid dat is, of het vitale belang van een patiënt die zelf te ziek is om in te stemmen.

Ook al is er nu een crisis, het is niet gezegd dat het UMC de absolute noodzaak van het delen van patiëntgegevens met China kan aantonen, zeker nu er een Nederlands alternatief komt. In dat geval zal het UMC de patiënten om toestemming moeten vragen.

Maar ook als de privacywet geen obstakel vormt, is het de vraag of het UMC zijn patiënten moet willen blootstellen aan de privacyrisico’s. De gezondheidsgegevens van Nederlandse patiënten staan dan namelijk op de servers van een commercieel techbedrijf met mogelijk andere belangen. Bovendien gelden voor bedrijven in China niet dezelfde privacywaarborgen als in Europa, wat het gevaar van misbruik vergroot.

De eigenaar van het algoritme laat zich betalen met data

Het gebruik van het algoritme is dus niet gratis: het UMC en zijn coronapatiënten betalen het Chinese bedrijf met data. Een AI-algoritme is afhankelijk van grote hoeveelheden gegevens. Het moet ‘getraind’ worden met longscans en allerlei andere informatie over de ziekte en de patiënt. Op basis hiervan kan het algoritme corona herkennen op een foto. Hoe meer data worden gebruikt, hoe beter het algoritme getraind wordt. Hoe meer accurate diagnoses het algoritme stelt, hoe meer geld het waard is.

Lees ook: algoritmes en drones moeten het virus indammen

En die prijs is hoog. Gezondheidsdata zijn gewild en de risico’s voor betrokkenen zijn groot. Informatie over je gezondheid is de meest intieme informatie die er is: het zegt van alles over je lichaam en je leven. En wat doet het Chinese bedrijf na de coronacrisis met de longscans? Data kunnen verkocht worden en in verkeerde handen vallen, waaronder die van werkgevers, zorgverzekeraars en levensverzekeraars.

Stigmatisering van zieken dreigt

Bij het lekken van gezondheidsinformatie ligt discriminatie en stigmatisering van zieken op de loer. Daarbij zijn medisch-ethische waarden – zoals vertrouwelijkheid van medische gegevens – juist in deze tijden van cruciaal belang voor het waarborgen van het vertrouwen in het gezondheidsstelsel.

Artificiële intelligentie gaat ongetwijfeld een grote rol spelen in de zorg en zal misschien zelfs mensenlevens gaan redden. Maar: de opbrengsten wegen niet op tegen de (privacy)risico’s. Het toenemende gebruik van AI in de zorg vraagt daarom om nieuwe sectorspecifieke regels om deze gevaren voor patiënten te beperken. Er is nog geen juridisch kader voor AI dat de rechten van patiënten beschermt. Dat betekent dat er in feite een situatie van wetteloosheid is, waarbij de risico’s vooral voor rekening van kwetsbare patiënten komen.

Gebruik het momentum voor Nederlandse AI

Maastrichtse radiologen, een wereldwijde gezondheidscrisis is niet het moment om je te laten verleiden door commerciële techbedrijven in China. AI kan een goede aanvulling zijn op de diagnostiek, maar brengt op deze manier te veel onzekerheid mee voor de privacy van de patiënt. Gebruik het momentum om samen met Nederlandse ziekenhuizen, waar privacywaarborgen en mensenrechten wél centraal staan, een begin te maken met de ontwikkeling van algoritmische diagnostiek in gezondheidscrises.

Ga met elkaar het gesprek aan over ethische codes. Zorg dat AI-ontwikkelingen uitsluitend het belang van de patiënt dienen en niet ook dat van commerciële techbedrijven. En deel je ervaring daarna met Europese lidstaten, zodat er een EU-breed beleid voor AI in de zorg kan komen, met voldoende oog voor de bescherming van patiëntenrechten.