Vrees voor honger naar zorgdata van Google

Privacy DeepMind, dat medische data analyseert, gaat nauwer samenwerken met moederbedrijf Google. Dat leidt tot zorgen over de toegang tot patiëntendata.

Het kantoor van Google in New York. Foto EPA/Justin Lane

In 2016 was DeepMind er nog glashelder over: „Nooit zal patiëntendata gelinkt worden met Google-accounts, -producten of diensten”, schreef medeoprichter Mustafa Suleyman destijds. Die toezegging was nodig om privacyzorgen te sussen nadat Google de veelbelovende start-up in kunstmatige intelligentie had overgenomen. Het van oorsprong Britse DeepMind richt zich onder meer op het analyseren van zorgdata, bijvoorbeeld voor het stellen van diagnoses.

Maar afgelopen dinsdag maakte DeepMind in een persbericht bekend dat het nu toch nauwer gaat samenwerken met het moederbedrijf. Sterker: het team achter Streams, een app van DeepMind voor artsen en verplegend personeel, wordt officieel zelfs een afdeling van Google. De muur tussen DeepMind en Google lijkt daarmee in elk geval deels te worden afgebroken.

Die mededeling zorgt in het Verenigd Koninkrijk voor opschudding. DeepMind heeft in dat land namelijk een grootschalige samenwerking met het Britse nationale zorgsysteem NHS, waar zeer gevoelige informatie van patiënten wordt verwerkt. En Google is juist groot geworden door het verzamelen (en combineren) van zoveel mogelijk data.

Bezorgd

DeepMind kwam snel met de geruststelling dat alle patiëntgegevens „onder de strikte controle blijven van onze partners”. Het bedrijf benadrukt dat de gegevens geen eigendom zijn van Google of Deepmind maar van de ziekenhuizen. En dat de huidige contracten over datagebruik, en privacywetten, gewoon blijven gelden.

Maar privacyorganisaties en overheden zijn bezorgd over welke data zullen worden uitgewisseld, en wie dat kan controleren.

Wat er precies met de informatie gebeurt nu de verwerking toch officieel onder Google valt, en of DeepMind alle privacybeloftes nakomt is moeilijk vast te stellen. Er gelden strenge regels en zeker sinds de invoering van de privacywetgeving AVG in de EU kunnen boetes voor overtredingen in de miljarden euro’s lopen.

Handhaving en controle zijn echter notoir ingewikkeld, mede omdat Google geen inzicht geeft in zijn precieze werkwijze en algoritmes: die zijn bedrijfsgeheim.

Ook geanonimiseerde data kunnen gelinkt worden aan patronen die toch weer te herleiden zijn tot individuen – zeker in de enorme databanken die Google over mensen heeft verzameld. Er is Brits toezicht op wat DeepMind precies met patiëntengegevens doet maar het is zeer de vraag of dat toereikend is voor een wereldwijd opererend bedrijf als Google.

Het terugkomen op de belofte van DeepMind om niets te delen met Google past bovendien in een patroon. Het is niet de eerste keer dat een van de grote techbedrijven de laatste tijd zo expliciet ingaat tegen eerder gemaakte privacybeloftes.

Deze week bleek dat Microsoft door de Nederlandse regering op de vingers is getikt vanwege het stiekem tóch verzamelen van gegevens over Europese gebruikers, onder wie Nederlandse ambtenaren. Daarbij ging het onder meer over het opslaan van hele zinnen voor vertaalsoftware en mogelijk de onderwerpregels van e-mails.

Eerder dit jaar zijn de oprichters van WhatsApp opgestapt omdat Facebook, sinds 2014 de eigenaar van de berichtenapp, privacyvoorwaarden plots veranderde. Mark Zuckerberg beloofde bij de overname dat Facebook data van WhatsApp-gebruikers „nooit zou gebruiken voor advertenties”. Maar in de nieuwe gebruikersvoorwaarden van WhatsApp wordt gehint op precies dat: het delen van WhatsApp-data met Facebook voor op maat gemaakte advertenties.

De bedrijven verantwoorden hun veranderende beleid onder meer met het argument dat organisaties en individuen nou eenmaal akkoord gaan met privacyvoorwaarden die deze verzameling mogelijk maken. Maar privacyadvocaten wijzen er al langer op dat het systeem van toestemming verlenen niet meer goed functioneert, omdat veruit de meeste gebruikers de voorwaarden ongelezen doorklikken.

Lees ook: Het loont voor grote techbedrijven om lief te zijn voor gebruikers. Maar hoe lang nog, vraagt Evgeny Morozov zich af

Bij patiënten is het al helemaal de vraag of zij kunnen inschatten waar ze ja tegen zeggen wat betreft gebruik van hun informatie. In het Verenigd Koninkrijk zijn de overeenkomsten tussen de NHS en DeepMind de afgelopen jaren al meerdere keren aangepast na felle kritiek dat het bedrijf te veel vrijheid zou hebben om patiëntendata voor andere doelen te gebruiken.

Wereldwijde wedloop

Op de achtergrond speelt zich bovendien nog iets groters af. Bedrijven als Apple, Google, Facebook, Microsoft, en hun Chinese tegenhangers Alibaba en Tencent zijn verwikkeld in een keiharde wedloop in kunstmatige intelligentie. Dat is een verzameling technieken die patronen kan ontdekken in grote hoeveelheden data. En voor veel toepassingen van kunstmatige intelligentie geldt: hoe meer data, hoe beter. Deze wedloop gaat om potentiële omzetten van vele miljarden.

De meeste van deze bedrijven willen daarnaast steeds meer producten en diensten aanbieden in de gezondheidszorg. Ook dat is een miljardenmarkt. Er is de techreuzen dus veel aan gelegen om zo snel mogelijk, zo veel mogelijk zorgdata te verzamelen.

Correctie (16-11-2018): In een eerdere versie stond dat DeepMind mee heeft gedaan aan een wedstrijd van het Nijmeegse RadboudUMC. Dat blijkt te gaan om Google Brain, een ander AI-bedrijf van Google. De passage is weggehaald.

    • Wouter van Noort