Siri blijkt een slimme afluistervink

Privacy Na Google en Amazon blijkt ook Apple mee te luisteren via een slimme spraakassistent. Onbedoeld ontvangt het techbedrijf zo allerlei persoonlijke details.

Illustratie Studio NRC

„Heb je het laatste nieuws over de situatie in Syrië al gelezen?” Het zou zomaar een zin uit een gesprek tussen twee mensen kunnen zijn. Dan klinkt ineens de stem van Siri, de slimme assistent van Apple, die ‘Syrië’ verstaat als ‘Siri’ en denkt dat hij wordt aangeroepen: „Ik heb je niet goed verstaan.” Je lacht en gaat verder.

Hoe onschuldig de situatie ook lijkt, de kans bestaat dat onbedoeld delen van het gesprek bij medewerkers van Apple terechtkomen. En daarmee persoonlijke details, onthulde The Guardian vorige week. De Britse krant meldde dat Apple onder meer aan vertrouwelijke medische informatie kwam en meeluisterde met gesprekken over drugsgebruik en seksende koppels hoorde.

Wat is er aan de hand? Techbedrijven gebruiken spraaktechnologie om het gebruikers gemakkelijker te maken. Aan de slimme spraakassistent van Apple kunnen mensen commando’s geven als: „Siri, zet een timer voor vijf minuten”. En dan laat Siri een timer lopen. De technologie is echter niet feilloos. Verschillen in uitspraak kunnen ervoor zorgen dat de software niet begrijpt wat iemand wil van de telefoon.

Dus neemt Apple gesprekken op om de techniek te verbeteren. Hoe die gesprekken precies gebruikt worden, was niet bekend. Nu blijkt dat een deel ervan actief door mensen wordt teruggeluisterd. Apple zet hiervoor gespecialiseerde bedrijven in, waarvan de medewerkers niets anders doen dan de hele dag naar Siri-commando’s luisteren om te checken of het algoritme klopt. Vertaalt de software achter Siri de gesproken woorden op de juiste manier?

Lees ook: ‘Medewerkers Microsoft luisteren mee met Skype-gesprekken’

In dat proces blijken nu ook onbedoeld stukken gesprek bij Apple terecht te komen waarin Siri niet bewust is aangeroepen. Gebruikers zijn daarvan niet op de hoogte. In de gebruiksvoorwaarden meldt Apple dat het gegevens verzamelt voor verbetering van producten en diensten, maar het bedrijf vermeldt niet expliciet dat die fragmenten door mensen worden afgeluisterd. Laat staan dat Siri op de achtergrond meeluistert.

Herleidbaar tot gebruikers

Apple zei vorige week nog dat de informatie niet te herleiden is tot individuele gebruikers. Woensdag berichtte website NU.nl echter dat de medewerkers ook persoonlijke details over gebruikers krijgen, zoals iemands contactenlijst en geografische informatie. De site baseert zich op een Nederlandse medewerker van GlobeTech, zo’n door Apple ingehuurd afluisterbedrijf. „Als iemand zegt: ‘Hé Siri, wat voor weer wordt het morgen?’, moeten we controleren of Siri antwoordt met de weersverwachting voor de juiste plaats”, aldus de medewerker.

Volgens Bart van der Sloot, die voor de Tilburg University onderzoek doet naar privacy en big data, kan Apple de claim dat de zoekopdrachten niet herleidbaar zijn, niet volhouden. „Alleen al iemands stem kan herkenbaar zijn. In combinatie met contactgegevens waarin bijvoorbeeld een bepaalde achternaam vaak voorkomt en een locatie ben je er al vrij snel uit.”

Het Amerikaanse techbedrijf probeerde de ophef te bezweren door te zeggen dat minder dan 1 procent van de wereldwijde dagelijkse Siri-berichten afgeluisterd zijn. Volgens privacyorganisatie Bits of Freedom gaat het dan „waarschijnlijk alsnog over tienduizenden fragmenten”.

Spraaktechnologie bij Google

Apple is niet het eerste techbedrijf dat toegeeft boodschappen door mensen te laten afluisteren. Vorige maand bleek al dat Google-medewerkers meeluisteren met gesprekken die Google Home-apparaten opvangen. Al eerder bleek uit onderzoek van persbureau Bloomberg dat ook Amazon fragmenten van spraakassistent Alexa laat analyseren. Ook hier klapte een medewerker met privacybedenkingen uit de school.

Lees hier over het meeluisteren door Google:Hey Google, nu even niet meeluisteren

De belangrijkste vraag bij al deze gevallen: wist de gebruiker dat hij afgeluisterd kan worden? Dat is maar de vraag, zegt Aline Klingenberg, universitair hoofddocent IT-recht aan de Rijksuniversiteit Groningen. „Gebruikers van Siri moeten vooraf toestemming geven voor het delen van bepaalde gegevens. Het afluisteren van geluidsfragmenten is iets waarvoor volgens de AVG [Algemene Verordening Gegevensbescherming] expliciet toestemming moet worden gevraagd. Dat lijkt mij hier niet gebeurd.”

En zelfs als het wel in de voorwaarden had gestaan, kun je je afvragen of je van de consument mag verwachten dat hij die volledig doorneemt, vindt onderzoeker Van der Sloot. „Techbedrijven hanteren vaak een lange lijst met voorwaarden. Dat is eigenlijk niet legitiem. Amerikaanse bedrijven denken dat ze met deze informed consent risico’s hebben afgedekt. ”

Je moet je recht op privacy wel afdwingen

Bart van der Sloot onderzoeker

Alleen wijzen naar de verantwoordelijkheid van Apple en Google is volgens Van der Sloot dan ook te gemakkelijk. „Ook burgers hebben hier een rol in. Elke keer roepen we om het hardst dat we recht hebben op privacy, maar dat recht moet je wel afdwingen. Heb je Google Assistant echt nodig? En moet je die foto van je kind wel delen op bijvoorbeeld Facebook?”

Apple heeft inmiddels de eerste claim vanwege het afluisteren van Siri al binnen. Een Amerikaan klaagde het bedrijf woensdag aan vanwege het „onwettelijk en doelbewust opnemen van vertrouwelijke gesprekken van individuen zonder hun toestemming”.

Apple heeft door de ontstane ophef aangekondigd voorlopig te stoppen met het meeluisteren met geluidsfragmenten die via Siri binnenkomen. Google doet dat eveneens voor Europese gebruikers.