Apple luistert niet meer mee met virtuele assistent

Apple schakelde mensen in om opnames van digitaal hulpje Siri te beluisteren. Zij kregen soms fragmenten te horen van drugsdeals of mensen die seks hebben.

Het logo van Apple op een bijeenkomst in San Francisco.
Het logo van Apple op een bijeenkomst in San Francisco. Foto Josh Edelson/AFP

Apple luistert voorlopig niet meer mee met de boodschappen die gebruikers inspreken bij virtuele assistent Siri. Het Amerikaanse techbedrijf heeft dat vrijdag laten weten, een week nadat de krant The Guardian had onthuld dat Apple een deel van de Siri-opnames door mensen laat beluisteren. Zij krijgen daarbij soms gevoelige gesprekken of intieme momenten te horen.

De Siri-opnames werden door Apple gebruikt voor verbetering van de digitale assistent, die op basis van spraakberichten bijvoorbeeld het weerbericht voorleest of een agenda-afspraak aanmaakt. Het ging volgens Apple om hoogstens 1 procent van alle verzoeken aan het op iPhones en slimme horloges geïnstalleerde Siri. Dat de controle door mensen werd uitgevoerd, stond niet expliciet vermeld in de gebruikersvoorwaarden.

Apple zegt vrijdag de menselijke Siri-analyse, ook wel grading genoemd, voorlopig wereldwijd op te schorten. Het concern zegt de zaak „grondig te onderzoeken”. „We brengen daarnaast een software-update uit”, schrijft Apple in een verklaring aan verschillende media, „die gebruikers de keuze geeft mee te doen aan grading.”

Een anonieme medewerker van een bedrijf waaraan Apple het grading uitbesteedt, vertelde vorige week in The Guardian wat er zoal voor fragmenten voorbijkwamen:

„Soms hoor je een arts met een patiënt praten over diens medische geschiedenis. Of je hoort een gesprek, met het geluid van een draaiende motor op de achtergrond - je weet het niet zeker, maar het lijkt verdacht veel op een drugsdeal. En je hoort mensen seks hebben.”

Snapt Siri eigenlijk echt wat je zegt? Nee, zeggen experts: AI is nog lang niet zover

Activering door ritssluiting

De analisten die de berichten te horen krijgen, zien ook gegevens over de locatie, contactpersonen en apps van de gebruiker in kwestie. „Het zou niet lastig zijn om erachter te komen wie je precies aan het beluisteren bent, vooral vanwege alle adressen en namen die mensen inspreken”, aldus de bron van The Guardian.

De reden dat dit soort privémomenten wordt opgenomen, is volgens de klokkenluider dat Siri vaak per ongeluk aanspringt. Eigenlijk moet dat alleen gebeuren als iemand een signaalzin uitspreekt, „Hé Siri” bijvoorbeeld. „Maar soms registreert Siri het geluid van een ritssluiting al als een activeringssignaal”, aldus de anonieme medewerker. Het zou „ontzettend vaak” voorkomen dat Siri abusievelijk wordt geactiveerd.

Apple is het niet het enige bedrijf dat mensen laat meeluisteren met opnames van zijn virtuele assistent. Ook Amazon en Google proberen hun producten op die manier te verbeteren. Zij bieden hun klanten echter wel de mogelijkheid hun communicatie met het digitale hulpje niet te delen.