Hoe een slimme pop het gedrag van jouw kind beïnvloedt

Slim speelgoed Net als telefoons, worden ook poppen ‘slimmer’. Onder de zacht golvende haren van Barbie draait een softwareprogramma dat met een bepaald script is uitgerust. Kinderen laten zich daardoor beïnvloeden.

My Friend Cayla praat en reageert op vragen. Experts waarschuwen dat hackers de pop kunnen afluisteren.
My Friend Cayla praat en reageert op vragen. Experts waarschuwen dat hackers de pop kunnen afluisteren. Foto NYT/HH Tony Cenicola

Wat als een speelgoedpop je kind zou aanzetten om een ander kind te slaan? Met het slimme speelgoed van tegenwoordig, met een klein computertje en internetverbinding, zou dat in theorie kunnen. Hello Barbie en My Friend Cayla zijn zulke slimme poppen met wie je kind een vrij natuurlijk, interactief gesprek kan voeren. Ze praten terug en onthouden je naam, hobby’s en lievelingskleur en leren je zo steeds beter kennen.

Ze waren allebei in Nederland verkrijgbaar, maar al snel na hun introductie, zo’n vier à vijf jaar geleden, werden ze weer van de markt gehaald. Het hacken van Barbie en Cayla bleek namelijk kinderspel. Iedereen in de buurt van Cayla kon met behulp van een smartphone- en bluetoothverbinding de pop afluisteren en haar iets laten zeggen. Hello Barbie zocht automatisch verbinding met elk netwerk met de naam ‘Barbie’ erin – zo kon iedereen met die netwerknaam zich met de pop verbinden. Cayla werd in Duitsland verboden en de productie van Barbie werd beëindigd.

Script bepaalt identiteit

De technologieën waarmee de poppen zijn uitgerust, zoals kunstmatige intelligentie en spraakgestuurde apparatuur, winnen echter steeds meer aan populariteit. In de vorm van slimme speakers en andere aan internet verbonden apparatuur verschijnen ze overal in huis. Aangezien kleine kinderen nog niet kunnen lezen of schrijven kan spraaktechnologie ook voor hen een handig hulpmiddel zijn. Ondanks de tegenvallende Barbie en Cayla zit de markt voor smart toys dan ook wel degelijk in de lift. Volgens Zion Market Research bereikt die een waarde van ruim 4,9 miljard euro in 2024.

Privacy en beveiliging zijn nog steeds grote problemen, aldus het onderzoeksbureau. Maar er is nog een fundamenteler probleem dat in de programmeercode van slim speelgoed schuilt: de poppen kunnen het gedrag van kinderen beïnvloeden. Onder de aaibare huid en zachte golvende haren van Barbie en Cayla draait een softwareprogramma dat met een bepaald script is uitgerust; een serie tekstregels waarmee de programmeurs de identiteit van de pop bepalen – van schattige prinses tot stoere superheld. Zo praatte Barbie graag over mode en was Cayla dol op Disneyfilms.

Robots beïnvloeden gedrag

De poppen zijn dus niet neutraal – ze zijn uitgerust met bepaalde voorkeuren, normen en waarden. Kinderen laten zich daardoor beïnvloeden, blijkt uit recent onderzoek. In een Europees onderzoek uit 2018 onder leiding van de Duitse Bielefeld University, werden 43 kinderen tussen de 7 en 9 jaar aan het zogeheten Asch-paradigma onderworpen. Ze zaten aan tafel, keken naar vier zwarte lijnen op een beeldscherm en moesten kiezen welke twee lijnen dezelfde lengte hadden. Als er ook drie robots aanschoven, die de verkeerde lijn uitkozen, dan waren de kinderen meer geneigd om ook de verkeerde lijn te kiezen. In twee controlegroepen zonder robot én met volwassenen, was deze beïnvloeding er niet.

Een andere studie van het Amerikaanse MIT, die ook vorig jaar verscheen, leverde een vergelijkbaar resultaat op. 40 kinderen tussen de 4 en 10 kregen een scherm te zien met daarop morele vragen zoals: ‘Is het ok om een kind te pesten?’, en: ‘Is het ok om een kind te slaan?’ Als robotpop Cayla erbij zat en zei: ‘Ik denk dat het ok is’, dan waren kinderen eerder geneigd om dezelfde mening als Cayla te geven. Ook hier was dit effect bij controlegroepen niet te vinden. Dit maakt dat kinderen vatbaarder zijn voor beïnvloeding door een pop dan volwassenen. „We waren verrast door de uitkomsten”, zegt Stefania Druga, een van de MIT-onderzoekers. Ze was onlangs in Nederland op uitnodiging van de maatschappelijke organisaties Waag en Setup. „De kinderen zagen Cayla als intelligent, betrouwbaar, vriendelijk en innemend en ze lieten zich makkelijk door haar beïnvloeden in hun meningsvorming. We moeten daarom voorzichtig zijn met de manier waarop we slim speelgoed ontwerpen.”

Lees ook Slim horloge voor kinderen blijkt gemakkelijk te kraken

Speelgoedfabrikanten worstelen met de vraag hoe ze op een verantwoorde manier kunstmatige intelligentie en een internetverbinding aan hun speelgoed kunnen toevoegen, zegt ze. „Fabrikanten zouden meer moeten samenwerken met onderzoekers, deskundigen en families.” Enkele van hen tonen wel interesse. Zo bezocht Hasbro [producent van onder andere My Little Pony, Pokémon en Transformers, red.] haar colleges aan New York University en financiert de LEGO Foundation een onderzoeksprogramma aan het MIT gericht op spelen, leren en nieuwe technologie.

Zelf programmeren

Vanwege de uitgebreide interactiemogelijkheden biedt slim speelgoed ook voordelen, aldus Druga. „Ik sprak eens een zevenjarige Syrische vluchtelinge die heel graag een slimme pop zou willen, omdat ze met niemand anders kon praten over haar problemen.” Je kunt immers alles bij de pop kwijt zonder dat deze erover oordeelt.

Oudere kinderen kunnen zelf slim speelgoed programmeren. Druga werkt bijvoorbeeld aan een eigen softwareplatform waarmee je spelletjes kunt ontwerpen, robots kunt programmeren en kunstmatige intelligentie kunt trainen. De stichting Waag gaat haar platform dit najaar inzetten, in eerste instantie op een 4-vmboklas in Amsterdam, maar de bedoeling is om een compleet lespakket met lerarentrainingen te maken dat voor elke school beschikbaar komt. Druga: „Ik vind dat kinderen hun speelgoed zelf moeten kunnen openen, programmeren en personaliseren. En alle data moeten in huis blijven, bijvoorbeeld op een centrale lokale server.”

Technologie moet ook ‘gedemystificeerd’ worden, stelt Druga. Voor haar masterscriptie onderzocht ze namelijk bij 107 kinderen uit vier landen welke perceptie zij hebben van slim speelgoed. Voordat ze apparaten zoals Alexa of speelgoedrobot Cozmo gingen programmeren en gebruiken, dachten de meesten dat de apparaten slimmer waren dan henzelf, maar na het spelen wijzigden ze van mening en vonden de meesten zichzelf slimmer. Druga: „We willen niet dat de technologie als iets magisch wordt ervaren. Het apparaat weet niet echt wie ik ben, het heeft alleen een afbeelding van mijn gezicht opgeslagen. En als het praat, betekent dat nog niet dat het intelligent is. Het betekent alleen dat iemand het geprogrammeerd heeft om te praten.”

Nu ingrijpen

Zoals zo vaak met nieuwe technologieën, worden ze al op de markt gebracht voordat er goed en wel is nagedacht over alle risico’s die eraan kleven. Volgens Daniël Lechner, gepromoveerd pedagoog en zelfstandig adviseur over mediawijsheid, is ingrijpen nu nodig voordat er weer een nieuwe generatie slimme poppen verschijnt. Formeer nu alvast een denktank van experts om adviezen aan de overheid uit te brengen, stelt hij voor. „Want we weten dat deze ontwikkeling gaat komen. Denk aan het opstellen van eisen en het formuleren van basisprincipes voor kunstmatige intelligentie, aan de hand van de kinderrechten van de Verenigde Naties. Het is namelijk onze maatschappelijke plicht om te zorgen dat kinderen veilig en op een prettige manier groot kunnen worden.”

Druga pleit voor betere data-bescherming. „Sommige apparaten luisteren altijd met je mee, niet alleen speelgoed, maar ook speakers zoals Alexa. Een bedrijf kan op die manier data over jou verzamelen vanaf het moment dat je bent geboren totdat je volwassen bent, en jou zo nog gerichter spullen verkopen. Dat is heel problematisch.”