Deze ambitieuze Code moet het internet veiliger maken voor kinderen

Kinderen krijgen op internet ongepaste filmpjes te zien. Ze kunnen er benaderd worden door vreemden. Er wordt gepest. Sommige apps verzamelen illegaal hun privégegevens, of ze zijn zo ontworpen dat jonge gebruikers er zo lang mogelijk op blijven, of worden verleid om zoveel mogelijk aankopen te doen.

Dat het belang van het kind niet altijd centraal staat bij door kinderen gebruikte digitale diensten, zoals TikTok en YouTube of populaire games als FIFA en Fortnite, zal voor niemand een verrassing zijn. Minder mensen weten dat wet- en regelgeving kinderen vaak extra bescherming biedt, en dat veel games en apps die regels overtreden. Om te laten zien hoe het beter kan, bestelde het ministerie van Binnenlandse Zaken een code voor app-makers: de Code voor Kinderrechten.

Aan de hand van tien beginselen laat de Code zien hoe ontwikkelaars het belang en de rechten van kinderen kunnen meenemen in hun ontwerp. ‘Voorkom te allen tijde economische exploitatie van kinderen’, is één van die beginselen. ‘Betrek kinderen bij het ontwerp’, schrijft een andere voor. Per beginsel leggen de opstellers uit hoe ontwikkelaars te werk kunnen gaan en geven ze een overzicht van de relevante wet- en regelgeving. Want de Code dient ook als waarschuwing: te vaak worden kinderrechten overtreden op het internet.

NRC sprak begin vorig jaar oud-moderatoren van TikTok en kreeg inzage in interne documenten: Jonge kinderen zitten graag op TikTok. Maar hoe veilig is het daar?

De opstellers zijn hoogleraar Recht en Digitale Technologie Simone van der Hof van de Universiteit Leiden en onderzoeksdirecteur Sander van der Waal van stichting Waag, die zich inzet voor een verantwoord gebruik van technologie. Drie maanden werkten zij aan de ambitieuze Code, die ondanks de overzichtelijke tien beginselen toch 75 pagina’s aan juridische toelichtingen en implementatietips telt. Deze donderdag werden de Code en bijbehorende website aan het publiek gepresenteerd met een online evenement.

Blijkbaar is er een code nodig om het internet veiliger te maken voor kinderen. Is het zo slecht gesteld met de kinderrechten online?

Van der Waal: „Helaas wel. De voorbeelden vind je terug in rechtszaken. Neem de acties die tegen TikTok lopen vanwege de privacyschending van kinderen. Voor het verwerken van persoonsgegevens van kinderen onder de zestien is vaak toestemming van de ouders nodig, maar TikTok heeft nagelaten die te vragen. Onder andere de Consumentenbond eist nu een schadevergoeding bij de rechter voor alle gedupeerde kinderen. TikTok verzamelde heel gevoelige informatie - over seksuele voorkeuren, religieuze overtuiging en zelfs biometrische gegevens die worden gebruikt bij gezichtsherkenning.

„Dat kinderrechten nu in de rechtszaal verdedigd moeten worden geeft aan dat de wetten er wel zijn, maar niet nageleefd worden. Daarom laten we in de Code zo breed mogelijk zien welke rechten kinderen hebben in het digitale domein. Naast privacywetgeving gaat het bijvoorbeeld om consumentenrechten, de Kansspelwet die minderjarigen beschermt en dat je op basis van de Wet op de oneerlijke handelspraktijken niet mag manipuleren om aan te zetten tot in-app aankopen.”

Van der Hof: „Het grote achterliggende probleem is dat apps en games die kinderen gebruiken vaak niet specifiek voor kinderen zijn ontworpen. De kans is dus groot dat bij het ontwerp helemaal niet naar kinderrechten is gekeken. Zo lijkt TikTok nooit goed te hebben nagedacht over de rechten van de kinderen die de app gebruiken, tot er klachten en onthullingen kwamen over privacy-overtredingen.

„Hetzelfde principe, dat geen rekening wordt gehouden met rechten van jonge gebruikers, zie je bij games. Op een gegeven moment waren ‘loot boxes’ populair, digitale schatkistjes met vooraf onbekende inhoud. Voor zo’n lootbox moet worden betaald en het is dus eigenlijk een gokelement binnen een game. Online kansspelen mogen niet aangeboden worden aan kinderen en bovendien beschermt de wet kinderen tegen economische exploitatie. Toch zaten die loot boxes jarenlang in populaire games als FIFA.

„Tegelijk wil ik benadrukken dat de wet kinderen niet alleen beschermt, maar ook de mogelijkheid biedt te kunnen participeren. Want sociale media en games zijn ontzettend belangrijk voor kinderen - om contact te hebben met hun vrienden, om te leren over de wereld om hen heen. Maar om het positieve te kunnen benutten is het belangrijk dat negatieve impact zoveel mogelijk wordt beperkt.”

Kwamen jullie overtredingen tegen waarvan jullie schrokken?

Van der Hof: „Ik schrik er nog steeds van hoe sommige verdienmodellen ertoe leiden dat bedrijven willens en wetens kwetsbaarheden van gebruikers uitbuiten. Call of Duty-uitgever Activision heeft een patent aangevraagd voor een algoritme dat spelers op zo’n manier aan elkaar koppelt dat ze het meest geneigd zijn aankopen in het spel te doen. Bijvoorbeeld door een zwakke speler te koppelen aan een speler die dure wapens heeft gekocht, zodat de zwakke speler in de verleiding komt ook die wapens aan te schaffen. Deze zogeheten ‘monetized matchmaking’ is bij volwassenen al discutabel, maar bij kinderen is het in strijd met het consumentenrecht, het dataprotectierecht én kinderrechten.”

Zijn veel problemen niet te verhelpen met betere leeftijdsverificatie? Pas als je zeker weet wat de leeftijd van een gebruiker is kan je hem ook een voor zijn leeftijd geschikte dienst aanbieden. Nu kunnen jongeren eenvoudig liegen over hun leeftijd.

Van der Hof: „Mogelijkheden voor leeftijdsverificatie zijn er al, ze worden alleen niet toegepast. En het mooie is dat het ook anoniem kan. Er bestaan al toepassingen die een online dienst bijvoorbeeld laten weten of de gebruiker ouder dan 16 of 18 is, en meer niet. Meer gegevens hoef je op zo’n moment ook niet te delen.”

Van der Waal: „Stichting Privacy by Design heeft zo’n privacyvriendelijke identificatiemethode ontwikkeld, genaamd Irma. Je kan ermee bewijzen dat je 18-plus bent, zonder persoonsgegevens te hoeven delen. Het enige probleem is dat dit soort diensten lastig in de markt te zetten zijn, omdat ze haaks staan op het heersende verdienmodel dat is gebaseerd op het verzamelen van persoonsgegevens.”

Grote techbedrijven doen wel pogingen hun apps veiliger te maken voor kinderen. TikTok heeft nu ouderlijk toezicht in de app. YouTube lanceerde het kindvriendelijke YouTube Kids. Zetten zulke initiatieven zoden aan de dijk?

Van der Waal: „Het is nog erg onder de maat. Belangrijk is dat we van de meeste maatregelen simpelweg het effect niet kennen, omdat techbedrijven hun data niet delen. Toen Facebook-klokkenluider Frances Haugen onthulde dat Instagram volgens intern Facebook-onderzoek schadelijk kan zijn voor kinderen, bracht Facebook daar van alles tegen in. Dat Instagram tieners ook gelukkig maakt en dat het onderzoek er maar één uit velen was. Maar het gaf niet de gegevens vrij die die claims ondersteunen. Dus als bedrijven al pogingen doen kinderen te beschermen, weten we vaak niet eens of ze daarin slagen.

Lees ook; Facebook voor Amerikaanse Senaat vanwege ‘giftig’ effect op welzijn kinderen

„Dit is een van de redenen waarom het nu zo spannend is hoe nieuwe Europese wetgeving voor digitale diensten er precies uit komt te zien. In het huidige ontwerp verplicht deze zogeheten Digital Services Act (DSA) grote techplatforms om gegevens te delen met wetenschappers en toezichthouders, zodat onafhankelijk kan worden vastgesteld hoe het gesteld is op de platformen. Als die bepaling stand houdt, hebben we veel meer om op af te gaan dan wat bedrijven zelf zeggen, of sporadisch via een klokkenluider naar buiten komt.

Wat zijn de belangrijkste principes waarop de Code is gestoeld?

Van der Hof: „Als ik er één moet kiezen is dat de eerste: ‘Begin bij het belang van het kind’. Daar zit eigenlijk alles in. In de uitleg staat ook dat je bij het ontwikkelen van je product met hulp van experts nagaat hoe jouw product de kinderrechten raakt. Als je dat goed doet, ben je al een heel eind.

„Het tweede beginsel vind ik ook erg belangrijk: ‘Betrek kinderen en hun verwachtingen bij het ontwerp’. Zij hebben heel duidelijke ideeën over wat ze wel en niet prettig vinden en hoe ze zouden willen dat apps werken. De kinderen die wij spraken vertelden ons dat ze het echt niet leuk vinden om doodgegooid te worden met reclame. En ze vonden het ook niet prettig dat YouTube op het eind van een video automatisch een nieuwe startte, een mechanisme ontworpen om mensen zo lang mogelijk op het platform te houden. Het is mooi dat YouTube die functie heeft uitgezet, nadat in het Verenigd Koninkrijk een vergelijkbare code was gelanceerd.”

De in september vorig jaar door het Britse parlement aangenomen Age Appropriate Design Code werd onlangs van kracht. Sindsdien hebben een aantal grote techbedrijven veranderingen in hun producten aangekondigd. Zo stopt YouTube naast het automatisch afspelen van nieuwe video’s ook met gepersonaliseerde advertenties voor kinderen. TikTok zegt in de avonduren geen notificaties meer te sturen aan kinderen. Op Instagram kunnen volwassenen niet langer een bericht sturen naar kinderen die hen niet volgen. De regels in de Britse code zijn bindend, alle bedrijven die digitale producten aan Britse kinderen aanbieden moeten zich eraan houden.

In jullie Code staat dat de onderliggende wetgeving bindend is, maar de Code zelf niet. Is dat geen gemiste kans?

Van der Hof: „Wat de Britten heel slim hebben gedaan is dat ze bij de implementatie van de Europese privacywet AVG een clausule hebben opgenomen waarin stond dat er een kindercode moest komen en dat die ook juridisch bindend moest zijn. Ze hebben een andere route gekozen dan het Europese vasteland.

„Maar dat wil niet zeggen dat er in Nederland geen boetes opgelegd kunnen worden vanwege in onze Code omschreven overtredingen. Op basis van de Nederlandse privacywet kunnen even hoge boetes worden uitgedeeld als in het VK.

„Met de Code voor Kinderrechten hebben we vooral de laatste inzichten over online kinderrechten op een begrijpelijke manier willen bundelen. De Code kan bijvoorbeeld een consumentenjurist helpen bij het interpreteren van wetten in het licht van de kinderrechten. En dat werkt echt: twee van de drie rechtszaken die lopen tegen TikTok refereren aan onze Code.”

De Code is in maart gelanceerd, maar heeft nog niet veel los gemaakt. Wat hopen jullie voor de toekomst van de Code?

Van der Waal: „Dat de beginselen vertaald worden naar Europese wet- en regelgeving en misschien ook wel op een andere manier in regelgeving hun beslag kunnen krijgen. Op dit moment is het ondertekenen van de Code vrijwillig, maar er mogen wat mij betreft heftigere consequenties aan zitten.

„Het is een heel moeilijke weg om grote techbedrijven vrijwillig dit soort codes te laten onderschrijven. Nederlandse afdelingen zijn niet bevoegd om zo’n beslissing te nemen, op de hoofdkantoren in Silicon Valley hebben ze geen boodschap aan een vrijwillige kindercode in een klein land.

„Daarnaast hoop ik dat de Code breder opgepakt gaat worden. Vooral vanuit het idee dat de Code niet tégen technologie is, maar vóór een andere manier om technologie met elkaar vorm te geven. We hebben het veel over de schaduwkanten gehad, maar het gaat er juist ook om dat we op zo’n manier digitale diensten kunnen ontwerpen dat kinderen er veel aan hebben en dat het bijdraagt aan hun ontwikkeling.”

Van der Hof: „Ik hoop dat de Code meer gebruikt gaat worden in de rechtszaal, zoals nu bij de acties tegen TikTok. Want het is niet zo dat we dit allemaal zomaar bedacht hebben. Hier zit jaren onderzoek in naar kinderrechten in het digitale domein. Ik zou het mooi vinden als daar meer gebruik van wordt gemaakt, ook door ontwikkelaars, de overheid, toezichthouders, kinderen en hun ouders. Want het is wel duidelijk dat er flink wat moet gebeuren.”