Hoe herken je een doorgedraaide leerling?

142 kogels. 19 kinderen. Twee leraren. Een 18-jarige dader, ook doodgeschoten. Geschokt noteert Amerika de cijfers van de op twee na dodelijkste school shooting uit de geschiedenis van het land, vorige week in het Texaanse stadje Uvalde. Zolang het excessieve wapengeweld in de VS niet aangepakt wordt met de meest voor de hand liggende remedie – een wapenverbod – ligt de nadruk op symptoombestrijding. Extra beveiliging op scholen bijvoorbeeld, of beter afsluitbare lokalen. En kan de techsector niet aan de bel trekken als leerlingen doordraaien en naar wapens grijpen?

De Wall Street Journal publiceerde vorig jaar een overzicht van software die Amerikaanse scholen inzetten om hun leerlingen in de gaten te houden. Met behulp van kunstmatige intelligentie scannen programma’s als Gapple en Lightspeed Systems alle mails, chats en documenten op schoollaptops die met Google of met Microsoft Office 365 werken. Ook de zoek- en browsegeschiedenis wordt doorgeploegd, net als internetverkeer van computers en telefoons die het wifi-netwerk van de school gebruiken.

Zodra er tekenen zijn dat een leerling zichzelf of anderen geweld aan dreigt te doen, gaat er een seintje naar de school en de ouders. Het zijn systemen die geen respect hebben voor de privacy van studenten en waarschijnlijk een hoop onterechte meldingen opleveren. Toch gebruikt ruim driekwart van de Amerikaanse scholen zulke software, omdat ze niet op hetzelfde lijstje als de Robb Elementary school in Uvalde willen komen.

Voor een Nederlandse ouder is het moeilijk voor te stellen, zo’n leerlingvolgsysteem in het kwadraat. Zeker omdat ik me herinner hoe ik zelf was op de middelbare school. Bij gebrek aan sociale media uitte ik mijn puberale frustraties in mijn Ryam-agenda, die er dertig jaar na dato behoorlijk geradicaliseerd uitziet. Een algoritme zou me er meteen uitgepikt hebben als mentaal instabiel. Geheel ten onrechte, natuurlijk.

Wat is er te doen aan het typisch Amerikaanse fenomeen van massale schietpartijen? De Republikeinse politicus en voormalig topsporter Herschel Walker pleitte in een tv-interview voor „een overheidsafdeling die kijkt naar jonge mannen die kijken naar jonge vrouwen die kijken naar sociale media”. Al drukte hij zich onhandig uit, de strekking was duidelijk: techbedrijven hebben volgens Walker een verantwoordelijkheid om daders tegen te houden voordat ze hun daad begaan. De sciencefictionfilm Minority Report is er niks bij.

Er zijn wel aanknopingspunten en patronen waardoor je de doorgedraaide types kunt herkennen, blijkt uit een database van massale schietpartijen in de VS. Extremisten zoeken van tevoren inspiratie bij andere massale schietpartijen, veel daders kondigen aan dat ze toe willen slaan. Ze willen publiek.

Daarom laat de New Yorkse procureur-generaal Letitia James onderzoek doen naar de rol die gameplatform Twitch (van Amazon) en onlinegemeenschappen 4chan, 8chan en Discord voerden bij aanslag in de Amerikaanse stad Buffalo. Op 14 mei schoot een man uit racistische motieven tien zwarte medemensen dood. De schutter had een document online gezet en mensen uitgenodigd om live mee te kijken via Twitch. De camera zat op zijn helm, net als bij de aanslag in Christchurch, NieuwZeeland.

De extremist in Buffalo was te stoppen geweest. In het geval van Uvalde was dat lastig: de dader verzond alleen privéberichten naar anderen, via Apple iMessage en Instagram. Deze berichten worden niet gescand: bij Apple kan het niet omdat de berichten versleuteld zijn, Instagram doet het niet. Het levert te veel valse positieven op. Als Facebook of Instagram elke keer alarm zouden slaan als iemand dreigende taal uitslaat, komen Amerikaanse politieagenten niet meer aan hun dagelijkse werk toe: uitrukken bij schietpartijen.

Correctie (1 juni 2022): In een eerdere versie van dit artikel was het eerste cijfer van het getal 142 weggevallen. Dat is hierboven aangepast.