Het misdrijf is al ontdekt voor het gepleegd is

Er ontstaat een complete industrie rond technologie die met camera’s, sensoren, big data en emotieherkenning misdaad voorspelt. Maar dat gaat ook wel eens mis en er is juridisch veel onduidelijk. „Je ziet partijen de grens opzoeken.”

‘Het is net Minority Report”, vinden de bandleden van The Hilbilly Moonshiners. Toen de muzikanten het drukke uitgaansgebied Stratumseind in Eindhoven op kwamen lopen, kregen ze zonder het te weten een visuele tag toegewezen door een slimme camera op het centrale Catharinaplein. Nu zitten ze op een terras van het café waar ze straks gaan optreden, en de camera’s houden ieder van hen nog steeds in de gaten.

Welkom in het ‘Living Lab Stratumseind’, waar het Franse IT-bedrijf Atos technologie test die criminaliteit en opstootjes kan voorspellen voordat ze plaatsvinden. Wat inderdaad klinkt als het scenario van sciencefictionfilm Minority Report, waarin de politie moorden voorkomt doordat zij ze ziet aankomen.

De gemeente Eindhoven is blij met de komst van Atos (in 2014 11 miljard euro omzet, 93.000 werknemers in 72 landen) omdat het bedrijven en onderzoeksinstellingen de mogelijkheid wil bieden om nieuwe technologie te testen in echte straten en op echte mensen. Ook het Dutch Institute of Safety & Security (DITSS) en chipfabrikant Intel zijn bij het project aangesloten. Zij ontwikkelen een systeem – CityPulse genaamd – dat op elk moment van de dag weet hoeveel mensen op het Stratumseind rondlopen (meer dan 5.000 op een drukke avond), voor welk café de meeste mensen staan, waar individuen zich bevinden, hoe snel ze bewegen en wie een verdacht looppatroon volgt.

CityPulse is geprogrammeerd om afwijkend gedrag eruit te pikken. Iemand die in zijn eentje rondjes door de straat loopt zou weleens een zakkenroller kunnen zijn. Beginnen mensen zomaar te rennen, dan gaat er een lampje branden omdat de software dat gedrag associeert met een opstootje. Een ander programma analyseert berichten en de stemming op social media: soms kondigen relschoppers hun komst al aan op Facebook of Twitter.

Ondertussen analyseren microfoons het geluid op straat. Als dat in een straathoek aanzwelt tot een abnormaal hoog niveau, voorspelt het systeem dat er een vechtpartij in de maak is. De palen die boven het Stratumseind uittorenen zien er indrukwekkend uit: die zitten vol met sensoren, camera’s en andere meettechnologie. Het project voldoet volgens Atos aan strenge privacynormen; de camera’s registreren bijvoorbeeld geen gezichten.

Supercollega

De slimme camera’s vervangen de agent achter de monitor in het controlecentrum niet – die schat nog steeds in of bij een situatie echt ingegrepen moet worden. CityPulse is eerder een soort supercollega die met eindeloos veel ogen elke bezoeker in de straat observeert. Na een succesvolle proef in Eindhoven hoopt Atos het systeem aan steden over de hele wereld te kunnen verkopen.

Atos is niet het enige bedrijf dat zich bezighoudt met predictive policing, de verzamelnaam voor technologie die misdaad voorspelt. TNO test op Schiphol camera’s die kwade intenties van personen moeten opmerken. Die registreren afwijkend gedrag zoals mensen die opvallend lang op de wc blijven, of rondhangen op verdachte plekken. Het Japanse NEC levert al camerasystemen die op basis van gezichts- en emotieherkenning een seintje geven als er onrust dreigt te ontstaan.

Ook allerlei jongere Amerikaanse techbedrijven duiken op het voorspellen van misdaad. Palantir bijvoorbeeld, geeft geen omzetcijfers, maar investeerders verwachten er bijzonder veel van: het is inmiddels 18 miljard euro waard. Het is ontstaan uit een project van de geheime dienst CIA. Palantirs geavanceerde zoekmachine kan gebruikt worden om verdachte patronen te herkennen in uiteenlopende bronnen als betaalgegevens, vluchtdata en camerabeelden.

Het is onduidelijk wat er in Nederland precies gebeurt op het gebied van misdaadvoorspelling. De politie wil daarover geen duidelijkheid geven. „Dat zou te veel prijsgeven over onze tactiek bij politiewerk. Dat zou door kwaadwillenden verkeerd gebruikt kunnen worden”, zegt een woordvoerder van de Nationale Politie. Maar wie kijkt naar het aanbod van technologiebedrijven, kan toch een aardig beeld krijgen van wat er wordt gebruikt.

IBM is een van de marktleiders. Dat bedrijf probeert uit grote hoeveelheden digitale data patronen te halen die misdaad voorspellen. Met behulp van die patronen kunnen agenten volgens IBM betere beslissingen nemen over waar ze bijvoorbeeld patrouilleren. Het levert die diensten onder meer aan een aantal Amerikaanse politiekorpsen en de Spaanse Guardia Civil. Het bedrijf geeft aan dat het wel predictive policing-diensten verkoopt in Nederland, maar mag vanwege geheimhoudingsovereenkomsten niet vertellen met welke korpsen het precies samenwerkt.

IBM combineert digitale gegevens met informatie die in het verleden gerelateerd bleek te zijn aan criminaliteit. Dat kan het weer zijn (bij mooi weer zijn meer mensen buiten en is er vaak meer gedoe), of andere omstandigheden. „De dag waarop veel salarissen worden uitbetaald hebben mensen meer geld op zak en dat kan een indicator zijn voor grotere kans op straatroof”, zegt Jaap Vink, die bij IBM politiekorpsen adviseert.

Die informatie kan IBM vervolgens ook koppelen aan notities over verdachte groepjes jongeren van wijkagenten, informatie uit camera’s en nog veel meer. „Technologie kan veel meer factoren meenemen, beter patronen ontdekken en veel consistenter oordelen dan mensen”, zegt Vink.

IBM gebruikt voor zijn analyses ook berichten op sociale media. „Je kunt sentiment meten van berichten die rondom een bepaald evenement worden verstuurd. En je kunt berichten van individuen analyseren; van mensen die vaker bij criminaliteit betrokken zijn geweest.”

Privé-informatie

De controle ligt gevoelig. Als mensen berichten alleen beschikbaar maken voor vrienden en kennissen, dan geldt dat als privé-informatie, ook al is die misschien wel makkelijk online te achterhalen. Daar mag de politie alleen in rondneuzen bij een gerede verdenking, en alleen na toestemming van een officier van justitie.

„Wij houden ons natuurlijk aan de wet. Maar het is nog niet helemaal duidelijk wat wel en niet mag”, zegt Vink. „Het is vaak de vraag hoe ver je kunt gaan voordat je de privacy van mensen raakt. Je ziet wel eens dat partijen daarin de grens opzoeken. Zo van: dan moet er maar een rechtszaak over komen. Maar het blijven morele beslissingen. En er is nog geen computer uitgevonden die dáárbij kan helpen.”

Ook het gebruik van gezichtsherkenningssoftware bevindt zich in een grijs gebied. Vorige maand presenteerde de Haagse denktank Rathenau Instituut een rapport waaruit blijkt dat er veel onduidelijk is over wat er mag met automatische gezichtsherkenning. Mag je herkende gezichten opslaan als je er geen naam aan koppelt? Op dat soort vragen is volgens de onderzoekers geen helder antwoord.

Privacyorganisaties wijzen al langer op de bezwaren die geautomatiseerde surveillance oproept. Wat voor samenleving creëer je als burgers niet langer onbespied over straat kunnen?

En dan is er nog het probleem dat de software er weleens naast zit. Afgelopen april bleek hoe dat kan misgaan. Een Nederlandse vrouw werd op een snelweg bij Rotterdam klemgereden door de politie. ‘Het systeem’ had haar aangewezen als drugsrunner – onterecht. „Ze had net een tweedehands auto gekocht die daarvoor van een drugsrunner was geweest”, zei Rutger Rienks van de politie destijds in deze krant. „Ze was vanuit Maastricht naar Rotterdam gereden en vervolgens al snel weer terug naar Maastricht. Net als een bende drugsrunners vaak deed. De combinatie van kenteken en reispatroon zorgde ervoor dat een systeem van kentekencamera’s haar als drugsrunner aanwees.”

Ingestudeerde dans

Ook op het Stratumseind in Eindhoven ging het wel eens mis: daar werd een paar maanden geleden bij de opening van een nieuw café een ingestudeerde dans gedaan, vertelt Albert Seubers, hoofd Smart Cities bij Atos. Twee groepen stelden zich tegenover elkaar op en bewogen in elkaars richting – wat door de slimme camera’s werd geregistreerd als het begin van een vechtpartij. „De politie kwam met toeters en bellen aangereden. Maar dat was in de aanloopfase van het CityPulse-project. Inmiddels zou het systeem na een gedegen geluids- en social media-analyse de situatie niet zo snel bedreigend vinden.”

Toch is niet uit te sluiten dat CityPulse onschuldige burgers als verdachte aanmerkt, erkent Seubers. Als iemand in zijn eentje rondjes loopt om zijn vrienden te zoeken, kan de politie een seintje krijgen omdat de software denkt dat hij een zakkenroller is. Seubers: „Je moet het niet in extremen trekken. Wat ons project doet verschilt niet erg van een oplettende kroegbaas die de politie waarschuwt omdat hij een verdachte situatie ziet.”

Ter nuance van de Minority Report-vergelijking: het gaat bij dit systeem niet om het preventief opsluiten van potentiële moordenaars, zoals in die film gebeurt, maar vooral over het voorkomen van onrust. Zanger Maarten Bouwman van de Hillbilly Moonshiners heeft weinig moeite met het intelligente cameratoezicht. Net als veel andere bezoekers van het Stratumseind vindt hij het juist geruststellend dat de politie dankzij het systeem kan ingrijpen voordat een situatie uit de hand loopt. Dat laatste gebeurt regelmatig in de uitgaansstraat, zegt Bouwman. „Vooral op zaterdagavond is het hier vaak raak.”

Bedrijven en overheden verwachten veel van predictive policing, toch is het vaak moeilijk te bewijzen of de techniek werkt. „We kunnen helaas niet met zekerheid zeggen dat het Stratumseind in de pilotperiode veiliger is geworden”, zegt Seubers. „We weten dat de techniek werkt en dat we incidenten seconden van tevoren kunnen identificeren. Maar we hebben meer tijd nodig om te kunnen aantonen dat het aantal incidenten is afgenomen, en dat die afname komt door ons systeem.” Atos wil niet zeggen hoe vaak de politie is uitgerukt na een melding van het systeem of hoe vaak het vals alarm was. Ook de politie Eindhoven zwijgt daarover.

Zonder specifieke resultaten te hoeven laten zien werd de samenwerking met Atos vorige maand met drie jaar verlengd. Wethouder Bianca van Kaathoven, bij de gemeente verantwoordelijk voor ‘Stratumseind 2.0’: „Wij zijn ook benieuwd naar tastbare resultaten. Maar waar het ons vooral om gaat is dat we Eindhoven openstellen als laboratorium voor innovatieve bedrijven.”

De gemeente hoeft niet mee te betalen aan het moderne surveillancesysteem. In ruil voor de mogelijkheid om het systeem in een echte straat met echte opstootjes te testen, nemen de betrokken bedrijven de financiering op zich. Tegelijk gebruiken ze het project om hun technologie in de etalage te zetten. Delegaties uit uiteenlopende plaatsen als Lee County (Florida), Boekarest en Singapore zijn al in het Eindhovense commandocentrum komen kijken.