Slimme stad of dataslurper?

Overheden gaan steeds verder met het digitaal sturen van gedrag van burgers. Met hulp van ‘slimme’ lantaarnpalen, smartphones en drones bijvoorbeeld. „Dit kan fascisme 2.0 creëren.”

Illustratie Roland Blokhuizen

Als het aan de gemeente Amsterdam ligt, komen er binnenkort ‘slimme’ lantaarnpalen in de stad. „Als straatverlichting vervangen moet worden, denken we erover na om exemplaren neer te zetten waar allerlei sensoren aan hangen”, zegt Rutger Rienks, programmamanager van de gemeente.

Hij heeft het over sensoren voor het meten van luchtkwaliteit, geluidsniveaus, in sommige gevallen camera’s. „Er zijn zelfs palen waaraan een speaker en een microfoon zit waarmee een ordehandhaver of hulpdienst voorbijgangers aanwijzingen kan geven als er iets mis is”.

Zulke lantaarnpalen staan er nog niet, en plannen zijn nog niet concreet, maar meeluisterende en meekijkende straatverlichting is slechts één van de vele nieuwe manieren waarop Amsterdam informatie wil verzamelen over burgers en de leefomgeving.

Eerder dit jaar opende Amsterdam een Datalab dat nieuwe manieren bedenkt om gegevens over inwoners te verzamelen, bestaande databanken beter aan elkaar te koppelen en al die informatie te analyseren. Dat gebeurt allemaal onder de noemer smart city.

Niet iedereen is blij met de steeds groeiende verzameling van data door steden en bedrijven. „Overheden die op grote schaal data verzamelen kunnen een nieuw soort totalitaire samenleving inluiden”, zegt Dirk Helbing, hoogleraar technologische sociale wetenschappen aan de TU Delft en de ETH in Zürich.

Een soort god

De Duitser Helbing publiceerde vorig jaar The automation of society is next, een boek over de gevaren van dataverzameling en gedragssturing door overheden. „Burgers geven onbewust heel veel macht uit handen aan overheden en grote technologiebedrijven”, licht hij toe. Hij heeft het niet specifiek over Amsterdam, maar over overheden en techbedrijven in het algemeen, benadrukt Helbing.

Amsterdam lanceert later dit jaar Atlas, software waarmee gemeentemedewerkers in een Google Maps-achtig programma kunnen inzoomen op alle huizen in de stad. Nu staan er vooral gegevens in over huizenprijs en eigendom, maar dat moet binnenkort worden uitgebreid. Data over overlast, armoede, afval, sociale problemen – de mogelijkheden zijn talrijk.

Met meeluisterende lantaarnpalen kunnen daar ook nog gegevens over geluidsoverlast bijkomen. De Eerste Kamer nam vorige maand de Wet Flexibel Cameratoezicht aan. Als die van kracht wordt kunnen gemeenten bovendien makkelijker drones inzetten voor surveillance en dataverzameling. Ook drones kunnen worden uitgerust met allerlei sensoren.

Dit soort overheidsambities doet wat denken aan het computerspel SimCity. Daarin kan de speler in een virtuele stad als een soort god live meekijken met de bewoners, de Sims. Alles wordt gemeten. Hoe blij ze zijn, hoe rijk ze zijn, of ze crimineel zijn: alles kan de speler bekijken – en manipuleren.

Zover als in SimCity gaat het weliswaar nog niet, maar technologiebedrijven moedigen gemeenten flink aan om hun datahonger te stillen. TomTom en Google werken samen met de gemeente Amsterdam op het gebied van geanonimiseerde data over verkeersstromen in de stad. Het sociale netwerk LinkedIn levert geanonimiseerde data over baanwisselingen en vaardigheden van gebruikers aan Amsterdam, zodat de gemeente gerichter arbeidsmarktbeleid kan voeren. IBM, Oracle, Siemens, Palantir, Cisco, Microsoft, Philips: de lijst met bedrijven die smart city-diensten verkopen aan steden groeit snel.

Gedragsmanipulatie

„Dat is maar goed ook”, zegt Vivek Kundra. Hij was onder president Barack Obama de eerste chief information officer van de Amerikaanse regering, zeg maar het nationale hoofd IT en dataverzameling. Nu werkt hij aan smart cities bij cloudbedrijf Salesforce, dat onder meer zaken doet met de gemeente Den Haag.

Kundra: „Je kunt bijvoorbeeld met luchtkwaliteitsmetingen veel doen voor astmapatiënten. Met sensoren die fijnstof meten, kun je mensen met astma persoonlijk advies geven over plekken waar ze beter niet kunnen komen, via hun smartphone. Dat zijn overheidsdiensten die voorheen niet bestonden en die potentieel enorme positieve impact hebben op inwoners.”

Op het eerste gezicht lijkt er weinig mis mee als overheden deze technieken gebruiken voor beter volksgezondheidsbeleid, het slimmer bewaken van de veiligheid, efficiënter verkeer en een schonere stad. Met hulp van data kunnen ze maatregelen treffen die stoelen op harde feiten. En ze kunnen veel sneller ingrijpen als er iets misgaat. Maar er ontstaan grote risico’s als overheden met hulp van data gedrag gaan manipuleren, waarschuwt hoogleraar Helbing. Amsterdam experimenteert met manieren om grote bezoekersstromen beter te spreiden over de stad met behulp van data, elektronische informatieborden en smartphone-apps.

„Als je als overheid op die manier gedrag van toeristen gaat beïnvloeden, kun je daar inderdaad allerlei ethische vragen bij stellen”, zegt Rienks van het Amsterdamse Datalab. „We gaan daarom heel bewust om met hoe we bepaalde interventies plegen.”

Schrikbeeld

Het grote schrikbeeld voor critici van de combinatie van dataverzameling en gedragsmanipulatie door overheden, is Singapore. Sinds 2009 heeft die staat een uitgebreid systeem van dataverzameling opgetuigd, onder de naam Smart Nation.

De Singaporese overheid verzamelt en analyseert data uit sensoren op straat, camera’s met gezichtsherkenning, sociale media en smartphones. Twee overheidsinstanties met Orwelliaanse namen, het Risk Assessment and Horizon Scanning-programma (RAHS) en het Centre for Strategic Futures, analyseren die data.

Eén project van het RAHS draait om het meten van het niveau van ‘nostalgische gevoelens’ onder de inwoners. Een groeiende groep Singaporezen verlangt terug naar de tijd waarin Singapore nog een veel rustiger stadstaat was. Sommige Singaporezen nemen daarom initiatieven voor bijvoorbeeld meer parken in de stad en spreken zich op sociale media uit over hun onvrede.

„Maar nostalgie kan ook lelijke trekken krijgen”, volgens een rapport van RAHS uit 2014. „Het kan ontaarden in het afwijzen van de huidige situatie en een isolerend nationalisme aanwakkeren. We verkennen mogelijkheden om deze nostalgie te kanaliseren op een manier die meer vooruitkijkt.” Singapore wil data over bewoners gebruiken om bepaalde sentimenten te meten, en te sturen.

Hoe het ‘kanaliseren’ van gedrag eruit kan zien, blijkt in China. Eind vorig jaar lanceerde de communistische partij een uitgebreid systeem om met behulp van data de gehoorzaamheid van burgers aan het regime te stimuleren: sesame credits. Op basis van onder meer data over gedrag op sociale media en aankopen op websites krijgen burgers een ‘socialekredietscore’ toegekend. Als je aankopen doet die de staat waardevol vindt, zoals werkschoenen of lokaal geproduceerde landbouwproducten, gaat je score omhoog. Als je stoute anime-stripboeken uit Japan koopt, daalt je score. Met een hoge score kunnen Chinezen makkelijker leningen afsluiten en krijgen ze sneller toegang tot overheidsdiensten.

Ook in het Westen zijn al toepassingen die zó uit een sciencefictionfilm lijken te komen. Technologiebedrijven IBM en Atos bieden zogenoemde predictive policing aan. Dat zijn diensten die in grote hoeveelheden data over burgers en activiteiten op straat patronen ontdekken waarmee criminaliteit is te voorspellen. De politie kan dan preventief ingrijpen. In het Eindhovense uitgaansgebied Stratumseind loopt daarmee een proef: agenten zitten in een controlekamer waar computers een seintje geven als de data voorspellen dat er een opstootje aankomt, bijvoorbeeld op basis van groepen die samenkomen of geluidsniveaus.

„Data zorgen voor macht”, zegt Helbing. „Teveel machtsconcentratie is nooit verstandig. Je zou dataverzameling in combinatie met gedragsbeïnvloeding kunnen gebruiken om verkiezingen te manipuleren. Met kunstmatige intelligentie en andere technologieën kan gedragssturing zó goed op maat van individuen gemaakt worden, dat je het amper doorhebt.”

Volgens Helbing is de beste oplossing voor dit probleem dat de systemen die overheden gebruiken open source worden. Dat betekent dat de toepassingen en de techniek erachter volledig openbaar zijn. „Je moet zorgen dat dit soort systemen democratisch is en van onderaf gecontroleerd wordt, niet van bovenaf opgelegd”, zegt hij. „Je moet niet één overheid of één bedrijf controle geven over al die data. Dan is er een risico dat de technologie wordt misbruikt door mensen met extreme agenda’s.”

Om dat tegen te gaan ontwikkelt Helbing een technologieplatform, Nervousnet, dat ervoor moet zorgen dat data over burgers niet centraal worden opgeslagen en gecontroleerd, maar door burgers zelf worden beheerd. „De opslag en analyse van gegevens moet transparant, open en democratisch gecontroleerd worden.”

Ethische aspecten

En hoe zit het met de macht van techbedrijven over de data? „Onze klanten zijn eigenaar van de data, Salesforce zelf niet”, zegt Vivek Kundra. Die klanten zijn de overheden. „Zij hebben zelf een verantwoordelijkheid om goed om te gaan met die data. Openheid over wat ze doen is belangrijk, net als het stimuleren van burgerparticipatie in deze zaken.”

Salesforce kan overheden daartoe niet dwingen, erkent hij. „Al is het ook de vraag wat er erger is: een overheid die veel data bezit, of een overheid die beleid uitvoert zonder daar goede data voor te gebruiken.”

In het Amsterdamse Datalab zijn ze ook veel bezig met de ethische aspecten van dataverzameling, zegt programmamanager Rutger Rienks. Amsterdam kiest „waar het kan” voor een open source-aanpak, waardoor burgers gemakkelijk kunnen zien hoe de systemen werken en toegang hebben tot hun gegevens. De stad organiseert activiteiten en bijeenkomsten om burgers bewust te maken over dataverzameling. „Om behalve een smart city ook smart citizens te krijgen.”

Maar ook in Amsterdam gaat het wel eens mis: de Rekenkamer van de gemeente tikte het stadsbestuur vorige maand nog op de vingers omdat bij het opslaan van data de privacy slecht bewaakt wordt. En privacyschending is nog maar één van de vele potentiële problemen.

„Data kunnen gebruikt worden om fascisme 2.0 te creëren”, zegt Helbing. „Maar ook om democratie te vernieuwen. We staan wat dat betreft op een cruciaal keerpunt.” Volgens hem zijn de komende paar jaar beslissend voor wat het gaat worden: een technologische vooruitgang waar burgers ook echt wat aan hebben, of een grootschalige machtsgreep naar de data van diezelfde burgers.