De slimme stad kan een dom idee worden

De ‘smart city’ is een belofte om de leefbaarheid te verbeteren, ook in Nederland. Maar uit nieuw onderzoek blijken grote valkuilen. Bepaalt straks een algoritme welke wijkbewoners een gevaar zijn?

Illustratie Roland Blokhuizen

Hudson Yards is nu nog de grootste bouwput van Manhattan. De eerste skeletten van de gloednieuwe wolkenkrabbers zien er niet anders uit dan alle andere in New York. Maar hier wordt geen gewone wijk gebouwd. „We gaan met sensoren op elke hoek de luchtkwaliteit meten”, zegt Constantine Kontokosta, een van de directeuren van het project. „We gaan ook temperatuur, lichtniveaus en lawaai in kaart brengen.” Hij doet er bij CUSP, onderdeel van New York University, ook onderzoek naar. De gegevens wil hij combineren met data van gemeentelijke klachtenlijnen, de sociale dienst, mogelijk ook energiebedrijven. „We gaan berichten op sociale media van bewoners bijhouden, zodat we hun sentiment kunnen meten, en locatiedata van mobiele telefoons bijhouden via wifinetwerken, zodat we zien hoe ze door de buurt bewegen.”

Vanaf volgend jaar, als de eerste bewoners er intrekken, moet Hudson Yards de eerste quantified community van de wereld worden: een wijk waarin alles en iedereen op elk moment van de dag gemeten wordt. „Voor het eerst kunnen we dan in real time een wijk analyseren.” Met de data kan het gemeentebestuur bijvoorbeeld snel ingrijpen bij geluidsoverlast.

Op termijn wil hij ook gegevens over lichaamsbeweging, gezondheid en gewicht van de wijkbewoners verzamelen, bijvoorbeeld met data uit wearables zoals polsbandjes. „Geheel vrijwillig natuurlijk.” En alle data worden geanonimiseerd opgeslagen, zo bezweert hij. Hudson Yards wordt een van de duurste buurten van de stad; de ontwikkelaars verwachten dat er veel vraag is naar zo’n gekwantificeerd leven.

Zover als in New York gaat het vrijwel nergens, maar overal ter wereld worden burgers digitaal in kaart gebracht, vaak onder de naam ‘smart city’. Rotterdam komt dit najaar met een ‘smart city-aanpak’. Amsterdam heeft sinds vorig jaar een chief technology officer (CTO) die allerlei experimenten met technologie doet; van het plaatsen van sensoren die meten hoe druk het is in fietsenstallingen tot het geautomatiseerd in de gaten houden van mensenmassa’s tijdens evenementen. Zelfs Midden-Drenthe heeft een eigen smart city-app.

„De beloftes zijn groot: de smart city kan erg veel opleveren”, zegt Jorrit de Jong, academisch directeur van het overheidsinnovatieprogramma van Harvard University. Er komt veel meer informatie beschikbaar waarop gemeenten hun beleid kunnen afstemmen. „Maar er zijn ook potentiële problemen. Daar wordt nog niet altijd even goed over nagedacht.”

1 De slimme stad wordt gehackt

Onderdelen van slimme steden worden al regelmatig gehackt: zoals ‘slimme’ straatverlichting die op afstand werd uitgeschakeld door onbevoegden en stoplichten die werden gemanipuleerd door hackers. Ook in de systemen van energiecentrales en zelfs sluisdeuren is al ingebroken. Hoe meer sensoren, infrastructuur en besturingssystemen een internetverbinding krijgen, hoe meer er kwetsbaar worden. De Jong: „Niet alle kleine gemeenten hebben de capaciteit om de beveiliging even goed te regelen.” En behalve de fysieke systemen moeten ook de gegevens goed zijn beschermd. Aan data uit slimme energiemeters is bijvoorbeeld af te leiden wanneer iemand thuis is. Handig voor inbrekers. Gezondheidsgegevens zijn een extra gevoelig onderwerp, bijvoorbeeld omdat die geld waard kunnen zijn voor verzekeraars. „De beveiliging en de privacybescherming van die data is van absoluut belang”, zegt Kontokosta. Geen enkel systeem is 100 procent waterdicht.

Wat naast de beveiliging belangrijk is: wie is de eigenaar van de data? Een oplossing daarvoor komt uit Estland, dat geldt als voorloper in digitalisering van de overheid. Daar blijven data over een burger van die burger zelf. „Dat kan transparanter maken wat er met gegevens gebeurt”, zegt Kontokosta. Maar het is technisch ingewikkeld om data over verschillende personen van elkaar te scheiden. Voorlopig zijn het de gemeentes of de uitbaters van de sensoren die de data in bezit krijgen.

2 De algoritmes worden oncontroleerbaar

Om patronen te ontdekken in de berg gegevens, zijn algoritmes nodig. Die doorzoeken de data op basis van een vaste set instructies. De instructies die in zo’n algoritme zijn ingeprogrammeerd, bepalen de uitkomst. Maar wat als die instructies ethisch niet door de beugel kunnen? Daarvan zijn nu al veel voorbeelden.

De Jong is behalve onderzoeker ook directeur van een Harvard-project in drie Amerikaanse steden. Daar lost zijn team met behulp van data problemen op met panden waar veel criminaliteit is. Wat blijkt? Door data over panden waar in het verleden problemen zijn geweest te analyseren, is vaak te voorspellen waar nieuwe problemen zijn te verwachten. „Een van de voorspellende factoren is bijvoorbeeld dat een bewoner zijn belastingen niet betaalt.”

Andere gegevens die een voorspellende waarde hebben, zijn bijvoorbeeld data over het geluidsniveau in de buurt, gegevens van de politie, van de uitkeringsinstantie en andere persoonlijke informatie over de bewoners. Aan de hand van dat soort gegevens en de afweging die het algoritme maakt, kunnen politieagenten, maatschappelijk werkers en ambtenaren sneller ingrijpen als het dreigt mis te gaan.

Het algoritme stuurt dus beslissingen die grote impact kunnen hebben op de bewoners. De Jong: „Het is heel belangrijk dat zo’n algoritme deugdelijk is.” Vooral omdat potentieel ook factoren als etniciteit, leeftijd of inkomensniveau van de bewoners een rol kan spelen. „Dan kom je bijvoorbeeld al snel bij etnische profilering en andere ongrondwettige zaken.” Ger Baron, de CTO van Amsterdam, herkent dit. Hij ontwikkelt een systeem dat hulpverleners op basis van grote hoeveelheden data helpt inschatten hoe veilig bepaalde buurten zijn. Dat wil de gemeente omdat brandweerlieden en ambulancemedewerkers wel eens worden belaagd. Het systeem werkt met kleurencodes: als in een huis of buurt mensen wonen die in het patroon passen van mensen met gewelddadig gedrag, springt de code op rood en gaat er bijvoorbeeld extra beveiligingspersoneel mee.

Hoe zorg je dat het algoritme dat die codering bepaalt neutraal blijft en dus bijvoorbeeld niet onterecht rood wordt bij huizen, alleen omdat er allochtonen wonen? „Het zou zomaar kunnen dat de kleurcode vaker negatief is in wijken met een laag inkomen”, zegt Baron. Het hangt er maar net vanaf op basis van welke criteria het algoritme beslist. „Politici en ambtenaren moeten vaker uitzoeken: waar is dat algoritme op gebaseerd?”, aldus De Jong. Politici lezen ook wetsontwerpen voordat ze ermee instemmen; ze moeten nu ook vaker het functioneel ontwerp van softwaretoepassingen snappen en de algoritmes begrijpen. Bestuurders hebben vaak niet de technische kennis om de techniek goed te beoordelen, zegt De Jong. „Dat hoeft niet erg te zijn, als ze maar doorvragen en grondig informatie inwinnen, zoals ze dat ook bij wetsontwerpen doen.”

3Bedrijven krijgen te veel invloed

Amsterdam en Eindhoven afficheren zich allebei als urban living lab: een stedelijk laboratorium voor nieuwe technologieën. Dat klinkt als de taal van technologiebedrijven. En dat is het ook. In Eindhoven betaalt het Franse bedrijf Atos grootschalige experimenten. Ger Baron van Amsterdam wordt naar eigen zeggen „dagelijks” benaderd door bedrijven die nieuwe technologieën willen uitproberen op Amsterdammers. Veruit de meeste wijst hij af.

Technologiebedrijven als Samsung, Microsoft, IBM en Alphabet (voorheen Google) hebben de slimme stad ontdekt en zijn nauw betrokken bij veel projecten, ook in Nederland. Op zich is het niet raar dat ze mogen meedoen, want uit die bedrijven komen ook de vernieuwingen.

„Maar de belangen van bedrijven zijn zeker niet altijd de belangen van burgers”, zegt Baron. Ze hebben soms andere opvattingen over het eigendom van de data, of de transparantie van projecten. Voor de gemeenteraden is openheid en controleerbaarheid van belang, maar bedrijven willen soms meer geslotenheid om concurrenten niet wijzer te maken.

Hoe meer gemeenten smart city-projecten gaan doen, hoe groter het risico wordt dat ondeskundige ambtenaren zich te veel laten verleiden door technologiebedrijven. „Samenwerken met bedrijven is belangrijk en nuttig voor vernieuwing. Maar de gemeente mag nooit de controle verliezen”, zegt De Jong.

4De overheid verprutst de IT

Smart city-projecten zijn in de kern gewoon IT-projecten. IT en de overheid zijn niet altijd een even fijne combinatie; vaak mislukken miljoenen kostende projecten.

De Jong van Harvard deed onderzoek naar wat bepaalt of een smart city-project een succes wordt of niet. Daaruit blijkt dat drie factoren cruciaal zijn. De eerste factor is het vermogen van gemeenten om zowel intern als extern samen te werken. Het draait bij smart city’s vaak om samenwerkingen met technologiebedrijven en samenwerking tussen gemeentediensten. Dat blijkt vaak lastig. Herkenbaar, vindt Kontokosta. „Vooral gedeelde toegang tot data kan problemen opleveren: je ziet bijvoorbeeld zelden dat het bureau voor waterbeleid goed praat met het bureau dat energiedata verzamelt. En ook de combinatie van ambtelijke bureaucratie met snelle technologiebedrijven loopt niet altijd even goed.” Baron loopt in Amsterdam tegen dezelfde dingen op: „Dat moeten we echt nog veel beter regelen.”

De tweede factor die uit het onderzoek blijkt, is het vermogen van gemeentes om heldere doelen te stellen en daar meetbare criteria aan te koppelen. Nu wordt vaak vanuit de techniek gedacht: we hebben Twitter en allerlei sensoren, wat moeten we daarmee? Denken vanuit het oplossen van problemen van burgers is productiever, blijkt: we hebben een probleem met verlaten panden, welke technologie kunnen we gebruiken om dat op te lossen?

Ten derde moet een gemeente in staat zijn om alle data te analyseren. Daar is expertise voor nodig die gemeenten niet altijd hebben, beamen Kontokosta en Baron. Een oplossing is meer datawetenschappers inhuren, maar die zijn nu overal in trek – ook bij bedrijven die diepere zakken hebben dan gemeenten. „Gemeenten zullen harder moeten concurreren om die mensen”, zegt De Jong.

Ondertussen gaan de experimenten snel verder. Telecombedrijf KPN lanceert dit najaar een speciaal netwerk in Den Haag en Rotterdam dat bedoeld is om allerlei sensoren met elkaar te verbinden. KPN hoopt dat dat de definitieve doorbraak betekent voor smart city-toepassingen in Nederland – daar verzorgt KPN graag het dataverkeer voor.

Ook Ger Baron heeft veel meer smart city-plannen met Amsterdam op korte termijn, en Kontokosta is niet van plan te stoppen bij Hudson Yards. Hij is met zijn team al bezig met andere quantified community-projecten: in een armere buurt van Brooklyn en in het financiële district van Manhattan. Daar kun je weer heel andere dingen meten dan in Hudson Yards.