Silicon Valley bestiert ons

Eén tendens die de komende tien tot vijftien jaar alleen maar sterker zal worden, is de verspreiding van slimme technieken die zich aanpassen aan hun gebruikers en zeer persoonlijke diensten aanbieden. Onlineplatforms hebben hier de weg bereid. Onze zoekresultaten worden gepersonaliseerd – en dus ook ons aanbevolen boeken op Amazon.

We zullen zien dat eenzelfde logica zich steeds meer zal uitstrekken tot fysieke ruimten en offlineomgevingen – slimme auto’s, slimme wegen, slimme brillen, slimme straten en wat al niet.

Dit is al gaande – Nederland is een land dat bij deze technieken vaak voorop liep – maar wat de komende tien jaar zal veranderen, is de koppeling aan dergelijke omgevingen van massale hoeveelheden gegevens over de gebruikers. Ik verwacht zonder meer dat de online verzamelde gegevens via Facebook, Google en andere digitale tussenpersonen naar de fysieke wereld zullen worden ‘teruggekoppeld’ en onze interactie met maatschappelijke instellingen en fysieke omgevingen zullen regelen.

Het is één ding om een slimme, zelfrijdende auto te bouwen. Het is iets heel anders als Google – dat al alles van ons weet – zo’n auto bouwt, omdat het op grond van wat het uit onze gegevens al zal kunnen voorspellen waar wij weleens naartoe zouden kunnen willen en wat we weleens zouden kunnen willen kopen.

Deze samensmelting van slimme en gegevensintensieve omgevingen levert technieken en instellingen op die heel ‘plastisch’ zijn en waaraan gemakkelijk te sleutelen valt. Zolang ons toegang tot ‘de buitenwereld’ wordt geboden, dankzij de bemiddeling van techniek en informatie, zullen er nieuwe soorten interventie mogelijk worden.

Denk aan Google Glass, de langverwachte slimme bril van het bedrijf. Als we met zo’n bril op naar een restaurant gaan, stelt dit Google of de beleidsmakers die met Google werken in staat om nieuwe vormen van gedragsbeïnvloedende interventies toe te passen. Onze slimme bril zou een bericht kunnen sturen dat we vetrijke voedingsmiddelen moeten mijden, of kunnen wijzen op de ongezondheid van een menu. Of onze bril zou sommige gerechten helemaal kunnen ‘verbergen’ – of ons, als ze worden opgediend, kunnen wijsmaken dat we een grotere portie krijgen dan eigenlijk het geval is.

Dit nieuwe soort beleidsinterventie sluit aan bij de waanzinnig populaire retoriek en de gereedschapskist van de gedragseconomie, met zijn hang naar sturing. Uit beleidsoogpunt mag deze fonkelnieuwe toekomst ideaal zijn, omdat de oplossing van problemen misschien wordt vergemakkelijkt, maar het klinkt ook als een nachtmerrie, omdat het in de eerste plaats de politiek zoals we die nu kennen kapotmaakt. In plaats van te overleggen en over moraal en ethiek te discussiëren, manipuleren we mensen eenvoudigweg, zoals B.F. Skinner de cijfers in zijn experimenten manipuleerde.

In de tweede plaats wordt nog meer verantwoordelijkheid voor beleidsvorming uitbesteed aan Silicon Valley, omdat daar het beheer van de technologische infrastructuur zal liggen waarmee al deze experimenten zullen worden uitgevoerd. Voor zover ik tot nu toe heb kunnen zien, duidt niets erop dat Silicon Valley volwassen genoeg is om een verantwoordelijke bondgenoot te zijn.

Evgeny Morozov, auteur van The Net Delusion, is gastdocent aan Stanford.

    • Evgeny Morozov