Exploring Digital Culture
Article

9. Privacyrede 2014

Deze rede werd op 2 september 2014 uitgesproken voor SETUP en Studium Generale UU in de Senaatszaal van het Academiegebouw in Utrecht.

Mon 10 Nov 2014
Hans de Zwart 

Bekijk ook de licenties van de foto’s en gebruikte bronnen. Alle tekst is beschikbaar onder een CC BY-SA licentie.

English version available at www.bof.nl/2015/01/02/ai-weiwei-is-living-in-our-future/

Ai Weiwei
Ai Weiwei

Ai Weiwei leeft al een tijdje in onze toekomst. Zijn bewegingsvrijheid is beperkt en hij wordt structureel bekeken door de overheid. Hij leeft in een wereld zonder privacy. En een wereld zonder privacy is een wereld zonder vrijheid.

Hij is één van de beste hedendaagse kunstenaars ter wereld.

Het Vogelnest
Het Vogelnest

Jullie kennen hem waarschijnlijk wel van zijn bijdrage aan het ‘Vogelnest’ stadium in Beijing.

Zonnebloempitten in de Tate
Zonnebloempitten in de Tate

Of van de manier waarop hij onze handelsrelatie met China en de arbeidsomstandigheden daar aankaartte in zijn meesterlijke installatie met miljoenen handgemaakte porseleinen zonnebloempitjes in de Tate Modern in London.

A Study in Perspective
A Study in Perspective

Ai Weiwei is bijzonder uitgesproken over de Chinese overheid en haar vrijheidsbeperkende beleid. Op 3 april 2011 hadden ze daar blijkbaar genoeg van in China en werd hij gearresteerd, zogenaamd vanwege belastingfraude.

In de cel
In de cel

Meer dan 65 dagen zat hij vast in een kleine cel met 24 uur per dag twee bewakers uit het Volksbevrijdingsleger aan zijn zijde. De bewakers zaten op nog geen meter afstand van hem en bleven ook bij hem in de buurt als hij ging plassen of douchen.

De biënnale in Venetië
De biënnale in Venetië

Op de Biënnale van Venetië heeft hij zijn cel verbeeld. In een aantal grote zwarte metalen dozen vind je scenes uit de tijd van zijn gevangenschap. Als bezoeker wordt je in de rol gedwongen van de persoon die kijkt naar hoe de bewakers naar Ai Weiwei kijken.

Na in totaal 81 dagen cel werd hij vrijgelaten en mocht hij terug naar zijn studio en huis in Beijing. Zijn vrijheid was echter minimaal: zijn paspoort is afgepakt, hij kreeg huisarrest, mocht niet praten met journalisten over zijn arrestatie, moest stoppen met social media en er werden in de straten om zijn huis overal camera’s opgehangen.

De Deense filmmaker Andreas Johnsen heeft een fantastische documentaire gemaakt over het eerste jaar huisarrest. Hier een aantal fragmenten uit de trailer van ‘Ai Weiwei, The Fake Case’.

Een fascinerend element uit de documentaire is dat je Ai Weiwei constant ziet experimenteren met hoe je om kunt gaan met permanente observatie. Op een gegeven moment besluit hij bijvoorbeeld om zelf een viertal camera’s in zijn huis op te hangen en zo zijn leven via het internet te ‘livestreamen’. De autoriteiten worden daar bijzonder zenuwachtig van en de ‘Weiweicam’ wordt binnen een aantal dagen stopgezet.

In de buurt van zijn huis is een soort parkeerplaats waar hij een luchtje kan scheppen en rondjes loopt om een beetje fit te blijven. Hij weet dat hij ook daar bekeken wordt en is steeds op zoek naar de mensen die hem in de gaten moeten houden. In een heerlijke scene ziet hij twee agenten in burger op een buitenterras op de eerste verdieping zitten. Hij gaat het restaurant in en de trap op naar het terras. Hij gaat naast de tafel met de agenten staan, die een beetje besmuikt hun camera’s met telelenzen proberen weg te leggen en verder doen alsof hun neus bloedt. Ai Weiwei draait zich om naar de camera en zegt “Stel dat je mij in de gaten zou willen houden, dan zou dit toch echt de ideale plek zijn?”

In die scene zie je heel mooi dat iemand in de gaten houden ook geen prettig werk is. De jonge jongens die op Ai Weiwei moesten letten in zijn cel moesten doodstil staan, konden niet praten en mochten zelfs niet met hun ogen knipperen. Volgens Ai Weiwei kraakten hun botten als ze eindelijk mochten bewegen. Dit is natuurlijk onmenselijk en ik was dan ook niet verbaasd toen ik las dat deze jongens, ondanks de camera’s die er hingen, toch manieren vonden om met Ai Weiwei te communiceren en hun menszijn terug te pakken: op de momenten waarop er beweging was, bijvoorbeeld richting de douche, stelden de bewakers hem vragen met dichte lippen. Als een soort buiksprekers dus.

De bewakers en de bekijkers zitten zelf op een bepaalde manier ook gevangen. In een artikel met de titel ‘Empowered watchers or disempowered workers’ laat Gavin John Douglas Smith op overtuigende wijze zien hoe machteloos de meeste mensen die ‘CCTV camera’s’ moeten bedienen zich voelen. Ze zijn gedwongen te kijken naar situaties waar ze geen invloed op hebben, worden zodra er iets belangrijks gebeurt opzijgeschoven door een hogere autoriteit en hebben zelf geen enkele vrijheid: ze moeten gewoon de procedures volgen. Eigenlijk worden ze ingezet als een stukje menselijke cognitieve capaciteit in een groot geautomatiseerd surveillancesysteem. Ze zijn er voor het type patroonherkenning waar computers nog niet zo goed in zijn. Hier kom ik later nog op terug.

Natuurlijk is het leven van Ai Weiwei niet helemaal te vergelijken met onze toekomst. Hij wordt permanent actief in de gaten gehouden, terwijl wij permanent passief in de gaten gehouden gaan worden. Hij is een publiek persoon met honderdduizenden mensen die hem volgen. De Chinese overheid moet dus ook een beetje oppassen wat ze met hem doet. Datzelfde zal voor de meeste van ons niet gaan gelden. Maar voor mij is het een feit dat, als we er de komende jaren niets aan doen, onze wereld steeds meer op die van hem zal gaan lijken. Zo spreekt Ai Weiwei over hoe dat voelt:

“The individual under this kind of life, with no rights, has absolutely no power in this land, how can they even ask you for creativity? Or imagination, or courage or passion?”

Hoewel het deze weken hier bij SETUP weliswaar een thema is, denk ik dat we nog niet goed doordrongen zijn van hoe alomvattend de huidige surveillanceinfrastructuur is en hoe hard we deze aan het uitbouwen zijn. Ik wil kort een aantal voorbeelden aanstippen van hoe ver de technologie nu al kan gaan en hoe diep we die technologie in ons leven toelaten.

Zo hoorden we halverwege augustus dat Digital Globe, het bedrijf dat onder andere Google Maps van satellietbeelden voorziet, een nieuwe satelliet heeft gelanceerd. Deze satelliet kan beelden opnemen met een resolutie van 25 centimeter aan grondoppervlak en legt 680.000 vierkante kilometer per dag vast. Dit is een commerciële satelliet, het Amerikaanse leger zal vast satellieten hebben met een hogere resolutie en met meer capaciteit. Feit is dat je dus niet meer weet wanneer je in beeld bent.

De algoritmen voor gezichtsherkenning worden ook steeds beter. Nog een nieuwsitem van vorige maand: Neil Stammer, een jongleur die al 14 jaar op de vlucht was voor de Amerikaanse overheid is eindelijk gearresteerd. Hoe hebben ze hem gevonden? Een agent die een nieuw stuk software voor het detecteren van paspoortfraude aan het testen was, besloot zomaar op goed geluk om de database met ‘Wanted’ posters van de FBI door de gezichtherkenningsmodule te halen. De foto van Neil matchte met de foto uit een paspoort van iemand met een andere naam. Zo vonden ze Neil, die al jaren in Nepal als docent bleek te werken. Hoewel het natuurlijk heel fijn is dat iemand die verdacht wordt van kindermisbruik eindelijk gevonden wordt, viel het mij vooral op dat het algoritme het geen enkel probleem vond om een foto van nu te matchen met een 14 jaar oude foto en dat er bij de Amerikaanse overheid blijkbaar geen waarborgen zijn die ervoor zorgen dat beeldmateriaal van verdachten niet door een willekeurige agent gebruikt kan worden voor het testen van software.

Het verbaast me dan ook niet dat de we uit de door Snowden gelekte documenten hebben geleerd dat de Amerikaanse National Security Agency, ook wel de de NSA, op grote schaal foto’s opslaat en deze doorzoekt op zoek naar gezichten. Het Wellspring programma bekijkt emails en andere communicatie en toont ze als er een vermoeden is dat er een paspoortfoto in zit. De NSA maakt daarbij onder andere gebruik van de technologie van Pittsburgh Pattern Recognition, ‘PittPatt’, dat inmiddels door Google overgenomen is. De mate waarin een bedrijf als Google onderdeel is van het militair industrieel complex onderschatten we op dit moment. Ik kan het dus niet laten en wil toch even een filmpje laten zien van een stukje technologie van Google: de militaire ‘Wildcat’ robot van Boston Dynamics (overgenomen door Google in december 2013).

In het geval van gezichtsherkenning is het duidelijk: de overheid levert de beelden van gezichten, en het bedrijfsleven de slimme algoritmen om ook vanuit een wat moeilijkere hoek het gezicht te kunnen herkennen. De NSA heeft op deze manier inmiddels ook de beschikking over software die in staat is om persoonlijke foto’s die buiten genomen zijn, te matchen met satellietbeelden, om op die manier de locatie van de foto te bepalen.

IBM maturity model
IBM maturity model

Het uiteindelijke doel van de overheidsdiensten komt duidelijk naar voren in dit ‘maturity model’ van IBM op het gebied van ‘urban surveillance infrastructure’. Niet alleen moet je op straat geïdentificeerd kunnen worden, moet je locatie bepaalt kunnen worden en moet je gevolgd kunnen worden. Het ultieme doel is uiteindelijke te voorspellen wat je gaat doen.

Wat kun je nog doen om te ontsnappen aan de alomtegenwoordige overheidssurveillance? We weten hoe Obama het probeert te doen.

Obama's tent
Obama’s tent

Als hij ergens in het buitenland een geheim document moet lezen of een geheim gesprek wil voeren dan gaat hij naar een apart ingerichte hotelkamer met daarin een ondoorzichtige blauwe tent die constant geluid produceert. Alleen op die manier weet hij zeker dat hij niet afgeluisterd wordt.

Het is niet alleen de overheid die ons overal volgt en ons gedrag wil voorspellen en beïnvloeden. In feite is dat het standaard business model van het hele internet. Ons gedrag op het internet wordt bijna altijd gemedieerd door een commerciële derde. Tussen jou en je beste vriend zit Facebook of Whatsapp, tussen jou en Bob Marley zit Spotify, tussen jou en de Privé zit Blendle, tussen jou en Mad Men zit Netflix en tussen jou en however many tinten grijs zit Amazon. De grootste commerciële intermediar is Google die inmiddels onder andere bepaalt hoe ik van het station naar dit gebouw ben gelopen, op welke manier ik de symptomen van mijn verkoudheid ga bestrijden, of een bericht dat ik aan iemand anders email als spam moet worden aangemerkt, waar ik het beste mijn hotel kan boeken en of ik volgende week donderdagmiddag nou wel of niet een afspraak heb.

Bedrijven die geld aan ons moeten verdienen in de echte wereld, in meatspace, zijn hard op weg om de interacties die wij met ze hebben te digitaliseren om zo hun ‘tracking’-achterstand te overbruggen. De voorloper is Disneyworld, je weet wel het pretpark waar kinderen na jaren van hardcore kindermarketing als volgt op reageren.

Ik zie overigens echt een leider van de revolutie in Chloe.

MagicBands
MagicBands

Disney heeft tegenwoordig de zogenaamde ‘MagicBands’, een gepersonaliseerde armband (je naam staat erop) met een ingebouwde RFID chip. Volgens Disney is dit de ‘key to making your experience INCREDIBLE!’. Het internet staat vol met ‘unboxing’ videos van mensen die de armbandjes een aantal weken voordat ze naar Disneyworld afreizen uitpakken. Je kunt de armband gebruiken om je hotelkamer binnen te komen, bij de toegangspoortjes van het pretpark, om in te checken bij de ‘Fastpass’ ingangen, om je ‘photopass’ te koppelen aan je online account en natuurlijk vooral om overal met zo min mogelijk frictie te betalen. De bonus voor Disney is dat ze nu eindelijk weten waar al hun klanten precies in het park zijn en hoeveel er precies wordt uitgegeven. Het is dan ook een kwestie van tijd voordat het park zichzelf aanpast aan de persoon met het bandje, en zo een gepersonaliseerde ervaring creëert die naadloos aansluit bij je financiële vermogen.

Op micro-niveau spelen wij allemaal Disney. De markt voor ‘tracking devices’ voor het volgen van kinderen en huisdieren groeit keihard. Een mooi voorbeeld is de ‘Pet Tracker’ van Tagg.

Pet tracker
Pet tracker

Je doet een bandje met een GPS zender om de hals van je hond en zodra je hond zich buiten het door jou aangegeven gebied bevindt krijg je een notificatie op je telefoon en kun je vanaf dat moment op een kaartje precies zien waar je hond is. Omdat je natuurlijk een verantwoord baasje wilt zijn, dient het apparaatje uiteraard ook als fitness tracker voor je hond. Nu kun je doelstellingen voor je hond formuleren en grafiekjes met trendlijnen bekijken. Zoals Bruce Sterling het onnavolgbaar zegt: “You are Fluffy’s Zuckerberg”.

Wat we met onze huisdieren doen, doen we ook met onze kinderen.

Amber Alert
Amber Alert

Zo heb je bijvoorbeeld de ‘Amber Alert’, in alles te vergelijken met de Pet Tracker. Gebruikers zijn heel tevreden: “It’s comforting to look at the app and know everyone is where they are supposed to be!” en “The ability to pull out my phone and instantly monitor my son’s location, takes child safety to a whole new level.” Mocht je het je afvragen, het apparaat is ‘School Ready’ met een stille modus voor educatieve omgevingen.

The Canary Project
The Canary Project

Daarnaast heb je ‘The Canary Project’ dat zich richt op Amerikaanse tieners die al auto mogen rijden. Als je kind belt, SMS’t of tweet van achter het stuur, dan word je daar meteen van op de hoogte gesteld. Ook als je kind sneller rijdt dan het eigenlijk mag, of buiten de afgesproken plek, krijg je meteen een notificatie.

Ignore no more
Ignore no more

Als je kind jouw telefoontjes wegdrukt en niet reageert op je SMS-jes dan gebruik je de ‘Ignore no more’ app waarmee de telefoon van je kind op slot gaat totdat je bent teruggebeld. Hier wordt heel duidelijk dat surveillance uiteindelijk over controle gaat. Dat is ook de reden waarom we nu steeds vaker en met genoegen onszelf surveilleren.

Op de hele ‘Quantified Self’ beweging en de neiging om allerlei sensoren aan ons lijf te hangen die ervoor moeten zorgen dat we onszelf beter leren begrijpen (“self knowledge through numbers”), wil ik vanavond niet ingaan. Maar de volgende stap richting controle is al wel gezet: we kunnen algoritmisch gestraft worden als we ons niet aan onze eigen afspraken houden of onze doelstellingen niet halen.

Meet Manish Seti, een blogger die zichzelf als volgt omschrijft: “I studied at Stanford, traveled the world for 4 years, learned 5 languages, founded an NGO in India, became a famous DJ in Berlin, and want to show you how to build a digital nomad lifestyle.” Eind 2012 huurde hij via Craigslist, een Amerikaanse versie van Marktplaats, iemand in om zijn productiviteit te verhogen. Het idee was dat de persoon naast hem zou komen zitten en hem een klap zou verkopen op het moment dat hij niet aan het werk was, maar bijvoorbeeld Reddit of Facebook zat te checken. Zo ongeveer.

Normaal gesproken was zijn productiviteit gemiddeld ongeveer 40%, maar met Kara naast hem schoot dit cijfer omhoog naar 98%. Wat doe je dan met die les? Je maakt een armband die een schok geeft zodra mensen zich niet aan hun eigen afspraken houden. Uiteraard zorg je ervoor dat de armband goed samenwerkt met andere apps in het productiviteitsecosysteem.

Pavlok
Pavlok

“Any developer can use Pavlok’s open API to increase compliance and improve communication with users. For designers of tracking apps, other wearable devices, digital course producers, or anyone who could use positive and negative feedback to drive stickiness for their service, Pavlok provides a seamless solution.”

Ja, je noemt de armband ‘Pavlok’.

Schrijvers van zogenoemde ‘near future’ fictie hebben het moeilijk. Hun extrapolaties vanuit het heden naar een toch wel absurde toekomst worden keihard door de realiteit ingehaald.

Neem bijvoorbeeld ‘Super Sad True Love Story’, mijn favoriete boek van Gary Shteyngart. Hoofdpersoon is Lenny die een beetje vies gevonden wordt omdat hij nog papieren boeken in huis heeft staan. Hij leeft in een wereld waar de publieke sector compleet verweven is met de private sector (zijn vriendinnetje wil bijvoorbeeld ‘Art and Finance’ studeren bij ‘HSBC-Goldsmiths’ in Londen) en de dollar vastgepind zit aan de Yuan om inflatie te voorkomen. Iedereen heeft een ‘äppärät’ (met heel veel a’s met puntjes) met een ‘GlobalTeens’ account en exhibitionisme voert de boventoon omdat iedereen constant het eigen leven aan het livestreamen is.

Het boek zit vol met onvergetelijke scenes waarin Shteyngart onze huidige relatie met technologie bespot. Lenny zit bijvoorbeeld in de ‘Indefinite Life Extension’ business en moet na een verblijf van een jaar in Italië terug naar de Verenigde Staten. Bij de ‘American Restauration Authority’ moet hij een soort terugkeervisum halen. Hij moet alle beveiliging op zijn äppärät uitzetten en dan verschijnt er een soort Disney-achtige otter op het scherm die hem gaat ondervragen. Na wat vragen over zijn werk en ‘credit-rating’ gebeurt er het volgende:

“Lenny, did you meet any nice foreign people during your stay abroad?”
“Yes,” [Lenny] said.
“What kind of people?”
“Some Italians.”
“You said ‘Somalians.’”
“Some Italians,” [Lenny] said.
“You said ‘Somalians,’” the otter insisted.

Vanaf daar gaat het natuurlijk bergafwaarts met Lenny. Zijn äppärät heeft ‘RateMe Plus’ functionaliteit waardoor hij instant feedback kan krijgen op hoe hij door zijn omgeving gezien wordt. Zo krijgt hij in een bar te zien dat zijn ‘fuckability rating’ niet denderend is en dat hij van de veertig mannen in de bar op nummer veertig staat.

Shteyngart schreef dit boek voordat we Grindr…

Grindr
Grindr

(“Search by Tribe to find your type of guy” en “Narrow down guys with a filter feature”) en Tinder…

Tinder
Tinder

(“Swipe right to like or left to pass. If someone likes you back, it’s a match!”) op onze telefoons hadden.

DOWN
DOWN

En hoewel hij iets als ‘Bang with Friends’ (nu hernoemd naar ‘DOWN’) dus duidelijk wel heeft voorzien, kan ik me niet voorstellen dat hij niet toch lichtelijk verbaasd was toen hij deze dienst zag waarop je kunt aangeven met welke van je Facebook vrienden je graag naar bed zou willen gaan. Als zij ook aangeven dat te willen, dan is het simpel: “Get dates or get down!”

In het dystopische ‘The Circle’ beschrijft Dave Eggers het leven van Mae. Zij werkt voor ‘The Circle’, een internetbedrijf dat groot geworden is het met aanbieden van een digitale identiteit die je over het hele net kunt gebruiken. The Circle heeft transparantie als belangrijkste waarde uitgeroepen. Daar wordt iedereen namelijk beter van. Volgens de leiding van het bedrijf is het goed als iedereen permanent gezien wordt, dat houd je namelijk eerlijk. Als je goed nadenkt, dan zou je eigenlijk niets te verbergen moeten hebben: de dingen die je wilt verbergen zijn namelijk vaak wel goed voor jezelf, maar niet voor de rest van de wereld. ‘Sharing is caring’ en ‘Privacy is theft’: als je iets voor jezelf houdt dan heeft de rest van de wereld daar toch niets aan?

In het begin van het boek presenteert het bedrijf een nieuwe uitvinding aan haar personeel: een kleine camera, een beetje formaat lolly, die overal ter wereld onopvallend geplaatst kan worden en zijn HD beeld het net op kan streamen. De batterij gaat nu nog maar twee jaar mee, maar er wordt gewerkt aan een model dat volledig werkt op zonne-energie. De camera’s zijn niet alleen handig om vanaf een afstand te kunnen zien of de branding hoog genoeg is om te kunnen surfen, ze hebben ook implicaties voor mensenrechten. Ze kunnen namelijk worden gebruikt om ‘accountability’ af te dwingen. The Circle heeft meteen al een aantal camera’s in Caïro opgehangen zodat demonstranten voortaan niet zelf de misstanden van het Egyptische leger hoeven te filmen. Ook zijn er alvast 50 camera’s opgehangen op het Plein van de Hemelse Vrede in Beijing zodat de volgende persoon die voor een tank gaat staan van meerdere kanten live in beeld gebracht kan worden. Ze noemen de camera ‘SeeChange’. Later in het boek hangen politici de SeeChange camera’s om hun nek, ze gaan ‘transparent’. Uiteraard is er meteen publieke druk op alle politici die dit niet doen: wat hebben ze te verbergen? De slogan die bij de camera hoort is “All that happens must be known”.

Ook in dit geval kan de echte wereld niet achter blijven. Op dit moment kun je de ‘Narrative’ al kopen, een zogenaamde ‘lifelogging’ camera. Deze promotievideo legt het concept goed uit.

Blink camera
Blink camera

Op Kickstarter wordt er op dit moment geld opgehaald voor de Blink camera. Er was 200.000 dollar nodig, maar er is al bijna 900.000 dollar binnen. De camera is compleet draadloos, heeft een batterij die een jaar mee gaat en streamt HD video rechtstreeks naar je telefoon.

Flone
Flone

Tot slot als voorbeeld de ‘Flone’, een makkelijk te printen frame waarmee je in een mum van tijd je telefoon omtovert tot een camera-drone. Het moet voor iedereen duidelijk zijn dat het slechts een kwestie van tijd is voordat de opslag- en batterijtechniek ver genoeg gevorderd is om alles permanent te filmen en alles permanent op te slaan.

Technologiedenkers als Kevin Kelly en David Brin zijn er al sinds midden jaren negentig over uit: deze technologische vooruitgang is niet te stoppen, overal zullen camera’s zijn die hun data het netwerk in pompen. Aan ons is dus de keus of we een wereld willen waarin de overheid en haar opsporingsdiensten de enige zijn die toegang hebben tot al die data (een Panopticon) of een wereld waarin iedereen elkaar verantwoordelijk kan houden omdat iedereen toegang heeft tot alle camera’s. Kelly noemt dit scenario ‘coveillance’, een poging om al het volgen en alle observatie zo symmetrisch mogelijk te maken.

Google Glass
Google Glass

En daarmee komen we bij de ‘Google Glass’, het ultieme terugkijk-naar-de-staat-apparaat. Met een Glass kun je op elk moment beginnen met filmen en word je wereld ook nog eens verrijkt met handige informatie. Zoek online het filmpje op dat een aantal weken geleden door Google Glass gebruiker Sarah Slocum online gezet is.

Hoewel er hele interessante dingen vallen te zeggen over de gentrificatie-problematiek in San Francisco of over een cultuur waar je de zin “Don’t touch me, I’ll fucking sue you” zonder blozen kunt zeggen of over het feit dat deze Google Glass drager zich onvoldoende voor deze interactie schaamde om de video niet online te zetten, ga ik het toch over twee andere zaken hebben: het perspectief van de eerste persoon en de schijnsymmetrie van een Google Glass.

Eerst het perspectief van waaruit dit gefilmd is.

Slocum's middelvinger
Slocum’s middelvinger

Toen ik de video voor de eerste keer zag was ik compleet gebiologeerd door haar eigen hand die een paar keer in beeld komt en uiteindelijk een middelvinger opsteekt. Dit is een reactie op agressie die al eerder door Ai Weiwei verkend is. We moeten hierbij natuurlijk meteen denken aan Ai Weiwei die in zijn ‘Studies of Perspective’ zijn middelvinger opsteekt naar bijvoorbeeld…

Ai Weiwei en het witte huis
Ai Weiwei en het witte huis

De Amerikaanse overheid…

Ai Weiwei in Beijing
Ai Weiwei in Beijing

De Franse overheid…

Ai Weiwei en de Eiffeltoren
Ai Weiwei en de Eiffeltoren

Of de overheid van zijn thuisland.

Doom
Doom

Mij deed het perspectief me vooral denken aan de ‘first-person-shooter’ computerspelletjes die ik vroeger speelde, waarin je steevast onder in beeld kon zien welk wapen je op dat moment in je handen had.

Toen Michael Brown, een ongewapende zwarte man, drie weken geleden op klaarlichte dag door een politieagent doodgeschoten werd was de roep om zogenaamde ‘bodycams’, camera’s die permanent door de politie gedragen worden, opeens weer hoog. De video van Sarah Slocum en de schermadruk uit het computerspel Doom deden mij opeens beseffen dat het slechts een kwestie van tijd is voordat wij als burgers een filmpje krijgen te zien vanuit het perspectief van een politieagent, met onder in beeld geen middelvinger maar een pistool, waarin iemand doodgeschoten wordt. Of die film dan gebruikt wordt om te bewijzen dat de politie buitenproportioneel gehandeld heeft of om te bewijzen dat het slachtoffer de aggressor was, dat doet er dan niet meer zoveel toe. Dit soort beeldmateriaal gaat er zijn en wij gaan het zien.

Is dat dan de wereld waar Brin en Kelly over schrijven? In de Verenigde Staten zijn de bodycams een serieuze optie.

Bodycams in Rotterdam
Bodycams in Rotterdam

De American Civil Liberties Union (ook wel ACLU) heeft eind vorig jaar een uitgebreid rapport geschreven waarin ze de voor- en nadelen op een rijtje zetten. De privacybelangen van de mensen die gewild of ongewild en met of zonder toestemming in beeld komen en van de politieagenten zelf (denk even aan de bewakers van Ai Weiwei die ook permanent in de gaten werden gehouden) wordt afgewogen tegen wat dit kan beteken voor het tegengaan van arbitrair politiegeweld. Het rapport roept allerlei complexe vragen op. Moet de politieagent kunnen bepalen wanneer de camera aan of uit is? Het antwoord van de ACLU: nee, het zou mooi zijn als de camera uit zichzelf aan gaat in de situaties waarin dit nodig lijkt. In welke situaties moet de agent toestemming vragen om te filmen? Wie heeft er toegang tot de videos? Hoe lang moeten ze worden bewaard? Hoe zorg je ervoor dat de videos, bijvoorbeeld van beroemdheden (denk aan het nieuws van gisteren), niet worden misbruikt? Wanneer moeten de videos publiek worden gemaakt?

De Nederlandse politie is in Rotterdam Oost ook al aan het experimenteren met bodycams. Onder de noemer ‘Daily Job’ worden korte propaganda-filmpjes op Youtube gezet.

Zoals je kunt zien wordt de privacy van iedereen keurig gewaarborgd. Of filmpjes waarin de politie niet voorbeeldig hun gemaakte troep opruimt ook op Youtube beschikbaar komen is nog maar de vraag in dit land waar fotorolletjes uit Srebrenica bij het ontwikkelen verloren kunnen gaan, of waar de stroom uitvalt van het tapsysteem net op het moment dat Staatssecretaris Teeven de heer van Rey belt. Maar laten we alsjeblieft nu alvast wel over dit soort technologie na gaan denken.

Terug naar de Google Glass video van Slocum. Zoals ik al zei wordt dit door veel van de ‘Glass Explorers’ gezien als een effenaar van het speelveld, een stuk grassroots technologie dat de assymmetrie tussen de eigenaars van de CCTV’s en de burgers opheft. Niets is natuurlijk minder waar. Al het beeldmateriaal dat elke Google Glass gebruiker opneemt wordt rechtstreeks geüpload naar de servers van Google, waar Google de informatie aggregeert, analyseert en gebruikt om haar begrip van hoe de wereld werkt te vergroten.

In feite ben je met een Google Glass een sensor in het netwerk van Google, en wel een slimme en goedkope sensor (sterker nog: je betaalt Google om sensor te mogen zijn). Zodra de batterij op is stop jij de Glass in de oplader van jouw stopcontact én jij bent met je twee benen in staat om op plekken te komen waar Google’s ‘Streetview’ auto’s moeite mee hebben. Natuurlijk krijg je er wat voor terug, maar uiteindelijk ben je een radertje in het wereldomspannende Google systeem. Je ‘werkt’ voor Google en doet precies de dingen waar computers nog niet zo goed in zijn.

Hier hebben we het al eerder over gehad. Heel recent kwam ik nog zo’n plek tegen waar Google mijn patroonherkenningscapaciteit inzet voor haar eigen doeleinden. Ik moest een ‘CAPTCHA’ invullen.

Voorbeelden van CAPTCHAs
Voorbeelden van CAPTCHAs

CAPTCHA’s zijn een middel om spamrobots tegen te gaan. Door een patroon te herkennen dat niet makkelijk door een computer gelezen kan worden bewijs je dat je een mens bent. Er worden miljoenen CAPTCHA’s per uur ingevuld. De computerwetenschapper Luis von Ahn zag een kans om deze cognitieve capaciteit niet te verspillen maar in te zetten voor iets nuttigs. Hij bedacht de ‘reCAPTCHA’.

Door de moeilijk leesbare woorden in te typen hielp je met het digitaliseren van krantenarchieven en boeken. Je moest altijd twee woorden intypen: eentje die de computer al kende en eentje waar de computer nog wat onzeker over was. Google heeft reCAPTCHA in 2009 overgenomen.

Sinds kort is het me opgevallen dat je als gebruiker van reCAPTCHA geen boekteksten meer in hoeft te typen. Tegenwoordig typ je huisnummers in en help je Google, zonder dat het je expliciet gevraagd wordt, de fysieke wereld verder te digitaliseren.

In steeds meer werksituaties zien we hetzelfde fenomeen: de computer en haar algoritmen, ‘the system’ zeg maar, doet zoveel mogelijk en de mens hoeft alleen maar in te springen bij de paar dingen waar de kunstmatige intelligentie nog niet goed genoeg in is. Het grootste gedeelte van deze rede is bijvoorbeeld door een computer geschreven. Ik hoefde alleen maar wat humor toe te voegen hier en daar. Waarvan akte.

Het meest trieste voorbeeld van deze robotisering van de menselijkheid hoorde ik in een aflevering van de podcast Radiolab. Een werknemer bij een groot magazijn in de Verenigde Staten legde daarin uit hoe zij bestellingen bij elkaar moest verzamelen voor bedrijven van het type Amazon. Vanwege voor ons moeilijk te begrijpen efficiëntieredenen zijn de verschillende producten bijna willekeurig door het magazijn verdeeld en liggen de producten door elkaar in dezelfde doos. Als er een bestelling binnen komt waarin meerdere producten uit het magazijn gehaald moeten worden, dan wordt die taak door het logistieke systeem over zoveel mogelijk mensen verdeeld, een soort ‘parallel processing’ dus, waarbij de computer het zo berekent dat alle producten precies op hetzelfde moment bij de uitgang zijn. Voor de mensen in dit systeem betekent dit dat ze met een barcodescanner die instructies geeft door het magazijn moeten rennen. Zodra ze bij de doos zijn aangekomen waar het product in zit hebben ze vijftien seconden om het product in de doos te vinden. De scanner begint hardop te tellen: vijftien, veertien, dertien… Als je het product bij 0 nog niet gevonden hebt, begint de scanner het aantal seconden dat je te laat bent te tellen: één, twee, drie, vier… Zo af en toe klopt de inventaris niet en zit het product niet meer in de doos. Om dan aan het systeem te bewijzen dat het product er echt niet bij zit moet je één voor één alle producten die er wel zijn aan de scanner aanbieden. Uiteraard wordt bijgehouden welk percentage van de producten je op tijd te pakken hebt. Je lunchtijd is 29 minuten en je wordt per direct ontslagen als je 31 minuten over je lunch doet.

Dit is impliciet het perspectief van de grote techmonopolisten op de mens: een extreem goedkope arbeidsfactor die door een slimme inzet van de machine tot zo hoog mogelijke productiviteit moet worden gebracht. Om goed te begrijpen hoe dit werkt moeten we een kort uitstapje maken naar de gokmachines in Las Vegas.

Gokmachines
Gokmachines

Natasha Dow Schüll heeft als cultureel antropologe meer dan 10 jaar alle facetten van de gokkastenbusiness in Vegas bestudeerd en daar een fenomenaal boek over geschreven: ‘Addiction by Design’. Ze legt daarin feilloos uit hoe de gokkastindustrie het hele proces (de casino’s, de apparaten zelf, de kansverdeling, etc.) zo heeft ontworpen om de mensen zo snel mogelijk en zo lang mogelijk in ‘the zone’ te krijgen. De speler is een ‘asset’ waarvan de ‘time on device’ zo lang mogelijk moet worden gemaakt, zodat de ‘player productivity’ zo hoog mogelijk is.

Het boek staat vol met verbijsterende anecdotes over mensen die niet meer los kunnen komen van de machine. Zo is er een oud vrouwtje dat speelt met meerdere donkere broeken aan zodat niemand kan zien dat ze niet de moeite neemt om naar het toilet te gaan om te plassen.

De casino’s waren de eerste industrie die het gebruik van de AED, de automatische defibrillator, omarmden. Het ambulancepersoneel was namelijk bijna altijd te laat bij een hartaanval: ze mogen alleen maar via de achteringang naar binnen (wie gaat er immers bij een casino naar binnen waar een ambulance voor de deur staat?) en casino’s zijn expres zo ontworpen dat je altijd de weg kwijt raakt. Dow Schüll beschrijft dan hoe ze samen met de verkoper van de AED machines naar een video kijkt van iemand die achter de gokkast een hartaanval krijgt. De man valt van zijn kruk en komt tegen de persoon naast hem aan. Die persoon leunt een beetje opzij zodat de man door kan vallen naar de grond en speelt vervolgens door. Terwijl het beveiligingspersoneel alarm slaat en met de AED aan de slag gaat is er letterlijk niemand die ook maar van zijn of haar kast opkijkt, iedereen speelt gewoon door.

Dat doet me een beetje denken aan het gevoel dat ik vaak heb als mensen met Facebook bezig zijn op hun telefoon. Dat het niet uitmaakt wat ik doe om aandacht te trekken, dat de aandacht van de ander compleet opgevroten wordt door Facebook. En dat is ook niet zo vreemd. Facebook is in feite een virtueel casino dat misbruik maakt van dezelfde cognitieve zwakheden als het echte casino. De Facebook gebruiker is een ‘asset’ waarvan de ‘time on service’ zo lang mogelijk moet worden gemaakt, zodat de ‘user productivity’ zo hoog mogelijk is. Facebook is een machine die jou verleid om zo veel mogelijk op de ‘like’ knop te klikken.

De relatie die wij met Facebook, Google en Amazon hebben is niet symmetrisch. Wij kunnen op geen enkele wijze bepalen hoe we die relatie willen definiëren en hebben nul komma nul inspraak. Als dit is hoe commerciële bedrijven omgaan met onze menselijkheid, wat kunnen we dan wel niet verwachten van een overheid die zich steeds normatiever opstelt in wat ze van haar burgers verwacht? De overheid is meer en meer in de greep van dezelfde productiviteitslogica als het bedrijfsleven en krijgt met de onontsnapbare hoeveelheid camera’s en sensoren in de publieke ruimte de facto de middelen om ‘absolute compliance’ af te dwingen. Ik geloof dus niet zo in het sousveillance en coveillance discours. Volgens mij moeten we het probleem anders oplossen.

Hoe dan? Dat vergt eigenlijk een tweede speech, ik ben immers al een tijdje bezig. Maar de contouren wil ik wel proberen aan te geven. En die contouren beginnen bij Nassim Taleb, het enfant terrible van de academische wereld.

Nassim Taleb
Nassim Taleb

Taleb heeft zorgvuldig het imago van een ‘bully’ voor zichzelf gecultiveerd, iemand die het fijn vindt om anderen met zijn intellectuele en fysieke capaciteiten te vermorzelen. Ook hij heeft de kracht van de camera inmiddels ontdekt en postte in juli op Facebook een post over “the magic of the camera in reestablishing civil/ethical behavior.” Ik citeer:

“The other day, in the NY subway corridor in front of the list of exits, I hesitated for a few seconds trying to get my bearings… A well dressed man started heaping insults at me ‘for stopping’. Instead of hitting him as I would have done in 1921, I pulled my cell and took his picture while calmly calling him a ‘Mean idiot abusive to lost persons’. He freaked out and ran away from me, hiding his face in his hands.”

Taleb heeft één van de belangrijkste boeken van de afgelopen jaren geschreven. Het heet ‘Antifragile: Things That Gain from Disorder’ en is een verkenning van hoe je kunt handelen in een wereld die steeds volatieler wordt. Volgens hem hebben we door het efficiëntiedenken de wereld zo geoptimaliseerd dat we niet meer de flexibiliteit hebben om op een goede manier met falen om te gaan en durven wij daarom geen enkel risico meer te nemen.

Paradoxaal genoeg leidt dit juist tot meer repressie én een minder veilige omgeving. Taleb gebruikt ter illustratie de metafoor van een kind dat door haar ouders in een compleet steriele omgeving wordt opgevoed en een perfect leven heeft zonder enige vorm van tegenslag. Zo’n kind groeit waarschijnlijk op met allerlei allergieën en een totaal onvermogen om adequaat te reageren en te handelen in de echte wereld.

We hebben falen nodig om te kunnen leren, we hebben inefficiëntie nodig om te kunnen herstellen van onze fouten, we moeten risico’s nemen om vooruitgang te boeken en we moeten dus een manier vinden om de imperfectie te vieren.

Alleen als we dat doen zal er op de langere termijn nog enige vorm van vrijheid voor ons overblijven. Doen we dat niet dan worden we radertjes in de machine. Ik wil deze rede dan ook eindigen met een quote van Ai Weiwei:

“Freedom is a pretty strange thing. Once you’ve experienced it, it remains in your heart, and no one can take it away. Then, as an individual, you can be more powerful than a whole country.”

Dank aan SETUP en Studium Generale voor de uitnodiging om hier te komen spreken en dank voor jullie aandacht, want ik weet…

Er is nooit genoeg tijd.

Dank je wel.

Mara Vandorou Editorial: The Public Human Strategies of living in the transparent society
Carmin Karasic 1. Hacktivism in My Words Becoming a hacktivist through electronic civil disobedience
Stephanie de Smale 2. Tinkering with Life Strategies for 'literacy' in the age of biotechnology
Ben Borrow 3. The (in)convenient surveillance device The Mobile Phone as both Enabling Surveillance yet Empowering the Individual
Marina Turco 4. In the Shadow of the Matrix A strategic approach to the transparant society
Alexandra Woelfe 5. Surveillance of the state Connections to identity, autonomy and Foucault's notion of biopower
Dr David Barnard-Wills 6. Stanza An artist's engagement with surveillance, privacy, technology and control
Joeri Taelman 7. Biopolitics through the internet of bodies The act of looking back might sound appealing, but it might very well mean the disappearance of disappearance
Suze Krijnen 8. Waarom je online privacy kunt vergeten (Tenzij we als publiek onze verantwoordelijkheid nemen)
Nienke Huitenga 10. Mijn Digitale Schaduw Ooit ging het om je persoonsgegevens. Nu geven we iets veel waardevollers weg.