De week: Facebook-ethics, Google-raters en de toekomst van collaboratiesoftware

We kiezen er in alle vrijheid voor om onze vrijheid op te geven

Facebook kan het ook nooit goed doen

De verfilming van het David Eggers' bestseller The Circle kaart veel interessante thema’s aan rondom de enorme macht van tech-bedrijven in Silicon Valley. Toch worden deze thema’s niet bepaald uitgediept, zeker niet in de film. Realiseren we ons wel voldoende wat we doen als we onze vrijheid uit handen geven aan een machtig tech-bedrijf?

De film The Circle is vanaf deze week in Nederland in de bioscoop te zien. Voor de Filmkrant schreven we een artikel over de belangrijkste thema's van de film.

The Circle schetst een wereld waarin we ons leven vrijwillig uit handen geven aan een almachtig tech-bedrijf uit Silicon Valley. Het is de verfilming van het succesvolle, gelijknamige boek dat Dave Eggers in 2013 publiceerde. De naamgever van het verhaal is een fictief tech-bedrijf dat lijkt op een mix van bedrijven als Google, Facebook, Apple en Amazon.

Het geluk van Mae Holland (Emma Watson) kan niet op als ze een baan krijgt bij The Circle. Net als Apple heeft The Circle een enorme campus in de vorm van een donut. Werknemers worden van alles voorzien, van kinderopvang tot sportschool en feestjes. Wie er werkt, hoeft eigenlijk nooit meer het terrein te verlaten. De zorg van The Circle reikt verder dan de poort: ook voor de zieke vader van Mae, een mooie rol van Bill Paxton, wordt gratis gezondheidszorg geregeld.

Tingen, smilen, frownen

Maar niets is vrijblijvend. In ruil voor de medische zorg worden haar ouders via het internet 24/7 in de gaten gehouden. Mae en The Circle kunnen op elk moment meekijken. Ook Mae zelf wordt al snel aangesproken op haar lage "PartiRank", haar gebrek aan participatie. Ze moet "gewoon voor de lol" meer meedoen met de sociale activiteiten, meer tingen, smilen en frownen — de equivalenten van liken. The Circle is geen gewoon bedrijf, maar een gemeenschap. Mae's ex-vriend Mercer zou het overigens eerder als sekte typeren.

Zowel het boek als de film kaarten veel interessante thema's aan rondom de enorme macht van tech-bedrijven in Silicon Valley. Ze bespreken de informatieasymmetrie tussen The Circle en haar gebruikers, de moeilijke verhouding tussen de tech-giganten en de overheid en het verslavende van de producten. Het zijn zaken met een enorme impact op onze vrijheden, maatschappij en democratische rechtstaat. Toch worden deze thema's niet bepaald uitgediept, zeker niet in de film, terwijl dat nou juist de kern van Eggers' verhaal is.

Niets wordt nog vergeten

"Stel je nu eens voor wat dit voor de mensenrechten kan betekenen!", roept Eamon Bailey (Tom Hanks), een van de 'Three Wise Men' van The Circle en woordvoerder van het bedrijf, zijn toehoorders toe terwijl achter hem de beelden van een opstand tegen een autoritair regime worden geprojecteerd. "Demonstranten hoeven niet langer een camera omhoog te houden in de hoop een schending van de mensenrechten vast te leggen", voegt hij eraan toe — alsof dat de grootste zorg zou zijn van iemand onder het juk van een dictator. Hij zegt dit tijdens de lancering van de SeeChange, een camera in de vorm van een oog die je overal op- en aan kunt plakken die alles livestreamt. Dus ook vanaf het Tahrirplein, mocht dat nodig zijn.

Maar in de wereld buiten The Circle en Silicon Valley werken die camera's natuurlijk precies andersom dan Bailey beoogt: activisten zullen na confrontatie met de beelden verantwoording moeten afleggen aan autoritaire regimes, terwijl die autoritaire regimes nooit verantwoording zullen hoeven afleggen aan de rest van de wereld. Dictators smullen van zulke innovaties: niet eerder was het zo makkelijk om het doen en laten van de hele bevolking in de gaten te houden. Niets blijft ongezien, niets wordt vergeten.

Misselijk worden van de camera

Dat is dan ook de ambitie van The Circle. Alles en iedereen volledig transparant. Naarmate Mae zich meer vereenzelvigt met de missie, raakt ze overtuigd dat privacy niet alleen asociaal is, maar domweg crimineel. Ze introduceert mantra's als "Geheimen zijn leugens", "Delen is meeleven" en "Privacy is diefstal". Het idee daarachter is dat als alles transparant is, er maar één waarheid bestaat die altijd geldt, en je niemand de toegang daartoe mag ontzeggen.

Als lichtend voorbeeld draagt ze als een van de eersten een SeeChange-camera permanent om haar nek. Alles wat ze doet is zichtbaar voor de rest van de wereld. Maar van tijd tot tijd schuurt dat. Het kost moeite iedereen voortdurend te pleasen. Haar vriendin Annie wil op een gegeven moment alleen nog met haar praten als ze op het toilet zitten: het zijn de enige drie minuten waarin de camera even uit mag. En als ze een dierbare kwijtraakt, is ze een paar dagen offline. Dat lijken kanttekeningen bij 24/7 transparant zijn, maar wat het met je doet als alles wat je doet door duizenden mensen live te volgen is, laat de film niet zien.

Super Stream Me

Hoe dat moet voelen hebben de VPRO-programmamakers Tim den Besten en Nicolaas Veul in 2015 in Super Stream Me wél helder in beeld gebracht. Bij wijze van psychologisch experiment streamden zij drie weken lang 24/7 hun eigen leven. Tenminste, dat was de bedoeling. Nicolaas gaat al snel in een soort van showmodus: hij doet alles om zijn publiek te vermaken. Hij voelt een enorme druk van de kijker en heeft het gevoel dat hij voortdurend leuk moet doen en grapjes moet maken. Dat alles gaat ten koste van zijn eigen leven. Tim doet juist het tegenovergestelde: hij sluit zich zo veel mogelijk af. Hij stopt met leven en begint alles uit te stellen tot het moment waarop de camera eindelijk weg zal zijn. Ook ten koste van zijn eigen leven dus.

Net als Mae merkten Tim en Nicolaas dat de ongenadig registrerende camera intieme gesprekken in de weg staat. Sommige vrienden weigeren hun zelfs hun gezelschap zolang de camera aanstaat. Zonder echte vrienden voelt de stream als een steeds grotere last. De kijker ziet hoe de twee mannen hun grip op het leven kwijtraken, snel aftakelen en compleet uitgeput raken. Misselijk van de camera stoppen de twee het experiment voortijdig.

Maximale efficiëntie vs. vrijheid

Nadat Mae binnen The Circle als lichtend voorbeeld is gekroond, oppert ze in een vergadering van de veertig meest invloedrijke Cirkelaars dat de overheid een Circle-account verplicht zou moeten stellen, net zoals belasting betalen ook verplicht is. Het product met de naam TruYou zou als een sleutel moeten fungeren voor alle diensten van de overheid en het bedrijfsleven. In werkelijkheid best een aantrekkelijk idee voor de gemiddelde bestuurder: de grote tech-bedrijven weten zoveel meer over ons en onze maatschappij dan de overheid, dat zij de dienstverlening van die overheid stukken efficiënter kan uitvoeren.

Die ontwikkeling miskent echter een fundamenteel uitgangspunt: terwijl een bedrijf als The Circle gericht is op maximale efficiëntie, stelt onze overheid — als het goed is — het maatschappelijk belang voorop. Maar het gebrek aan efficiëntie van de overheid is geen onoverkomelijk probleem, in ieder geval niet zodanig dat het compleet geëlimineerd hoeft te worden. Het is inherent aan de afwegingen die we elders in onze maatschappij maken. We vinden het belangrijker dat onschuldige mensen niet vastzitten, ook als dat betekent dat we soms een schuldig iemand laten lopen. En om ervoor te zorgen dat de overheid niet ieder van ons voortdurend monitort, vinden we het ook acceptabel dat een veroordeelde soms wat langer op de vlucht is.

Mae's idee om er met een verplicht Circle-account voor te zorgen dat de opkomst tijdens verkiezingen hoger wordt is ook al geen fictie. In 2010 experimenteerde Facebook met het naar de stembus nudgen van zijn gebruikers. Dat lijkt mooi, maar de risico's zijn enorm als je je bedenkt dat Facebook misschien ook goed kan inschatten wie wat gaat stemmen.

Dit zal alles veranderen

Cirkelaars hebben een oneindig geloof in de maakbaarheid van de mens. Er is geen probleem dat we niet kunnen oplossen, zegt Bailey. Dat idee, dat je elk probleem met technologie kunt oplossen, wordt door publicist Evgeny Morozov 'solutionism' genoemd. Maar "imperfectie, ambiguïteit, vaagheid, wanorde, de mogelijkheid om je te vergissen, te zondigen en de verkeerde dingen te doen: deze zaken maken allemaal onderdeel uit van de menselijke vrijheid", voegt hij eraan toe in zijn boek Om de wereld te redden, klik hier (2013). Wie die inefficiëntie probeert uit te roeien, roeit ook onze vrijheid uit. Het fundamentele probleem van efficiëntie als hoogste goed wordt helaas maar kort aangestipt in de film.

"The Circle heeft de macht om alles te veranderen", zegt een van de oprichters van het bedrijf. Het is de macht — en de daarbij horende verantwoordelijkheid — die komt met de impact van het ontwerp van technologie. Zoals een verkeersdrempel het gedrag van de automobilist stuurt, heeft ook een alles-registrerende camera impact op onze vrijheid. Maar op de momenten dat Mae daarmee geconfronteerd wordt, kijkt ze liever de andere kant op. De film, en zeker het boek, zijn een pleidooi om daarbij stil te staan. Realiseren we ons wel voldoende wat we doen als we onze vrijheid uit handen geven aan een machtig tech-bedrijf? Weten we wel genoeg van de negatieve consequenties om daar een weloverwogen besluit over te nemen? En kunnen we, als we de verkeerde keuze maken, nog wel terug?

  1. Klaske Wijkstra

    Dank voor dit artikel. Veel is al herkenbaar. Laatst stond er een stuk in de NY Times waarin werd voorgesteld om van bedrijven als Google en Facebook maar nutsbedrijven te maken, om zo wat greep op ze te krijgen.
    De dwang tot transparantie is er al. Niet alleen als sociale druk van je vrienden, maar ook van bedrijven, vooral Amerikaanse. Iemand die bij een Amerikaans bedrijf werkt verklaarde tegenover mijn schoondochter die niet op Facebook is, dat ze daarom nooit een baan bij dat bedrijf zou kunnen krijgen.
    Wij worden onderworpen aan een cultuur die on-Europees is/was, maar die toch appelleert aan een menselijke behoefte om gekend te worden. Het is Facebook’s ideologie dat je door jezelf ten toon te stellen verbonden bent met anderen. Die verbondenheid is heel oppervlakkig en maakt je bovendien erg kwetsbaar. In een ideale wereld met alleen maar goede mensen zou dientransparantie beter werken. Zo naief kunnen we beter niet zijn. Een zekere mate van privacy is nodig en functioneel in een niet-ideale wereld. Dat geldt zeker voor kinderen die nog een identiteit moeten ontwikkelen.

    • Anoniem

      Ja vrijheid is kostbaar , mensen zijn of willen vaak niet inzien, maar zelfs onze eigen regering verkwanseld deze en verraad de burgers nu Schippers weer om ook in ziekenhuizen, DNA verplicht af te staan van burgers , zogenaamd ( terroristen ) zoveel werk om deze te achterhalen ??? Maar het simpele oplossing is toch douane om die tegen te houden wat betreft wapens etc , maar dat is niet de reden , maar algehele CONTROLE wat betreft de burgers in toom te houden , en valselijk te kunnen beschuldigen om DNA bewijs te leveren , daar schuilt het gevaar in , zomaar mensen oppakken met bewijs van DNA

  2. De herder zegt

    Ben geen schaap beste burger.

    Politici zijn slechte schapenboeren, op deze manier houden ze het hek niet heel en zullen de schapen moeilijk in toom te houden zijn.

    Alleen de suffe schapen houden ze dan over, de rest zal zich elders vol vreten.

  3. axel

    Mooi stuk, Rejo!

  4. Pocahontas

    Quote “Nicolaas gaat al snel in een soort van showmodus: hij doet alles om zijn publiek te vermaken. Hij voelt een enorme druk van de kijker en heeft het gevoel dat hij voortdurend leuk moet doen en grapjes moet maken. Dat alles gaat ten koste van zijn eigen leven. ”

    Dit is exact hoe de meeste FB blogs er uit zien.

    Ambtenaren zijn ook vaak te betrappen op dit soort gedrag. Mensen die in de pas lopen voor hun baas zonder zichzelf als mens te kunnen gedragen. Blind de regels opdreutelen zonder een enkel menselijk aspect.

    Facebook ambtenaren?

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.