Open brief aan financieel adviseurs: handel in het belang van de gebruiker

Facebooks digitale sweatshops in lage lonenlanden

De discussie rondom hate speech heeft een nieuw perspectief nodig

Facebook en andere sociale-mediaplatformen hebben hun vuile werk uitbesteed aan digitale sweatshops in lagelonenlanden. Zij zorgen ervoor dat onze tijdlijnen geen onwelgevallige beelden bevatten. Maar wat is de echte prijs die daarvoor wordt betaald, vraagt documentaire The Cleaners zich af.

Rauwe realiteit

Op de één of andere manier krijg je op Facebook zelden iets te zien dat écht schokkend is. Geen dick pics of filmpjes van onthoofdingen of seksueel misbruik van kinderen. Dat is niet omdat dat soort afbeeldingen en filmpjes nooit gepost worden. Maar zodra ze maar even op het platform te zien zijn, dan is Facebook er als de kippen bij om ze te verwijderen. Facebook laat je graag denken dat z'n algoritmes daar wel voor zorgen. Maar de realiteit is een heel stuk rauwer en donkerder, zo laat de documentaire The Cleaners zien.

The Cleaners is de eerste lange documentaire van het Duitse makersduo Hans Block en Moritz Riesewick. Hij ging afgelopen januari in première op het Sundance Filmfestival, was daarna in Rotterdam te zien bij de Critic's Choice en krijgt nu een bioscooproulement. Hoewel de film specifiek over de moderatie bij Facebook gaat, is veel van de besproken problematiek van toepassing op alle sociale-mediaplatformen.

Zonder iconisch beeld van Michael Brown was er waarschijnlijk minder aandacht voor discriminatie bij de Amerikaanse politie.

Digitale sweatshops

Wat de film laat zien is dat Facebook, om ervoor te zorgen dat onze tere zieltjes niet gekwetst worden, de handmatige moderatie van z'n platform grotendeels heeft uitbesteed aan bedrijven in lagelonenlanden. Voor duizenden mensen in landen als de Filipijnen bestaat hun lange werkdag uit niets anders dan onze uploads beoordelen. Slechts de posts over onderwerpen die heel lokaal gevoelig liggen worden dichterbij huis beoordeeld. Zo worden Nederlandse posts over Sylvana Simons of Duitse posts over de Tweede Wereldoorlog beoordeeld door zogeheten "commercial content moderators" in Berlijn.

Deze moderatoren staan niet op de loonlijst van Facebook en zijn vrijwel onzichtbaar voor de gebruikers van het platform. Dat is, voor Facebook, wel zo prettig. Want wat niet bekend is, levert ook geen ophef op. Als je als gebruiker weet dat mensen in digitale sweatshops in lagelonenlanden jouw feed schoonhouden, voel je je misschien toch wat minder comfortabel bij het gebruik van de dienst. Deze documentaire brengt de anders onzichtbare schoonmakers voor het eerst toegankelijk in beeld.

Targets halen

Maar het uitbesteden naar die lagelonenlanden heeft nog een 'voordeel' voor Facebook: het zijn landen met goedkope arbeid en lagere arbeidsstandaarden. De documentaire laat zien hoe de moderatoren een target hebben van 25.000 uploads per dag beoordelen. Bij een Nederlandse werkdag is dat dus ongeveer één afbeelding per seconde. Delete. Delete. Ignore. Delete. Ignore. En het gaat dan niet om katten­plaatjes, maar om beelden die door Facebookgebruikers als aanstootgevend zijn aangemerkt, waaronder onthoofdingen, zelfmoorden en verkrachtingen. De hele dag door en zonder serieuze aandacht voor de traumatische psychische gevolgen voor de moderatoren.

Bij de moderatoren in BerlijnDe hel achter de façade van Facebook is dat niet wezenlijk anders. Daar liggen de targets misschien wat lager, maar is er voor de 1100 medewerkers ook slechts één psycholoog, één maatschappelijk medewerker en één "feelgoodmanager" beschikbaar — zo viel vorige maand te lezen in De Volkskrant.

Voor duizenden mensen in landen als de Filipijnen bestaat hun lange werkdag uit niets anders dan onze uploads beoordelen.

Amerikaanse normen en waarden

Het outsourcen van het smerige werk naar lagelonenlanden is niet de enige maatschappelijke impact van het mondiaal opererende bedrijf. Eén van de moderatoren uit de film vertelt over de lijst van 37 organisaties die door de Verenigde Staten als terroristisch zijn aangemerkt: "You have to memorize everything [...]. Memorize their flags, memorize their sayings." Een organisatie die niet op de lijst voorkomt zal niet snel als terroristisch worden behandeld, tenzij hevige publieke kritiek Facebook dwingt af te wijken van haar eigen beleid. Het illustreert hoe Facebook Amerikaanse normen en waarden aan de rest van de wereld oplegt, zonder oog voor lokale culturen. Dat is niet anders voor blote tepels of voor parodieën.

Het bedrijf dicteert ons haar wereldbeeld, door te beslissen wat we wel en niet mogen zien. Het gaat niet meer alleen om de vraag hoe schokkend een bepaald beeld is, maar ook of iets nieuws kan zijn. Wat niet gedeeld kan worden op Facebook zal minder snel nieuws zijn. Soms fungeren de schokkende beelden van een afschuwelijke gebeurtenis als een katalysator voor een verandering. Zonder iconisch beeld van het levenloze lichaam van de zwarte jongeman Michael Brown was er waarschijnlijk minder aandacht voor discriminatie bij de Amerikaanse politie. We hadden waarschijnlijk ook nooit iets gezien van de talloze demonstraties van protesterende burgers. De martelingen in de Abu Ghraib-gevangenis hadden nooit de aandacht gekregen als de beelden ervan nooit zichtbaar waren geweest. En dat de Vietnam-oorlog niet wordt vergeten is mede te danken aan die ene beeldbepalende foto.

Monopolist beslist

Al die zojuist genoemde beelden worden van tijd tot tijd door Facebook van haar platform geweerd. Soms tijdelijk, soms permanent. In alle gevallen geldt: hadden we die beelden niet gezien, dan hadden ze zich nooit op ons netvlies kunnen brandenDe vrijheid van misselijkheid en waren de afschuwelijke gebeurtenissen die eraan ten grondslag lagen al veel verder in ons collectieve geheugen weggezakt.

De vraag wanneer of onder welke voorwaarden dit soort beeldmateriaal gezien moet worden is niet makkelijkFacebook kan het ook nooit goed doen te beantwoorden. Maar één ding is wel duidelijk: het is niet verstandig om de beslissing daarover bij een grote Amerikaanse monopolist neer te leggen. Een moloch waarvan de beslissingen vooral gebaseerd worden op een Amerikaanse moraal. Een commercieel bedrijf waarvan de belangen niet per se met die van haar gebruikers (met ons dus!) overeenkomen.

Je moet het ze nageven, de meeste moderatoren die in de documentaire aan het woord komen zijn vaak blij of zelfs trots op hun werk. Zonder baan zouden ze op de vuilnisbelt eindigen, op zoek naar iets waardevols tussen het afval. Deze baan, weliswaar niet bij maar wel voor Facebook, geeft ze de kans om achter een beeldscherm te zitten en beter betaald te worden. Toch verandert dat niet veel: nog altijd ploeteren ze op een vuilnisbelt door het afval. Maar nu is het niet meer het lokaal geproduceerde afval, maar het digitale afval van ons - want wijzelf zijn er te beroerd voor om het op te ruimen.

  1. Johan

    Wat een goed stuk! Interessant perspectief dat deze monopolist de normen en waarden van – het toch ook schadelijke – Amerika oplegt. Ongelooflijk dat zij als lamme schapen de visie van de VS klakkeloos overnemen zonder hun eigen verantwoordelijkheid te nemen door deze ook nauwkeurig te onderzoeken en bekritiseren. Hoe kunnen we als samenleving zorgen dat deze platformen doordachter en eerlijker worden?

    • Edwin

      Wie bedoel je met zij? De mensen in de Filipijnen die indirect voor Facebook werken?
      Ik vind dat je het deze mensen moeilijk kan aanrekenen. De situatie daar is totaal anders. De meeste van deze werknemers zijn de enige in de familie met een baan waar enigsinds nog eten mee verdiend kan worden. Mochten deze mensen dus heel principieel blijven en het werk niet doen, dan ligt er simpelweg geen eten op de plank.. Denk dat het moeilijk is je in die situatie te verplaatsen.
      Het echte probleem ligt hier natuurlijk bij de opdrachtgever (Facebook) en hoe deze omgaat met haar (indirecte) werknemers.

      • Johan

        Met zij bedoel ik inderdaad de leiding van Facebook, de opdrachtgever. Het feit dat Fb dit beleid uitstippelt en de visie van de VS zomaar overneemt is zo lui als je een miljardenplatform bent wat alle volkeren, culturen en religies etc. ‘digitaal huisvest’. De monopoliepositie van Fb vereist ethische, eerlijke en wetenschappelijke beslissingen in zijn bedrijfsvoering die recht doet aan allen bedoel ik te zeggen. In plaats daarvan is het verloederd tot spreekbuis van de ‘Westerse cultuur’, met al haar gebreken.

  2. Robin

    Dit artikel kan niet gedeeld worden op FB. Het bericht met de link wordt simpelweg niet geplaatst.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.