Facebooks digitale sweatshops in lage lonenlanden

De discussie rondom hate speech heeft een nieuw perspectief nodig

Wij zetten de strijd tegen zero rating door bij de rechter

Onze communicatieplatformen zijn vervuild met racisme, aanzettingen tot haat, terroristische propaganda en Twitterbotlegers. Dit essay suggereert dat dat deels komt door hoe onze platformen zijn ontworpen. We bekijken contentmoderatie en counter speech als mogelijke oplossingen en concluderen dat beide tekort schieten. Als alternatief suggereren we dat ontwerp zou kunnen helpen bij het mitigeren van de meer schadelijke effecten van onze platformen. Hoe zouden onze platformen eruit zien als ze ontworpen zouden zijn voor betrokkenheid in plaats van aandacht?

Credits:
Public Arts

Dit stuk is vertaald uit het Engels door Joris Brakkee.

Wrijvingsangst

In de jaren ‘30 van de vorige eeuw introduceerde industrieel ontwerper Egmont Arens het concept van humaneering. Humaneering is het idee dat je producten ontwerpt op een manier die de wrijving tussen het product en de gebruiker minimaliseert.

We hebben sindsdien veel soortgelijke ideeën over ontwerp gehoord. In de jaren ‘50 zei Henry Dreyfuss dat een ontwerp faalde als het punt van contact tussen het ding en de gebruiker een punt van wrijving werd. Mark Weiser introduceerde in de jaren ‘90, in de context van ubiquitous computing, het idee van “kalme” technologie, waar de computer een extensie is van ons onderbewuste. Een van de best ontworpen diensten waar ik gebruik van maak, WeTransfer, daagt zichzelf uit om te werken zonder iemands “flow” te breken.

De producten en technologieën die we gebruiken hebben back-ends die veel uitgebreider en complexer zijn dan hun interfaces ons doen geloven. Daar komt bij dat je zou kunnen zeggen dat de manier waarop we traditioneel gezien over onze interacties met producten nadachten en ze ontworpen, ons alleen maar verder heeft verwijderd van de technologische, politieke en sociale implicaties van die producten.

De manier waarop we traditioneel gezien over onze interacties met producten nadachten en ze ontworpen, heeft ons alleen maar verder verwijderd van de technologische, politieke en sociale implicaties van die producten.

Dingen vs. apparaten

In 1984 introduceerde Albert Borgmann het onderscheid tussen een “ding” en een “apparaat”. Een ding is iets wat je op veel verschillende niveaus ervaart, zei hij, terwijl je interactie met een apparaat extreem gelimiteerd is, bewust ingeperkt. Het meest bekende voorbeeld dat Borgmann hiervan geeft is de houtkachel aan de ene kant, en centrale verwarming aan de andere.

Links: Google Nest. Rechts: houtkachel.

De hoofdfunctie van een houtkachel is om het huis te verwarmen. Maar het vereist ook vaardigheden, zoals hout hakken en het vuur brandend houden, vaardigheden die meestal verdeeld zijn over verschillende familieleden. Het is de plek in huis waaromheen de familie zich verzamelt, en het verandert tijdens de dag, gloeiend heet ‘s morgens vroeg, en smeulend ‘s avonds laat. Daarnaast vertelt het je ook iets over de seizoenen omdat de rol verandert door het jaar heen.

Centrale verwarming voert de hoofdfunctie, het verwarmen van het huis, een stuk efficiënter uit, maar heeft geen van de andere functies. Er is geen echte betrokkenheid tussen de persoon en het apparaat. Borgmann vindt dit erg jammer omdat hij zegt dat deze betrokkenheid nodig is om de wereld te begrijpen en er op een betekenisvolle manier op te reageren.

Betrokkenheid vs. aandacht

Met Borgmann in het achterhoofd zou je kunnen zeggen dat een zekere mate van wrijving misschien wel iets goeds is, omdat het leidt tot echte betrokkenheid, bewuste participatie. Een misschien een beetje vreemd voorbeeld hiervan is de pop-up op een webpagina die vraagt of je je wilt aanmelden voor een nieuwsbrief. De enige reden dat de pop-up bestaat is zodat je hem kan sluiten. Onderzoek heeft laten zien dat zodra je een actie moet uitvoeren op een website, de betrokkenheid omhoog gaat en het waarschijnlijker is dat je tot de gewenste actie over gaat.

Nog een voorbeeld: vergelijk de website van de gemiddelde gebruiker van nu met die van een gebruiker 25 jaar geleden.

In de jaren ‘90 had je vaardigheden en verbeelding nodig om een eigen homepage te hebben. Waar ga ik mijn pagina mee vullen? Hoe gaat hij eruit zien? Wat gaat het adres zijn? Hoe krijg ik geanimeerde gifs zover dat ze door het scherm bewegen? Je had tenminste een basis begrip van html nodig. Tegenwoordig ziet je persoonlijke ruimte op het internet er zo uit.

Je Facebook profiel is voorzien van een vakje waarin je mag typen en er zijn een paar plaatsen bestemd voor afbeeldingen, in een gespecificeerd bestandstype en formaat. We kunnen reageren, of liever nog kiezen uit een set vooraf bepaalde emoties. Facebook heeft het zeker makkelijker voor ons gemaakt om een “persoonlijke” ruimte te maken en beheren, maar we hebben er geen vaardigheden of verbeelding voor nodig. Ja, Facebook is erin geslaagd de aandacht van verschrikkelijk veel gebruikers te vangen, maar hoeveel van hen voelen zich daadwerkelijk betrokken bij hun account? Vaker en vaker spreekt men erover als een noodzakelijk kwaad.

Onze platformen schieten te kort

Door hoe onze communicatieplatformen ontworpen zijn, is er een levendige handel in likes en volgers ontstaan. Iets in de manier waarop onze platformen ontworpen zijn, leidt ertoe dat mensen dagenlang discussiëren met Twitterbots. Het draagt eraan bij dat Sylvana Simons"20 Are Convicted for Sexist and Racist Abuse of Dutch Politician" onophoudelijk aangevallen en bedreigd wordt. Het maakt het mogelijk voor Zoe Quinns"Zoe Quinn: after Gamergate, don't 'cede the internet to whoever screams the loudest'" ex-vriend om zijn woede over gedumpt te zijn af te reageren en een massa boze witte mannen te mobiliseren om haar leven te ruïneren. Iets in de manier waarop onze platformen ontworpen zijn maakt het mogelijk dat Steve Bannon diezelfde kudde boze mannen"What Gamergate should have taught us about the 'alt-right'" optrommelt, en hun woede aanwendt voor het steunen van Donald Trumps presidentscampagne. Het ontwerp van onze communicatieplatforms is niet de oorzaak van deze kwesties, maar het versterkt bestaande -oneerlijke- machtsverhoudingen. Het verandert ons in toeschouwers, en mishandeling in een schouwspel.Flavia Dzodan omschrijft dit als een "theatre of cruelty”.Het resulteert in hate speech.

Vechten tegen hate speech

Terug naar dit onderwerp. Het debat over hoe om te gaan met schadelijke content online richt zich over het algemeen op twee argumenten, of oplossingen zo je wilt. De eerste is contentmoderatie, of het controleren van content, de tweede is counter speech, of tegenspraak.

Contentmoderatie

De relatie tussen overheden en de grote netwerkplatformen is ingewikkeld. Je mening over hoe deze platformen zouden moeten opereren en of ze zouden moeten worden gereguleerd hangt onder andere af van of je vindt dat een platform als Facebook of YouTube onderdeel is van het open internet of dat je ze gesloten, private ruimtes vindt. De waarheid ligt, natuurlijk, in het midden. Het zijn private ruimtes die gebruikt worden als publieke ruimtes en ze worden almaar groter en machtiger.

Geconfronteerd met deze situatie, en omdat ze willen voorkomen dat het lijkt of ze niets doen om schadelijke content tegen te gaan, dwingen overheden platforms om iets te doen - en gaan daarmee hun eigen verantwoordelijkheid uit de weg. Het outsourcen van publieke verantwoordelijkheid aan private ondernemingen - en de bijkomende vaagheid over wat deze verantwoordelijkheid inhoudt - is voor ontelbare redenen een slecht idee. Hier zijn vier van de belangrijkste redenen.

Om te voorkomen dat het lijkt of ze niets doen om schadelijke content tegen te gaan, dwingen overheden platforms om iets te doen – en gaan daarmee hun eigen verantwoordelijkheid uit de weg.

1. Platformen zullen over-censureren

Ten eerste moedigt het platformen aan om te voorzichtig te zijn (wettelijk en politiek) als het gaat over het materiaal dat gebruikers uploaden. Dat betekent dat ze het bereik van hun gebruiksvoorwaarden uit zullen breiden zodat ze elke content of elk account voor elke reden kunnen verwijderen. Dit zal zonder twijfel soms platforms helpen om materiaal te verwijderen die niet online zou mogen zijn. Maar het heeft ook al geleid tot het verwijderen van veel materiaal dat elk recht had om online te staan. Een recent voorbeeld van zo’n fout is het verwijderen van duizenden video's"YouTube Removes Videos Showing Atrocities in Syria" s van oorlogsmisdaden in Syrië door YouTube.

2. Multinationals beslissen wat goed en fout is

Ten tweede zal het reguleren van je vrijheid van meningsuiting door Amerikaanse multinationals ertoe leiden, als niet nu dan in de toekomst, dat niets wat je zegt zal worden toegestaan tenzij het binnen de grenzen van Amerikaanse moraliteit valt, of tenzij het de zakelijke belangen van Amerikaanse bedrijven helpt. Een andere mogelijke uitkomst: als Facebook ervoor kiest om mee te werken aan eisen van individuele landen - en waarom zouden ze niet? - zou het resultaat ook kunnen zijn dat alleen die stukken informatie worden toegestaan die acceptabel zijn voor elk van die landen.

We hebben al voorbeelden gezien van hoe dit zal gaan. Eerder dit jaar viel het de Britse vlogger Rowan Ellis op dat LGBTQ+-gerelateerde inhoud niet voorkwam in de “Restricted Mode” van YouTube. Dit leidde tot de opmerking van Ellis dat "er ergens in dat proces een vooroordeel zit dat LGBTQ+ gelijk stelt aan 'niet voor het hele gezin'.""YouTube's Restricted Mode Is Hiding Some LGBT Content [Update]"

Dit zijn geen ongelukjes. Ze zijn het resultaat van hoe deze systemen zijn ontworpen en door wie ze zijn ontworpen. Het is het resultaat van toenemende druk op platformen om iets te doen, hoe verkeerd dat iets ook moge zijn.

Dit zijn geen ongelukjes. Ze zijn het resultaat van hoe deze systemen zijn ontworpen en door wie ze zijn ontworpen. Het is het resultaat van toenemende druk op platformen om iets te doen, hoe verkeerd dat iets ook moge zijn.

3. Geprivatiseerde wetshandhaving zal echte wetshandhaving vervangen

Ten derde, het laten verwijderen van content door bedrijven is een vorm van geprivatiseerde wetshandhaving waarbij er nul sprake is van handhaving van de daadwerkelijke wet. Door dit te doen omzeil je het rechtssysteem en worden mensen die eigenlijk voor de rechter zouden moeten verschijnen, nooit berecht. Mensen wiens content ten onrechte wordt verwijderd hebben heel weinig manieren om zich hiertegen te verzetten.

4. We zullen kwetsbaarder worden

Tenslotte normaliseert dit een situatie waarin bedrijven ons kunnen reguleren op manieren waar overheden dit wettelijk niet kunnen, omdat bedrijven niet gebonden (of gehinderd) zijn door internationale wetgeving of nationale grondwetten.

Om het zachtjes te zeggen is deze oplossing nu, en hoogstwaarschijnlijk ook in de toekomst niet, geen doorslaand succes. Laten we kijken naar het andere voorstel, counter speech.

Counter speech

Dit argument komt neer op het geloof dat vrijheid van meningsuiting de oplossing is voor hate speech. We kunnen geen functionerende democratie hebben zonder vrijheid van meningsuiting, maar dit argument negeert de onderliggende onbalans in sociale macht, het systematische seksisme en racisme dat onze media, onze software en onze ideeën informeert.

Een voorbeeld. In 2015 publiceerde Breitbart een artikel waarin het Anita Sarkeesian en Zoë Quinn bekritiseerde voor het spreken op een evenement van de Verenigde Naties over online geweld tegen vrouwen. Breitbart schreef:

“Feministen proberen geweld en intimidatie te herdefiniëren zodat ook onwelwillende tweets en kritiek op hun werk eronder vallen. [...] Met andere woorden: iemand zei “you suck” tegen Anita Sarkeesian en nu moeten we het internet censureren. Wie zou zoiets hebben kunnen voorspellen? Het is het waard op te merken dat als Sarkeesians definitie klopt, Donald Trump het belangrijkste slachtoffer van cyber-geweld van de wereld is. Iemand zou hem dat moeten laten weten.”

Er gebeuren hier twee interessante dingen. Ten eerste zegt de schrijver dat wat deze vrouwen overkomt niet beschouwd zou moeten worden als geweld of intimidatie. Laten we een blik werpen op het soort tweets die Breitbart “onwelwillend” noemt. Hier zijn een paar van de 157 berichten die Sarkeesian in één week ontving op Twitter.

Gevonden op: “One Week of Harassment on Twitter“.

Anita Sarkeesian is een mediacriticus en blogger die in 2012 bekend werd om haar YouTube serie “Tropes vs. Women in Video Games”, waarin ze onderzoekt welke tropen er gebruikt worden in hoe vrouwelijke videogame personages worden neergezet. Hiervoor ontving ze verkrachtings- en doodsbedreigingen, haar accounts werden gehackt, haar persoonlijke informatie werd online gezet, haar Wikipedia pagina werd gevandaliseerd met racistische teksten en seksuele plaatjes, ze ontving tekeningen waarop ze verkracht werd, plekken waar ze zou spreken kregen bommeldingen, en één bijzonder creatieve man maakte een videospel genaamd “Beat Up Anita Sarkeesian”. Kan dat echt worden teruggebracht tot "someone saying 'you suck'"? Nee.

En dat komt gedeeltelijk door het tweede wat opvalt aan dit citaat, namelijk dat de schrijver het cyber geweld gericht op Anita Sarkeesian gelijk stelt aan het cyber geweld gericht op Donald Trump. Ik ben er zeker van dat Donald Trump flink wat gemene, of “onwelwillende”, tweets ontvangt, en we hebben het bewijs gezien dat Twitter hem ‘s nachts wakker houdt. Maar Donald Trump is een machtige, rijke, witte man. Hij bevindt zich in een positie waarin hij intimidatie simpelweg van zich af kan schudden, of het kan laten verdwijnen. Wanneer het gericht is op iemand als Sarkeesian, die geen machtige, rijke, witte man is, kan cyber geweld daadwerkelijk het leven tot stilstand brengen.

Niet alle stemmen zijn gelijk

Zoals Bruce Schneier"Power and the Internet" het mooi zei: “[Technologie] vergroot macht in beide richtingen. Toen de machtelozen het Internet vonden hadden ze plotseling macht. Maar [...] uiteindelijk zagen ook de machtige reuzen het potentieel - en zij hebben meer macht om te vergroten.” We moeten erkennen dat zolang er structurele onbalans is in een gemeenschap niet alle stemmen gelijk zijn. En totdat ze gelijk zijn gaat tegenspraak nooit een oplossing zijn voor haatdragende taal. Dus ook deze oplossing zal tekort schieten.

Waarom design ertoe doet

Wat ons terugbrengt naar design. Net als dat het internet niet verantwoordelijk is voor haatdragende taal moeten we niet naar design kijken om het op te lossen. Maar design kan wel helpen bij het verzachten van de meer schadelijke effecten van onze communicatieplatformen.

Design beïnvloedt gedrag

Twee dingen over design. Ten eerste beïnvloedt design gedrag. Dit weten we. Je kan de invloed van design voelen in elk product en elke dienst die je gebruikt. Wie voelt er niet een golf van opwinding bij het tegenkomen van zoiets?

Design is politiek

Ten tweede: design is altijd politiek. Neem Parijs. In 1853 gaf Napoleon de opdracht aan Baron Haussman om een nieuwe stad voor hem te bouwen. Wat Haussmann creëerde was het nu iconische stadsplan met zijn weidse boulevards en prachtige zichtlijnen. Hij liet een uitstekend rioolsysteem aanleggen dat levens drastisch verbeterde. Maar hij sloopte ook 12.000 gebouwen, wat veel van de armste bewoners uit hun huizen dwong. Het nieuwe ontwerp van de stad diende sommigen meer dan anderen.

Champs Élysées, Parijs door Ian Abbott

Dichterbij, in Nederland, reflecteren stadsplanning en ontwerpen van huizen uit de jaren ‘50 de naoorlogse idealen van totale transparantie.

J. Versnel, Modelwoning Slotermeer. Uit: Roel Griffioen, “Het glazen huis: Privacy en openbaarheid in de vroegnaoorlogse stad”, Tijdschrift Kunstlicht.

Ik kwam op nog een voorbeeld toen Rihanna haar lijn van cosmetica lanceerde, Fenty Beauty. Het schudde de grote cosmeticabedrijven wakker omdat het de aandacht richtte op het feit dat ze, over het algemeen, producten maken voor een erg kleine groep mensen.

Dan is er ook nog, natuurlijk, onze favoriete nieuwe taal: emoji. Het Unicode Consortium is een groep mensen die ervoor zorgt dat als jij een letter indrukt op je toetsenbord iedere computer in de wereld weet welk karakter hij moet laten zien op het scherm. Ze doen dit ook voor emoji. Daarnaast beslissen zij welke emoji toegevoegd worden aan het emoji-alfabet en welke niet. Kijkend naar de beschikbare emoji, besloot ontwerper Mantas Rimkus dat geen ervan hem hielp zijn betrokkenheid bij de actualiteit uit te drukken. Hij startte het project "demoji"Demoji is een open platform voor alternatieve emoji., wat als doel heeft de complexiteit van onze wereld uit te drukken in emoji. Kunstenaar en onderzoeker Lilian Stolk vraagt aan kinderen om de emoji te ontwerpen die zij toe zouden willen voegen aan het emoji-alfabet en maakt ze vervolgens beschikbaar door middel van sticker appsMore Moji in de App Store. Een van de resultaten:

Hijab emoji, het resultaat van een workshop op een middelbare school in Amsterdam. tearsofjoy.nl.

Vernuftig ontwerp zou onze platformen kunnen redden

Er is een recent voorbeeld wat het belang van ontwerp laat zien voor onze platformen. In 2015 werd Coraline Ada Ehmke, een programmeur, schrijver en activist, benaderd door GitHub om aan te sluiten bij hun Community & Safety team. Dit team had de taak om "GitHub veiliger te maken voor gemarginaliseerde groepen en functionaliteit te creëren zodat producteigenaren beter hun communities konden beheren."De voorbeelden komen uit Ehmke's artikel "Antisocial Coding: My Year at Github". Ehmke accepteerde het aanbod.

Ehmke had zelf op GitHub intimidatie ervaren. Een paar jaar geleden maakte iemand een stel repositories en gaf ze allen racistische namen. Deze persoon voegde vervolgens Ehmke toe als medewerker aan deze repositories, zodat deze racistische namen van de repositories te zien zouden zijn als je naar haar gebruikerspagina ging.

Een paar maanden na haar aantreden leverde Ehmke een feature op genaamd “repository uitnodigingen”: project uitnodigingen. Dit betekent simpelweg dat je niet iemand kunt toevoegen aan een project waar je aan werkt zonder hun toestemming. De intimidatie die zij had ervaren zou niemand anders meer overkomen. In plaats van de onzin weg te filteren of door een vervelend en waarschijnlijk nutteloos proces te gaan om de onzin te laten verwijderen, gaf Ehmke de gebruiker zelf de controle over haar eigen ruimte, en creëerde daarmee een situatie waarin de onzin nooit de kans krijgt om te materialiseren.

In plaats van de onzin weg te filteren of door een vervelend en waarschijnlijk nutteloos proces te gaan om de onzin te laten verwijderen, gaf Ehmke de gebruiker zelf de controle over haar eigen ruimte, en creëerde daarmee een situatie waarin de onzin nooit de kans krijgt om te materialiseren.

Ehmke voegde ook de functionaliteit “eerste bijdrage” toe, een kleine badge die een projectleider ziet naast de naam van een nieuwe bijdrager aan dat project. Het idee was dat het de projectleider zou aanmoedigen om extra vriendelijk te zijn tegen die persoon. De laatste functionaliteit waar ze aan werkte was een eenvoudige manier om een gedragscode aan je project toe te voegen. Best cool.

We moeten het beter doen

In ongeveer 9 weken tijd ontving Zoë Quinn 10.400 tweets met betrekking tot GamerGate. Dat is 7 tweets per uur, 24 uur per dag, 9 weken lang. Het waren geen aanmoedigende tweets. Hoewel vrouwen vaker intimidatie tegenkomen online is vrouwenhaat niet het enige probleem. Onze communicatieplatformen zijn vervuild met racisme, aanzetting tot haat, terroristische propaganda en Twitter-bot legers. We moeten hier iets aan doen.

Het hernoemen van “censuur” naar “contentmoderatie” en een handvol miljardenbedrijven de leiding geven is geen geweldig idee als we nog een toekomst willen waarin we enige vrijheid genieten.

De manieren waarop we hier mee omgaan zijn gewoonweg niet goed genoeg. Het hernoemen van “censuur” naar “contentmoderatie” en een handvol miljardenbedrijven de leiding geven is geen geweldig idee als we nog een toekomst willen waarin we enige vrijheid genieten. Vasthouden aan het naïeve idee dat het internet gelijke kansen geeft aan alle stemmen werkt ook niet. Wat we moeten doen is het internet open houden, onze vrijheid van meningsuiting veilig stellen en gebruikers beschermen. Ehmke heeft laten zien dat ontwerp kan helpen.

Wat jij kan doen

De volgende keer dat je voet zet op het internet: wees je bewust van de manieren waarop platformen je gedrag beïnvloeden. Stel overal vragen bij. Vraag voor wie een functie werkt en voor wie niet. Vraag wat voor soort gebruiker de ontwerper van een product graag wilt dat je bent. Wat verstopt het interface?

Als je een activist bent: laat het succes van je werk niet afhankelijk zijn van deze platformen. Laat het niet gebeuren dat Facebook, Google en Twitter poortwachter worden tussen jou en de leden van je gemeenschap, en sta niet toe dat je vrijheid van meningsuiting een regeltje wordt in een 10.000 woorden tellende “overeenkomst”. Wees net zo kritisch op de technologieGa naar toolbox.bof.nl voor alternatieve diensten of bezoek een Privacy Café bij jou in de buurt. die je gebruikt om je zaak vooruit te helpen als dat je bent op de mensen, lobbyisten, instituten, bedrijven en overheden waar je tegen vecht. De technologie die je gebruikt doet er toe.

Laat Facebook, Google en Twitter niet de poortwachter worden tussen jou en de leden van je gemeenschap, en sta niet toe dat je vrijheid van meningsuiting een regeltje wordt in een 10.000 woorden tellende “overeenkomst”.

Tenslotte, als je een ontwerper bent: wees je bewust van hoe je culturele en politieke voorkeuren je werk vormgeven. Bouw producten die betrokkenheid stimuleren in plaats van aandacht oogsten. Wees niet bang voor wrijving. En als je ideeën hebt hoe ontwerp kan helpen het internet te redden, laat van je horen.

  1. Hans Bezemer

    Dit artikel gaat van twee foute premisses uit. Ten eerste, dat er een bepaald standpunt is, dat je blijkbaar zou moeten hebben, omdat geen enkel ander standpunt mogelijk is. De rest wordt afgewezen met allerlei labels, die inmiddels zo vaak gebruikt zijn, dat ze hun werking inmiddels beginnen te verliezen. Ten tweede het geloof, dat er instrumenten mogelijk zijn om een niet-toegelaten mening om te zetten naar een wel toegelaten mening. Zoals gezegd, beide zijn gebaseerd op foute premisses.

    Er zijn instituties in de USA, die burgerrechten verdedigen door juridische steun te verlenen. Een van die instituties verdedigde de burgerrechten van de KKK. Niet zozeer omdat deze instantie achter de standpunten stond, maar omdat hij handels volgens het motto van Voltaire “Ik vind uw standpunt walgelijk, mar ik zal uw recht om het te verkondigen tot de dood verdedigen”.

    Ideeen leven in mensen – en er is geen “universeel” standpunt dat iedereen zou moeten hebben omdat al het andere onbestaanbaar, onverdedigbaar of onhoudbaar is. Het gaat altijd om het afwegen van belangen. Daarom hebben we de vrijheid van meningsuiting.

    Van mij mogen salafisten beweren, dat homo’s van daken gegooid mogen worden, christenen, dat vooral vrouwen huismoeders moeten zijn, feministen, dat mannen een stap terug moeten doen, SJW, dat alle leed in de wereld te wijten is aan oude, witte mannen en nazi’s dat er geen holocaust heeft plaats gevonden. Zolang “ik vind” maar niet ontaardt in “ik ga”, want dan hebben we het over bedreiging en dat is van een heel andere orde.

    Al die ideeen zijn gegrond in argumenten. Sommige wat sterker, andere wat minder en een enkele alleen op een waandenkbeeld. En ja, dialoog en discussie is dan de enige mogelijkheid.

    Dat het Internet daar het platform van uitstek voor is, moge evident zijn. Derhalve hoort censuur er ook niet thuis. Bedreigingen horen gewoon bij de rechter thuis – en die hoort er dan (zonder aanziens des persoons) ook iets mee te doen.

    De argumenten, die ten grondslag liggen aan die standpunten verdwijnen dan ook niet door enig ander instrument dan overtuiging. Vormgeving, forget it. Vormgeving zal een nazi niet doen geloven, dat de holocaust heeft plaatsgevonden. Vormgeving zal een gelovige niet van zijn geloof afbrengen. Vormgeving zal een socialist niet bekeren tot het kapitalisme of omgekeerd, een vuile kapitalist ertoe bewegen zijn Maserati te verkopen om de opbrengsten aan de voedselbank te geven.

    Ik neem aan, dat er nogal wat mankeert aan de vormgeving van deze pagina, want ik vond het (om genoemde redenen) een onsamenhangend stuk, dat niet op BOF thuishoort.

  2. Evelyn Austin

    Beste Hans,

    Dank voor je uitgebreide reactie. De premisses die je in het stuk leest, staan er echter niet in.

    Ten eerste: het stuk heeft het over hate speech, dus haatzaaien, iets wat strafbaar is en niet “gedekt” wordt door de vrijheid van meningsuiting. Je herhaalt in je reactie het argument waarover we in het artikel juist zeggen dat het ontoereikend is. Dat laat voor mij zien hoe “diep” dit argument bij sommige mensen geworteld zit. Vrijheid van meningsuiting is niet absoluut. Als je niet bekend bent met de voorbeelden die ik in het stuk geef, misschien kun je beginnen met lezen over de bedreigingen die Sylvana Simons heeft gekregen en wat de rechter daarvan vond. Zie: http://www.at5.nl/artikelen/169144/werkstraffen-en-boetes-voor-bedreigers-en-beledigers-sylvana

    Je andere punt: net als jij, geeft het artikel aan dat censuur niet een oplossing is. Onder andere vanwege wat je zelf ook aanhaalt: bedreigingen horen bij de rechter thuis, niet bij een slechtbetaalde contentmoderator van Facebook die 5 seconden heeft om een beslissing te maken over of er sprake is van een “ongewenste” mening (die online hoort te blijven) of van haatzaaien (wat voor de rechter hoort). Zie ook dit stuk: https://www.bof.nl/2018/05/17/facebooks-digitale-sweatshops-in-lage-lonenlanden/

    Tot slot: nergens zeggen we dat vormgeving ingezet kan of moet worden om de meningen van mensen bij te stellen. Het artikel zegt dat je door middel van vormgeving invloed kunt hebben op het gedrag van mensen en specifieker nog de interacties tussen mensen onderling. Dus niet de “ik vind” maar de “ik ga”. De voorbeelden van Ehmke zijn, vind ik zelf, daar mooie voorbeelden van, omdat niemand in zijn/haar vrijheid wordt beperkt. Mooi toch?

    Groeten,
    Evelyn

    Ps. Overigens vind ik de standpunten “homo’s moeten van daken gegooid worden” en “mannen moeten een stap terug doen” wel van een vrij andere orde. Maar daar ben jij ’t vast ook mee eens 🙂

    • Erik

      Ik ben het roerend eens met Hans Bezemer hierboven. Daarnaast ben ik van mening dat BOF geen platform moeten geven aan iemand die ruimte over communicatievrijheid wil gebruiken om racistische insinuaties over ‘boze witte mannen’ te maken. Om het nog niet eens te hebben over overduidelijke leugens als ‘Trump is machtig dus kan hate-speech wel laten verdwijnen’.

      Vrijheid van meningsuiting en communicatie zijn voor mij absolute waarden. De term ‘hate speech’ is een signaal voor censuur in de VS, waar het heel anders wordt gebruikt dan ‘haatzaaien’ in het Nederlandse strafrecht. En dat legt direct het probleem met dergelijke termen bloot: Ze bieden ruimte aan arbitraire onderdrukking van de vrije uitwisseling van gedachten. Je noemt ‘counter speech’ ontoereikend vanwege een (al dan niet bestaande) machtsonbalans maar gaat daarbij volledig voorbij aan alle maatschappelijke veranderingen die ondanks zulke onbalans tot stand zijn gekomen. Juist door de informatie-uitwisseling vrij te maken bevrijdt je dat soort bewegingen. Twitterbots en biased mediaconcerns kunnen de discussie dan vervuilen, maar nooit tot stilstand brengen. Vrijheid om ideeën uit te wisselen moet absoluut zijn, om ieder idee zo vaak mogelijk uit te dagen en de waarheid over te houden. (Lees John Stuart Mill, On Liberty voor de complete redenering die ik hier volg)

      Jij valt direct weer in een voorbeeld van bedreiging. Dat is inderdaad verboden. Dat is geen mening, zoals Hans ook al benadrukt. Ik ben bekend met de voorbeelden, terechte veroordelingen in sommige gevallen, hopelijk een paar gekkies minder.

      Die contentmoderator zou maar één knop moeten hebben: Aangifte voor bedreiging. Dan is lukrake censuur niet meer aan de orde, want het doen van valse aangifte is strafbaar. Verder zou iedere verwijdering/moderatie openbaar zichtbaar moeten zijn zodat communities hun platformen ook echt kunnen controleren.

      • Evelyn Austin

        Beste Erik,

        Dank voor je uitgebreide reactie.

        Vrijheid van meningsuiting mag voor jou een absolute waarde zijn, het is geen absoluut recht.

        Nergens heeft het artikel het over meningen en al helemaal niet over goede en slechte. De voorbeelden die in het artikel worden aangehaald, zijn voorbeelden van haatzaaien en bedreiging. Volgens mij zijn we ’t er allebei over eens dat die voor de rechter horen te komen en niet door een contentmoderator moeten worden weggepoetst. Wie haat zaait of anderen bedreigt, en zich dan beroept op zijn of haar vrijheid van meningsuiting, is een vijand van die vrijheid, geen medestander.

        En over het bestaan van machtsonbalansen in de samenleving… Ik hoop toch dat we daar geen discussie over hoeven voeren.

        Groeten,
        Evelyn

  3. Michael

    Waarom wordt dit stuk in vredesnaam gepubliceerd? Niet alleen slaat de schrijfster hier flink de plank mis en is het stuk bijzonder VS-gericht, het is ook een heel politiek-polariserend stuk welke juist voor een groep zoals BOF bijzonder ontoepasselijk is.

    Mag hopen dat BOF niet vaker dit soort acties uithaalt.

    • Evelyn

      Beste Michael,

      Dank je wel voor je reactie!

      Waar vind je dat de plank wordt misgeslagen?

      Contentmoderatie is een verschrikkelijk belangrijk en urgent onderwerp: in de EU zijn verschillende wetten in voorbereiding die allemaal tot doel hebben internetbedrijven meer regie te geven over onze vrijheid van meningsuiting. Dat overstijgt links en rechts, want gaat over de uitingsvrijheid van elke internetter. We hopen de komende tijd daarom ook meer aandacht aan dit onderwerp te besteden.

      Groeten,
      Evelyn

  4. Pieter

    Ik vind dit een razend sterk stuk over een onderwerp dat veel meer aandacht verdient.

    Voor de criticasters: het is nogal gratuit om te zeggen dat je je geen zorgen maakt over racistische en seksistische uitingen als diezelfde uitingen jou en je identiteit niet raken. Systematische ongelijkheid bestaat, institutioneel racisme en seksisme worden bij uitstek langs digitale weg geëffectueerd.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.