Grip op profilering

Grip op profilering

Sleepnet voor geheime diensten

Gegevens verzamelen om je gedrag te verzamelen

Met alles wat we doen, laten we een spoor van gegevens achter. Het zijn niet langer alleen de usual suspects, zoals Google en Facebook, die op grote schaal gegevens over je verzamelen, samenvoegen en analyseren. Inmiddels maken steeds meer partijen uit vrijwel alle sectoren én de overheid gebruik van soortgelijke methoden om een profiel van je te kunnen maken. Aan de hand daarvan wordt je gedrag voorspelt en beïnvloed. Dat verdient een kritische houding.

Consequenties

Niet meer in vrijheid keuzes maken
Bedrijven en overheidsinstanties verzamelen en analyseren veel gegevens over jou op basis van analyses daarvan profielen over jou te maken. Om je in een klein hokje te stoppen. Op basis van dat hokje krijg je dan een specifieke behandeling. Bijvoorbeeld door bepaalde opties wel of juist niet aan te bieden, informatie op een bepaalde manier te presenteren en uiteindelijk je gedrag te sturen. Dit ondermijnt je persoonlijke autonomie: de vrijheid om ongehinderd je gedachten te vormen en in vrijheid je eigen keuzes te maken, zonder dat je in een bepaalde richting gedwongen wordt.

Asymmetrie in macht
Terwijl jij meestal geen idee hebt welke bedrijven of overheidsinstanties wat van jou weten, beschikken zulke organisaties steeds vaker over een enorme berg gegevens over je gedrag. Soms omdat ze die gegevens zelf verzamelen en analyseren, soms omdat ze gebruik maken van daarop gebaseerde diensten. Omdat die organisaties zoveel over jou en je gedrag weten en daarop hun beslissing kunnen baseren, hebben zij een enorme macht. En het is niet dat je kunt kiezen: onze afhankelijkheid van digitale diensten neemt alleen maar toe. Je onttrekken betekent jezelf buiten onze sterk digitaliserende maatschappij plaatsen.

Gebrek aan transparantie
Jij wordt steeds transparanter voor bedrijven en overheidsinstanties. Tegelijkertijd opereren de bedrijven en overheidsinstanties juist steeds ondoorzichtiger. Er zijn inmiddels zoveel verschillende partijen, gegevensstromen en toegepaste technologieën dat de complexiteit hiervan voor de gemiddelde burger, maar ook voor veel professionals, niet meer is te overzien. Dat wordt ook versterkt doordat de bedrijven waarmee jij een relatie hebt, niet altijd de bedrijven zijn die handelen met gegevens over jou en je gedrag. We weten te weinig wat er achter de schermen gebeurt, welke belangen een rol spelen en wat de gevolgen voor individuen en de samenleving als geheel zijn. Die ondoorzichtigheid maakt het ook bijzonder moeilijk om bedrijven en overheidsinstanties hierover ter verantwoording te roepen.

In het verkeerde hokje gestopt
Wat de gegevens over jou en je gedrag nou eigenlijk precies betekenen, is altijd een interpretatie. De gegevens zijn dus niet meer dan een reductie van de werkelijkheid. Het verzamelen en analyseren van zulke gegevens is mensenwerk waarbij iemand beslissingen neemt. Ook in de processen waarmee de verzamelde gegevens worden gemaakt kunnen fouten, aannames en vooroordelen zitten. De gevolgen kunnen immens zijn: je krijgt een verkeerd label opgeplakt en daaropvolgende beslissingen zijn onterecht of ongepast. Maar toon dan maar eens aan dat je in het verkeerde hokje bent gestopt, of dat de beslissing gemaakt is op basis van de verkeerde gegevens, aannames, analyses of interpretatie. Dat is lastig door het gebrek aan transparantie. Dit probleem wordt versterkt door het enorme, maar onterechte, vertrouwen dat we hebben in zulke gegevens.

Uitsluiting en discriminatie
Zulke onjuiste analyses en beslissingen kunnen ertoe leiden dat je op individueel of groepsniveau anders wordt behandeld. Uitsluiting, oneerlijke behandeling en discriminatie liggen op de loer.

Waar zet Bits of Freedom op in?

Een ruimte waarin je niet gevolgd wordt
Bits of Freedom wil dat mensen actief kunnen zijn zonder dat hun gedrag voortdurend door anderen in kaart wordt gebracht, geanalyseerd of gestuurd. De overheid mag je nu gelukkig niet dwingen te accepteren dat jouw bezoek aan een overheidssite door derden wordt gevolgd. Wij vinden dat zo'n regel moet gelden voor álle diensten die betaald worden met belastinggeld én voor organisaties die een belangrijke rol in onze samenleving hebben, zoals ziekenhuizen, scholen, zorgverzekeraars, banken en internetproviders. Bits of Freedom maakt zich sterk om zo’n verbod in Europese regels vastgelegd te krijgen. En zou het ook niet mooi zijn dat als je betaald hebt voor een online dienst, je automatisch gevrijwaard bent van derden die je doen en laten volgen?

Zelf actie ondernemen
Jij moet het recht hebben om inzicht te krijgen in de gegevens die bedrijven en overheidsinstellingen over jou verzamelen en wat ze daarmee doen. Dat recht moet effectief zijn. We ontwikkelen daarom een nieuwe versie van de website die het Europese burgers makkelijker maakt om hun inzagerecht in te zetten. De wijze waarop bedrijven en overheidsinstellingen omgaan met zulke verzoeken brengen we in kaart. Op basis van de resultaten kunnen we bedrijven en overheidsinstellingen die jou en je recht negeren onder de aandacht brengen – zo nodig via een toezichthouder of de rechter.

Recht op uitleg bij beslissingen
Bits of Freedom wil dat voor jou helder is hoe bedrijven en overheidsinstellingen tot beslissingen over jou zijn gekomen, ook als deze beslissingen geautomatiseerd genomen worden. Je moet kunnen weten dát een beslissing is genomen, waar die beslissing op is gebaseerd en welke afwegingen zijn gemaakt. We knokken daarom voor een ruimte interpretatie van het recht op inzage. Daarnaast moet er een mechanisme zijn om zulke beslissingen aan te vechtenn.

De keerzijde voor het voetlicht
Al dan niet geautomatiseerde beslissingen die zijn gebaseerd op grote hoeveelheden gegevens kennen positieve toepassingen, maar de schaduwzijde wordt onvoldoende belicht. Bits of Freedom wil laten zien dat zulke beslissingen vaak fouten bevatten en kunnen leiden tot onterechte verdachtmakingen. Zulke foute beslissingen kunnen bovendien grote gevolgen hebben voor het betrokken individu of groepen burgers. Het vestigen van de aandacht op zulke onjuiste beslissingen en de impact ervan vormt een startpunt om deze negatieve effecten te adresseren, al dan niet met nieuwe beleid of regels.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.