Afbeelding gebaseerd op Ministerie van Veiligheid en Justitie Ministerie van Binnenlandse Zaken en Koninkrijksrelaties van Roel Wijnants (licentie: CC BY-NC 2.0)

Gesprek met ministers over big data in het veiligheidsdomein

Naar aanleiding van het WRR-rapport “Big Data in een vrije en veilige samenleving” nodigde de minister van Veiligheid en Justitie, Ard van der Steur ons uit om samen met een afvaardiging van verschillende partijen met hem en minister Stef Blok (in zijn eigen woorden “in zijn avatar van de minister van Binnenlandse Zaken”, Ronald Plasterk) te praten over big data-toepassingen bij de overheid. Afgelopen maandag waren we op bezoek bij de Haagse ‘Towers of Power’ om onze zorgen met ze te delen.

Ter voorbereiding schreven we een brief met onze punten van zorg (zie hieronder een opsomming van die punten) Zo wordt een belangrijke eerste vraag niet beantwoord: Is er een harde noodzaak om big data in te zetten, zijn er geen andere, minder vergaande mogelijkheden? De inzet van big data wordt nu als een gegeven gepresenteerd, terwijl de bescherming van onze data bestaat om onze privacy en autonomie te waarborgen. Er is geen reden om big data ineens als een uitzondering te beschouwen, waarvoor die zorgvuldig opgebouwde bescherming ineens uit het raam zou moeten worden gegooid. Die bescherming zit bijvoorbeeld in het uitgangspunt van doelbinding. Dat wordt bij big data losgelaten, omdat jouw gegevens voor het ene doel zijn verzameld en ze vervolgens voor een ander, mogelijk onverenigbaar, doel worden gebruikt.

Wij zaten aan tafel met Thomas Bruning (Nederlandse Vereniging voor Journalisten – NVJ), Brendan Newitt (Nederlandse Vereniging voor Strafrechtadvocaten – NVSA), Jelle Klaas (PILP/NJCM – Nederlands Juristen Comité voor de Mensenrechten), Alexander Blom (Internet Society Nederland – ISOC), Vincent Böhre (Privacy First), Jaap-Henk Hoepman (Wetenschappelijk directeur Privacy & Identity Lab en Universitair hoofddocent computersecurity, privacy en identitymanagement aan de Radboud Universiteit) en Hans de Zwart en ikzelf van Bits of Freedom.

In het open gesprek dat we voerden zijn de meeste van onze punten kort aan de orde gekomen. De bewindslieden twijfelen echter niet over nut en noodzaak van de inzet van big data. Van der Steur maakte glashelder dat de inzet van big data wat betreft het kabinet sowieso gaat plaatsvinden. Wel willen ze dat zorgvuldig inrichten. Hij wil bijvoorbeeld de kans op false positives zo klein mogelijk maken, een specifieke inzet van de toepassingen en de controleerbaarheid vergroten door transparantie van algoritmes. Meer zal blijken uit de officiële kabinetsreactie op het rapport, die we in het najaar kunnen verwachten. We zullen dat kritisch blijven volgen en jullie op de hoogte houden van de ontwikkelingen.

Onze belangrijkste punten van zorg:

  • Ongerichte surveillance en gebrek aan doelbinding – belangrijke uitgangspunten van de rechtsstaat worden hierdoor losgelaten.
  • Ontbreken van noodzaak – de overheid kan door de ontwikkeling van technologische mogelijkheden niet ontslagen worden van haar plicht tot het aantonen van de noodzaak van iedere inbreuk op de privacy van de burger.
  • Schadelijke effecten binnen een democratische rechtsstaat:
    • Vrije meningsuiting en zelfcensuur – burgers passen vaker zelfcensuur toe en de controlerende rol van de media op de staat komt in het geding.
    • Verstoring relatie tussen overheid en burger – door de toenemende asymmetrie in de informatiepositie van de overheid aan de ene kant en burgers aan de anderen kant. Versterking van de civielrechtelijke algemeen-belangactie onder artikel 3:305a BW en introductie van de mogelijkheid van rechterlijke toetsing aan de Grondwet.
    • Individuele rechtsbescherming in het gedrang – de burger zal straks moeten bewijzen ten onrechte met een profiel te zijn geassocieerd, in plaats van omgekeerd.
    • Vals positieven – juist in de publieke context zijn vals positieven maatschappelijk slecht te legitimeren.
    • Institutionele vooroordelen – datasets worden samengesteld door mensen met hun menselijke vooringenomenheid. In machine learning omgevingen met de bijbehorende feedback loops, worden discriminatieproblemen cumulatief versterkt.
    • Vertrouwen in digitale communicatie wordt aangetast – als burgers de digitale infrastructuur niet meer kunnen vertrouwen, richt dat maatschappelijke schade aan.

6 reacties

laat een bericht achter

Jaap Vegter schreef:

Nog een “kleinigheid”: De titel van het WRR rapport is “‘Big Data in een vrije en veilige samenleving”. Het rapport toont aan dat het twijfelachtig is of de samenleving veiliger wordt terwijl zeker is dat ze minder vrij wordt. De titel stuurt de gedachten in een richting die door de inhoud niet ondersteund wordt.

Jaap Vegter schreef:

Het rapport van de WRR maakt zonneklaar dat Big Data-analyse alleen kan als als van het doelbindings-beginsel wordt afgestapt. De huidige wet zal buiten werking moeten worden gesteld voordat Van der Steur glashelder kan maken dat de inzet van big data wat betreft het kabinet sowieso gaat plaatsvinden. Overweeg daarbij dat het rapport stelt dat Big Data-analyse ter voorkoming van aanslagen niet bruikbaar is omdat daarin geen vast terugkerende patronen zijn terwijl daar, bij opsporing, doelbinding niet vereist is. Mijn conclusie is dan ook dat Big Data-analyse niet mag waar het kan (wegens vereiste doelbinding) en niet kan waar het mag (wegens het ontbreken van patronen).

Verder wil Van der Steur de kans op false positives zo klein mogelijk maken en een specifieke inzet van de toepassingen en de controleerbaarheid vergroten door transparantie van algoritmes. Hij gaat voorbij aan het gegeven dat die algoritmes in de regel niet bekend zullen zijn omdat ze (begrijpelijk) onder de bedrijfsgeheimen van de leveranciers vallen. De kans op false positives zo klein mogelijk houden is een voorbeeld van wensdenken. Een eenvoudig voorbeeld laat zien waarom. Stel dat van 100.000 mensen gegevens worden doorzocht om potentiële terroristen te vinden. Bij een foutmarge van 5% (uitzonderlijk goed) worden 5000 mensen verdachten. Laten we hopen dat de 10 vermoedelijke terroristen onder die 5000 zijn, dan worden 4990 mensen ten onrechte lastig gevallen, ondervraagd en mogelijk gearresteerd.

Tenslotte, was het niet Aristoteles die al waarschuwde: Als een overheid alles weet (of wil weten) over haar inwoners en inwoners weten weinig over de overheid(sinstellingen) dan zien we een tirannie. Als inwoners alles weten over de overheid en de overheid (bijna) niets over haar inwoners, dan hebben we pas echt een democratie.

M schreef:

Belangrijk punt van zorg is wat mij betreft ook het gebrek aan transparantie. Als je het doet, laat dan ook zie welke data je gebruikt en voor welk doel (informatieplicht). In de wet is geen enkele plicht voor de overheid neergelegd om big data toe te passen (mn in het veiligheidsdomein), alleen ‘de publiekrechtelijke taak’ is een mogelijke grondslag. Deze is naar mijn mening dusdanig vaag dat de informatieplicht uit de wbp niet komt te vervallen.

Peter (vanaf nu Peter1984) schreef:

Bedankt voor de terugkoppeling. Het klinkt helaas alsof er weinig met de input gaat gebeuren. Jammer dat de noodzaak (zeer goed opgenomen in jullie brief zoals al eerder aangegeven) niet meer een vereiste is tegenwoordig. Het lijkt er allemaal om te gaan wat technisch mogelijk is, de rest is lastig. Dit ‘techno-optimisme’ bij de overheid zien we helaas wel vaker onterecht. Ik ben wel benieuwd of er aangegeven is (onderbouwd) waarom er geen twijfel is m.b.t. deze noodzaak. Of is dat alleen gesteld?

N.B. Ik zie dat er meerdere mensen de nickname ‘Peter’ gebruiken’, ik heb daarom die van mij aangepast.

Peter schreef:

Jullie zouden ook een gesprek moeten hebben met de hoofdredactie van het NRC, want die is tegen end-to-end encryptie. Lees het redactioneel commentaar er maar eens op na.

https://www.nrc.nl/nieuws/2016/08/25/ook-encryptie-heeft-grenzen-4002012-a1517915

Klaske schreef:

Het lijkt er inderdaad op dat de NRC-redactie de privacy van een hele bevolking wil opgeven in de hoop daarmee enkele criminelen te kunnen achterhalen. Dat vind ik nou naïef. Alsof criminaliteit daardoor zal verminderen. Bovendien houden massa surveillance en big data heel wat meer in dan berichtgeving sec. Er is straks zoveel mogelijk met die data, dat er wel degelijk een reden is om bezorgd te zijn. De gretigheid van overheden en bedrijven om zoveel mogelijk gegevens van burgers te hebben en de wens om die burgers te manipuleren vind ik onthutsend. Homo homini lupus….., dat blijkt weer eens en dat is puur realisme.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

WORD DONATEUR

Zoek in blog

MEEST GELEZEN

  1. Memes met uitsterven bedreigd
    24 maart 2017 / 12:00
  2. In vier klikken naar meer privacy binnen Facebook
    7 april 2017 / 13:29
  3. De dilemma's van digitalisering - 3/3
    23 maart 2017 / 18:22
  4. Stop de censuurmachine!
    27 maart 2017 / 08:02
  5. Het sleepnet: wat speelt er nu?
    31 maart 2017 / 16:58