San Francisco is de eerste stad in de Verenigde Staten - en de wereld - geworden die het gebruik van gezichtsherkenning door politie en andere gemeentediensten heeft verboden. Het Board of Supervisors van de stad heeft hiervoor de "Stop Secret Surveillance" verordening aangenomen. Een onverwachte ontwikkeling in het streven van overheden de privacy van haar burgers almaar verder in te dammen.
We lazen een paar dagen geleden op de site van het
Algemeen Dagblad
het volgende:
San Francisco, het technologisch innovatiecentrum van de wereld, doet
gezichtsherkenningsapparatuur in de ban. De stad verbiedt het gebruik
ervan door politie en overheid.
Het besluit (PDF
hier) van de stad San Francisco om het gebruik van AI-compatibele
gezichtsherkenningstechnologie door politie en andere gemeentelijke
instanties te verbieden, vinden we een goede zaak.
Gezichtsherkenningstechnologie is vatbaar voor verkeerde identificatie
en vooringenomen doelgerichtheid, met name onder leden van kwetsbare
gemeenschappen.
Het opent ook de deur naar intrusieve surveillance - buiten het bereik
van de bestaande technologie. Totdat de technologie verbetert om
dergelijke schade te voorkómen, moet het gebruik ervan sterk worden
beperkt. En zelfs met verbeteringen moet het publiek moeilijke vragen
stellen over hoe gedetailleerd overheden het gedrag van hun burgers (überhaupt)
moeten kunnen volgen.
Helaas laten de wereldwijde trends zien dat de beweging omgekeerd is
ten opzichte van de beslissing van San Francisco. Van Azerbeidzjan tot
Singapore, overal zijn overheden en organisaties/ondernemingen
enthousiast bezig met het omarmen van gezichtsherkenningstechnologie.
Aangevoerd door China worden dergelijke systemen steeds
alomtegenwoordiger. Gezichtsherkenning is opgenomen in smart
city-platforms. Over de hele aardbol plaatsen steden ze op openbare
lantaarnpalen en integreren ze in centra voor beveiligingsoperaties.
Hoewel er meer bekendheid is gegeven aan de Chinese surveillance-strategie
- met name de instelling van onderdrukking door kunstmatige
intelligentie in Xinjiang - beseffen weinigen dat in tal van andere
landen gezichtserkenning ook wordt doorontwikkeld.
In eigen land is bijvoorbeeld Schiphol gestart met een nieuwe proef
met gezichtsherkenning.
Op haar website meldt
Schiphol enthousiast:
Soepeler langs de verschillende controles op Schiphol? Als onze
proeven om reizen met gezichtsherkenning mogelijk te maken, slagen,
dan kun jij dat in de toekomst ook!
Nu laat je bij de verschillende controlepunten op de luchthaven nog je
paspoort, je instapkaart of beide zien. Bijvoorbeeld bij het afgeven
van je bagage, bij de toegang tot de veiligheidscontrole, bij het
passeren van de grens en als je gaat boarden. In de toekomst kun je
deze controlepunten soepeler passeren omdat je herkend wordt aan je
gezicht. Je paspoort en instapkaart blijven dan in je tas.
Schiphol werkt samen met luchtvaartmaatschappijen en de overheid aan
deze innovatie. Met vernieuwingen als deze willen wij jouw reis op
Schiphol vergemakkelijken. Omdat het om nieuwe technieken gaat en een
nieuwe manier van reizen, testen wij dit eerst uitgebreid. Deelname
aan deze proeven is altijd vrijwillig en we gaan zorgvuldig om met
jouw gegevens.
Dat met dat vrijwillig deelnemen moeten we met een korreltje zout
nemen. Wij hebben zelf ervaren dat het als een "gewone" procedure
gebracht wordt - net als de bodyscan bijvoorbeeld die ook "vrijwillig"
is, en ook op het internet lezen we dergelijke reacties van reizigers.
Gezichtsherkenning is met name problematisch in landen waar wettelijke
bescherming van de grondwet ontbreekt en die al grote schendingen van
de mensenrechten plegen. In landen als Kazachstan, Turkije en Zimbabwe
is gezichtsherkenning een gevaarlijk hulpmiddel dat het arsenaal aan
digitale repressie van die regeringen verder vergroot door hen een
groter vermogen te bieden om gerichte monitoring in openbare plaatsen
in te zetten en dissidenten en oppositievoerders te volgen en lastig
te vallen, en om democratische politieke activiteiten te onderdrukken.
Maar zelfs in democratieën zoals ons land en bijvoorbeeld de Verenigde
Staten waar men al een stuk verder richting Big Brother is, zien we
het toenemende gebruik van gezichtsherkenningstechnologie door de
overheid. In haar huidige vorm kan het misbruikt worden in de strijd
van politieke partijen en groeperingen voor méér burgerrechten en
burgerlijke vrijheden, omdat outen onevenredige gevolgen kunnen hebben
(voor kwetsbare groepen).
Uit een studie eerder dit jaar gepubliceerd door MIT's Media Lab,
bijvoorbeeld, bleek dat de gezichtsherkenningssoftware van Amazon,
die het bedrijf naar politiediensten en immigratie- en
douaneafhandeling heeft doorgelinkt, vaker het geslacht van een
persoon verkeerd identificeerde als deze een vrouw was of een donkere
huidskleur had. Amazon's gezichtsherkenningssoftware kwam al eerder in
opspraak, doordat het 28 leden van het
Amerikaans Congres
identificeerde als "crimineel". Dat klopt natuurlijk niet - het hadden
er veel méér moeten zijn.
Gezichtsherkenningstechnologieën zijn ook vatbaar voor raciale
vooroordelen. Een
onderzoek uit 2011 wees
uit dat systemen die werden ontwikkeld in China, Japan en Zuid-Korea
méér problemen hadden om onderscheid te maken tussen gezichten van
blanken dan Oost-Aziaten. En in een afzonderlijke
studie die in 2012
werd
uitgevoerd, presteerden algoritmen voor gezichtsherkenning van
leverancier Cognitec 5 tot 10 procent slechter bij Afro-Amerikanen dan
bij blanken.
Bezorgd over dergelijke verschillen, verbiedt het besluit van San
Francisco gemeentelijke instanties gezichtsherkenningstechnologie toe
te passen, behalve bij federale faciliteiten zoals.... de luchthaven.
Om onder de "Stop
Secret Surveillance"-verordening uit te komen en
toch (geheime) bewakingssoftware toe te passen moeten gemeentelijke
instanties goedkeuring vragen voor nieuwe surveillancetechnologie.
Het besluit kreeg met 8-1 stemmen een overweldigende publieke steun.
Zelfs voor een staat als Californië, die trots is op zoals zij zelf
zegt "baanbrekende wetgeving", is de beslissing van San Francisco's
buitengewoon te noemen. De meeste van de huidige commentaren wijzen
erop dat San Francisco de eerste Amerikaanse stad is die het gebruik
van gezichtsherkenningstechnologie door de overheid verbiedt. Maar
voor zover wij weten, is het niet de eerste Amerikaanse stad die dit
doet - het is de eerste stad ter wereld; een prestatie die alleen maar
opvallender wordt gemaakt door de positie van de stad als zetel voor
technologische innovatie - een zeldzaam geval van Silicon Valley dat
waarden op een hogere plaats stelt dan winst.
Het besluit van San Francisco heeft ook belangrijke internationale
implicaties. Gezichtsherkenningstests blijven in de meeste landen nu
nog relatief bescheiden. Terwijl overheden geïnteresseerd zijn in het
uitbreiden van het gebruik ervan, gebruiken weinig staten
gezichtsherkenning op grote schaal.... tot nu toe. De wereld heeft nog
steeds de mogelijkheid om mondiale veiligheidsmaatregelen en normen in
te stellen om vorm te geven aan hoe overheden gezichtsherkenning
gebruiken.
Het verbod van San Francisco krijgt veel aandacht. Zo is de
Amerikaanse burgerrechtenbeweging
ACLU bijzonder
ingenomen met het besluit en spreekt het over een historische
wetgeving. Volgens de organisatie is gezichtsherkenning min of meer
strijdig met een gezonde democratie. Verschillende andere Amerikaanse
steden overwegen ook om een verbod op het gebruik van
gezichtsherkenningstechnologie in te voeren. Ook de Amerikaanse
burgerrechtenbeweging Electronic Frontier Foundation
EFF heeft het over een
"historische stap voorwaarts in de strijd voor privacy."
We hopen oprecht dat al deze aandacht op zijn minst zal leiden tot een
kritische kijk op hoever je als overheid kunt gaan de burger te volgen.
Wat dat betreft vrezen wij voor de Europese Unie - en ook voor ons
eigen land - het ergste. Al vele jaren is Brussel bezig de
burgerrechten stapt voor stap in te perken, door bijvoorbeeld het
massaal invoeren van censuur, waarbij zelfs de basis grondrechten in
de prullenbak terechtkomen. Referenda - de mening van het volk -
worden steeds zeldzamer verschijnselen.
Onder het mom van "veiligheid" of de "strijd tegen terrorisme" of
zelfs "je
hebt toch niets te verbergen?" wordt steeds weer een
stuk van onze privacy afgepakt. Het draait er straks dan ook op uit
dat de "gewone" burgers hun privacy volledig kwijt zijn, terwijl de
georganiseerde misdaad dat nog volop geniet. De politiek heeft
namelijk nog steeds het naïeve standpunt dat óók criminelen zich vast
wel aan de wet houden.....
Van de houding van de gevestigde politiek zullen we het ook niet
moeten hebben: met (schijn-)veiligheid denken zij nog steeds te kunnen
scoren.
In de kern zijn de meeste politici - in Nederland en de EU en van
links tot rechts - vooral met zichzelf bezig. Het draait al lang niet
meer om het belang van hun kiezers, de burgers, wij dus, en a helemaal
niet over een visie voor Nederland. Het gaat bij de meeste van hen om
één Europa, maar dan wel een Duitsch één Europa. Waar voor henzelf de
mooiste baantjes wachten, maar dat is een ander verhaal.
