De jacht op onze persoonsgegevens: ‘Overheden gedragen zich in het beste geval naïef’

Een meisje in New Delhi, India, laat zich registreren in het Aadhaar-systeem. Dat lokt veel kritiek uit, onder meer omdat de overheid er steeds meer levensnoodzakelijke diensten aan koppelt.

© Reuters / Saumya Khandelwal

Europa beschikt over software die leugens opspoort in het gelaat van reizigers. Nederland gebruikte data van onschuldige burgers om uit te maken of ze misschien fraudeurs konden zijn. India deelt privé persoonsgegevens met bedrijven ‘om ongekende innovatie mogelijk te maken’; dat land is zelfs koploper in die vele vormen van massatoezicht en is er nog trots op ook. Waar stopt de controle door de overheid en begint het recht op privacy?

‘Ik droom van een cybernetische weide waar zoogdieren en computers samenleven in een harmonie van het programmeren, als zuiver water dat een heldere hemel raakt.’ Het satirische gedicht All Watched Over By Machines of Loving Grace van Richard Brautigan uit 1967 beschrijft een wereld waarin we als mensheid naïef genoeg zijn om ons welzijn en onze veiligheid in de handen van “liefdevolle” computers te leggen.

Vandaag staan we niet veraf van Brautigans dystopie. Huawei heeft software om Oeigoeren op te sporen in een mensenmassa. De Nederlandse toeslagenaffaire was nooit zo ontspoord zonder specifieke software om de zogenaamde fraudeurs op te sporen. En de Europese Commissie kan nog net stilhouden dat ze beschikt over software die leugens opspoort. Activisten proberen intussen de wereldwijde techlobby van veiligheidsdiensten en bedrijven in te dammen.

Aadhaar-databank in India

Biometrische dataverzameling, het digitaal opslaan van meetbare, kenmerkende biologische eigenschappen van individuen zoals vingerafdrukken of gezichtsfoto’s, wordt nergens zo massaal uitgerold als in India. In 2009 ging daar het project Aadhaar, Hindi voor ‘fundament’, van start.

Je krijgt er een twaalfcijferige code in ruil voor je naam, geboortedatum, gender, adres, een foto van je gezicht, tien vingerafdrukken en een scan van je irissen. Die code stelt je in staat om vlot aan uitkeringen, voedselhulp of je pensioen te raken.

Registratie zou vrijwillig moeten zijn, maar de Indiase overheid maakt steeds meer uitkeringen en diensten afhankelijk van het hebben van een Aadhaar-nummer. Aadhaar bevat intussen de biometrische gegevens van 1,26 miljard Indiërs en is daarmee het grootste biometrische identificatiesysteem ter wereld.

De Unique Identification Authority of India of UIDAI is het centrale orgaan verantwoordelijk voor het management van Aadhaar. Het hield tijdens rechtszaken in het Hooggerechtshof steeds vol dat het gaat om een geanonimiseerd systeem, waarin de privacy van gebruikers verregaand wordt beschermd.

Maar dat blijkt niet te kloppen. Er is een wetgevend kader voor de biometrische databank, de Aadhaar Act, en die gaat het verst in de bescherming van je biometrische gegevens, dus alle biologische informatie behalve gezichtsfoto.

Maar de wet beschermt niet de identiteitsgegevens die aan de twaalfcijferige code verbonden zijn: naam, adres, geboortedatum, telefoonnummer. Volgens sectie acht van de wet mogen die gegevens aan ‘verzoekende partijen’ doorgegeven worden. Met andere woorden: als een telecombedrijf je vingerafdrukken en Aadhaar-nummer vraagt bij de aankoop van een simkaart, krijgt het op verzoek toegang tot al je persoonlijke informatie.

India klopt zichzelf op de borst omdat het het eerste land was dat zijn nationale databank openstelde voor private ondernemers.

Sectie acht voorziet wel een kleine bepaling voor de bescherming van die persoonlijke informatie: een verzoekende partij mag je persoonlijke informatie pas gebruiken als je daarvoor toestemming geeft. Maar critici geven aan dat die toestemming zich vaak bevindt in de kleine lettertjes van een pop-upscherm dat je ziet wanneer je je verplicht registreert voor een nieuwe simkaart of voor de aankoop van pakweg een koelkast.

Er is nog een uitzondering: op grond van ‘nationale veiligheidsredenen’ kan de overheid aan alle identiteitsgegevens. En de wet geeft geen specifieke invulling van die term ‘nationale veiligheidsredenen’.

Met andere woorden: bedrijven en de overheid kunnen gemakkelijk aan alle persoonlijke gegevens gekoppeld aan het Aadhaar-nummer. Telecomreus Reliance Jio heeft al persoonlijke dossiers van 100 miljoen Indiërs aangelegd met informatie uit het Aadhaar-systeem. Het leent zich erg goed voor datamining, doorgedreven gegevensanalyse door bedrijven.

Techbedrijf Infosys ontwierp het systeem voor de overheid en richtte de UIDAI op, en CEO Nandan Nilekani blijft tot vandaag volhouden dat het slechts om een identificatiesysteem gaat. Tegelijk klopt India zichzelf op de borst omdat het het eerste land was dat zijn nationale databank openstelde voor private ondernemers en daarmee ‘ongekende innovatie’ mogelijk maakte.

Recht op anonimiteit

Ondanks de goednieuwsshow van de Indiase overheden en techbedrijven worden hele lagen van de Indiase maatschappij hard getroffen door Aadhaar. En niet alleen door voor de hand liggende privacykwesties. Het systeem, dat oorspronkelijk bedacht was om fraude met overheidssteun tegen te gaan en illegale migranten het land uit te jagen, laat het soms gewoon afweten. Vingerafdrukken worden niet herkend, ambtenaren weigeren assistentie en het internetbereik in India is op veel plekken te zwak om het systeem altijd draaiend te houden.

De zwangerschapsdata van zo’n twee miljoen vrouwen uit Andhra Pradesh waren online terug te vinden. Inclusief de naam van de vader en of ze een abortus hadden laten uitvoeren.

In Jharkhand, een oostelijke deelstaat, documenteerden activisten in 2018 dertien gevallen van personen die waren omgekomen van honger. De oorzaak: het uitblijven van voedselsteun wegens fouten in het systeem.

Een jaar eerder was het hele land opgeschrikt door de dood van Santoshi Kumari, een elfjarig meisje van de dalit-kaste, de laagste rang in het kastensysteem. Haar gezin was uitgesloten van voedselhulp omdat ze zich niet hadden laten registreren in Aadhaar. De Indiase overheid reageerde met de bewering dat Kumari gestorven was aan malaria en dat er niets mankeert aan het systeem.

De gevolgen voor wie zich niet laat registreren, zijn groot. Een aantal mensen overleed omdat ze zonder registratie geen voedselhulp meer kregen.

© Reuters / Saumya Khandelwal

Een bijkomend probleem: niets houdt afzonderlijke Indiase deelstaten tegen om gegevens uit de Aadhar-databank te linken met informatie die zij over burgers bijhouden. Meer nog: het gebeurt automatisch. Deelstaten als Delhi, Kerala en Tamil Nadu beheerden tot voor kort elk hun eigen State Resident Data Hub (SRDH).

Elke staat krijgt voor elke nieuwe inschrijving in Aadhaar de persoonlijke gegevens toegestuurd van de centrale overheid, zonder dat daarvoor toestemming nodig is. De deelstaat Madhya Pradesh noemt haar eigen SRDH-project op haar website ‘de enige bron van waarheid voor de hele staat’.

De Aadhaar-wet verbiedt het delen van ‘biometrische kerndata’ en het Aadhaar-nummer zelf, maar er zijn geen belemmeringen voor het delen van demografische of biometrische info zoals gezichtsfoto’s.

Het Indische Hooggerechtshof beval de sluiting van de SRDH’s op grond van privacyschending, waarop de staten beweerden hun databankemedical n verwijderd te hebben. Maar daar leverden ze geen bewijs voor.

Overal in India doken rapporten op die stelden dat de deelstaten gewoon verdergingen met de praktijken. Dat kan faliekant aflopen, vooral wanneer staten slordig omspringen met die databanken. Zo waren de zwangerschapsdata van zo’n twee miljoen vrouwen uit Andhra Pradesh terug te vinden op de overheidswebsite, inclusief de naam van de vader en of de vrouwen een abortus hadden laten uitvoeren.

Activisten voor vrouwenrechten wijzen erop dat dit soort datalekken vrouwen aanzet om buiten het reguliere gezondheidscircuit naar hulp te zoeken. Er zijn gevallen bekend van vrouwen die hulp geweigerd wordt omdat ze geen Aadhaar-nummer willen voorleggen.

In Chandigarh liet een huisbediende bijna het leven na een amateuristisch uitgevoerde abortus. Het staatshospitaal had haar geweigerd omdat ze niet wilde dat haar Aadhaar-nummer geregistreerd werd. Deze case werd uitvoerig beschreven in een artikel van het British Medical Journal in 2017, over de gevaren van Aadhaar voor de gezondheid van vrouwen.

De lijst gaat verder: de Indiase organisatie voor aidscontrole droeg in 2016 alle organisaties voor aidsbestrijding op om antiretrovirale therapie te linken aan het Aadhaar-registratiesysteem. Patiënten hielden op met het nemen van deze aidsremmers uit angst voor datalekken en voor het stigma.

Er was ook sprake van om de overheidssteun voor sekswerkers tijdens de coronacrisis afhankelijk te maken van het voorleggen van een Aadhaar-nummer. Maar de oudste beweging voor sekswerkers van het land wist het Hooggerechtshof er eind vorig jaar van te overtuigen dat niet toe te laten. Hun recht op anonimiteit bleef behouden.

Geboekstaafd staan als sekswerker in een databank van de overheid kan zware gevolgen hebben. Banken vragen ook naar je Aadhaar-nummer en blijken vaak toegang te hebben tot overheidsdatabanken. In India is het verstrekken van financiële diensten aan sekswerkers, net als in België overigens, bij wet verboden.

‘Software ziet geen geloof’

Het heeft er alles van dat India nu klaar is voor een nieuw hoofdstuk in de biometrische registratie van haar burgers. Er staat een project in de steigers voor de uitrol van een nationaal vertakt systeem van gezichtsherkenning via bewakingscamera’s.

Het systeem heeft nog geen naam, maar komt wel onder de controle te staan van het ministerie van Binnenlandse Zaken. De gegevens zullen toegankelijk zijn voor elk politiekantoor in India.

New Delhi kreeg exact een jaar geleden al een voorproefje van wat dat zou kunnen betekenen. Binnenlandminister Amit Shah vertelde toen aan het Indiase parlement dat 1100 relschoppers waren geïdentificeerd via gezichtsherkenning tijdens rellen in New Delhi. De rellen braken uit in de nasleep van de omstreden Citizenship Amendment Act, de “Burgerschapswet” waarmee religieuze minderheden uit Bangladesh, Pakistan en Afghanistan de Indiase nationaliteit kunnen verwerven. Enkel moslims zijn uitgesloten van de procedure.

‘Overheden geloven het argument van techbedrijven dat technologie een pasklare oplossing is tegen terrorisme en mensenhandel. Terwijl daar geen bewijzen voor zijn.’

© Reuters / Mansi Thapliyal

Er zou dus verondersteld kunnen worden dat moslims de aanstokers van de rellen waren. Maar in onafhankelijke rapporten stond te lezen dat moslimwijken net het doelwit waren van gerichte aanvallen door nationalistische hindoes.

Software ziet geen religie, maar Aadhar en de hindoenationalistische minister Shah wel.

Wie de misdaden ook gepleegd heeft, de daders zullen gevat worden, zei Shah in het parlement: ‘Dit is software. Die ziet geen religie, geen klederdracht. Hij ziet enkel het gezicht en zo wordt de persoon gevat.’ De binnenlandminister werd zo meteen de grootste pleitbezorger van de neutraliteit van machines.

Er is alle reden om te twijfelen aan die neutraliteit. Hoe neutraal is de technologie wanneer politiediensten en ministerie weten wie hindoe is en wie moslim? Shah gaf namelijk mee dat data van gezichtsherkenning vergeleken zouden worden met beelden uit databanken in het bezit van de overheid, zoals identiteitskaarten, rijbewijzen en ‘andere databanken’.

Deelstaten houden de kaste en religie van hun inwoners bij op basis van Aadhar-nummers, zo bleek in 2018 nog uit een gegevenslek. Software ziet geen religie, maar Aadhar en de hindoenationalistische minister Shah wel.

Anushka Jain, een jonge vrouw uit New Delhi, probeert sinds een jaar uit te vissen of er al arrestaties zijn verricht. Jain leidt het project Panoptic, dat technologie voor gezichtsherkenning in kaart brengt voor de Internet Freedom Foundation (IFF), een vereniging voor de bescherming van digitale rechten in New Delhi.

Voorlopig heeft haar zoektocht naar arrestaties weinig succes, de politie hult zich in stilzwijgen. ‘Ik krijg het antwoord: we kunnen je die informatie niet geven, je zal naar het politiekantoor moeten komen en onze dossiers één voor één zelf controleren’, vertelt ze.

‘Onbegonnen werk, en bovendien niet toegestaan door de pandemie. We weten dus niets. Ik ben er zeker van dat er onderzoeken lopen tegen geïdentificeerde personen, maar dat wil men ons niet zwart op wit bevestigen.’ Jain is ervan overtuigd dat, als er sprake is van arrestaties, het hoofdzakelijk om moslims zou gaan.

Jain verwijt de Indiase overheid enerzijds een totaal gebrek aan transparantie, en anderzijds politieke controle toegedekt door de voorgewende neutraliteit van technologie. ‘Hoe kun je anders verklaren dat net die groepen die het meest gediscrimineerd zijn ook het vaakst het slachtoffer worden van deze technologie?’

Vrouwen, bijvoorbeeld. Jain geeft het voorbeeld van de stad Lucknow in Uttar Pradesh, waar de politie plannen aankondigde voor de uitrol van een bewakingssysteem met gezichtsherkenning. ‘In wijken waar veel vrouwen passeren en waar vrouwen vaak worden lastiggevallen door mannen’, zegt Jain, ‘zouden intelligente camera’s in staat zijn om de gezichtsexpressie van vrouwen te lezen. Zodat in het geval van emotionele stress een alarm afgaat in het dichtstbijzijnde politiestation. Dat kan een goed idee lijken, maar ik kan me persoonlijk geen grotere inbreuk op mijn privacy bedenken. Als wij twee een verhitte discussie zouden hebben op straat in Lucknow, kan het zijn dat de politie jou komt lastigvallen. En daarmee hebben ze ook een reden om mij lastig te vallen.’

India is berucht om zijn bijzonder slechte trackrecord als het gaat om seksueel overschrijdend gedrag, ook bij politiekorpsen in het hele land.

Jain wijst ook op het gevaar van gezichtsherkenning en Aadhaar voor interreligieuze relaties. Politiediensten in het hele land treden daar nu al tegen op, vooral in staten die bestuurd worden door de hindoenationalistische partij van premier Modi.

India wordt intussen in de internationale pers gefileerd omwille van Aadhaar en gezichtsherkenning. Het land zet zich bewust ook in de markt als de nieuwe tech-bestemming in Azië, dankzij onder andere de vrije beschikbaarheid van persoonlijke gegevens. Data is the new oil.

“Blade runner” in Europa

Niet alleen India maar ook Europa experimenteert met gezichtsherkenning.

Het doet in dit geval denken aan een van de meest iconische scènes van de filmklassieker Blade Runner (1982). Daarin leggen verdachten de Voight-Kampff-test af. Die test zou in het fictieve, toen nog toekomstige jaar 2019 in gebruik genomen worden door de politie van Los Angeles, en zou op basis van biometrische gegevens – ademhaling, hartslag en verkleuring van het gelaat – uitmaken of iemand een gewone sterveling was of een genetisch gemodificeerde replica.

Was de film een inspiratiebron voor de Europese Commissie? In elk geval liep de timing van haar iBorder-Ctrl-systeem wel gelijk: in 2019 liepen de experimenten daarmee af. iBorderCtrl is een geautomatiseerd systeem aan de buitengrenzen van de EU dat uitmaakt of inreizende personen al dan niet liegen, op basis van microbewegingen in het gelaat. Wie verdacht wordt van liegen, wordt strenger gecontroleerd door de grensagenten. Zo zouden illegale migranten en terroristen onderschept worden, aldus de Europese Commissie.

Het Zuid-Franse Nice heeft momenteel 2600 camera’s, één per 128 inwoners.

De Commissie investeerde 4,5 miljoen euro in het project. Ze weigerde het evaluatierapport in 2019 openbaar te maken; dat zou de commerciële belangen van het consortium bedrijven achter het project kunnen schaden. Duits Europarlementslid Patrick Breyer van de Duitse Piratenpartij deed het project stellig af als ‘pseudowetenschappelijke veiligheidshocuspocus’. Hij daagde de Commissie voor het Europees Hof van Justitie omdat die het rapport niet publiek wilt maken. De eerste zitting vond plaats op 5 februari.

Breyers rechtszaak stelt in essentie de volgende vraag: kunnen we toelaten dat bedrijven algoritmes ontwikkelen die beslissingen nemen over onze rechten, terwijl we niet mogen weten waarop die beslissingen gebaseerd zijn?

Toeslagenaffaire: software die je als fraudeur bestempelt

In die zin is de toeslagenaffaire, waarover de Nederlandse regering in januari viel, evenzeer een symbooldossier.

In de affaire werden naar schatting 26.000 ouders slachtoffer van onterechte fraudeverdenkingen met de toeslag voor kinderopvang. De Systeem Risico-Indicatie-software of SRI koppelde gegevens uit verschillende overheidsdatabanken aan elkaar om te voorspellen of iemand al of niet een fraudeur was. Mensen met een dubbele nationaliteit of met een exotische familienaam werden extra gecontroleerd, en ook personen die in arme wijken woonden. Hoe de risicoberekening precies gebeurde, werd nooit gedeeld.

‘Duidelijk was wel dat mensen geviseerd werden op basis van afkomst en postcode’, vertelt Ella Jakubowska van de Europese organisatie voor de verdediging van digitale rechten, EDRi. ‘Er wordt volgehouden dat dit geen aanslag is op onze basisrechten. Terwijl deze futuristische systemen ons in feite terugbombarderen naar de Victoriaanse tijd. Op basis van de afstand tussen je ogen of de grootte van je schedel werd toen uitgemaakt of je een crimineel karakter had.’

Mensen viseren op basis van afkomst of andere data wordt makkelijker met nieuwe technologieën, in India maar ook in Europa.

© Reuters / Danish Ismail

Jakubowska heeft zelf een achtergrond als onderzoekster in een datalab van een techmultinational. Ze liet zich als activiste inspireren door de vijf Amerikaanse steden die gezichtsherkenning in de publieke ruimte verboden hebben: Oakland, Somerville, Berkeley, Portland en San Francisco, de thuisbasis van Silicon Valley.

Jakubowska wil een stap verder gaan en de Europese Commissie via een burgerinitiatief vragen om een verbod op elke vorm van biometrisch massatoezicht, inclusief gezichtsherkenning. ‘Wanneer is het gebruik van technologie echt noodzakelijk, legitiem en met wederzijdse instemming, eerder dan gewoon sexy en opwindend?’, vraagt ze.

‘Overheden gedragen zich in het beste geval naïef.’

Maakt haar initiatief kans op slagen? Wojciech Wiewiórowski, de Europese Toezichthouder voor gegevensbescherming, liet eind 2019 nog verstaan dat gezichtsherkenning ‘een symptoom van stijgende populistische intolerantie’ is en ‘een oplossing op zoek naar een probleem’. Er is geen wetenschappelijk bewijs dat gezichtsherkenning een effect heeft op misdaad. De enige studie waar sprake was van een verband, toonde een marginaal effect op kruimeldiefstallen in parkeergarages, uitsluitend met bewakingscamera’s en zonder gezichtsherkenning.

Plannen om gezichtsherkenningscamera’s te plaatsen aan de ingang van twee scholen in Nice en Marseille werden tegengehouden door ouderraden en activisten. De technologie was gratis aangeboden aan de overheid van de regio Provence-Alpes-Côte d’Azur door het Amerikaanse bedrijf Cisco. De ouderraden waren ervan overtuigd dat ‘niet de veiligheid van onze kinderen het doel was, wel commerciële en politieke belangen’.Toch besluiten steeds meer politiekorpsen en overheden in Europa om de technologie uit te rollen. Nice in Zuid-Frankrijk is momenteel de koploper met 2600 camera’s, één per 128 inwoners.

‘Overheden gedragen zich in het beste geval naïef’, licht Jakubowska toe.’ Ze geloven het argument van techbedrijven dat dit een pasklare oplossing is tegen terrorisme of mensenhandel. Terwijl daar geen bewijzen voor zijn. Overheden in Europa zijn ook steeds vaker ondergefinancierd. Een cadeau van de steenrijke techindustrie is dus welkom, zeker als daarmee de schijn kan gecreëerd worden dat de straten er veiliger op worden.’

De mogelijkheden voor onderdrukking en staatscontrole worden ondertussen enkel groter, zeggen rechtenactivisten in koor. Wie zal geen tweemaal nadenken voor hij meedoet aan een protest in een publieke ruimte waar je gelaat geregistreerd kan worden? Dat heet in het jargon het chilling effect en is volgens activisten een flagrante schending van het recht op vrije meningsuiting. ‘Wanneer zag je ooit een sciencefictionfilm,’ vraagt Jakubowska, ‘waarbij de overheid ons voortdurend in de gaten houdt, altijd weet waar we zijn, wie we zijn en wat we doen, en dat we daar met zijn allen beter van worden?’

Deze analyse werd geschreven voor het lentenummer van MO*magazine. Voor slechts 32 euro kan je hier een jaarabonnement nemen! Je kan ook proMO* worden voor slechts 4 euro per maand. Je krijgt dan ook ons magazine toegestuurd en je steunt daarmee ons journalistiek project. Opgelet: Knack-abonnees ontvangen MO* automatisch bij hun pakket.