Algoritmes

Sinds juli van dit jaar wordt informatie uit vertrouwelijke gesprekken tussen zorgverleners in de GGZ en hun patiënten verzameld door de Nederlandse Zorgautoriteit, vaak zonder medeweten van die patiënten.

Sinds 1 juli worden door de Nederlandse Zorgautoriteit (NZa) de persoonlijke gegevens van alle patiënten in de geestelijke gezondheidszorg in Nederland verzameld. Bij de totstandkoming van deze maatregel zijn grote fouten gemaakt, blijkt uit onderzoek van Argos. Een groep bezorgde zorgverleners heeft een rechtszaak aangespannen om de maatregel ongedaan te krijgen.

Op 17 november 2022 vroeg een aantal mensen verenigd in de actiegroep 'Vertrouwen in de GGZ’ via de Wet open overheid stukken (Woo) op bij de Nederlandse Zorgautoriteit (NZa) die verband houden met de ‘verplichte levering van gegevens’ (de zogenaamde HoNos+lijsten). Argos bestudeerde de mailwisseling tussen de NZa en de Autoriteit Persoonsgegevens (AP), legde passages voor aan experts en kwam tot een reconstructie.

Sinds juli van dit jaar wordt informatie uit vertrouwelijke gesprekken tussen zorgverleners in de GGZ en hun patiënten verzameld door de Nederlandse Zorgautoriteit, vaak zonder medeweten van die patiënten.

De Autoriteit Persoonsgegevens (AP) eist van vijf gemeenten opheldering over het gebruik van de ‘fraudescorekaart’, een verboden algoritme dat jarenlang risicoscores gaf aan mensen met een bijstandsuitkering. Ook moeten de gemeenten van de toezichthouder in kaart brengen hoe ze eventueel geleden schade door slachtoffers van het systeem gaan repareren.

Recent legden journalisten van Argos, Lighthouse Reports, Vers Beton en Follow The Money voor het eerst een ‘slim’ fraude-algoritme van de overheid op de snijtafel. Het ging hier om een algoritme dat door de gemeente Rotterdam werd gebruikt bij het opsporen van bijstandsfraude. Reinier Tromp, data-journalist bij Argos: ‘Het is voor het eerst in de wereld dat journalisten dit in handen hebben gekregen.’

De gemeente Rotterdam kent bijna 30.000 mensen in de bijstand. Zo’n 1.000 daarvan worden elk jaar onderworpen aan een uitgebreide controle vanwege een verdenking van ‘onrechtmatigheden’. Bijvoorbeeld omdat ze een cadeau aannemen, een betaalde klus niet doorgegeven of een formulier verkeerd invullen.

De gemeente Rotterdam richtte haar pijlen bij het opsporen van bijstandsfraude voornamelijk op jonge moeders en mensen die het Nederlands niet goed machtig zijn. Deze mensen werden strenger gecontroleerd door de gemeente. Dit blijkt uit onderzoek van Argos, Lighthouse Reports, Vers Beton en Follow The Money die voor het eerst een ‘slim’ fraude-algoritme in zijn geheel onder de loep namen.

Tot vorig jaar maakten nog zeker vijf gemeenten gebruik van de zogenoemde ‘fraudescorekaart’: een algoritme dat mensen wel of niet zou bestempelen als fraudeur. Naar aanleiding van eerder onderzoek van Argos richtte de vakbond FNV in juli 2022 een meldpunt op voor mensen die meenden slachtoffer te zijn geworden van deze fraudescorekaart. Een van de mensen die zich daar meldde, is Anne Marie Appeldoorn.

Vakbond FNV heeft aangifte gedaan bij de Autoriteit Persoonsgegevens (AP) tegen vijf gemeenten die nog tot vorig jaar gebruikt maakten van de omstreden ‘fraudescorekaart’. Het gaat om de gemeenten Nieuwegein, Houten, IJsselstein, Lopik en Veenendaal, die ondanks waarschuwingen doorgingen met het gebruiken van dit algoritme dat mensen risicoscores geeft op basis van 20 jaar oude gegevens.

Je komt bij het loket om bijstand aan te vragen en nadat je de nodige vragen hebt beantwoord, zegt de gemeenteambtenaar: u ziet er best aardig uit, maar we verdenken u van fraude. Twee uur later staat de sociale recherche in je huis en trekt alle laden en kastjes open.

Je woont in een buurt met problemen en een team fraudecontroleurs van de overheid komt onaangekondigd aan de deur, want je bent geselecteerd voor een huisbezoek. Ze vertellen je niet dat je in beeld bent gekomen omdat uit de data blijkt dat je sinds een tijdje een alleenstaande moeder bent, je woning behoorlijk groot is voor iemand met een bijstandsuitkering en iemand een melding over je heeft gedaan. 

De overheid voorspelt na het verbod op het ‘sleepnet’ SyRI nog altijd fraude op adressen in sociaal-economisch zwakkere wijken. Argos en Lighthouse Reports deden onderzoek naar de methode, waarbij gemeenten en instanties als Belastingdienst, UWV en politie risicosignalen delen. ‘Dit gaat over een overheid die zoveel van je afweet dat die altijd iets kan vinden.’

De overheid voorspelt met behulp van schimmige methodes fraude en misstanden in sociaal-economisch zwakkere wijken, naar eigen zeggen om de leefbaarheid te verbeteren. Hoe werkt die ‘glazen bol’? Kan deze methode waarbij instanties als Belastingdienst, UWV, politie en gemeenten privacygevoelige gegevens delen eigenlijk wel door de beugel?

Een coalitie van maatschappelijke organisaties begint een rechtszaak tegen de manier waarop de overheid burgers profileert om socialezekerheidsfraude op te sporen in wijken met veel uitkeringen. Aanleiding is nieuw onderzoek van Argos en Lighthouse Reports.

Said uit Gouda merkt vanaf 2018 dat zijn leven ingrijpend verandert. De politie heeft ongebruikelijk veel belangstelling voor hem en buitenlandse reizen leveren hem steeds grotere problemen op. 

Burgers die problemen ondervinden doordat informatie over hen is gedeeld in het kader van terrorismebestrijding, kunnen zelfs als zij onschuldig blijken te zijn nauwelijks worden geholpen. ‘Als het woord terrorisme valt, ligt de lat om informatie te delen heel erg laag. En de lat om mensen uit systemen te halen, die ligt dan heel hoog’, zeggen advocaten.

Niets wijst erop dat ze ooit iets te maken hebben gehad met terrorisme, ze worden daar ook niet van verdacht en hebben geen crimineel verleden. Toch worden gewone burgers op reis voor vakantie of werk de toegang geweigerd of zelfs vastgezet op luchthavens in het buitenland, omdat ze een gevaar zouden zijn. Wat ze hebben misdaan, krijgen ze niet te horen.

Een verboden overheidsalgoritme dat bijstandsfraude voorspelde maar in 2020 zou zijn afgeschaft, blijkt toch nog in gebruik bij een aantal gemeenten. Met een Wob-verzoek kregen Argos en Lighthouse Reports bovendien deze zogeheten fraudescorekaart zelf in handen. Woonwagenbewoner? Zevenhonderd punten.

Hoe bepaalt de overheid wie een potentiële fraudeur is en wie niet? Die vraag houdt ons bij Argos al een tijdje bezig. Sinds de toeslagenaffaire weten we dat geautomatiseerde risicoprofielen zelf ook niet zonder risico zijn. Duizenden ouders belandden in de kaartenbak van de afdeling fraudeopsporing. Afkomst of een laag inkomen konden daarin een rol spelen.

De Immigratie- en Naturalisatiedienst (IND) heeft jarenlang de afkomst van het bestuur van duizenden bedrijven geregistreerd in risicoprofielen om fraude tegen te gaan. De gedachte: een niet-westerse achtergrond geeft een grotere neiging tot regelovertreding. Al in 2017 werd intern gesteld dat sprake was van etnisch profileren en dat de statistische onderbouwing niet voldeed, maar toch bleef het systeem in gebruik.

De gemeente Rotterdam gebruikt een algoritme om bijstandsfraude te voorspellen. Hierin wogen kenmerken als geslacht, wijk, taal en zelfs indicaties van psychische en financiële problemen mee voor een risicoscore. Inmiddels past Rotterdam het model aan en is de gemeente open over de werking. Argos vroeg verantwoordelijk wethouder Richard Moti (Werk en Inkomen) naar zijn overwegingen.

Rotterdam gebruikt een algoritme om bijstandsfraude te voorspellen en kende jarenlang risicoscores toe op basis van bijvoorbeeld geslacht, woonwijk, taal en zelfs indicaties van psychische en financiële problemen. Hoewel er volgens de gemeente geen sprake is van oververtegenwoordiging van mannen, vrouwen of bepaalde wijken, blijkt uit cijfers dat daar nog wel vragen over zijn te stellen.

De overheid gebruikt algoritmes om te voorspellen of iemand misschien fraudeert. Dat dit mis kan gaan weten we inmiddels van de Toeslagenaffaire: er bleek sprake van discriminatie van mensen met een tweede nationaliteit en vooral mensen met lage inkomens werden op de korrel genomen.

Instellingen en bedrijven verzamelen steeds meer data van burgers en consumenten. Sinds 25 mei 2018 is Europese wetgeving van kracht die allerlei voorwaarden en beperkingen stelt aan die datahonger, de Algemene Verordening Gegevensbescherming (AVG). Dit om Big Brother-achtige toestanden te voorkomen. Zo moeten de verzamelingen van persoonsgegevens aan controleerbare doelstellingen voldoen en goed worden afgeschermd tegen oneigenlijk gebruik. En de inzagemogelijkheden voor burger zijn verbeterd, om fouten te kunnen corrigeren. 

Het wordt steeds makkelijker om gegevens op te slaan en te delen. Onze medische geschiedenis, onze locatiegegevens, informatie over ons leesgedrag, ons koopgedrag, onze vrienden, ons liefdesleven… het is allemaal opgeslagen op servers in binnen- en buitenland. Volgens de wet mogen die persoonsgegevens niet zomaar door iedereen gedeeld en gebruikt worden, maar in de praktijk wordt nauwelijks gecontroleerd welke data organisaties verzamelen en hoe ze er vervolgens mee omgaan.