20221124_advies_CPA_WPI.pdf

Retouradres: Postbus 94652, 1090 GR Amsterdam

Aan: Directeur Inkomen, de heer R. Visser C.c: Afdelingshoofd Handhaving Werk en Inkomen, mevrouw A. Hoppener C.c: Directeur Digitalisering en Innovatie, de heer G. Baron C.c: CIO, de heer M. Crooijmans C.c: Directeur Digitale Strategie & Informatie, de heer D. de Maa C.c: Functionaris Gegevensbescherming, mevrouw H. E. Kruijt C.c: Product Owner Onderzoekswaardigheid model mevrouw S. Dekkers Datum Behandeld door E-mail Bijlage

17 oktober 2022 A. Haneveld a.haneveld@amsterdam.nl 1

Onderwerp

WPI Risicomodel Geachte heer Visser, Op de vergaderingen van de Commissie Persoonsgegevens Amsterdam (CPA) van 2 juni en 25 augustus 2022 waren bij het agendapunt “WPI risicomodel” namens u aanwezig: mevrouw S. Dekkers (CTO Innovatieteam), mevrouw K. Schoonderwalt (Teammanager Handhaving WPI), de heer S. Berkenbosch (PO WPI), mevrouw S. Verhoeven (business-analist WPI). Tijdens deze vergaderingen heeft de Directie Werk Participatie en Inkomen (WPI) een nieuw model gepresenteerd om ontvangen aanvragen voor levensonderhoud (bijstandsuitkering) te beoordelen. Na ontvangst van een aanvraag wordt er bepaald of er extra informatie opgevraagd moet worden, of aanvraag toegekend of afgewezen moet worden, of dat er nader onderzoek nodig is. De Directie Werk Participatie en lnkomen licht de huidige werkwijze als volgt toe. Het is een handmatig proces en leidt ertoe dat in ongeveer 35% van de onderzochte aanvragen een onrechtmatigheid wordt aangetroffen. Daarmee wordt bedoeld dat een aanvraag niet voldoet aan de wettelijke vereisten om een bijstandsuitkering te ontvangen. Bij de beoordeling van de bijstandsuitkering wordt expertise van de afdeling Toezicht en Handhaving ingezet. Dit betekent dat de afdeling Handhaving Werk en Inkomen (HWI) een aanvraag bekijkt als daar een aanleiding/een signaal voor is.

Voor bijstandsaanvragen geldt dat een dergelijk signaal wordt gegeven door de verantwoordelijke medewerker van de directie Werk Participatie Inkomen die de aanvraag in behandeling heeft. Door deze onderzoeken wordt voorkomen dat maatschappelijk geld aan niet-gerechtigden wordt verstrekt.

Pagina 2 van 18

Het afgelopen anderhalf jaar is gewerkt aan een voorspellend model, een random forrest regressie algoritme, dat als doel heeft de medeweker WPI te ondersteunen bij het bepalen of een aanvraag al dan niet onderzoekswaardig is. Dat doet het model door een eerste beoordeling van de aanvragen te maken. Een medewerker kan vervolgens mede op basis van de uitkomsten van het model bepalen welke vragen al dan niet nader worden onderzocht. Het model moet ervoor zorgen dat aanvragen worden gecontroleerd en dat er minder overbodige onderzoeken plaatsvinden. Het model draagt daarmee bij aan het minimaliseren van onrechtmatige verstrekking van bijstand, waarmee bovendien wordt voorkomen dat er bijstandsschulden ontstaan. Het risicomodel kent een aantal variabelen die met elkaar een score opleveren tussen nul en een. De vooronderzoeker kan zien welke drie variabelen in een bepaalde casus de belangrijkste zijn voor de score. Als een aanvrager eerder een sanctie is opgelegd, betekent dat een hoger risico en hogere score. De grenswaarde boven welke nader onderzoek nodig is, kan men variëren en zal na de pilotfase op grond van de ervaringen worden vastgesteld. Vooralsnog wordt uitgegaan van een grenswaarde van 0,65.

Doel verwerking persoonsgegevens: Het doel van dit product is het minimaliseren van onrechtmatige verstrekking van bijstand, waardoor primair kan worden voorkomen dat er bijstandsschulden als gevolg van een ten onrechte verstrekte uitkering ontstaan. Schulden hebben een grote impact op het leven van Amsterdammers, zeker wanneer hun bestaanszekerheid kwetsbaar is. Het voorkomen van schulden is beter dan het later oplossen ervan. Daarnaast moet ervoor worden gezorgd dat publiek geld wordt ingezet waar nodig en het sociale stelsel betaalbaar blijft. Ook wil de gemeente nadere onderzoeken effectiever en proportioneel uitvoeren. Daarmee wordt de dienstverlening ten behoeve van de burger van Amsterdam verbeterd. Tot slot heeft de gemeente zich tot doel gesteld om een transparant, uitlegbaar en eerlijk product te ontwikkelen. Het is een vereiste dat de output van het model transparant en uitlegbaar is en dat door middel van het model het proces gelijk en dus rechtvaardiger wordt. Betrokkenen1: - Amsterdammers die op grond van de Participatiewet, IOAW en IOAZ een uitkering hebben aangevraagd, ontvangen of hebben ontvangen; - Amsterdammers die op grond van de Participatiewet bijzondere bijstand hebben aangevraagd, ontvangen of hebben ontvangen; - Kinderen, medebewoners, onderhoudsplichtigen van bovenstaande categorie personen.

1 De betrokkene is degene van wie een organisatie persoonsgegevens verwerkt. Dit is dus degene op wie de

persoonsgegevens betrekking hebben.

2

Pagina 3 van 18

Verwerkingsgrondslag (artikel 6 AVG)2: Operationele taken beoordelen aanvragen levensonderhoud De grondslag voor deze verwerking is gestoeld op de noodzaak voor de vervulling van een taak van algemeen belang of van een taak in het kader van de uitoefening van het openbaar gezag dat aan de verwerkingsverantwoordelijke is opgedragen. Dit is artikel 6 lid 1 sub e van de AVG. Het betreft hier een taak van algemeen belang. Deze taak vloeit voort uit de Participatiewet en de Wet Suwi. Artikel 53a, 64 Participatiewet, Artikel 62 Wet Suwi Hoewel deze taak in hoofdlijnen is omschreven kunnen deze bepalingen dienen als grondslag voor deze gegevensverwerking. In artikel 6 lid 3 van de AVG wordt nl. gesteld dat de AVG niet voorschrijft dat voor elke afzonderlijke verwerking specifieke wetgeving vereist is. Dit vloeit tevens voort uit overweging 45 van de AVG.

Ontwikkelen en valideren van algoritme Artikel 53a, 64 Participatiewet, Artikel 62 Wet Suwi Hoofdstuk 5 Algemene wet bestuursrecht Het onderzoek naar onbewuste vooringenomenheid (bias analyse) Artikel 3.8 Wet BRP (verbijzondering AVG voor levering BRP-gegevens); Onderliggende algemene beginselen behoorlijk bestuur en te eerbiedigen (grond)rechten: Artikel 3:2 - 3:4 lid 1 Algemene wet bestuursrecht (zorgvuldigheidsbeginsel); Artikel 2:4 Algemene wet bestuursrecht (verbod op vooringenomenheid); Artikel 3:47 Algemene wet bestuursrecht (motiverings- en rechtszekerheidsbeginsel). Vragen aan de CPA: Kennis te nemen van en te adviseren over het project ter voorbereiding van een pilot. Te adviseren ten aanzien van de vraag of, gezien de getroffen (technische) maatregelen, deze gegevensverwerking proportioneel is ten opzichte van de belangen van personen die zich in Amsterdam bevinden en wiens gegevens worden verwerkt. Advies CPA: De CPA dankt de aanwezigen voor hun uitgebreide toelichting. Naar aanleiding van de gegeven presentatie en de antwoorden die zijn gegeven op de gestelde vragen, zal de CPA vanuit de perspectieven ‘technisch’, ‘juridisch’ en ‘ethisch’ reflecteren op de vraag of de voorgestelde gegevensverwerking proportioneel is en zal daarop vervolgens advies geven.

Bij elk onderdeel wordt een opsomming van de respectievelijke aanbevelingen gegeven waarna een aan het eind een conclusie volgt. 2 https://autoriteitpersoonsgegevens.nl/nl/onderwerpen/algemene-informatie-avg/mag-u-persoonsgegevens-verwerken.

Indien de verwerking wordt gebaseerd op de ‘publieke taak’-grondslag van art. 6 lid 1 onder e AVG graag aangeven in welke wetsartikelen deze publieke taak is opgenomen.

3

Pagina 4 van 18

Technische aspecten Algemene opmerking ten aanzien van het model Bij dit soort algoritme wordt er doorgaans een handmatige lijst gemaakt van de te controleren inwoners (na data-analyse). In dit stadium voegt data-analyse een score toe aan de parameters. Bijvoorbeeld: postcode x krijgt meer punten dan postcode y, of iemand met een hoge leeftijd krijgt meer dan iemand met een lage leeftijd, iemand met 6 kinderen krijgt een hogere score dan iemand met 1 kind. Hoe dit toegepast wordt op de parameters zien we nog niet terug in de documentatie voor de pilot. De CPA adviseert daarom om het score wegingsmodel transparant te maken en op te nemen in de documentatie van de pilot. Er wordt een selectie gemaakt door de behandelaren op basis van beschikbare tijd, eerdere ervaringen van de behandelaren en beschikbare bemensing. Vervolgens worden de dossiers handmatig behandeld. Na behandeling wordt een dossier als goed/fout teruggekoppeld aan het algoritme. Op basis van deze terugkoppeling leert het algoritme nieuwe routes voor de volgende ronde. Het is daarmee niet echt helemaal zelflerend omdat de input nodig is. Na iedere controleronde wordt dit meestal teruggekoppeld. Features van het model: Vermogen In het model wordt het vermogen van de aanvrager als feature meegewogen. Hierbij wordt het vermogen als getal ingevoerd.

Wanneer dit onbekend is, wordt er gekozen om het getal 0 als invoer te gebruiken. Tijdens de vergadering is uitgelegd dat er voor deze gelijkstelling tussen ‘onbekend’ en het getal 0 is gekozen omdat het niet mogelijk is om de waarde ‘onbekend’ als invoer te gebruiken. Deze gelijkstelling is echter niet geheel risicoloos. Het onbekend zijn van het vermogen kan, afhankelijk van de dataset waar het model op getraind wordt, als negatief/risicovol worden gezien. Door de gelijkstelling betekent dit dat het model, wanneer het gaat om het vermogen, het getal 0 als negatief gaat beschouwen. Deze negatieve impact van het getal 0 kan invloed hebben op de risico inschatting van aanvragers waarbij het getal 0 niet voor ‘onbekend’ maar daadwerkelijk voor 0 staat. Bij het zoeken naar een oplossing voor de aanvragen waar een onbekende waarde in voorkomt zou kunnen worden gekeken welke waarde voor de ontbrekende feature het minst invloed heeft op de uiteindelijke risicoscore. Een andere oplossing is het niet gebruiken van het risicomodel wanneer er onbekende waardes zijn die niet eenduidig in het model kunnen worden ingevoerd. Omdat deze feature tot ongewenste resultaten zou kunnen leiden wanneer redenen voor afwezigheid niet goed worden geregistreerd (zie ook hierna) is het wenselijk dat het gebruik van deze feature extra wordt gewogen en in een later stadium nogmaals wordt geëvalueerd.

Informatie naar gebruikers van het model Aantal getoonde features In de documentatie van het systeem staat aangegeven dat ervoor is gekozen om de 3 zwaarstwegende features aan de medewerker onderzoek te tonen wanneer een aanvraag als ‘onderzoekswaardig’ wordt gezien. Tijdens de vergadering is aangegeven dat er is gekozen voor 3 features. Dit omdat uit onderzoek is gebleken dat de uitkomst van het risicomodel vaak voornamelijk gebaseerd is op 3 of minder features. Onduidelijk bleef of het voor de medewerker onderzoek mogelijk is om de rest van de weging te zien. Het structureel tonen 4

Pagina 5 van 18

van enkel 3 features kan leiden tot het weglaten van belangrijke informatie of tot het (onbewust) onterecht simplificeren van de weging die heeft plaatsgevonden in het model. Om te voorkomen dat onduidelijkheid ontstaat over de onderbouwing van een uitkomst zou het aanhouden van een minimum van 3 features wenselijk kunnen zijn. Wanneer er een 4 e feature is die zwaar meeweegt kan deze aan de medewerker worden getoond zodat er geen informatie verloren gaat. Training van het model Tijdens de vergadering is aangegeven dat het model deterministisch is voor zover het om dezelfde versie gaat. Het model stelt de weging van de features niet tijdens het gebruik bij maar alleen wanneer er wordt gekozen om het model opnieuw te trainen op een geactualiseerde dataset. Omdat het voor kan komen dat medewerkers verschillende aanvragen zien die dezelfde invoer voor het model hebben maar een compleet andere risicoscore, kan het wenselijk zijn aan de medewerkers te laten zien welke versie (moment van trainen) van het model tot de risicoscore heeft geleid. Dit voorkomt verwarring en het gevoel dat het risicomodel niet-terugleidbare resultaten oplevert. Naast het tonen van de versie aan de medewerkers is het voor de reproduceerbaarheid van de risicoscore belangrijk dat de versie van het model wordt opgeslagen.

Het feit dat het model niet zelflerend is in de zin dat deze de weging van features aanpast zonder het handmatig opnieuw trainen kan als positief worden gezien omdat het de reproduceerbaarheid van de resultaten ten goede komt. Bewaren van de score De gemeente is voornemens om de uitkomst van het risicomodel in het dossier van de aanvrager op te slaan. Gevraagd naar de reden hiervoor is een mogelijke bezwaarprocedure van de aanvrager. De CPA adviseert om de uitkomst van het WPI-risicomodel (de score en de versie van het gebruikte model) alleen te bewaren voor de termijn waarbinnen een bezwaar kan worden ingediend of, in geval van een bezwaar, nadat de juridische procedure is afgerond en een eventueel vonnis onherroepelijk is. Mocht de gemeente van oordeel zijn dat het bewaren van de uitkomst voor een langere periode in het dossier van de aanvrager nodig is, dan adviseert de CPA de noodzaak hiervan nader te onderbouwen en in dat geval deze score alleen zichtbaar te laten zijn voor gemeentemedewerkers die de score voor de uitvoering van hun werkzaamheden nodig hebben, bijvoorbeeld om het algoritme te trainen/verifiëren. Zodat voorkomen wordt dat de score (impliciet) voor een andere beslissing betreffende deze aanvrager kan kleuren. Zelflerend algoritme Naar aanleiding van een vraag licht de gemeente toe dat het WPI-risicomodel een zelflerend algoritme is.

Als het model getraind wordt met een actuelere dataset, kan het gewicht dat aan een feature wordt toegekend worden gewijzigd. Het algoritme zal niet ‘zelfstandig’ nieuwe features toevoegen of verwijderen. Het zelflerende deel ziet op het gewicht dat aan een feature wordt gegeven. De CPA adviseert om bij een (significante) wijziging het algoritme te toetsen op onder meer het risico van een bias. De gemeente legt daarnaast uit dat iedere toegekende score, ook bij het zelflerende model, achteraf precies te verklaren is –mede door het gebruik van versienummering in het algoritme- en daarmee transparant is. Altijd kan aan de aanvrager uitgelegd worden op welke features een aanvrager heeft ‘gescoord’ en hoe zwaar deze score weegt. Overigens bevestigt de gemeente dat het model geen gebruik maakt van bijzondere persoonsgegevens of strafrechtelijke gegevens. 5

Pagina 6 van 18

Aanvragers met een score die geen aanleiding geeft voor nader onderzoek De CPA vraagt in hoeverre het risico bestaat dat een aanvrager die op grond van de score van het algoritme niet onderzoekswaardig is zelden of nooit door de inkomensconsulent wordt onderzocht, bijvoorbeeld omdat het aantal aanvragen hoog is en de inkomensconsulent vanwege de werkdruk aanvragen met een hoge score snel terzijde legt. De CPA geeft de gemeente ter overweging om steekproefsgewijs aanvragers met een score die niet onderzoekswaardig is alsnog een (fictieve) onderzoekswaardige score toe te kennen zodat het dossier door een medewerker vooronderzoek wordt beoordeeld. Dit zou bijvoorbeeld na een X-aantal aanvragen gedaan kunnen worden. Omdat het dossier niet direct naar handhaving wordt gestuurd zijn de gevolgen voor de aanvrager nihil. Aantal no-shows op afspraken In het model worden ook het aantal no-shows op afspraken met de gemeente meegenomen. Deze feature werd tijdens de vergaderingen als complex beschouwd, omdat het heel goed mogelijk is dat een no-show wordt veroorzaakt door een legitieme reden die niet in het systeem wordt geregistreerd. De input voor deze feature is dus ingewikkeld met zekerheid vast te stellen. Daarnaast heeft de aanvrager, in tegenstelling tot de meeste andere features, weinig zicht op de bij de gemeente geregistreerde no-shows.

Het advies van de CPA is om deze feature niet op te nemen in het model, totdat er een goede registratie van de redenen van no-shows is in die zin dat bijvoorbeeld overmacht buiten deze categorie wordt gelaten. Aanbevelingen:  Maak het scorewegingsmodel transparant en neem het op in de documentatie van de pilot.  Maak bij een onbekende waarde gebruik van een waarde die het minst invloed heeft of de uiteindelijke risicoscore of sluit de feature met een onbekende waarde uit, wanneer er geen eenduidige waardes in het model kunnen worden ingevoerd.  Overweeg om, naast het standaard tonen van 3 features, een 4 e feature te tonen, wanneer deze zwaar meeweegt.  Maak voor de medewerkers inzichtelijk welke versie (moment van trainen) van het model tot de risicoscore heeft geleid en sla deze versie op bij het resultaat.  Geef een onderbouwing wanneer een score langer dan de afgesproken termijn bewaart moet worden en overweeg om in dat geval de score alleen zichtbaar te laten zijn voor medewerkers die de score voor de uitvoering van hun werk nodig hebben (bijvoorbeeld om het algoritme te trainen/verifiëren).  Toets bij een (significante) wijziging het algoritme op het risico van een bias.

 Neem in overweging om aanvragers die op grond van het model niet onderzoekswaardig zijn, alsnog steekproefsgewijs een onderzoekswaardige score toe te kennen, zodat het dossier door een medewerker vooronderzoek wordt beoordeeld.  Neem de feature ten aanzien van de no-shows pas op in het model, wanneer er een goede registratie is ten aanzien van de reden van de no-show. Juridische aspecten Het college van burgemeester en wethouders van Amsterdam (hierna: het college) is voornemens bij de uitvoering van de Participatiewet het WPI-risicomodel te hanteren. Concreet betekent dit dat alle burgers die een uitkering voor levensonderhoud aanvragen bij het college op basis van bepaalde persoonskenmerken (de risico-indicatoren) in de 6

Pagina 7 van 18

besluitvormingsfase geprofileerd zullen worden. Dit betekent dat ten behoeve van het algoritme dat aan het WPI-model ten grondslag ligt persoonsgegevens van burgers zullen worden verwerkt. Rechtmatigheid WPI-risicomodel Volgens vaste rechtspraak van de bestuursrechter kan een bestuursorgaan bij het toepassen van zijn algemene onderzoeksbevoegdheid risicoprofilering toepassen. Die profilering is toegestaan met het oog op ‘effectiviteit, efficiëntie en kostenbesparing en wegens het grote belang van bestrijding van onjuist gebruik van sociale voorzieningen.’ 3 De profilering moet wél voldoen aan de eisen die de AVG, en in het verlengde daarvan de jurisprudentie inzake artikel 8 van het Europees Verdrag voor de Rechten van de Mens (EVRM), daaraan stellen. In dat opzicht is met name het toetsingskader voor de inzet van risicoprofielen dat uit de SyRIuitspraak voortvloeit relevant. 4 Daaruit blijkt dat de rechter veel belang hecht aan de transparantie van het risicomodel en de risico-indicatoren die daaraan ten grondslag liggen. Zowel burgers die een verhoogd frauderisico vormen en daardoor onderzoekswaardig zijn, alsook burgers die geen dergelijk risico vormen, hebben het recht om te weten dat zij geprofileerd zijn. Pas dan kunnen zij immers controleren of de verwerking van hun persoonsgegevens in het kader van die profilering rechtmatig heeft plaatsgevonden.

De CPA adviseert het college deze jurisprudentie bij de totstandkoming van het WPI-risicomodel in ogenschouw te nemen en op individueel niveau – dat wil zeggen: in het primaire besluit dat voortvloeit uit de profilering – hierover verantwoording af te leggen. Tevens is het in dit kader belangrijk om zich te realiseren dat het college door te profileren onderscheid maakt tussen groepen bijstandsaanvragers. Deze groep wordt immers onderverdeeld in onderzoekswaardige en niet-onderzoekswaardige aanvragers. Om te voorkomen dat in strijd met het discriminatieverbod wordt gehandeld (zie art. 1 GW, art. artt. 8 jo. 14 EVRM en Protocol 12 bij het EVRM) moet het college dit onderscheid objectief kunnen rechtvaardigen. Verder vindt de CPA het gelet op de transparantie verplichting en accountability uit hoofde van de AVG essentieel, dat de burger vooraf informatie krijgt over de wijze waarop zijn/haar aanvraag wordt behandeld, inclusief het gebruik van het model. De CPA adviseert om in het aanvraagformulier uitleg te geven over het algoritme en wat dit betekent voor de aanvrager en wat de mogelijke gevolgen kunnen zijn. Aanbevelingen:  Maak in heldere taal duidelijk aan de burger, die een aanvraag voor levensonderhoud heeft ingediend, dat er een algoritme wordt toegepast bij de beoordeling van de aanvraag en wat dit betekent en wat de mogelijke gevolgen kunnen zijn.

 Indien de uitkomst van het model heeft geleid tot een onderzoek, leg dan aan de betrokkene uit waarom er een onderzoek uitgevoerd is.  Leg verantwoording af aan de betrokkene voor de uitkomst van het algoritme. Ethische aspecten Om te komen tot een oordeel of de inzet van het model proportioneel en verantwoord is, volgt hieronder een ethische reflectie op deze vraag. 3 Zie in dat kader bijvoorbeeld: CRvB 14 april 2015, ECLI:NL:CRVB:2015:1230. 4 Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865.

7

Pagina 8 van 18

Er zijn legitieme doelen om het model in te zetten: dankzij het model wordt er minder vaak ten onrechte een bijstandsuitkering toegekend. Dat draagt bij aan de rechtvaardige verdeling van publieke middelen. Ook worden zo schulden voorkomen, waardoor mensen – zo is bekend – in grote problemen kunnen komen. Daarnaast is het denkbaar dat een bepaalde mate van automatisering zorgt voor efficiency zodat een groep die in aanmerking komt voor een bijstandsuitkering beter geholpen kan worden. Naast de positieve kanten verbonden aan de inzet van een algoritme, zijn er ook risico’s. Bekend is – uiteraard - het risico van discriminatie, dat hierboven ook wordt behandeld. Uiteraard mag daar geen sprake van zijn, het principe van non-discriminatie is stevig verankerd in onze wetgeving (artikel 1, Grondwet) en is tevens een belangrijk ethisch principe. Daarnaast bestaat het risico dat de onschuldpresumptie los wordt gelaten: de gedachte dat, indien een aanvraag aan een nadere beschouwing wordt onderworpen, dit per definitie inhoudt dat de betrokkene iets te verwijten valt. Bovenstaande vraagt van het college een afweging tussen die positieve effecten van de inzet van een algoritme en de risico’s die daaraan verbonden zijn. Vaststaat dat de rechtvaardige verdeling van publieke middelen en ook het minder lastigvallen van burgers belangrijk doelen moeten zijn.

Dat zijn doelen die vanuit een ethisch perspectief bevorderd moeten worden – ethiek houdt niet alleen in dat er grenzen worden gesteld aan mogelijk ‘onethisch’ gedrag, maar net zo goed dat ethische praktijken worden bevorderd. Wel blijft de vraag hoe deze argumenten voor de inzet van het algoritme zich verhouden tot het tegenargument dat uitgegaan moet worden van de onschuld zolang het tegendeel niet is bewezen. Deze vraag is des te belangrijker omdat het hier mensen betreft in een kwetsbare positie, die mogelijk minder goed in staat zijn tot een verweer tegen onterechte aantijgingen. Een voorlopige conclusie is dat er louter op basis van het WPI-risicomodel geen principiële bezwaren zijn tegen het gebruik ervan. Risicoprofilering is een legitiem middel in dit soort zaken, zoals hierboven ook wordt toegelicht. Wel moet daar meteen aan toegevoegd worden dat niet louter op basis van het algoritme bepaald kan worden of het toelaatbaar is. Daartoe moet ook beschouwd worden hoe het in de praktijk wordt gebruikt. Juist in de praktijk kunnen dingen zodanig uit de hand lopen, dat het middel van het algoritme zijn legitimiteit verliest. Graag gaat de CPA daarom nader in op twee aspecten van het gebruik: 1. De autonomie van de gebruiker van het algoritme. 2. Procedurele rechtvaardigheid. 1.

De gebruikers van het algoritme Het algoritme op zichzelf bepaalt niet volledig of aanvragers rechtvaardig worden behandeld. Van belang hiervoor zijn ook de context waarin het algoritme wordt gebruikt en de manier waarop het gebruik er precies uitziet. Die rechtvaardige behandeling is onder meer afhankelijk van degenen die ermee moeten werken als ze een zaak behandelen. Cruciaal is dat er ook echt een ‘human in the loop’ blijft, en er geen sprake is van een confirmation bias: medewerkers mogen niet te veel varen op het risicoprofiel van het algoritme, maar moeten tijdens de onderzoeksfase hun autonomie bewaren. Daartoe mogen minstens drie eisen gesteld worden aan de medewerkers en de situatie waarin ze werken: 1. Er moet voldoende kennis zijn van het systeem waarmee gewerkt wordt. 2. Op allerlei manieren moet duidelijk worden dat een risico nog geen oordeel is. Het gevaar is dat een initieel risico anders naadloos overgaat in een negatief oordeel over de aanvrager. 8

Pagina 9 van 18

3. Zelfs als duidelijk is dat een risico niet gelijkstaat aan een oordeel, dreigt er nog een gevaar. Dat bestaat erin dat medewerkers in onvoldoende mate ruimte krijgen om af te wijken van een risico-profilering, bijvoorbeeld omdat ze onder tijdsdruk werken of omdat er sprake is van hiërarchische gezagsverhouding waarin afgedwongen kan worden het algoritme te volgen. Een ander gevaar is dat er een groepscultuur heerst waarin geen ruimte is voor twijfel. De CPA adviseert om in het kader van een pilot nader te onderzoeken hoe deze risico’s zijn in te dammen. Hierbij kan voorshands gewezen worden op een aantal eisen die gesteld mogen worden aan de werkomgeving van de behandelaar. De behandelaar moet de ruimte hebben om openlijk zijn twijfels uit te spreken over uitkomsten, en moet ook kunnen afwijken van het spoor waartoe hij/zij door het algoritme op is gezet. Een eerste vereiste daartoe is de organisatie van het werk. Een tweede vereiste, dat niet werkt zonder de eerste eis, is dat er intern tegenspraak wordt georganiseerd en ervoor wordt gekozen om door middel van onder meer intervisie te reflecteren op de casussen en de rechtvaardige behandeling daarvan. Ook zou ingegaan moeten worden op de vraag op welke wijze algoritmen het werk beïnvloeden.

Bij dit alles is ten slotte van belang dat een aantal bezwaren die aan het gebruik van algoritmes kleven, zich mogelijk ook zonder dat dit soort middelen worden ingezet in de praktijk voordoen. 2. Procedurele rechtvaardigheid Het tweede aspect van gebruik van het algoritme betreft de vraag of het proces waarin een aanvrager terechtkomt rechtvaardig is. Is er, met andere woorden, sprake van procedurele rechtvaardigheid? Graag doet de CPA hiervoor een aantal aanbevelingen: Bij het gebruik van het algoritme is transparantie van groot belang. De CPA wijst er daarom op, dat er aan de aanvrager verantwoording afgelegd hoort te worden over het gebruik van een algoritme, maar ook dat van de gemeente transparantie gevraagd mag worden over de overwegingen in een individueel geval. Mensen wiens dossier behandeld wordt zouden al in een vroege fase, vanaf het begin van het proces, de mogelijkheid moeten krijgen gehoord te worden. Ook van groot belang is dat klachten over een onjuist verlopen proces en de bejegening al in een vroeg stadium aan de orde kunnen worden gesteld. De CPA adviseert u om ervoor zorg te dragen dat een vraag, klacht of bezwaar eenvoudig kenbaar gemaakt kan worden. Het is daarnaast van belang om zaken voortvarend af te handelen en duidelijke termijnen te geven over de afhandeling.

De CPA wijst erop, dat voorkomen moet worden dat in dit proces mensen als verdachte worden aangemerkt, want daar is immers ook geen sprake van. De CPA adviseert u dan ook om zeer duidelijk kenbaar te maken aan de mensen die worden onderzocht, wat het onderzoek gaat inhouden en wat er van mensen verwacht wordt en zorg ervoor dat aanvragers niet voortdurend nieuwe informatie moeten aandragen. De CPA vraagt ook aandacht voor de menselijke maat. Zoals eerder toegelicht zou de toepassing van features deze menselijke maat niet mogen verdringen; er kan bijvoorbeeld een legitieme reden zijn voor een no-show. Wellicht heeft de betrokkene psychische problemen of is er sprake van een schuldenproblematiek, of heeft de betrokkene om een andere reden geen overzicht meer, waardoor afspraken gemist worden. Wellicht is een no-show een verborgen hulpvraag van de betrokkene. Tijdens de vergadering van 2 juni jl. is aangegeven, dat hier oog voor is en indien nodig ook naar gehandeld wordt.

9

Pagina 10 van 18

Gebruikte terminologie De CPA merkt op dat in de in aan haar voorgelegde stukken met grote regelmaat wordt gesproken over ‘klanten’. De CPA acht deze terminologie in dit kader ten principale onwenselijk. Een klant is een afnemer van een private dienst. Een klant kan zich in vrijheid begeven in het private rechtsverkeer en in vrijheid ervoor kiezen met een andere private partij een rechtsbetrekking aan te gaan. Een burger heeft deze vrijheid ten overstaan van de overheid niet. Een burger is veelal van de overheid afhankelijk. De CPA wijst erop dat burgers wiens gegevens in het WPI-risicomodel zullen worden verwerkt, behoren tot een van de kwetsbaarste van onze samenleving. Het zijn burgers die in hun financiële bestaanszekerheid afhankelijk zijn van de overheid. Dat is voor hen ook de reden om een bijstandsuitkering aan te vragen. Vaak hebben juist kwetsbare burgers niet het doenvermogen om alert en assertief te handelen en voor hun eigen rechten op te komen. Dit blijkt onder andere uit het rapport ‘Weten is nog geen doen’ van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR).5 De WRR vraagt de overheid dan ook met deze kwetsbaarheid rekening te houden. In het verlengde hiervan vraagt de CPA aan het college op welke wijze bij de uitvoering van de Participatiewet, de AVG en de Awb, en met de toepassing van het model met deze kwetsbaarheid rekening wordt gehouden.

Verder valt het de CPA op dat in de aan haar verstrekte beleidsstukken inzake het WPIrisicomodel met enige regelmaat terminologie wordt gehanteerd die niet strookt met de beleidsfase waarin dit model zal worden toegepast en die vragen oproept in het licht van bestuursrechtelijke en strafvorderlijke kaders. De CPA heeft vernomen dat onderzoekswaardige burgers door handhavingsdeskundigen nader zullen worden onderzocht. De CPA merkt op dat in deze fase van de besluitvorming geen sprake kan zijn van handhaving (althans, handhaving in de zin van hoofdstuk 5 van de Awb). Het WPI-risicomodel zal immers in de besluitvormingsfase – dat wil zeggen: in de fase waarin het college nog een besluit in primo moet nemen – worden ingezet. Van handhaving kan aldus geen sprake zijn, zodat hoofdstuk 5 van de Awb ook niet de grondslag voor verwerkingen in het WPI-model kan vormen. Het hanteren van deze benaming draagt tevens het risico in zich dat een onderzoekswaardige bijstandsaanvrager al bij voorbaat gecriminaliseerd wordt, terwijl er alleen nog sprake is van een onderzoek naar de feitelijke situatie waarover advies gaat worden uitgebracht aan de inkomensconsulent in de besluitvormingsfase. Ook de term onderzoekswaardige bijstandsaanvrager draagt het risico in zich dat met vooringenomenheid het dossier wordt beoordeeld.

De CPA adviseert het college voor deze termen meer neutrale en objectieve termen als alternatief te gebruiken. Aanbevelingen:  Zorg ervoor dat medewerkers die het model gebruiken niet te veel varen op het risicoprofiel van het algoritme en er een ‘human in the loop’ blijft, zodat er geen confirmation bias ontstaat.  Organiseer bij het gebruik van het model ruimte voor openlijke twijfel en tegenspraak voor de medewerkers.  Zorg ervoor dat het besluitvormingsproces inzichtelijk en uitlegbaar is.  Overweeg om de terminologie ‘klant’ niet meer te gebruiken, omdat dit geen recht doet aan de kwetsbare positie van een aanvrager van een uitkering voor levensonderhoud. 5 Wetenschappelijke Raad voor het Regeringsbeleid, ‘Weten is nog geen doen’, 2017.

10

Pagina 11 van 18



Overweeg om neutrale en objectieve terminologie te gebruiken voor termen als ‘onderzoekswaardige burgers’, die nader onderzocht zullen worden door ‘handhavingsdeskundigen’, om het risico tot stigmatisering te vermijden.

Conclusie De indieners hebben de CPA gevraagd te beoordelen of de inzet van het algoritme proportioneel is. Uit de behandeling tijdens de commissievergadering blijkt in ieder geval, dat de voorbereiding van de inzet zeer zorgvuldig is geweest. Voor het beantwoorden van de vraag van de indieners heeft de CPA de door de indieners gestelde vraag over de proportionaliteit vanuit de invalshoeken ‘technisch’, ‘juridisch’ en ‘ethisch’ beoordeeld en afgewogen. De in dit advies gegeven aanbevelingen kunnen bijdragen aan de proportionaliteit van de verwerking en de zorgvuldige verwerking van persoonsgegevens. Tot slot hecht de CPA er nog aan om op te merken dat een oordeel over de ethische en ook andere aspecten van het algoritme tijdens meerdere fasen van de levenscyclus gegeven moet worden. Tijdens het design, de ontwikkeling, maar ook tijdens de pilot-fase, het echte gebruik en – mogelijk – de ontmanteling ervan. De CPA nodigt de ontwikkelaars en anderen die betrokken zijn bij de besluitvorming omtrent het WPI-risicomodel dan ook graag uit om tijdens dit proces de CPA opnieuw om advies te vragen. Verder verwijst de CPA u naar bijgevoegde notulen van de vergaderingen over het betreffende agendapunt. Hoogachtend, Mevrouw mr. E. F. van Hasselt Voorzitter Commissie Persoonsgegevens Amsterdam

11

Pagina 12 van 18

Verslag van de BESLOTEN vergadering van de Commissie Persoonsgegevens Amsterdam op 9 december 2021 De directie heeft om beslotenheid gevraagd omdat dit proces nog in ontwikkeling is en nog aan de wethouder moet worden voorgelegd. Vanuit de wettelijke taken voor de uitvoering van de Participatiewet is WPI verplicht aanvragen voor een bijstandsuitkering te beoordelen. Nu beoordelen de behandelaar en een handhaver in een gesprek handmatig aanvragen op de wenselijkheid van nader onderzoek naar de juistheid van de door de aanvrager verstrekte informatie. Bij 35% van de aanvragen wordt ontbrekende of verkeerde informatie vastgesteld. Er is het afgelopen jaar een voorspellend algoritme uitgeprobeerd ter ondersteuning van de selectie. Het moet transparant en uitlegbaar zijn en het moet voorkomen dat overbodige onderzoeken gedaan worden. Het moet iedereen gelijk behandelen en het moet proportioneel zijn, zodat het ten goede komt aan de dienstverlening aan de klanten. Consulenten blijken onderling te verschillen in hun beoordelingen. Het nieuwe instrument moet ervoor zorgen dat er minder overbodige onderzoeken plaatsvinden en dat wel alles gecontroleerd wordt wat zou moeten worden gecontroleerd. Een datagestuurd instrument is dus gewenst. De CPA is benieuwd of mensen begeleiding krijgen bij de invulling van aanvraagformulieren.

Dat is mogelijk bij de Stadsloketten, maar de meeste aanvragen worden online ingediend. De CPA is benieuwd hoe deze ontwikkeling zich verhoudt tot de inschakeling door de gemeente Amsterdam van Suwinet en de Stichting Inlichtingenbureau dat in het kader van rechtmatigheidsonderzoek vorig jaar 20.000 signalementen heeft afgegeven aan de gemeente, wat leidde tot 5000 onderzoeken. Suwinet verschaft de gemeente alleen informatie over het inkomen en vermogen van de klant in een beslisboom waar verder weinig risico’s aan verbonden zijn. Het Inlichtingenbureau komt pas in beeld bij het beheerproces en is dus niet betrokken bij het aanvraagproces. Binnen zes weken moet de gemeente een reactie geven op een aanvraag en het streven is die termijn voor 80% van de aanvragen terug te brengen tot drie weken. Dit risicomodel is bedoeld als hulpmiddel om zo vlug mogelijk te beoordelen of en op welke punten nadere informatie nodig is. Het gaat om selectie aan de poort. Tot 8 maart jl. beoordeelde de inkomensconsulent elke aanvraag op onderzoekswaardigheid. Sinds 8 maart wordt een schifting gemaakt op basis van twee BRP-variabelen in het beslismodel in het GALO-bestand (Geautomatiseerde Afhandeling aanvraag Levensonderhoud van WIGO4IT), waarna een medewerker vooronderzoek bepaalt of er werkelijk sprake is van onderzoekswaardigheid. In de nieuwe aanpak maakt het risicomodel de eerste schifting.

Aanvragen die niet onderzoekswaardig bevonden worden, gaan rechtsreeks door naar de inkomensconsulent. De CPA vraagt wie de instructie bepaalt voor de medewerker vooronderzoek. Die is door een werkgroep vastgesteld waarin inkomensconsulenten, handhavers en onderzoekers zaten en is vastgelegd in een werkinstructie waar onder andere de proportionaliteit meetelt. Het risicomodel kent een aantal variabelen die met elkaar een score opleveren tussen nul en een. De vooronderzoeker kan zien welke variabelen in een bepaalde casus de belangrijkste 12

Pagina 13 van 18

zijn voor de score. Als een aanvrager eerder een sanctie is opgelegd, betekent dat een hoger risico en hogere score. De grenswaarde boven welke nader onderzoek nodig is, kan men variëren en zal na de pilotfase op grond van de ervaringen worden vastgesteld. Vooralsnog wordt uitgegaan van een grenswaarde van 0,65. Factoren die een rol kunnen spelen bij die bepaling van de grenswaarde zijn bijvoorbeeld de handhavings- en onderzoekscapaciteit, maar vooral ook welke grens leidt tot de beste uitkomsten. Tijdens de pilot wordt bekeken welke variabelen het meest bijdragen aan de voorspelbaarheid en welke achterwege kunnen blijven in het definitieve model. Er moet ook nog goed gekeken worden welke variabelen men mag en wil gebruiken. Over de variabelen zelf en de invulling daarvan wil men het graag een andere keer uitvoerig hebben als de CPA-leden de tijd gehad hebben die te bestuderen. Er is intussen een vergelijking gemaakt van 1000 historische casussen tussen de uitkomsten van de werkwijze voor 8 maart en die volgens het risicomodel. Van de 650 die volgens de oude werkwijze niet onderzoekswaardig werden bevonden, noemde het risicomodel er 31 wel een onderzoek waard; van de 350 die volgens de oude manier verwezen werden naar nader onderzoek, bleven er met het risicomodel 51 over.

Met het risicomodel worden dus veel overbodige onderzoeken voorkomen, maar ook het aantal onterechte uitkeringen. De CPA zegt dat er de documenten vooral gesproken wordt over systeemtransparantie, maar is vooral benieuwd hoe het staat met de transparantie naar de aanvragende burger. Het proces is op zich inzichtelijk, maar omdat het gaat om een aanvraagproces is de vraag op welk moment de aanvrager gerechtigd is precies te weten hoe dat verloopt. Naderhand kan de burger het dossier inzien en precies volgen welke onderzoeken rond zijn aanvraag zijn uitgevoerd. Ook die kwestie wil men graag een volgende keer apart behandelen. Dan wil men ook nog verder ingaan op het ontwikkelproces en de documenten en processen die nog op stapel staan. . De CPA merkt op dat het Inlichtingenbureau nuttige informatie voor dit model zou kunnen aanleveren. Het is bijvoorbeeld bekend dat veel mensen vergeten bij aanvragen het bezit van een auto aan te geven. Verder verdient het aanbeveling een grondslag in de landelijke wetgeving te zoeken voor de uitzondering op de verwerking van persoonsgegevens. De verwijzing naar artikel 9 van de AVG volstaat daar niet voor. De CPA merkt daarbij op dat het aspect persoonsgegevens ontbrak in de presentatie. Het model gebruikt op dit moment geen bestanden van het Inlichtingenbureau.

Alle relevante informatie zit in de eigen systemen, maar wellicht gaat men nog naar die optie kijken. De voorzitter concludeert dat een volgende keer gelegenheid is voor het stellen van resterende vragen. Zij sluit het besloten deel van de vergadering om 15.00 uur.

13

Pagina 14 van 18

Verslag van de BESLOTEN vergadering van de Commissie Persoonsgegevens Amsterdam op 2 juni 2022 4. WPI Risicomodel Het gaat hier om een concept voor een pilot waar nog een fiat voor moet komen van de wethouder. Men heeft daarom gevraagd dit nu bij de CPA in beslotenheid te bespreken en daar heeft de CPA mee ingestemd. In september hoopt men hier terug te kunnen komen met de uitkomsten van de biasanalyse en andere stukken (o.a. DPIA) voor een definitief advies. Het gaat nu vooral om het meedenken in een vroeg stadium. In december 2019 is met de CPA al gesproken over een voorloper van dit project. Toen ging het over het voorkomen van verborgen discriminatie in algoritmen. Dat is nu doorontwikkeld ter voorkoming van vooringenomenheid bij overdrachten naar handhaving en ter bevordering van proportioneel handhaven. WPI streeft naar een effectief proces ten faveure van de burger en heeft de focus verlegd naar preventie om onrechtmatigheden te voorkomen zodat men niet achteraf problemen krijgt met navorderingen en dergelijke. Het gaat hier om de toetsing van nieuwe aanvragen, niet om het opsporen van onrechtmatigheden bij bestaande uitkeringen. De aanleiding voor het project is dat de overdracht van casussen vanuit de teams die gaan over uitkeringen naar handhaving nogal verschilde per team.

Daarom is men op zoek naar een betrouwbaar en efficiënt digitaal instrument om te bepalen of een aanvraag nader onderzoek verdient. De brondata zijn afkomstig van BRP en WPI zelf. Daarin zitten variabelen – ook wel features genoemd, bijvoorbeeld het aantal personen dat is ingeschreven op hetzelfde adres. Die features vormen de input voor het model. Er wordt niet gewerkt met business rules, maar het model vergelijkt de features zelf met historische data om afwijkingen op te speuren, bijvoorbeeld dat op een bepaald adres per jaar erg veel verhuizingen voorkomen. Dat kan een aanwijzing zijn voor onderzoekswaardigheid. Het model kan ook gecombineerde data zien en in de loop der tijd patronen ontwaren. Het is echter geen zelflerend model, de training geschiedt handmatig. Per voorspelling valt te traceren welke features daarvoor van doorslaggevend belang waren. Zo kan men irrelevante features op het spoor komen en uiteindelijk komen tot de belangrijkste features om te bepalen of een aanvraag onderzoekswaardig is. De variabelen/features komen uit de bronbestanden van BRP en WPI. De data worden elk half jaar ververst om ze actueel te houden. Bij de vergaderstukken is een overzicht van features in een Excel-bestand aangeleverd. Dat zijn de features die na kritische selectie zijn overgebleven. De vraag aan de CPA is daar nog eens kritisch naar te kijken.

De CPA vraagt welke persoonsgegevens in het model terechtkomen. Dat is nog niet vastgesteld en hangt ook samen met de bias-analyse die uitgevoerd wordt. Het zullen er wel minder worden dan er nu in het Excel-bestand staan. Er zal bijvoorbeeld geen BSN worden opgenomen, maar wel een klantnummer. De CPA vraagt of de gebruikers van het model in de gelegenheid gesteld worden daar vragen over te stellen en hoe dit model omgaat met een mogelijke vorm van vooringenomenheid bij de medewerkers. Er worden workshops gehouden met de medewerkers die het model gaan gebruiken. Het model bepaalt weliswaar op basis van de historische gegevens per geval welk gewicht aan de verschillende features wordt toegekend, maar het besluit of een uitkering wordt toegekend 14

Pagina 15 van 18

of geweigerd, moet door de medewerkers met een goede onderbouwing worden genomen. Er is dus geen sprake van geautomatiseerde beslissingen. Er komt nog een bias-analyse, die dan ook gedeeld wordt met de CPA, die ook kijkt of er sprake is van een bias aan de kant van de beoordelaar. Bovendien is bij de gemeente net het Fairness Handboek uitgebracht met handreikingen om bias te voorkomen. De CPA vraagt of er evaluatiemomenten zijn voorzien, wie daar dan bij betrokken wordt en of er sprake is van audits en monitoring. Er zal doorlopend gekeken worden hoe het staat met bias bij gebruik van het model. De vraag is op welk punt audits zich zouden moeten richten. Er zal niet gewerkt worden met controlegroepen, maar resultaten zullen wel vergeleken worden. De doelen voor dit project zijn vastgesteld en er komt een nulmeting. Daarna zal men blijven meten. Als besloten wordt tot doorontwikkeling en dan dus nieuwe features in beeld komen, zal men weer bij de CPA komen voor advies. Maar vooralsnog gaat het alleen om het voorliggende plan. De CPA vraagt hoe het zit met de proportionaliteit van dit model in relatie tot de effectiviteit. De vraag is waarom gekozen is voor dit model en niet voor een zelflerend algoritme. Ook is men benieuwd hoe deze keuze zich verhoudt tot het algemene beleid van de gemeente op dit gebied. Er worden steeds afwegingen gemaakt tussen uitlegbaarheid en efficiency.

Dit model scoort wellicht iets lager op efficiency, maar is wel goed uitlegbaar. Bij de directie WPI is efficiency niet de doorslaggevende factor, maar het streven naar eerlijke algoritmen. De gemeente gaat het Fairness Handboek actief als richtsnoer invoeren, met de nodige ruimte voor de professionals om afwegingen te maken. De CPA vraagt of elders bij gemeenten vergelijkbare projecten in gang zijn gezet. In Rotterdam werkt men met een model ter controle van reeds toegekende uitkeringen, terwijl dit model alleen nieuwe aanvragen betreft. In Rotterdam hanteert men wel 300 features, terwijl het er hier om 13 gaat. De twee zijn dus niet vergelijkbaar en Amsterdam kan wat dat betreft weinig leren van de Rotterdamse aanpak. De CPA vraagt hoe het staat met vals-positieven en -negatieven. Verder wil de CPA weten hoe het staat met de opslag en archivering van gegevens. In september hoopt men meer inzicht te kunnen geven over valsmeldingen. Amsterdam vindt het belangrijk daar openheid over te bieden. De opslag vindt nu nog plaats in Oracle en SQL bij WPI zelf, met hier en daar dubbelingen, maar Amsterdam is bezig met de overstap naar Azure en daar zal dan alles opgeslagen worden. Er is een werkgroep opgetuigd om te bezien hoe de archivering van algoritmes dient te geschieden, mede in het licht van de nieuwe Archiefwet.

In de DPIA die in september aan de orde komt, kan daar hopelijk meer duidelijkheid over komen. Er moet ook nog uitgezocht worden hoe het staat met de bewaartermijn van afgewezen aanvragen. De CPA vraagt hoe voorkomen wordt dat medewerkers gaan neuzen in deze data voor andere doeleinden. Dat mag alleen als er vooraf een wettelijke grondslag voor geregeld is. 15

Pagina 16 van 18

Daar zijn technische oplossingen voor te bedenken, maar zaak is wel dit goed in het systeem op te nemen. De CPA vraagt hoe de discussie met de Participatieraad is verlopen. De projectgroep heeft vorig jaar contact opgenomen met de Participatieraad en daarna drie sessies gehouden van in totaal negen uur waarop de features zijn doorgenomen. Het bleek lastig alle leden het model duidelijk te maken. Daar speelde ook nog mee dat er in eerste instantie gesproken werd met een delegatie en volgende keren met de voltallige groep. Daarna liet hun advies lang op zich wachten. Er staan in het advies zaken die niet kloppen. Kennelijk stonden zaken niet meer helemaal scherp op het netvlies. De algemene teneur is dat het maken van modellen rond uitkeringen uit den boze is. Op hun advies is wel de variabele ‘leeftijd’ uit het model verwijderd en is nog eens een keer kritisch gekeken naar de proportionaliteit. De CPA merkt op dat hier dus wel een toets aan de orde was van de uitlegbaarheid. De overheid moet zijn optreden kunnen uitleggen aan wie het aangaat, ook voor bijvoorbeeld digibeten. Volgens de projectleiders verliep het gesprek tijdens de sessies genuanceerder dan uit het advies blijkt. Er waren ook leden van de Participatieraad die oog hadden voor de voordelen van het model voor een betere rechtmatigheidsbeoordeling van aanvragen.

Men moet zich ook realiseren dat het hier niet gaat om fraudepreventie, maar om het voorkomen van onrechtmatigheden bij aanvragen en toekennen van uitkeringen. Het model kan bovendien ook aan het licht brengen dat een aanvrager meer zorg nodig heeft. Bij het nadenken over mogelijke doorontwikkelingen is dat element bijvoorbeeld al genoemd. De CPA merkt op dat men wel onderscheid moet maken tussen de rol van handhaver en die van hulpverlener. De CPA adviseert voorts nog eens te kijken naar de onderbouwing van de features om nog beter te verduidelijken dat het model niet uitgaat van kwade trouw. De relatie tussen de features 9 en 14 als het gaat om gemiste contacten en no-shows wordt als verwarrend ervaren en zou een beter uitleg verdienen. De CPA ziet de aangekondigde bias-analyse, de DPIA en andere documenten rond dit model met belangstelling tegemoet.

16

Pagina 17 van 18

Verslag van de BESLOTEN vergadering van de Commissie Persoonsgegevens Amsterdam op 25 augustus 2022 4. WPI risicomodel (Directie Werk Participatie en inkomen) Het is de vierde keer dat dit onderwerp in de CPA aan de orde komt. Vorige adviezen zijn verwerkt en de laatste versie van de stukken zijn naar de CPA opgestuurd. De indieners zouden nu graag willen weten of op deze basis een juridisch zorgvuldige en ethisch verantwoorde pilot kan worden gestart. Men wil graag weten of in de DPIA en andere stukken de goede afwegingen zijn gemaakt of dat er wellicht dingen over het hoofd gezien zijn. Daarbij wordt aangetekend dat op verzoek van de wethouder een vergelijkbare adviesaanvraag is uitgezet bij een extern bureau, Deloitte. Daar wordt binnen zes weken een antwoord op verwacht. Men hoopt in oktober een besluit te kunnen nemen. Het verzoek aan de CPA is dan ook in september met een schriftelijk advies te komen. Alles wordt ook nog voorgelegd aan de FG. Er is nog ruimte om wijzigingen in de DPIA aan te brengen, omdat die meegroeit met het proces. Daarnaast wordt met Considerati een Data Transfer Assessment uitgevoerd in relatie met het algemeen gemeentelijk platform Azure. De CPA merkt op dat zaken die in de CPA-flap gemeld worden rond transparantie van het systeem, in de DPIA nog niet verwerkt zijn. Dat zou alsnog moeten gebeuren.

Verder merkt de CPA op dat in de DPIA bij punt 25 ten onrechte verwezen wordt naar hoofdstuk 5 van de AWB. Dat gaat over het toezicht nadat een besluit genomen is, terwijl dit project gaat over het proces voorafgaande aan besluitvorming. Voorts is de recente uitspraak van het Europese Hof over bijzondere persoonsgegevens nog niet meegenomen. Daarin werd onder andere gegevens over een partner tot bijzondere persoonsgegevens bestempeld. Daar zou op zijn minst naar verwezen moeten worden. Verder is er de ethische afweging bij welk percentage sprake zou zijn van onderzoekswaardigheid. Enerzijds moet dat hoog genoeg zijn om betekenisvol onderscheid te kunnen maken. Anderzijds mag het niet te laag zijn omdat dan alles gemist wordt. Met dat laatste punt is men nog bezig. De verwachting is dat de grens zal komen te liggen rond de 0,55% en die keuze zal dan duidelijk toegelicht worden. Overigens is de definitieve bepaling van die grens ook onderdeel van de pilot zelf. De andere drie punten zullen verwerkt worden. Er wordt in de pilot overigens alleen geregistreerd of er een partner is, niet de sekse. Veel andere gegevens zullen geaggregeerd worden om gevoeligheden te vermijden. De interface zal alleen ja of nee registeren, zonder kwalitatieve gegevens. De training van medewerkers moet nog vorm krijgen, maar die zal uitgebreid zijn.

In de training zal benadrukt worden dat het uitsluitend om indicaties gaat en dat uiteindelijk de menselijke tussenkomst de doorslag zal geven. Het algoritme dient alleen om een indicatie te krijgen of een aanvraag onderzoekswaardig is. De CPA adviseert in de DPIA het hele proces rond de aanvraag in heldere, afgebakende stappen neer te zetten en dan duidelijk aan te geven bij welk onderdeel dit algoritme wordt ingezet. Daarbij kan men ook verwijzen naar de bijlagen. Daarbij verdient het aanbeveling ook aan te geven hoe wordt omgegaan met onvolledige aanvragen en of de burger gelegenheid krijgt tot aanvulling voordat dit instrument wordt ingezet. Bestuursrechtelijk moet de overheid de burger immers die gelegenheid geven. 17

Pagina 18 van 18

De CPA vraagt hoe het bij de burger aankomt als die hoort dat zijn aanvraag onderzoekswaardig bevonden is en ter onderzoek wordt voorgelegd aan een handhavingsdeskundige. De benamingen dragen het risico in zich dat men zich al bij voorbaat gecriminaliseerd voelt, terwijl er alleen nog sprake is van een onderzoek naar de feitelijke situatie waarover advies gaat worden uitgebracht aan de inkomensconsulent. De vraag is wat men doet als er niets aan de hand blijkt te zijn. Bestuursrechtelijk is het nodig een onderscheid te maken tussen toetsing vooraf en naderhand, maar nu lijkt alles naar de voorfase overgebracht te worden. Dat kan men zien als de facto criminaliseren. Deze preventieve aanpak noemt men tegenwoordig ook wel serviceverlening: voorkomen dat mensen naderhand in de problemen komen als zij ten onrechte een uitkering of toeslag krijgen. Het streven moet zijn zaken zorgvuldig voor te bereiden en daarbij de minst repressieve instrumenten in te zetten. Men zou duidelijk moeten kunnen maken dat het erom gaat het voor de burgers zo prettig en soepel mogelijk te maken het proces te doorlopen. Daarbij komt dat het voor de CPA al lastig is te begrijpen hoe het proces in elkaar zit, voor de gemiddelde burger zal dat dus nog lastiger zijn. De afdeling communicatie zal worden ingeschakeld om te komen tot voor alle burgers begrijpelijke teksten.

Er komt een communicatieplan en een Q&A-lijst. In de DPIA worden het proces, de verwerking en de wijze van verwerking ook beschreven vanuit het belang van de burger. De CPA verwijst naar een vergelijkbaar onderzoek in de psychiatrie in Amsterdam waarin verschillen in uitkomst werden onderzocht tussen patiënten die wel waren opgenomen en patiënten waarbij dat niet het geval was. Kijken naar dat onderzoek kan wellicht waardevolle nieuwe inzichten opleveren. De vraag is verder of doelgroepen betrokken zijn bij deze pilot. Men zou de huidige groep aanvragers op wie nog geen algoritme is losgelaten, ook als controlegroep laten dienen. Via de Participatieraad zijn de doelgroepen betrokken bij de pilot. De CPA vraagt waarom bij de feature vermogen alleen de opties nul en een staan en geen verschillen kunnen worden aangegeven. Bij no-show kan niet worden aangegeven of er sprake was van overmacht. De projectindieners zullen daar navraag naar doen. Maar men moet niet vergeten dat uiteindelijk een weging zal plaatsvinden van de werkelijke situatie. Dit is alleen een indicatie. Gebleken is al dat met name de eerste drie features van belang zijn, de rest een stuk minder. Het project is zelflerend en elk half jaar zal bekeken worden of bijstelling nodig is. Als er een evaluatie van de pilot beschikbaar is komt men graag terug om die met de CPA door te nemen.

18