Advies Participatieraad pilot AI_2022.pdf

Jodenbreestraat 25 1011 NH Amsterdam Telefoonnummer: 08 00 – 12 17 (Gratis) Email : DeRaad@participatieraadamsterdam.nl Website: www.participatieraadamsterdam.nl Aan : Gemeente Amsterdam T.a.v. : College B&W, mw. Schoonderwaldt, projectmanager Handhaving DWPI Betreft: Gevraagd advies pilot Artificial Intellegence (AI) bij de aanvraag van een (bijstands)uitkering

Amsterdam, 10 maart 2022 Geachte mevrouw Schoonderwaldt, De dienst WPI heeft in het laatste kwartaal van 2021 aan de Participatieraad gevraagd te adviseren ten aanzien van een Artificial Intellegence-pilot bij de aanvraag van een (bijstands)uitkering. WPI heeft namelijk het voornemen om datagestuurd-werken te implementeren in de al bestaande digitaliseringsstratiegie van WPI. Volgens WPI is het doel van datagestuurd-werken: fraude opsporen, fraude voorkomen en controle. De Participatieraad is echter van mening dat het inzetten van AI nauwelijks effect heeft op eventueel ten onrechte verstrekte uitkeringen (ten hoogste drie procent van de toegekende uitkeringen blijkt na intensieve controle onrechtmatig toegekend). Daarnaast brengt de wettelijk bepaalde verwerking van persoonsgegevens beperkingen met zich mee (AVG). Gezien bovenstaande heeft de raad op 10 november jl. besloten negatief te adviseren op iedere vorm van willekeurige persoonsidentificatie. Bezwaren De dienst WPI heeft de Participatieraad laten weten hoe zij gebruik gaat maken van variabele data in analytische modellen. In dit zgn. datagestuurd-werken worden door DWPI variabelen gebruikt die een bepaald verband kunnen laten zien. Hier ligt bias op de loer: bewuste vooringenomenheid. Een variabele zoals geboortejaar roept ons inziens vragen op: is er een aantoonbaar verband tussen

leeftijd en mogelijk fraudeleus gedrag? De Participatieraad stelt dat bepaalde variabelen discutabel zijn (discriminatoir). Daarnaast wijst de raad WPI op de Algemene Verordering Persoonsgegevens (AVG). Zo mogen persoonsgegevens alleen worden verwerkt in overeenstemming met de wet en met een gerechtvaardigd doel. Het optuigen van een systeem om een klein percentage onrechtmatigheden op te sporen acht de Participatieraad derhalve disproportioneel. Ook stelt de raad dat de gemeente veelvuldig gebruik maakt van diensten van het landelijk Inlichtingenbureau: omstreden producten, zoals data van burgers waar ‘algoritmes op worden losgelaten’, zonder democratische controle, zonder transparantie. En bovenal: geheel in strijd met de richtlijnen zoals omschreven in de AVG. Samen met de Autoriteit Persoonsgegevens (AP) maakt de raad zich ernstige zorgen dat gemeenten een grotere inbreuk maken in de persoonlijke levenssfeer van uitkeringsgerechtigden dan noodzakelijk is. Zie ook de brief van de Vereniging Nederlandse Gemeenten van 3 december j.l. Conclusie: De dienst WPI heeft de Participatieraad op geen enkele manier overtuigd van de meerwaarde van het gebruik van AI. De raad is van mening dat een dergelijk experiment de fundamentele grondrechten van burgers aantast en dient te worden gestaakt Als vastgesteld in de plenaire vergadering van de Participatieraad Amsterdam op 9 maart 2022.

Namens deze, met vriendelijke groet,

Mw. T. Ditmeijer, mw. A. Van der Vliet en mw. A.Spoon