17. Brief van Stadspannel inzake Advies m.b.t. Onderzoek algoritmeregister

Datum: 7 maart 2024 Betreft: Collegebrief afdoening M23-92 Onderzoek algoritmeregister Geachte raadsleden, Gaarne willen wij reageren op de collegebrief van 29 februari 2024. We sluiten aan bij de aanbeveling in de brief om de landelijke ontwikkelingen op dit gebied te volgen. De voorgestelde maatregelen voor de borging van het algoritme register heeft bij ons tot een aantal vragen geleid. In plaats van per algoritme te bekijken of aan alle voorwaarden wordt voldaan, zijn wij een groot voorstander van een aanpak waarbij wordt gekeken naar het ethisch kader waarbinnen deze algoritmes worden ontwikkeld en beheerd. Als dit kader duidelijk wordt geformuleerd kan de governance rondom dit project helder worden opgetuigd en kan elk algoritme daarop worden getoetst. Een algoritme is onzes inziens geen technische handeling maar betreft de inzet van een veelheid van gegevens, waaronder persoonsgebonden gegevens, om een nader gedefinieerd (gemeentelijk) proces efficiënt te kunnen laten verlopen. Hierdoor is er een directe koppeling met de zorgen rond privacy van de burger. Een groot deel van de mogelijke privacy issues wordt geregeld binnen de AVG. Niettemin moet worden nagedacht welke data strikt noodzakelijk zijn voor het goed functioneren van het algoritme. De overige gegevens moeten terzijde worden gelegd. Deze problematiek beweegt zich op het snijvlak tussen ethiek en privacy.

In de governance regels moet minimaal het volgende worden behandeld: -

Wat is het doel van het algoritme. Sluit het algoritme aan op de kernwaarden van de gemeente. Doet het algoritme, wat het verondersteld wordt te doen. Welke persoonsgegevens worden opgeslagen en gebruikt. Wat zijn de afspraken over het gebruik van deze persoonsgegevens. Alleen voor de benoemde toepassing of zijn er aanvullende beoogde toepassingen. Is er geen bias ingeslopen. Wordt het regelmatig geëvalueerd. Hoe wordt er geëvalueerd. Worden er (handmatige) steekproeven genomen. Is een duidelijke beschrijving beschikbaar hoe het algoritme functioneert en op welke gronden beslissingen worden genomen. Worden deze beschrijvingen duidelijk en ook voor leken begrijpelijk gecommuniceerd.

-

-

-

Worden bij zelflerende systemen extra periodieke controles gehouden om vast te stellen dat er geen geleidelijke ongewilde verschuiving plaatsvindt in de criteria voor besluitvorming. Past het algoritme in de landelijke ontwikkeling. Wordt de privacy van de burger niet onnodig aangetast. Zijn de verzamelde persoonsgegevens in aantal en voor wat betreft inhoud proportioneel om het systeem te kunnen laten functioneren. Is voorkomen dat bepaalde bevolkingsgroepen benadeeld worden of gediscrimineerd.

De gemeente heeft vooralsnog vier categorie A processen (impactvol) geïdentificeerd die gebruik maken van een algoritme. Wij verwachten dat het gebruik van deze categorie A processen in de toekomst alleen maar zal toenemen en dat de aandacht voor deze complexe problematiek in het geding kan komen door de dagelijkse werkdruk. Ook is er een situatie denkbaar dat een afweging moet worden gemaakt in de trant van: het kan, het mag, maar willen we het ook. Hier zou een onafhankelijke ambtenaar, zonder direct zakelijk belang zijn/haar mening en/of advies moeten kunnen geven. Daarom adviseren wij om in navolging van andere gemeenten een ethiek officer aan te stellen, die in nauwe samenwerking met de privacy officer een ethisch kader opstelt (beleid) en vervolgens de governance leidt en monitort rondom deze kwetsbare processen. De ethiek officer kan zich dan ook oriënteren op de ontwikkelingen elders in Nederland om zodoende een “best practice” benadering te bewerkstelligen. Deze materie is voor veel ambtenaren nieuw en moeilijk te doorgronden. Het lijkt ons daarom verstandig om van meet af aan voor een gedegen aanpak te kiezen, waardoor fouten kunnen worden vermeden, die wellicht pas na maanden of jaren aan de oppervlakte komen. Zie recente voorbeelden als de toeslagenaffaire en de studiefinanciering.

Het Stadspanel is gaarne bereid mee te denken over de totstandkoming van het ethisch beleid aangaande het gebruik van algoritmen. Het beoordelen van de beschrijving van de individuele algoritme processen, zoals aangegeven in de collegebrief lijkt ons iets minder relevant, zolang de governance niet goed is opgetuigd. Hoogachtend, P.J.Kok Voorzitter Stadspanel