Raadsbrief Algoritmeregister

voorstel

Raadsbrief Datum

3 april 2025

Onderwerp Versienummer

Algoritmeregister 1.5

Portefeuillehouder

Arjan Spaans

Samenvatting Op 14 januari 2025 is aan de raad beloofd dat de gemeente Zwolle uiterlijk in maart aansluit op het landelijke algoritmeregister. Toen is ook aangegeven dat er een raadsbrief zou volgen over het beleid en de werking van het algoritmeregister. In deze raadsbrief leest u: a. Dat we aansluiten op het landelijk algoritmeregister; b. Dat we alleen algoritmes publiceren die impactvol of hoge risico’s geven; c. Dat we de keuze over publicatie nemen in een multidisciplinair algoritmeboard.

Bijlagen geen

Openbaarheid Openbaar

Wij stellen u voor kennis te nemen van: Het beleid en de werking van het Algoritmeregister

1/6

voorstel

Datum

3 april 2025

Inleiding Uitgangspunt: Een Zwols algoritmeregister stelt inwoners in staat om inzicht te krijgen in de werking van impactvolle algoritmes die door de gemeente worden gebruikt. Het maakt transparant welke activiteiten de gemeente onderneemt op basis van deze algoritmes en laat zien dat de gemeente op een verantwoorde manier met de algoritmes en daarvoor gebruikte data omgaat. Hierdoor krijgen inwoners de mogelijkheid om de gemeente te controleren. Deze openheid zal uiteindelijk bijdragen aan het vergroten van het vertrouwen in de gemeente. Het systeem: In het Algoritmeregister van de overheid publiceren Nederlandse overheidsorganisaties informatie over algoritmes die zij gebruiken in hun werk. Het register focust op impactvolle algoritmes (waaronder hoog risico AI-systemen) en geeft de bezoeker inzicht in hoe deze algoritmes werken. Wij sloten in maart aan op het nationale algoritmeregister als plek voor het Zwols algoritmeregister. Het proces: Gemeente Zwolle gebruikt dit register om impactvolle algoritmes te publiceren. Daarvoor is een proces noodzakelijk dat algoritmes identificeert en classificeert als te publiceren algoritme. In dit proces richten wij ons op de algoritmes die wij (gaan) inkopen en die we zelf vervaardigen. In lijn met de bedoeling van het landelijk algoritmeregister beperken we ons hierbij tot de impactvolle algoritmes.

Om deze te bepalen passen we de risicoclassificatie van de Europese AI verordening toe. In het afwegingsproces maken we gebruik van een ‘Algoritmeboard’ om een transparante belangafweging te borgen. Verzoek om reflectie van de Ethische Commissie heeft een plek in dit afwegingsproces. Op dezelfde wijze als binnen het proces rond ethiek, kan de Ethische Commissie om reflectie worden gevraagd.

Kader • Raadsbrief van 14 januari over de artikel 45 vragen van GroenLinks, PvdA, CU, D66 en Swollwacht n.a.v. Rekenkamer inspiratiebrief Algoritmen c.q. Algoritme Register. Document Zwolle - Raadsbrief Beantwoording artikel 45 vragen GroenLinks, PvdA, CU, D66 en Swollwacht n.a.v. Rekenkamer inspiratiebrief Algoritmen c.q. Algoritme Register - iBabs Publieksportaall • Europese AI verordening (AI act). Verordening - EU - 2024/1689 - EN - EUR-Lex • Principekaart Digitalisering in de Zwolse samenleving Document Zwolle - Bijlage 2 - Principekaart Waarde(n)volle Digitale Transitie - iBabs Publieksportaal Kernboodschap We sluiten aan op het landelijk algoritmeregister. Dat willen we doen om transparant te zijn over het algoritme gebruik binnen de gemeente Zwolle. Zo versterken we het vertrouwen van inwoners in de gemeente Zwolle.

2/6

1

voorstel

Datum

3 april 2025

Toelichting Voor een zinvol en goed functionerend Algoritmeregister is duidelijkheid nodig over welke doelen we ermee willen bereiken, welke algoritmes erin thuishoren en hoe komen we tot deze overweging. In deze brief maken we duidelijk welke keuzes we daarbij maken en waarom we deze maken. De komst van het landelijke algoritmeregister legt een nieuwe stevige basis voor de publicatie van algoritmen waarvan we in Zwolle gebruik maken. Op deze manier zijn wij transparant over het gebruik van algoritmen binnen onze gemeente. Wat is een Algoritme? Een algoritme kan op verschillende manieren worden gedefinieerd, afhankelijk van de context waarin het wordt gebruikt. Voor dit voorstel sluiten we aan bij de definitie van de Algemene Rekenkamer, die ook binnen de Handreiking Algoritmeregister1 wordt gebruikt: ‘Een algoritme is een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.’ Dit is een brede definitie die de maximale reikwijdte weergeeft van algoritmes die in het Algoritmeregister kunnen worden opgenomen. Bij de opvatting “om een probleem op te lossen of een vraag te beantwoorden”, wordt ook verstaan “om een taak of proces uit te voeren of tot een besluit te komen”. Het algoritme voert in dit geval een voorbereidende en/of adviserende taak uit.

Dit betekent dat niet alleen het algoritme zelf dat van belang is; minstens zo belangrijk is de context waarin het wordt gebruikt en het proces dat het algoritme aanstuurt. Waarom gebruiken we het algoritmeregister? Vertrouwen in de overheid vergroten Gemeente Zwolle kan alleen effectief maatschappelijke meerwaarde bieden, als er vertrouwen in de gemeente is en mensen zich gehoord en betrokken voelen. Het Algoritmeregister moet helpen het vertrouwen in te verbeteren, onder meer door: 1. Versterken van de positie van inwoners en bedrijven Met het Algoritmeregister krijgen inwoners en bedrijven meer informatie in handen over hoe processen van de overheid werken en welke keuzes zijn gemaakt. 2. Meer duidelijkheid over algoritme- en AI-gebruik (Demystificatie) Voor veel mensen is onduidelijk wat een algoritme is en hoe deze effect heeft op zijn of haar leven. Het Algoritmeregister maakt inzichtelijk waar en hoe we algoritmes en AI gebruiken. 3. Transparanter zijn over het handelen Om openheid en controleerbaarheid te kunnen bieden, willen we transparant zijn. Het zorgvuldig vullen van het Algoritmeregister is een van de manieren om dat te doen.

Hoe bepalen we of een algoritme moet worden opgenomen in het algoritmeregister? Het Algoritmeregister gaat uit van een brede definitie van een algoritme en van het principe ‘publiceren tenzij’ met het advies om zo veel mogelijk algoritmen te publiceren. Algoritmes komen echter veel voor en maken ons werk een stuk gemakkelijker. Niet alle algoritmes hebben een grote impact op de inwoners van Zwolle. In Zwolle willen we voorkomen dat er zo veel gepubliceerd wordt dat een inwoner ‘overspoeld wordt’ met informatie die weinig relevantie voor hem heeft. Bovendien realiseren wij ons 3/6

voorstel

Datum

3 april 2025

dat publicatie van algoritmen een extra inspanning met zich meebrengt, zowel bij de voorbereiding van de publicatie als bij het actueel houden van gepubliceerde algoritmes (beheer). Doelmatige inzet van publieke gelden vergt daarom ook een afbakening van te publiceren algoritmen. Wij sluiten de processen uit waarin het algoritme een handmatige werkinstructie automatiseert/ digitaliseert van de publicatie (conform de handreiking1). We kiezen er daarom voor om de impactvolle algoritmes en de hoog risico AI-systemen te publiceren. Om te beoordelen of er sprake is van een impactvol algoritme borduren we voort op de handreiking die het rijk heeft gepubliceerd voor het gebruik van het landelijk algoritmeregister en op de AI-verordening. Werkwijze De afweging hierover vindt plaats in een intern multidisciplinair algoritmeboard. Hierin nemen medewerkers van de gemeente Zwolle plaats die kennis hebben van in elk geval privacy, ethiek, gegevenskwaliteit, informatiemanagement en afwisselend vakspecialisten die eigenaar zijn van het algoritme. Het algoritmeboard staat daarmee los van individuele belangen of belangen van een specifieke afdeling. Een dergelijke ‘organisatie afweging’ draagt bij aan het creëren van een gezamenlijk en breed gedragen begrip en interpretatie van de algoritmen.

Bovendien verwachten we dat we met deze aanpak sneller in staat zullen zijn om aan te sluiten op de laatste landelijke inzichten en ontwikkelingen. Wanneer de volgende vragen met een nee beantwoord worden, dient het algoritme niet te worden gepubliceerd. • Is er sprake van een proces met directe gevolgen voor betrokkenen? • Heeft het algoritme een significant effect op de uitkomst van het proces? • Is er sprake van bepaalde mate van complexiteit of onnavolgbaarheid in het algoritme? Wanneer deze vragen niet met een nee beantwoordt kunnen worden, valt bij voorbaat niet te zeggen hoe impactvol deze algoritmes zijn. Bij een algoritme zal één aspect op impact wijzen en een andere juist niet. Binnen het algoritmeboard wordt een afweging gemaakt op basis van de volgende vragen: • • • • • • •

Of er sprake is van rechtsgevolgen Of er sprake is van classificatie Mate waarin de uitkomst van algoritme de inwoner raakt Complexiteit en navolgbaarheid van het algoritme Mate van impact van het algoritme op besluit/uitkomst De aanwezigheid van menselijke tussenkomt en de betekenis daarvan Politieke gevoeligheid, inclusief risico op discriminatie of vooringenomenheid

Het algoritmeboard neemt een weloverwogen beslissing of een algoritme opgenomen moet worden in het algoritmeregister (publicatie of alleen interne registratie), of deze gepubliceerd wordt en onder welke categorie (Hoog-risico, impactvol of overige algoritme). De beslissingen van het board worden vastgelegd en inzichtelijk gemaakt. Waarop is het algoritmeregister van toepassing? Het algoritmeregister is van toepassing op alle algoritmen binnen de gemeente Zwolle waaronder: • Algoritmen die de gemeente zelf ontwikkelt of geeft opdracht voor de ontwikkeling; 4/6

voorstel

Datum

• •

3 april 2025 Algoritmen die gekocht worden; Algoritmen die via bestaande software inkopen.

Hoe implementeren we de publicatie van algoritmen in het algoritmeregister? Er is binnen Zwolle een eerste inventarisatie geweest van algoritmes. Daarin kwamen geen impactvolle algoritmes naar voren. Bij het inkoopproces voor nieuwe applicaties en algoritmes moet een afwegingskader worden gevolgd om te bepalen of er sprake is van impactvolle algoritmes. Het inkoopproces zal hierop moeten worden aangepast. Wanneer er binnen de gemeente Zwolle zelf algoritmes worden ontwikkeld, wordt ook op basis van het afwegingskader een beoordeling gemaakt of het gaat om een impactvol algoritme. Om beter inzicht te krijgen in de algoritmes die er gebruikt worden binnen de gemeente richten we verschillende processen in: Een inventarisatieproces om beter inzicht te krijgen in de algoritmes die gebruikt worden binnen de gemeente. Een proces hoe wij inzicht krijgen in de algoritmes die wij zelf maken. Voor het inkopen van nieuwe applicaties.

Voorbeeld niet-impactvol algoritme zelf ontwikkeld Robot "James" deze robot assisteert bij de afhandeling van aanvragen individuele inkomenstoeslag. Voorbeeld niet-impactvol algoritme ingekocht Een scanauto wordt ingezet om te helpen met controleren of er voldoende parkeergeld is betaald. Dit is wordt als niet-impactvol geclassificeerd omdat de kentekenherkenning nog handmatig wordt gecontroleerd. Voorbeeld impactvol algoritme Een scanauto wordt ingezet om te helpen met controleren of er voldoende parkeergeld is betaald. Dit vindt plaats op basis van kentekenherkenning en wanneer dit niet handmatig wordt gecontroleerd geldt dit als impactvol algoritme.

Maatschappelijk draagvlak & participatie Voor inwoner participatie is door de gemaakte keuze om aan te sluiten bij het landelijk algoritme geen of zeer beperkt ruimte dat kan leiden tot wijziging van het landelijk algoritme register. Communicatie Op Zwolle.nl en intern communiceren we over (de aansluiting op) het landelijk algoritmeregister, wat de inwoner met het register kan, een uitleg van wat het register precies is en waarvoor de gemeente het gaat gebruiken.

5/6

voorstel

Datum

3 april 2025

Financiën De kosten voor de werkzaamheden zijn onderdeel van de loonsom van de afdeling Informatievoorziening. Risico’s Als we op onvoldoende niveau invulling geven aan het algoritmeregister, levert dit risico’s op voor zowel de organisatie als voor inwoners. Bijvoorbeeld omdat besluitvorming plaatsvindt op basis van onjuiste, onvolledige of verkeerd geïnterpreteerde gegevens. Ook kunnen we daarmee in overtreding zijn van de AI-verordening. Vervolg De raad wordt over de voortgang geïnformeerd via de planning en control cyclus. De eerste keer zal zijn met de begrotingsbehandeling 2026. Openbaarheid Openbaar.

Burgemeester en wethouders van Zwolle,

burgemeester, Peter Snijders

secretaris, Dick Emmer

6/6