Rv Algoritmeonderzoek Groene Hart Rekenkamer R24.000042

*R24.000042*

Raadsvoorstel

registratienummer

onderwerp

R24.000042

Algoritmeonderzoek Groene Hart Rekenkamer portefeuillehouder

behandelend ambtenaar

Griffie

I. Polderman

datum

bijlagen

Openbaar, besloten of geheim

16 april 2024

6

Openbaar

raadsvergadering 28/05/2024

Aan de raad van de gemeente Zuidplas Beslispunten 1) Kennis te nemen van het door de Groene Hart Rekenkameronderzoek naar Algoritmes in de gemeente Zuidplas; 2) De conclusies uit het rapport te onderschrijven en het college van B&W de opdracht te geven om het de aanbevelingen aan de slag te gaan; a) Aanbeveling 1 over te nemen: Het college op te dragen neem algoritmes en de aanbevelingen van dit onderzoek mee in het plan van aanpak om naar een hogere digitale volwassenheid te komen; b) Aanbeveling 2 over te nemen: Het college op te dragen zorg voor en bredere kennis en bewustzijn over kansen, risico’s en verantwoorde wijze van werken met data en algoritmes binnen de organisatie; c) Aanbeveling 3 over te nemen: Het college op te dragen verbeter procedures om de kwaliteit van data voor en informatie uit algoritmes te borgen; d) Aanbeveling 4 over te nemen: Het college op te dragen kaders voor te bereiden waarbinnen de gemeente kan werken met algoritmes en data; en door de gemeenteraad vast te laten stellen en waar nodig jaarlijks te actualiseren; e) Aanbeveling 5 over te nemen: Het college op te dragen de gemeenteraad actief te informeren over algoritmes binnen de organisatie 3) Informeer de gemeenteraad in Q2 2025 over de voortgang van de aanbevelingen naar aanleiding van het rekenkamer rapport Inhoud van het voorstel De Groene Hart Rekenkamer heeft onderzoek gedaan naar het

gebruik van algoritmes binnen de gemeente Zuidplas. Aanleiding en toelichting De Groene Hart Rekenkamer heeft onderzoek gedaan naar het gebruik van algoritmes in de gemeente Zuidplas. De algemene aanleiding voor dit onderzoek zijn eerdere incidenten met ongewenst, onjuist of ongeïnformeerd gebruik van algoritmen door zowel de Rijksoverheid als diverse gemeenten. Hoewel er pagina 1 van 5

onderwerp Algoritmeonderzoek Groene Hart Rekenkamer

registratienummer R24.000042

geen directe zorgwekkende signalen zijn over het algoritmegebruik van de gemeenten in het Groene Hart, heeft de Groene Hart Rekenkamer uit voorzorg besloten dit onderzoek uit te laten voeren naar het gebruik van algoritmes. Wettelijk kader In Nederland is er nog geen formeel algoritmenormenkader vastgesteld waaraan gemeenten moeten voldoen. Wel is er recent de AI-Act aangenomen in Europa. Onderzoek van de Groene Hart Rekenkamer Algoritmes worden in de samenleving steeds vaker toegepast. Ook binnen de overheid – waaronder de gemeente Zuidplas – worden de voordelen van de extra toepassingsmogelijkheden en efficiëntieslagen die algoritmes kunnen bieden herkend en toegepast. Dat gaat vaak goed, maar het kan ook uit de hand lopen. Dat is bijvoorbeeld, maar niet uitsluitend, op Rijksniveau gebleken uit de Toeslagenaffaire. Doel van het onderzoek Het onderzoek had als doel om in kaart te brengen hoe geïnformeerd de vier GHR-gemeenten zijn over hun inzet van algoritmes en in hoeverre er sprake is van bewust toezicht op de algoritmes door de gemeenten. Voor het onderzoek zijn de volgende hoofdonderzoeksvragen opgesteld: 1. In welke mate heeft de gemeente in beeld op welke plekken ze algoritmes inzet? 2. In hoeverre maakt de gemeente geïnformeerde besluiten over de inzet van algoritmes? 3. In hoeverre is de gemeente geïnformeerd tijdens het gebruik van de algoritmes? 4.

In hoeverre is er sprake van toezicht op de algoritmes door de gemeente? Conclusies voor de gemeente Zuidplas Bewustzijn over algoritmes De gemeente Zuidplas heeft nog onvoldoende in beeld waar ze algoritmes inzet, maar wil hier aandacht aan besteden in een plan van aanpak over meer datagedreven werken. Op afdelingsniveau weet de gemeente waarvoor algoritmes worden ingezet, maar overkoepelend is hier geen goed zicht op. Een goed beeld of visie waarom algoritmes worden ingezet ontbreekt vooralsnog bij de gemeente Zuidplas. Overigens is de gemeente Zuidplas vooralsnog terughoudend in het gebruik van algoritmes, al zien zowel raad als college graag dat er meer innovatie en datasturing binnen de gemeente komt. De Groene Hart Rekenkamer concludeert daarom dat het algoritmebewustzijn verbetering behoeft in de gemeente Zuidplas. Besluitvorming over algoritmes Momenteel neemt de gemeente nog onvoldoende geïnformeerde besluiten over de inzet van algoritmes en worden ethische overwegingen onvoldoende meegewogen. Impliciete aannames achter algoritmes en gebruikte data zijn onvoldoende bekend en dat geldt ook voor de implicaties van de inzet van de algoritmes voor uitvoeringspraktijk.

De gemeente Zuidplas wil graag meer datagedreven gaan werken en is daarom voornemens een informatiebeleidsplan op te stellen waarin geïnfomeerde besluitvorming, ethische overwegingen, bewustwording van impliciete aannames en implicaties van algoritmes een plek krijgen. De Groene Hart Rekenkamer concludeert dat als Zuidplas deze onderwerpen daadwerkelijk in een plan opneemt, een grote stap gezet gaat worden richting meer datamaturiteit. Toezicht op algoritmes De gemeente Zuidplas houdt op dit moment nog geen goed toezicht op het gebruik van algoritmes en is ook nog niet goed in staat om zo nodig doelbewust op de werking van algoritmes in te grijpen. Voor de toekomst erkent de gemeente Zuidplas dit en ziet zij daar ook het belang van in. De Groene Hart Rekenkamer concludeert dat erkenning van tekortkomingen belangrijk zijn om het toezicht in de toekomst te kunnen verbeteren. Bij alle drie de onderwerpen bewustzijn over algoritmes, besluitvorming over algoritmes en toezicht op pagina 2 van 5

onderwerp Algoritmeonderzoek Groene Hart Rekenkamer

registratienummer R24.000042

algoritmes zijn de rollen van gemeenteraad en college onvoldoende. De gemeenteraad heeft nauwelijks oog voor het onderwerp en het ontbreekt dan ook aan door de raad gestelde kaders en vanzelfsprekend daaruit volgend ook op de controle daarop. Het college heeft onvoldoende zicht welke applicaties worden aangeschaft, op welke wijze die applicaties data verwerken en waarom er wel of geen DPIA nodig is. Aanbevelingen voor de gemeente Zuidplas De Groene Hart Rekenkamer doet in haar aanbiedingsbrief de volgende aanbevelingen, deze zijn verwerkt in het raadsbesluit: 1. Neem algoritmes en de aanbevelingen van dit onderzoek mee in het plan van aanpak om naar een hogere digitale volwassenheid te komen: de gemeente Zuidplas heeft de ambitie om meer datagedreven te gaan werken en is bezig daarvoor een plan van aanpak op te stellen. Data en algoritmen zijn nauw met elkaar verweven: meer datagedreven werken zal op termijn ook leiden tot meer inkoop en gebruik van algoritmes. Het is daarom belangrijk om in dit plan van aanpak al na te denken hoe de gemeente verantwoord om wil gaan met algoritmen, zowel in de inkoop als in gebruik – daarbij spelen aspecten als datakwaliteit en toezicht een belangrijke rol. 2.

Zorg voor een bredere kennis en bewustzijn over kansen, risico’s en verantwoorde wijze van werken met data en algoritmes binnen de organisatie: niet iedereen in de gemeente hoeft alles te weten over data, data-analyses en algoritmes, maar meer bewustzijn binnen de organisatie is belangrijk voor een verdere verantwoorde digitale volwassenheid van de organisatie. De ambities zijn hoog en in sommige interviews geven ambtenaren een duidelijke visie op de benodigde digitale transformatie van de gemeente, maar dat vraagt ook om verdere kennisdeling en bewustmaking binnen de organisatie over de kansen, risico’s en het verantwoord werken met data en algoritmes. Ook nu is die bewustwording ten aanzien van algoritmes al gewenst. 3. Verbeter procedures om de kwaliteit van data voor en informatie uit algoritmes te borgen: er is geen duidelijk proces of afspraken om uitkomsten uit analyses en algoritmes te controleren of te challengen (ligt de uitkomst in de lijn der verwachting en is het in overeenstemming met andere informatie?). De gemeente vertrouwt erop dat ambtenaren uitkomsten checken, maar het is onduidelijk of dat dat in alle gevallen ook daadwerkelijk gebeurt. Dit is wel belangrijk om fouten tijdig te ontdekken en te voorkomen dat de gemeente besluiten op basis van verkeerde of bevooroordeelde informatie neemt. 4.

Stel als gemeenteraad op voorstel van het college jaar jaarlijks de kaders vast waarbinnen de gemeente kan werken met algoritmes en data en toets hierop, bijvoorbeeld door u door het college in individuele gevallen te laten informeren op welke wijze algoritmes en data worden toegepast. Ook zou u bijvoorbeeld jaarlijks de adviezen van een FG en/of CIO kunnen bespreken. 5. Vraag het college actiever zicht te geven op algoritmes binnen de organisatie en deze informatie aan uw raad te verstrekken: vraag bijvoorbeeld expliciet te maken waarom een bepaalde applicatie is aangeschaft, via welke stappen deze de data verwerkt, en waarom er wel of niet een DPIA uitgevoerd zal worden. En verzoek het college gemeentebreed aan te geven in welke mate algoritmes en datagebruik volgens de alsdan door de gemeenteraad vastgestelde richtlijnen worden ingezet en toegepast. Beoogd effect Een zorgvuldige omgang met het algoritmegebruik in de gemeente. En de te volgen procedures te veranderen in nog te ontwikkelen beleid en gebruik te blijven maken van de kennis en expertise die er is in de regio rondom dit onderwerp. pagina 3 van 5

onderwerp Algoritmeonderzoek Groene Hart Rekenkamer

registratienummer R24.000042

Beleidskader De gemeente Zuidplas wil meer datagedreven gaan werken. Op dit moment blijkt uit de rapportage dat de digitale volwassenheid van de gemeente nog op een laag niveau. Een van de speerpunten voor de organisatieontwikkeling van de gemeente is om die digitale volwassenheid naar een hoger niveau te tillen door middel van het meerjarige traject daragedreven werken. De conclusies en aanbevelingen van het rekenkamerrapport sluiten aan bij dit traject en kunnen hier onderdeel van worden. Aangezien de gemeente Zuidplas nog maar beperkt datagedreven werkt, gebruikt de gemeente ook nog maar weinig algoritmes en zijn er weinig medewerkers die specifieke kennis van data-analyse en algoritmes hebben. Desondanks zijn er al wel algoritmes de organisatie ‘ingeslopen’ via de inkoop van software. Ook is er een eigen ‘groeimodel’ voor ondersteuning van de meerjarenplanning ontwikkeld waarin eenvoudige algoritmes zijn opgenomen. Uit het onderzoek blijkt ook dat de gemeente Zuidplas terughoudend is in het gebruik van algoritmes. Het onderwerp algoritme leeft niet sterk binnen de gemeente, maar zowel het college als de raad zien graag meer innovatie en datasturing binnen de organisatie. De gemeente heeft op dit moment geen compleet overzicht van de algoritmes die zij gebruikt. De gemeente bevindt zich in het stadium van bewustwording.

Het gebruik van algoritmes heeft vooral betrekking op de gemeentelijke dienstverlening, door bijvoorbeeld het gebruik van algoritmes in Centric Burgerzaken, en het ruimtelijk/veiligheidsdomein, bijvoorbeeld door het gebruik van ANPR-camera’s. Om verdere ontwikkeling van de digitale volwassenheid van gemeente Zuidplas te stimuleren en om goed toezicht te kunnen houden wordt voorgesteld om de aanbevelingen van de Groene Hart Rekenkamer over te nemen en onderdeel te maken van het meerjarige traject datagedreven werken, met de daarbij horende planning en mogelijke budgetaanvraag. Bijlagen Bijlage 1 Onderzoek algoritmes in het GH - Bundeling usecases Bijlage 2 Onderzoek algoritmes in het GH - Eindrapport gemeente Zuidplas Bijlage 3 Toelichting aanbevelingen Bijlage 4 Bestuurlijke reactie op onderzoek naar algoritmes Bijlage 5 Reactie GHR op bestuurlijke reactie Zuidplas Bijlage 6 Aanbiedingsbrief rapport onderzoek naar Algoritmes van de Groene Hart

A24.000664 A24.000665 A24.000666 U24.000530 A24.000667 E24.001747

pagina 4 van 5

onderwerp Algoritmeonderzoek Groene Hart Rekenkamer

registratienummer R24.000042

Raadsbesluit De raad van de gemeente Zuidplas; Gelet op de artikel 81 lid 1 van de Gemeentewet; Gelezen het Groene Hart Rekenkameronderzoek naar Algoritmes in de gemeente Zuidplas Besluit: 1) Kennis te nemen van het door de Groene Hart Rekenkameronderzoek naar Algoritmes in de gemeente Zuidplas; 2) De conclusies uit het rapport te onderschrijven en het college van B&W de opdracht te geven om het de aanbevelingen aan de slag te gaan; a) Aanbeveling 1 over te nemen: Het college op te dragen neem algoritmes en de aanbevelingen van dit onderzoek mee in het plan van aanpak om naar een hogere digitale volwassenheid te komen; b) Aanbeveling 2 over te nemen: Het college op te dragen zorg voor en bredere kennis en bewustzijn over kansen, risico’s en verantwoorde wijze van werken met data en algoritmes binnen de organisatie; c) Aanbeveling 3 over te nemen: Het college op te dragen verbeter procedures om de kwaliteit van data voor en informatie uit algoritmes te borgen; d) Aanbeveling 4 over te nemen: Het college op te dragen kaders voor te bereiden waarbinnen de gemeente kan werken met algoritmes en data; en door de gemeenteraad vast te laten stellen en waar nodig jaarlijks te actualiseren; e) Aanbeveling 5 over te nemen: Het college op te dragen de gemeenteraad actief te informeren over algoritmes binnen de organisatie 3) Informeer de gemeenteraad in Q2 2025 over de voortgang van de

aanbevelingen naar aanleiding van het rekenkamer rapport Aldus besloten in de openbare vergadering van 28/05/2024 De raad voornoemd, De griffier,

De voorzitter,

M.L. Engelsman

J.F. Weber

pagina 5 van 5