Bijlage 3 -Reactie College van B&W - AI en algoritme - Rekenkamer Deventer

Grote Kerkhof 1 Postbus 5000 7400 GC Deventer 14 0570 telefoon

Aan de voorzitter van de Rekenkamercommissie gemeente Deventer, Mevrouw K. van den Berg

direct telefoonnummer

e-mail

DEV-DD 2025-263770 Kenmerk

25-11-2025 uw referentie

datum

Bestuurlijke reactie rekenkamerrapport contactpersoon

onderwerp

Geachte mevrouw Van den Berg,

Het College heeft met belangstelling uw onderzoeksrapport “AI en algoritme” gelezen. In uw begeleidend schrijven verzoekt u om een bestuurlijke reactie. Met deze brief maken wij daar graag gebruik van. Allereerst dankt het College u voor de inzichten die het rekenkameronderzoek biedt. Algoritmes en AI vormen hulpmiddelen bij het werken aan maatschappelijke opgaven en het bieden van goede dienstverlening. Het is dan ook waardevol dat uw onderzoek zowel de kansen als de risico’s daarbij in beeld brengt en handvatten biedt voor een verantwoorde toepassing. Conclusies Met u constateren wij dat de gemeente Deventer stappen heeft gezet richting een verantwoord gebruik van algoritmes en AI. Op basis van het AI-plan DOWR zijn diverse initiatieven opgezet om medewerkers en bestuurders te ondersteunen, zoals trainingen en procesbeschrijvingen. Tegelijkertijd kunnen wij ons vinden in uw conclusie dat transparantie, ethiek en effectiviteit bij het gebruik van algoritmes en AI binnen de gemeente Deventer nog niet volledig is gewaarborgd. Het College erkent dat er momenteel geen volledig overzicht is van alle gebruikte algoritmes en AIsystemen binnen de organisatie. Wij onderschrijven het belang van een gestructureerde inventarisatie als eerste stap naar meer transparantie en grip.

Ook delen wij de constatering dat inwoners op dit moment onvoldoende worden geïnformeerd over het gebruik van algoritmes en AI in gemeentelijke processen. De nadruk die uw rapport legt op risicobeheersing en naleving van wettelijke kaders sluit goed aan bij onze eigen ontwikkelagenda. In onze reactie op de aanbevelingen zullen wij hier nader op ingaan. Aanbevelingen Aanbeveling 1: Maak algoritmes onderdeel van visie, strategie en beleid en leg definities vast Het College neemt deze aanbeveling over. In de actualisatie van de i-Visie DOWR en het Strategisch Informatieplan (STiP) wordt het verantwoord en effectief gebruik van algoritmes en AI expliciet meegenomen. In het nieuwe AI-beleid worden de definities van impactvolle algoritmes,

www.deventer.nl

DEV-DD 2025-263770 kenmerk

geautomatiseerde besluitvorming en hoog-risico AI-systemen vastgelegd. De ontwikkeling van dit beleid is inmiddels gestart. Aanbeveling 2: Voer een complete inventarisatie uit Het College onderschrijft deze aanbeveling en het belang van transparantie en rechtmatigheid. De reeds gestarte inventarisatie van gebruikte algoritmes en AI-systemen wordt voortgezet, inclusief de classificatie van risico’s en impact. Dit overzicht wordt structureel bijgehouden en toegankelijk gemaakt voor medewerkers en bestuur. Er wordt ingezet op opname van algoritmes in het landelijke Algoritmeregister en op verbetering van de informatievoorziening via de gemeentelijke privacyverklaringen en de website. Aanbeveling 3: Richtlijnen voor generatieve AI Het College gaat interne richtlijnen ontwikkelen voor het verantwoord gebruik van generatieve AI, zoals ChatGPT en Copilot. Daarbij wordt aangesloten bij voorbeelden van andere gemeenten en bij bestaande landelijke kaders. Aanbeveling 4: Risicobeheersing in de levenscyclus Wij hechten belang aan risicobeheersing in alle fasen van een algoritmisch systeem - van initiatie tot monitoring. Het College wil hiervoor gebruik gaan maken van een AI-toolkit als aanvulling op bestaande instrumenten, zoals de DPIA1.

Deze toolkit bevat een levenscyclusproces en een AIrisicoassessment, met duidelijke beslismomenten om bewuste en transparante afwegingen bij de inzet van algoritmes en AI te stimuleren. Afhankelijk van de aard en omvang van het risico kunnen zo passende beheersmaatregelen worden genomen. Aanbeveling 5: Bestaande algoritmes beheren Het College onderkent dat het AI-beleid voor effectief en verantwoord algoritmegebruik niet alleen moet worden toegepast op nieuwe systemen, maar ook op bestaande toepassingen. Daarbij zal prioriteit worden gegeven aan impactvolle systemen en het beheersen van risico’s, zoals discriminatie en bias. Aanbeveling 6: Digitale geletterdheid en interne expertise Het College sluit zich aan bij deze aanbeveling. Trainingen voor medewerkers en bestuurders over algoritmes, AI en gerelateerde onderwerpen zoals ethiek worden verder uitgebreid. Daarnaast wordt onderzocht of een algoritme-officer kan worden aangesteld als aanspreekpunt en adviseur binnen de organisatie. Aanbeveling 7: Integraal project opzetten Het College erkent de waarde van deze aanbeveling. Om versnippering te voorkomen worden de hierboven genoemde activiteiten gebundeld binnen de Vakgroep AI DOWR. Deze vakgroep is verantwoordelijk voor de coördinatie van de uitvoering van het AI-plan DOWR en adviseert bij de praktische toepassing van algoritmes en AI binnen de gemeente Deventer.

De vakgroep zal toezien op samenhang met lopende activiteiten en bestaand beleid. De vakgroep is samengesteld uit medewerkers met expertise op onder meer de terreinen IT, recht en ethiek. Tot slot Het College is dankbaar voor de inzichten uit het rekenkameronderzoek, die ons helpen de inzet van algoritmes en AI verder te ontwikkelen. We stellen voor om een verdiepende raadsessie te organiseren over dit onderwerp om kennis, beelden en verwachtingen uit te wisselen op basis van het onderzoek en de praktijk.

1 Data Protection Impact Assessment.

DEV-DD 2025-263770 kenmerk

Met vriendelijke groet, Burgemeester en wethouders van de gemeente Deventer, de secretaris,

de burgemeester,

J.P. Wassens

R.C. König