A GBG Goudse AI Visie

Technische vragen Van Datum vraag Onderwerp Commissiegriffier Datum antwoord

: Gemeentebelangen Gouda – Rüstem Çetin : 27-09-2025 : Goudse AI-visie : Jacoline Holdijk :

Vragen:

1. Hoe wordt geborgd dat bij álle AI-toepassingen een human in the loop aanwezig is, en hoe wordt dit concreet vastgelegd in werkprocessen en verantwoordelijkheden? 2. Welke toetsingscriteria hanteert de gemeente vooraf om te bepalen of een AItoepassing daadwerkelijk publieke meerwaarde toevoegt? 3. Hoe wordt de gemeenteraad geïnformeerd over experimenten met AI vóórdat deze in de praktijk worden ingezet? 4. Welke methodiek gebruikt de gemeente om AI-systemen vooraf te toetsen op bias en discriminatie? 5. Op welke wijze worden ervaringsdeskundigen en inwonersgroepen actief betrokken bij de ontwikkeling en evaluatie van AI-toepassingen? 6. Hoe wordt ervoor gezorgd dat ook inwoners met lage digitale vaardigheden toegang houden tot gemeentelijke dienstverlening, naast de AI-gestuurde kanalen? 7. Welke AI-toepassingen worden momenteel al in Gouda gebruikt, en hoe worden deze openbaar en inzichtelijk gemaakt voor inwoners en raad? 8. Op welke manier wordt de raad periodiek geïnformeerd over de werking, effectiviteit en risico’s van AI-systemen? 9. Hoe vertaalt de gemeente complexe algoritmes en technische keuzes naar begrijpelijke taal voor inwoners? 10. Hoe wordt de naleving van de Europese AI-verordening (AI Act) en de AVG structureel gemonitord binnen de organisatie? 11.

Wordt bij iedere toepassing een risicoanalyse uitgevoerd waarin ook afhankelijkheid van externe leveranciers wordt meegewogen? Zo ja, kan de raad deze analyses inzien? 12. Welke criteria worden gebruikt om te bepalen of een AI-systeem lokaal (on premise) of via externe/cloudleveranciers wordt gehost? 13. Op welke wijze wordt de ethische toetsing ingericht, en wie is daar binnen de organisatie voor verantwoordelijk? 14. Wordt bij de inzet van AI structureel rekening gehouden met de CO₂-voetafdruk, en zo ja, hoe wordt dit meegewogen in de besluitvorming? 15. Welke rapportage- of verantwoordingssystematiek gaat de gemeente gebruiken om de gemeenteraad inzicht te geven in AI-gebruik? 16. Wordt er overwogen om een onafhankelijke auditcommissie of extern toezichthouder te betrekken bij AI-toepassingen in Gouda?

Antwoorden: 1. Gouda borgt de aanwezigheid van een human in the loop door dit principe in de visie vast te leggen en verder uit te werken in het AI-beleidsplan. Daarin wordt vastgelegd hoe dit in werkprocessen en rollen wordt opgenomen, zodat bij besluiten die inwoners raken altijd een medewerker eindverantwoordelijk blijft. Ook wordt geregeld hoe de uitvoering wordt gemonitord, zodat technologie ondersteunend is en niet bepalend.

2. Gouda werkt met ethische en maatschappelijke toetsvragen om vooraf te bepalen of een AI-toepassing publieke meerwaarde heeft. Een vaste checklist is er nog niet. In het AI-beleidsplan worden deze toetsvragen verder uitgewerkt. 3. Gouda informeert de raad proactief en transparant over AI-experimenten. Het concrete proces daarvoor wordt vastgelegd in het AI-beleidsplan. Daarbij gelden de principes van openheid, uitlegbaarheid en betrokkenheid. Op dit moment lopen er drie pilots,

4. Gouda erkent het belang van toetsing op bias en discriminatie en neemt dit nadrukkelijk mee in de aanpak. Inclusiviteit en de inzet van ervaringsdeskundigen maken hier al onderdeel van uit. De concrete methodiek wordt in het AI-beleidsplan uitgewerkt. 5. Gouda kiest voor een mensgerichte aanpak waarbij ervaringsdeskundigen en inwonersgroepen actief worden betrokken bij de ontwikkeling en evaluatie van AItoepassingen. De precieze methodiek en procesinrichting worden vastgelegd in het AI-beleidsplan. 6. Gouda zorgt dat dienstverlening altijd via meerdere kanalen beschikbaar blijft. Naast digitale AI-gestuurde kanalen kunnen inwoners bellen, langskomen bij de balie of receptie en daar persoonlijk geholpen worden. Ook is er in de ontvangsthal een computer met ondersteuning door medewerkers, toegankelijk voor iedereen, inclusief inwoners in een rolstoel. 7. In Gouda wordt AI bijvoorbeeld al toegepast voor het detecteren van zwerfafval en bijplaatsingen bij containers. De beelden worden geanalyseerd en meldingen gaan automatisch naar de reinigingsteams. AI-toepassingen worden openbaar en inzichtelijk gemaakt volgens de verplichtingen uit de Europese AI-verordening (AI Act), die onder meer transparantie, uitlegbaarheid en menselijke controle voorschrijft. 8.

De raad wordt over AI-systemen op dezelfde manier geïnformeerd als over andere onderwerpen, via de reguliere informatievoorziening zoals de P&C-cyclus. In het AIbeleidsplan wordt uitgewerkt hoe dit concreet vorm krijgt, zodat ook de werking, effectiviteit en risico’s structureel worden meegenomen. 9. De gemeente communiceert met inwoners op B1-niveau, ook over AI.

10. Gouda bereidt de naleving van de AI Act en de AVG zorgvuldig voor. We zijn in gesprek met een externe partij om de juiste implementatie te waarborgen. In het AIbeleidsplan wordt vastgelegd hoe de monitoring structureel wordt ingericht binnen de organisatie. 11. Bij iedere AI-toepassing voert Gouda een risicoanalyse uit, waarin ook de afhankelijkheid van externe leveranciers wordt meegewogen. Deze analyses zijn bedoeld voor interne borging en bevatten vaak gevoelige informatie. De raad wordt via de reguliere rapportages geïnformeerd over de uitkomsten en de belangrijkste risico’s. 12. Voor de keuze tussen lokaal (on premise) of via externe/cloudleveranciers hanteert Gouda de eerder vastgestelde ICT-uitgangspunten uit de I-visie. Daarbij wordt gekeken naar veiligheid, risico’s, privacy en doelmatigheid.

13. De inrichting van de ethische toetsing wordt meegenomen in het AI-beleidsplan. In Q1 2026 ontvangt de raad een voorstel voor een ethische commissie, conform de raadsmemo van 25 maart 2025. 14. In de visie is opgenomen dat Gouda onderzoekt hoe de CO₂-voetafdruk kan worden meegewogen bij besluiten over AI. De uitwerking hiervan volgt in het AI-beleidsplan. 15. Gouda erkent het belang van structurele verantwoording richting de raad over AIgebruik. Dit gebeurt zoveel mogelijk via de reguliere rapportagesystematiek. De verdere uitwerking volgt in het AI-beleidsplan. 16. De mogelijkheid om een onafhankelijke commissie te betrekken bij AI-toepassingen wordt meegenomen in het voorstel voor een Ethische Commissie dat in Q1 2026 aan de raad wordt voorgelegd.