Bijlage 2 - Reflectie EC op richtlijn AI-gebruik gemeenteraad Zwolle (1)

reactie

Memo Aan

Marijn Seuters, adviseur Raadsgriffie

Van

Ethische commissie Digitalisering

Datum

3 december 2025 Reflectie op richtlijn gebruik van AI in de gemeenteraad van Zwolle

Onderwerp

Telefoon (038) 498

Inleiding Naar aanleiding van signalen uit het presidium over het toenemende gebruik van AI door raadsleden, heeft de Raadsgriffie een opdracht gekregen om richtlijn voor AI-gebruik in de gemeenteraad, op te stellen. Een conceptversie van de richtlijn is voorgelegd aan de Ethische commissie met het verzoek om daarop te reflecteren. In de commissievergadering van 11 november heeft de opsteller de conceptrichtlijn toegelicht en vragen van de commissieleden beantwoord. Daarna heeft de commissie zich over de richtlijnen gebogen in een besloten setting. Standpunten van de commissie over het gebruik van AI-tool in de raad, voorzien van kritische vragen, vormen de reflectie. De vragen zijn bedoeld als input voor de afwegingen en het vervolggesprek met de raad.

1

Verkenning en afkadering

1.1

Toelichting op de conceptrichtlijn De raadsadviseur van de griffie (opsteller) lichtte toe dat de “Conceptrichtlijn voor AI-gebruik in de gemeenteraad” is tot stand gekomen naar aanleiding van signalen uit het presidium. Er is opgemerkt dat AI steeds vaker wordt gebruikt door raadsleden, bijvoorbeeld bij het voorbereiden van spreekteksten en moties, maken van samenvattingen van de dossiers. Openheid over het gebruik van AI verschilt per raadslid en het gesprek over verantwoord gebruik van AI heeft geen gestructureerd karakter binnen de fracties. De richtlijn is gebaseerd op een voorbeeld van de gemeente Castricum, maar is compacter gemaakt door AVG-gerelateerde bepalingen eruit te laten. De richtlijn is bedoeld als gespreksnotitie voor het presidium om een standpunt te vormen over het gebruik van AI in raadswerk. Na de verkiezingen zal de richtlijn aan de nieuwe raad worden voorgelegd ter vaststelling. Er komt een inwerkprogramma voor de nieuwe raad waarin digitaal verantwoord werken, inclusief AI-gebruik en deze richtlijn, centraal staat. Bij de Raadsgriffie is het bekend dat er een ambtelijke richtlijn voor het gebruik van AI binnen de gemeente bestaat.

In een verkennend gesprek met de beheerder van de ambtelijke richtlijn is geconstateerd dat het bestaan van twee afzonderlijke richtlijnen elkaar niet bijt, het is zelfs logisch dat de raad een eigen richtlijn heeft vanwege specifieke doelgroep en aard van de raadswerkzaamheden. De commissie benadrukt het belang van afstemming van beide AI-richtlijnen, zodat er geen tegenstrijdige kaders ontstaan binnen één gemeente. De conclusie is dat deze in de lijn met elkaar liggen.

reactie

Datum

3 december 2025

De belangrijkste vraag die aan de commissie wordt meegegeven: tot waar kan AI gebruikt worden in het raadswerk en waar het menselijke aspect bepalend moet blijven? Een aantal punten uit de richtlijn zijn toegelicht n.a.v. de vragen van de commissieleden: ▪ Auteursrecht en plagiaat bij het genereren van teksten met AI. Het voorliggend voorstel zegt dat de gegenereerde teksten door AI niet letterlijk gaan overnemen, zodat authenticiteit in bijdragen van de raadsleden wordt behouden. ▪ AI voor communicatie en social media – campagnes. De richtlijn is bedoeld voor het gebruik van AI vooralsnog binnen de gemeenteraad als bestuursorgaan. De fracties maken eigen keuzes bij overige uitingen, de griffie heeft daar geen zeggenschap over. ▪ Technische en organisatorische aspecten. Raadsleden werken in een eigen Microsoft-omgeving (tenant) op een tablet geleverd door de gemeente Zwolle. Deze staat los van de ambtelijke organisatie, om een aantal veiligheidsissues – die voor ambtelijke organisatie wel van toepassing zijn - te omzeilen. Er bestaat een aparte gebruiksovereenkomst voor het gebruik van raadsmailadressen, waarin veiligheidsaspecten geadresseerd zijn en waar de verantwoordelijkheid ligt. Het is wel bekend dat niet alle raadsleden gebruik van raadsmailadressen maken.

1.2

Kanttekeningen door de commissie ▪

▪ ▪

▪

▪

In de commissie ontstond er een discussie over de legitimiteit en kracht van een richtlijn, vooralsnog in relatie tot de rol van een raadslid. Deze rol is anders dan van een medewerker binnen een organisatie, die kaders kan stellen voor haar werknemers. Er is gesproken over de status van een richtlijn, over wie deze vaststelt, en hoe bindend is deze voor de gebruiker. Als uitgangspunt is uitgesproken dat de richtlijn een handreiking vormt en geen dwingend voorschrift. Dit vraagt om blijvend aandacht voor de richtlijn (zie ook discussiepunt 6). De commissie heeft de richtlijn van de gemeente Castricum betrokken bij haar reflectie ter vergelijking. Belang van synchronisatie met andere initiatieven. In de voorgaande bijeenkomst heeft de commissie het gesprek afgerond over de AI-richtlijn van de ambtelijke organisatie. Op het moment van dit gesprek is de reflectie op ambtelijke richtlijn nog niet openbaar gemaakt, de commissie kon wel op haar eerdere verkenning en standpunten leunen. De eerder geformuleerde standpunten dienden als leidraad voor dit gesprek over de richtlijn voor de raadsleden en komen als thema’s terug in deze reflectie. Op dit moment werkt CIO-office een AI-kader uit, dat binnenkort aan de raad voorgelegd wordt. Goed om dit kader ook in ogenschouw te nemen bij doorontwikkeling van de raadsrichtlijn.

De huidige versie van de richtlijn bevat een paragraaf over de toegevoegde waarde van AI in het raadswerk. De commissie vraagt zich af of deze paragraaf in de richtlijnen thuishoort. Het lijkt logischer om de mogelijkheden van AI-gebruik eerder 2/7

reactie

Datum

3 december 2025

▪

2

bij de AI-geletterdheid te belichten dan als onderdeel van een richtlijn. In deze context roept de paragraaf juist meer vragen op en kan gezien worden als aanmoediging tot ondoordacht gebruik. De vraag is gesteld over de kracht van een richtlijn die door de raad gaat worden vastgesteld. Het is te overwegen om het gesprek over afwegingen voor de AIrichtlijn met de hele raad te voeren, zodat iedereen betrokken is bij het bepalen van wat belangrijk is.

Discussiepunten In haar gesprek over de ambtelijke richtlijn voor GenAI gebruik heeft de commissie een aantal standpunten geformuleerd die volgens de commissie grenzen van verantwoord gebruik van GenAI aangeven. De commissie ziet meerwaarde om deze standpunten terug te laten komen in deze reflectie, wel gewogen in relatie tot de rol van de raad en het raadswerk. De standpunten worden toegelicht met een beknopte duiding van de discussie en een aantal vragen. Antwoorden op deze vragen kunnen een mooie aanvulling vormen op de huidige versie van de richtlijn.

1. Mens aan het stuur: verantwoordelijkheid bij inzet van generatieve AI ▪

▪ ▪

Discussie De commissie onderstreept het belang dat de vraagsteller (raadslid) verantwoordelijk blijft voor de AI-output en wat er verder ermee gebeurt. AI is een ondersteunend middel dat vrij snel ingezet kan worden. Belangrijk om hierbij te realiseren dat niet alle informatie die door AI gegenereerd wordt klopt, er kan sprake zijn van fouten, hallucinaties en misinformatie. Uiteindelijk wil je niet dat het ten koste gaat van de keuzes en besluitvorming voor de stad, dat het democratisch debat niet afhangt van ‘toevalligheden’ die uit AI komen. De vraagsteller zal AI-output altijd moeten controleren. Met de raad te bespreken In hoeverre is er voldoende bewustzijn van AI-hallucinaties en de noodzaak om de bronnen en onderbouwing, die feitelijk lijken, te controleren? Wat betekent inzet van AI bij het vormen een standpunten over een onderwerp? Past dit bij de rol van het raadslid als volksvertegenwoordiger? Of besteed je daarmee eigen verantwoordelijkheid en democratische besluitvorming uit aan een AI?

2. Voorbij de ‘black box’: uitlegbaarheid, betrouwbaarheid en bronnen ▪

Discussie Gebruikers zouden zich bewust moeten zijn van de beperkingen van AI en dat ze niet blind kunnen vertrouwen op de gegenereerde informatie. Heel vaak klopt deze wel, maar vaak ook niet.

3/7

reactie

Datum

3 december 2025

▪

▪

▪

▪

▪

▪ ▪

In de context van de raad zal je kunnen denken aan een AI-model getraind met de standpunten van een partij; vervolgens kan het model bevraagd worden naar reactie op een ge-upload document. Bij deze ervaringen meldt men zelden hallucinaties. Hallucinatie komen vooral voor bij onderzoek naar feiten en standpunten, en bij diverse analyses. Daarom wil de commissie ook aandacht vragen voor de risico’s van AI-modellen. Uit de praktijk blijkt dat generatieve AI-tools vaak als een 'black box' werken, waarbij het onduidelijk is hoe antwoorden tot stand komen en welke data of logica eraan ten grondslag ligt. Het feit is dat AI-systemen antwoorden genereren op basis van kansberekening en veelvoorkomende patronen, wat kan leiden tot plausibele maar niet altijd juiste of controleerbare uitkomsten. Bij het uploaden van documenten en het genereren van samenvattingen met AI, heb je niet altijd inzicht op welke informatie is meegenomen of weggelaten bij de analyse en voor het formuleren van de standpunten, wat gevolgen heeft voor de volledigheid, betrouwbaarheid en representativiteit van de output. Uit de ervaringen blijkt dat weging door AI van welke informatie belangrijk en niet belangrijk is, en dus moet worden meegenomen, niet altijd correct wordt uitgevoerd, vooral als AI rekening moet houden met verschillende perspectieven.

De commissie benadrukt dat transparantie over het gebruik van AI belangrijk is, maar vindt dit punt nog onvoldoende uitgewerkt de huidige versie. De raadsleden moeten hun standpunt kunnen motiveren (refererend aan algemene beginselen van behoorlijk bestuur). Het zal niet wenselijk zijn debat te voeren over de standpunten die van AI zijn. De commissie merkt op dat AI-systemen vaak antwoorden genereren die aansluiten bij bestaande overtuigingen (“confirmation bias”), waardoor gebruikers mogelijk minder kritisch zijn op de juistheid van de informatie. De commissie realiseert zich heel goed dat politieke standpunten vaak worden gevormd vanuit bepaalde overtuigingen en niet noodzakelijk steunen op wetenschappelijke bewijsvorming. Alsnog het ontbreken van transparantie en uitlegbaarheid over de output, brengt risico’s met zich mee voor betrouwbaarheid en zorgvuldigheid in besluitvorming. Daarom vindt de commissie het van belang om bij het verzamelen van de informatie en formuleren van de standpunten, zo veel mogelijk te vragen naar bronvermeldingen en links, en kritisch te zijn op de betrouwbaarheid van de gegenereerde informatie. Het is bekend dat AI ook verzonnen bronnen soms presenteert.

Met de raad te bespreken Welke praktische handvatten zijn er nodig om de betrouwbaarheid en juistheid van AI-gegenereerde informatie te kunnen beoordelen? Hoe ga je om met check op de vermelde bronnen en hun juistheid?

3. Vangrails voor AI: safeguards en procedures ▪

Discussie De commissie heeft stil gestaan bij de vraag in hoeverre de raadsleden op de hoogte zijn van de risico’s en mogelijkheden van AI, zoals privacy, auteursrecht en het verwerken van vertrouwelijke informatie. Er ontstaan risico’s als 4/7

reactie

Datum

3 december 2025

▪

▪ ▪

persoonsgerelateerde informatie (zoals brieven en e-mails van inwoners) in AIsystemen terecht komen en is niet wenselijk. De commissie reageert positief dat belangrijke risico’s zoals misleiding, discriminatie, privacy en dataveiligheid expliciet benoemd zijn in de richtlijn. Met de raad te bespreken Welke afspraken wil je maken voor veilig en verantwoord gebruik van AI door de raadsleden? Hoe zorg je voor voldoende kennis en bewustwording bij raadsleden over auteursrecht en vertrouwelijkheid bij het gebruik van AI?

4. Veilige AI‑tools: balans tussen privacy, kaders en innovatie ▪

▪

▪

▪

▪ ▪ ▪ ▪ ▪

Discussie De commissie wijst op het spanningsveld tussen de beperkte invloed vanuit de Raadsgriffie op de keuze van de tools die raadsleden gebruiken, en tussen haar verantwoordelijkheid voor het faciliteren van veilig werken binnen de raad. De vrijheid in keuze van AI-tools betekent dat de verantwoordelijkheid van deze keuze bij individuele raadsleden ligt. Toch is het van belang om bewust te zijn van de privacy- en veiligheidsrisico’s van verschillende platforms, vooral bij gebruik van Chinese of Amerikaanse diensten. Daarbij bestaat een risico dat gemeentelijke documenten en persoonsgegevens op externe servers terechtkomen, uitgelekt of misbruikt worden. De commissie benoemt ook een ander invalshoek. Vaak worden medewerkers van een organisatie beperkt in gebruik van AI-tools, om het gebruik te kunnen controleren. Het is een mogelijkheid om juist verschillende AI-tools te gebruiken om de uitkomsten uit verschillende tools te kunnen vergelijken en afwegen.

Met de raad te bespreken In hoeverre wil de raad afspraken maken over het gebruik van bepaalde (bijvoorbeeld privacy-veilige, Nederlandse of Europese) AI-tools? Of is dat in strijd met hun autonomie? Is er voldoende kennis bij de raadsleden aanwezig om te realiseren dat keuze van een bepaald AI-tool van invloed is voor privacy, risico op bias enz.? Kan griffie de raadsleden adviseren over welke platforms verantwoord en niet verantwoord te gebruiken zijn? Hoe is het balans te vinden tussen innovatie (toegang tot nieuwe AI-tools) en het waarborgen van privacy en veiligheid? Kan het wenselijk zijn om diversiteit in het gebruik van AI-tools juist te stimuleren? Hoe kan training en bewustwording bijdragen aan veilige en verantwoorde keuze en gebruik van AI-tools?

5. Vakmanschap en scholing over AI ▪

Discussie Commissie onderschrijft dat AI kan helpen bij het voorbereiden van moties, het verzamelen van randinformatie en het versnellen van raadswerk. Zij wijst er ook op

5/7

reactie

Datum

3 december 2025

▪

▪

▪ ▪ ▪ ▪

het risico dat raadsleden te afhankelijk kunnen worden van AI en minder zelf kritisch gaan nadenken. Tegelijkertijd draait het vakmanschap van raadsleden niet alleen om kennis, maar ook om het meenemen van burgerbelangen en het beoordelen van vraagstukken vanuit een niet-expertpositie. Het gebruik van AI mag niet leiden tot verlies van dit vakmanschap of het verlies van het contact met inwoners. Het uitgangspunt moet blijven om de belangen van de achterban te blijven vertegenwoordigen, niet alleen vertrouwen op AI. Bovendien bestaat er een risico op algemene teksten en opvattingen, waarbij lokale kleur en stem van de inwoner verloren kan gaan. Van belang om te realiseren dat het kennisniveau en AI-vaardigheid sterk kunnen verschillen onder de raadsleden, wat invloed zal hebben op de kwaliteit van het raadswerk dat tot stand komt met AI. De kwaliteiten van de prompt is medebepalend voor de kwaliteit van de output. Met de raad te bespreken Help de AI-tool jou als volksvertegenwoordiger om je taak als raadslid uit te voeren? Hoe zorg je dat de stem van de inwoner terugkomt in de opvattingen die met AI gegenereerd worden? Is het mogelijk en wenselijk dat raadsleden op AI-tools hetzelfde manier en niveau gebruiken? Er zijn verschillende mogelijkheden op de markt om kennis over AI op peil te kunnen brengen. Denk aan een gezamenlijke bijeenkomst of cursus AIgeletterdheid.

Er is ook vrij toegankelijk nationale AI-cursus voor handen en divers commercieel aanbod. Welke afspraken gelden er voor de raadsleden om eigen kennis op peil te houden en wat heeft Raadsgriffie hierin te doen?

6. Blijf het gesprek voeren: openheid en evaluatie over AI ▪ ▪

▪

▪ ▪ ▪ ▪

Discussie Evaluatie en openheid over AI-gebruik zijn nodig om te leren van ervaringen en om het gebruik verantwoord te houden. Dit komt niet terug in de richtlijn voor de raad. Vanuit de waarde ‘transparantie’ is het belangrijk om te vermelden waanneer AI gebruikt is bij het opstellen van stukken of bij ander raadswerk. Transparantie over het gebruik van AI en het kritisch beoordelen van bronnen zijn onderdeel van vakmanschap en zouden gestimuleerd moeten worden. Het gesprek over AI-gebruik moet blijvend gevoerd worden, zodat raadsleden en betrokkenen zich bewust blijven van de impact en ethische aspecten ervan. Met de raad te bespreken Hoe stimuleer je openheid en dialoog over AI-gebruik binnen de raad? Hoe zorg je ervoor dat de raad het gesprek blijft voeren over de ethische aspecten van AI-gebruik en de impact daarvan op het raadswerk? Welke evaluatie- en monitoringsinstrumenten zet je hiervoor in? Wat spreek je af over vermelding van AI-gebruik bij het opstellen van raadsdocumenten? 6/7

reactie

Datum

3 december 2025

7. Duurzaamheid en energieverbruik ▪

Discussie Het energieverbruik van AI-systemen werd genoemd als aandachtspunt, maar dit is in de Zwolse richtlijn niet uitgewerkt. Terwijl de vraag over aandacht voor energiegebruik van AI binnen de ambtelijke organisatie, was eerder door de raad gesteld. Duurzaam handelen is een ambitie binnen de gemeente die ook binnen deze richtlijn aandacht verdient.

▪ ▪

Met de raad te bespreken Hoe geef je aandacht aan het thema energieverbruik (duurzaamheid) in de richtlijnen voor AI-gebruik binnen de raad?

7/7