4 Bijlage 3 Naslagwerk Richtlijn en toetsingskader AI gemeenteraad Inhoud document

Naslagwerk richtlijn en toetsingskader AI gemeenteraad Haarlem 2025 27 november 2025 Griffie

Inhoudsopgave 1.

Begrippen

4

2.

Inleiding

6

3.

Context

8

3.1

Wat is AI?

8

3.2

Trends en ontwikkelingen

8

3.2.1

Groeiende inzet AI-systemen bij overheidsorganen

8

3.2.2

Beleid voor verantwoorde AI-inzet

8

4.

5.

Juridisch kader en beleidstoepassingen

10

4.1

Europese AI-act

10

4.2

Algemene Verordening Gegevensbescherming

10

4.3

Handreiking Verantwoorde inzet van generatieve AI

11

4.4

Algoritmeregister

11

Kansen en risico’s van AI

12

5.1

12

5.2

Kansen 5.1.1

Sneller en beter ontsluiten van informatie

12

5.1.2

Ondersteuning lezen en begrijpen vergaderstukken

12

5.1.3

Verbeterde controle en verantwoording

12

Risico’s

13

5.2.1

Verlies van autonomie en controle op juistheid

13

5.2.2

Bewustzijn van gebruikers

13

5.2.3

Privacyschending en datalekken

13

5.2.4

Bias en discriminatie

13

5.2.5

Gebrek aan transparantie

14

5.2.6

Ethische dilemma’s

14

5.2.7

Duurzaamheid en waterverbruik

14

2

6.

7.

8.

Wat vinden we belangrijk

16

6.1

Richtlijnen

16

6.1.1

Ruimte voor experimenten

16

6.1.2

Handelen in lijn met wetgeving

16

6.1.3

Bewustzijn van de milieu-impact van AI

17

6.1.4

Stimuleren van verantwoord en toegankelijk gebruik

17

6.1.5

Een kritische houding aannemen

17

6.1.6

We blijven leren over en van AI

18

6.1.7

We schrijven goede prompts

18

Bijlage 1: Checklist verantwoorde prompts

19

7.1

Wees specifiek en duidelijk

19

7.2

Geef context

19

7.3

Vraag om een specifieke opmaak

19

7.4

Vermijd gevoelige informatie

19

7.5

Vraag om neutrale en feitelijke antwoorden

20

7.6

Controleer en stel vervolgvragen

20

7.7

Houd het kort en doelgericht

20

7.8

Vraag om uitleg als je iets niet begrijpt

20

Bijlage 2: Overzicht AI-tools voor raad en griffie

21

3

1.

Begrippen Afkorting

Begrip Agent

AI

Artificial Intelligence

AI-model

AVG

Algemene Verordening Gegevensbescherming

DPIA

Data Protection and Impact Assessment

Gebruiker

GenAI

Generatieve Artificial Intelligence

Hidden layers

Input

LLM

Large Language Models

Output

Prompts

Training

Definitie Een autonoom AI-systeem dat specifieke taken uitvoert of beslissingen neemt namens een gebruiker, vaak met enige mate van zelfstandigheid. Technologieën die computers in staat stellen taken uit te voeren die menselijke intelligentie vereisen, zoals leren, redeneren of beslissen. Een getraind algoritme of systeem dat gegevens verwerkt om taken uit te voeren, zoals voorspellingen maken, tekst genereren of patronen herkennen. Europese wetgeving (Verordening (EU) 2016/679) die regels stelt voor de bescherming en verwerking van persoonsgegevens. Een proces om privacyrisico’s van gegevensverwerking te identificeren en te mitigeren, verplicht onder de AVG voor hoog-risico verwerkingen. Een persoon, zoals een raadslid of griffiemedewerker, die een AI-systeem gebruikt om taken uit te voeren of informatie te verkrijgen. AI-systemen die nieuwe content creëren, zoals tekst, afbeeldingen of muziek, op basis van getrainde data. De interne lagen van een neuraal netwerk in een AI-model die input verwerken om tot een output te komen, vaak niet direct inzichtelijk. De gegevens of instructies (zoals prompts) die in een AI-systeem worden ingevoerd om een resultaat te produceren. Computermodellen getraind op grote hoeveelheden tekst om menselijke taal te begrijpen en te genereren, zoals ChatGPT. Het resultaat of de reactie die een AIsysteem genereert op basis van de gegeven input.

Instructies of vragen die een gebruiker invoert in een AI-systeem om een specifieke output te genereren. Een AI-modeltraining is het proces waarbij een algoritme leert patronen te herkennen door grote hoeveelheden data te analyseren. Het model past zichzelf aan om steeds betere voorspellingen of

4

UAVG

Uitvoeringswet Algemene Verordening Gegevensbescherming

WCAG

Web Content Accessibility Guidelines

Webscraping

beslissingen te maken op basis van die data. De Uitvoeringswet AVG is de Nederlandse wet die de Algemene Verordening Gegevensbescherming (AVG) in Nederland uitvoert. De wet regelt de bescherming van persoonsgegevens en de bevordering van vrij verkeer van gegevens binnen de EU. De Web Content Accessibility Guidelines (WCAG) zijn internationale richtlijnen voor het toegankelijk maken van digitale inhoud, zoals websites en video’s, voor mensen met beperkingen. WCAG 2.1 niveau AA is verplicht voor Nederlandse overheidsinstanties. Webscraping is het automatisch verzamelen en uitlezen van gegevens van websites met behulp van software of scripts.

5

2.

Inleiding Artificial Intelligence (AI) of kunstmatige intelligentie is een technologie die steeds vaker wordt ingezet om verschillende werkprocessen te automatiseren. AI kent sinds een aantal jaar een opmars in de publieke sector. Ook binnen het raadswerk biedt AI ondersteuning op verschillende vlakken, zoals het analyseren van stukken, het genereren van samenvattingen of het voorbereiden van debatten. De gemeenteraad en griffie van Haarlem zet AI op verschillende manieren in. Zo is er ervaring opgedaan met de Haarlemse Begrotingsbot en wordt er op de griffie volop geëxperimenteerd met het gebruik van AI bij het opstellen van nota’s of ontsluiten van informatie op de website. De uitgangspunten voor het gebruik van AI door raad en griffie maken duidelijk hoe AI op een verantwoorde wijze kan worden gebruikt zonder dat dit ten koste gaat van het democratische proces. Naarmate raad en griffie AI vaker gebruiken voor bijvoorbeeld onderzoek, het schrijven van moties of de voorbereiding van debatten, is het belangrijk dat er heldere afspraken zijn over wat wel en niet wenselijk is en is toegestaan. De uitgangspunten helpen voorkomen dat geheime en vertrouwelijke informatie van de gemeente op onbedoeld wordt gedeeld met AI-aanbieders. Het is niet toegestaan om persoonsgegevens of andere geheime gegevens te delen met AI-modellen. Deze gegevens worden gebruikt om de modellen te trainen.

Door het delen van geheime gegevens of persoonsgegevens in deze modellen worden deze dus publiek beschikbaar, omdat de trainingsdata wordt gebruikt om antwoorden te genereren. Daarnaast geldt specifiek voor geheime informatie dat het strafbaar is dat op deze manier te delen. Daarnaast maakt dit document duidelijk welke rol AI kan spelen binnen het raadswerk, en waar menselijke oordeelsvorming altijd voorop moet staan. Als AI namelijk blindelings wordt gevolgd, kan dat ten koste gaan van de eigen oordeelsvorming van raads- en commissieleden. AIgegenereerde teksten kunnen leiden tot een verschuiving van het debat: in plaats van eigen overwegingen en afwegingen van raadsleden, kan de focus komen te liggen op automatisch gegenereerde argumenten en formuleringen. Ook bevatten de uitgangspunten aanwijzingen voor het omgaan met AI-modellen die mogelijk bevooroordeeld zijn. Deze modellen worden getraind op grote hoeveelheden data, waarin politieke of maatschappelijke neutraliteit niet gegarandeerd is.

Daarnaast bieden de uitgangspunten praktische kaders voor vragen als: mogen raads- en commissieleden AI gebruiken voor het opstellen van technische vragen aan het college? Hoe waarborgen we dat AI-analyses van beleidsstukken objectief blijven? En wat betekent het gebruik van AI voor de onafhankelijkheid van de raad als bestuursorgaan? Door heldere afspraken te maken, blijft AI een hulpmiddel dat het raadswerk ondersteunt, zonder het debat of de oordeelsvorming van raadsleden over te nemen. Dit document is bedoeld als ondersteuning en naslagwerk voor de vast te stellen uitgangspunten. Onderdeel daarvan is ook het overzicht met te gebruiken tools voor raad en commissie. Deze vindt u als bijlage 2 in dit naslagwerk. Deze uitgangspunten en dit document wordt jaarlijks herzien door de griffie op basis van technologische en juridische ontwikkelingen.

6

7

3.

Context 3.1 Wat is AI? Kunstmatige intelligentie (AI) is een verzamelterm voor technologieën die computers in staat stellen taken uit te voeren waarvoor normaal gesproken menselijke intelligentie nodig is. Hierbij kun je denken aan activiteiten zoals het herkennen van spraak, het analyseren van beelden, het maken van voorspellingen of het genereren van tekst. AI kent verschillende vormen, waaronder: Generatieve AI: Systemen die nieuwe content creëren, zoals tekst, afbeeldingen of muziek. Voorbeelden zijn ChatGPT, Copilot, DALL-E en Google Gemini. Voorspellende AI: Systemen die patronen in data herkennen en voorspellingen doen, bijvoorbeeld voor verkeersstromen of energieverbruik. Geautomatiseerde besluitvorming: Systemen die beslissingen nemen op basis van algoritmen en vastgelegde regels, zoals bij automatische goedkeuring van aanvragen. Een veelgebruikte vorm van AI zijn large language models (LLM’s), een type generatieve AI. Deze modellen, zoals ChatGPT en Grok, worden getraind op enorme hoeveelheden tekst en documenten om patronen te herkennen en antwoorden te genereren. Hoewel ze geen echt begrip hebben van taal, kunnen ze overtuigende en contextueel passende reacties produceren op basis van hun training. Het is belangrijk om te beseffen dat deze systemen niet neutraal zijn. Ze reproduceren wat ze in data aantreffen. Inclusief fouten, aannames en vooroordelen.

Daarom is kritisch gebruik noodzakelijk.

3.2 Trends en ontwikkelingen 3.2.1 Groeiende inzet AI-systemen bij overheidsorganen Sinds de introductie van toegankelijke AI-systemen, zoals ChatGPT, is het gebruik binnen overheden toegenomen. Bij de Rijksoverheid (peildatum oktober 2024) zijn 433 AI-systemen in gebruik. Van de 70 ondervraagde rijksorganisaties gebruiken er meer dan de helft AI.1 Ook bij gemeenten wordt AI veelvuldig gebruikt. Zo geeft 74% van de ambtenaren aan wel eens ChatGPT te gebruiken.2 Veel gemeenten en gemeenteraden verkennen de mogelijkheden van AI voor het verbeteren van de informatievoorziening en uitvoeren van analyses. In Haarlem is ervaring opgedaan met het gebruik van de Haarlemse Begrotingsbot. Ook andere gemeenteraden zijn bezig om AI-agents in te zetten om het raadswerk efficiënter en toegankelijker te maken. Deze initiatieven bevinden zich veelal nog in de pilotfase. 3.2.2 Beleid voor verantwoorde AI-inzet Het veelvuldig gebruik van AI zorgt ervoor dat steeds meer gemeenten gaan werken aan beleid rondom de inzet en gebruik ervan. Echter, slechts 32% van de gemeenten heeft beleid wat toeziet op het gebruik van AI. Daarnaast werkt 45% al aan een AI-visie.3Cijfers specifiek voor raden ontbreken nog, maar er zijn al wel enkele voorbeelden van richtlijnen die lokaal zijn ontwikkeld. 1

https://www.rekenkamer.nl/publicaties/rapporten/2024/10/16/focus-op-ai-bij-de-rijksoverheid https://eenvandaag.avrotros.nl/artikelen/meerderheid-gemeenten-gebruikt-chatgpt-en-bijna-de-helftweet-niet-wat-hun-medewerkers-ermee-doen-148083 3 https://mxi.nl/kennis/711/ai-monitor-gemeenten-2024 2

8

Zo heeft de gemeenteraad van Castricum een richtlijn ontwikkeld die toeziet op het verantwoord gebruik van AI-tools door de gemeenteraad en griffie.4 Een duidelijk kader helpt bij het maken van keuzes over de inzet van AI, voorkomt ongewenste risico’s en ondersteunt verantwoord experimenteren. Ook biedt het houvast voor vragen rondom transparantie, privacy, bias en de rol van AI in het politieke proces.

4

https://lokaleregelgeving.overheid.nl/CVDR737648/1

9

4.

Juridisch kader en beleidstoepassingen 4.1 Europese AI-act5 De Europese Unie heeft in augustus 2024 de AI-verordening vastgesteld. Deze wetgeving is bedoeld om het gebruik van AI binnen Europa veiliger en transparanter te maken. Ze moet voorkomen dat AI-toepassingen leiden tot schade voor burgers, en tegelijkertijd ruimte bieden voor verantwoorde innovatie. De AI-act kent 4 soorten risicocategorieën: • Onaanvaardbaar risico (verboden AI): AI-systemen die fundamentele rechten schenden, zoals sociale scoring of manipulatie, zijn verboden (vanaf februari 2025) • Hoog risico: systemen die bijvoorbeeld worden ingezet voor rechtspraak, toegang tot overheidsvoorzieningen of arbeidsselectie. Deze systemen mogen alleen gebruikt worden als aan strikte voorwaarden wordt voldaan (vanaf augustus 2026) • Beperkt risico: toepassingen waarvoor lichte transparantieverplichtingen gelden (augustus 2026) • Minimaal of geen risico: systemen zonder wettelijke beperkingen Voor raad en griffie is vooral de categorie "hoog risico" relevant. Denk hierbij aan AI-systemen die beleid samenvatten of adviseren over besluiten. Als deze systemen inhoudelijk bijdragen aan besluitvorming, kunnen ze binnen deze categorie vallen. De verordening legt, naast de categorisering van systemen, nadruk op AI-geletterdheid.

Gebruikers moeten voldoende inzicht hebben in de werking van AI, de beperkingen ervan en de risico’s bij gebruik. Voor raadsleden betekent dit dat zij kritisch moeten blijven op de output van AI en begrijpen waar deze vandaan komt. Daarnaast worden overheden verplicht transparant te zijn over het gebruik van AI. Voor de raad betekent dit: weten welk systeem wanneer wordt gebruikt, door wie, en met welk doel. Deze informatie moet worden vastgelegd in bijvoorbeeld de interne verantwoording. Dit helpt om grip te houden op de inzet van AI en publieke controle mogelijk te maken.

4.2 Algemene Verordening Gegevensbescherming6 De Algemene Verordening Gegevensbescherming (Verordening (EU) 2016/679 (AVG)) is sinds 2018 van kracht. Deze verordening bevat regels met betrekking tot het beschermen van persoonsgegevens. Bij het gebruik van generatieve AI kunnen persoonsgegevens op twee manieren in het geding komen: Trainingsfase: De meeste AI-modellen worden getraind met grote datasets, vaak verkregen via webscraping. Deze datasets kunnen (onbedoeld) persoonsgegevens bevatten, zoals teksten of

5 6

Europese AI-act: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689 https://wetten.overheid.nl/BWBR0040940/2021-07-01

10

afbeeldingen van burgers, zonder dat hiervoor toestemming is verkregen. Als deze gegevens zonder grondslag worden verwerkt, dan kan dit in strijd zijn met de AVG (artikel 6). Gebruiksfase: Wanneer gebruikers prompts, opdrachten, invoeren in een AI-systeem (bijv. een chatbot zoals ChatGPT), kunnen zij onbewust persoonsgegevens delen, zoals informatie over inwoners of ambtenaren. Als deze gegevens worden opgeslagen of opnieuw worden gebruikt door de AI-aanbieder, kan dit opnieuw leiden tot een datalek of schending van de AVG. Daarnaast kunnen deze gegevens in een verkeerde context belanden waardoor feitelijk onjuiste informatie grootschalig verspreid wordt. Dit betekent dat AI-gebruik binnen het raadswerk vraagt om kennis, alertheid en discipline bij het omgaan met persoonsgegevens. Het lekken van persoonsgegevens is niet altijd direct zichtbaar, maar kan wél grote gevolgen hebben voor burgers of ambtenaren.

4.3 Handreiking Verantwoorde inzet van generatieve AI7 De handreiking Verantwoorde inzet van generatieve AI van het Ministerie van Binnenlandse Zaken biedt richtlijnen voor overheden om generatieve AI, zoals chatbots en contentgeneratoren, verantwoordelijk in te zetten. De Handreiking benadrukt de kansen en de risico’s van het gebruik van AI en biedt handvatten om de kansen te benutten en risico’s te mitigeren. Voor raad en griffie betekent dit onder meer: • Toets AI-toepassingen vooraf aan publieke waarden zoals transparantie, gelijkheid en verantwoordelijkheid. • Zorg dat menselijke controle altijd leidend blijft. AI mag geen beslissingsbevoegdheid krijgen binnen het politieke proces. • Wees terughoudend met het gebruik van persoonsgegevens, ook in prompts. • Maak transparant of en hoe AI is gebruikt, bijvoorbeeld in openbare documenten of raadsnotulen. • Koppel AI-experimenten aan duidelijke spelregels: wie gebruikt het, waarvoor, en hoe wordt de kwaliteit geborgd? De handreiking kan dienen als basis voor het ontwikkelen van lokale richtlijnen, met aandacht voor privacy, transparantie en het behoud van politieke autonomie.

4.4 Algoritmeregister8 Het landelijke algoritmeregister is bedoeld om het gebruik van algoritmes door overheden inzichtelijk te maken. Gemeenten zijn verplicht om impactvolle algoritmes hierin op te nemen, zeker als het gaat om toepassingen die vallen binnen de hoog-risico categorie van de AI-act. Voor de gemeenteraad betekent dit dat er zicht moet zijn op welke algoritmes binnen of namens de gemeente worden ingezet, wat ze doen, en hoe ze tot beslissingen komen. Het register helpt om openheid en verantwoording over AI-gebruik te bevorderen.

7 8

https://open.overheid.nl/documenten/9c273b71-cebb-4e11-b06f-fa20f7b4b90e/file https://algoritmes.overheid.nl/nl

11

5.

Kansen en risico’s van AI 5.1 Kansen De inzet van AI binnen het raadswerk is volop in ontwikkeling, maar biedt nu al concrete mogelijkheden om het raadswerk te ondersteunen en te versterken. AI kan het werk slimmer, sneller of toegankelijker maken. De kansen die AI biedt, raken meerdere aspecten van het raadswerk: van informatieanalyse en voorbereiding van de besluitvorming tot communicatie en controle. Hieronder worden de belangrijkste mogelijkheden toegelicht: Het gebruik van AI biedt volop kansen: snel informatie vinden, initiatiefvoorstellen schrijven of snel antwoord op prangende vragen. Deze kansen bieden een goede aanvulling op het besluitvormingsproces van de raad. Daarnaast kunnen er ook werkzaamheden worden geautomatiseerd hetgeen kan leiden tot meer tijd voor andere zaken waar het raadslid eerder niet of minder aan toekomt. 5.1.1 Sneller en beter ontsluiten van informatie Bij het nemen van besluiten is het belangrijk dat de raad de juiste informatie op het juiste moment heeft. AI kan daar een belangrijke rol in spelen. AI kan helpen om relevante informatie uit grote hoeveelheden documenten of openbare bronnen te halen. Veel modellen kunnen snel internetbronnen verzamelen en deze overzichtelijk weergeven aan de gebruiker. Hierdoor ontstaat een betere ontsluiting van (achtergrond)informatie dan bij traditionele zoekmachines.

Dit ondersteunt raadsleden bij het voorbereiden van vergaderingen, het opstellen van moties en amendementen en het stellen van vragen. In sommige gevallen kan het aantal vragen aan het college zelfs afnemen, doordat AI al helderheid biedt. 5.1.2 Ondersteuning lezen en begrijpen vergaderstukken AI kan raadsleden helpen bij het analyseren van raadsvoorstellen en bijlagen, die vaak omvangrijk en complex zijn. Denk aan het samenvatten van stukken, het markeren van relevante passages of het genereren van gepersonaliseerde opleggers. Dit kan bijdragen aan een gerichtere voorbereiding binnen fracties en commissies. Ook richting inwoners kan AI de toegankelijkheid vergroten, bijvoorbeeld voor mensen met een andere moedertaal of voor wie ambtelijke taal een drempel vormt. Zo kan een publieke chatbot worden ontwikkeld waarin inwoners op een laagdrempelige manier vragen kunnen stellen over raadsstukken en beknopte, begrijpelijke antwoorden ontvangen. 5.1.3 Verbeterde controle en verantwoording De gemeenteraad heeft als taak om het college te controleren, onder meer via de beoordeling van jaarstukken, begrotingen en voortgangsrapportages. AI kan hierbij op meerdere manieren ondersteunen. Het kan grote hoeveelheden beleidsinformatie analyseren, verbanden leggen tussen eerdere en huidige besluiten, en helpen bij het signaleren van onvolkomenheden of onduidelijkheden.

Dit maakt het eenvoudiger voor raadsleden om te beoordelen of het college verantwoording aflegt op een manier die inzichtelijk en navolgbaar is. AI kan daarnaast helpen bij het analyseren in hoeverre beleidsdoelen daadwerkelijk zijn behaald. Daarmee ondersteunt AI het controlerende werk, zonder het oordeel van raadsleden over te nemen.

12

5.2 Risico’s De inzet van AI biedt kansen, maar brengt ook risico’s met zich mee die rechtstreeks raken aan de veiligheid van het democratisch proces en de behoeften van raadsleden aan betrouwbare, transparante en controleerbare informatie. Hieronder worden de belangrijkste risico’s benoemd en geduid vanuit dat perspectief. 5.2.1 Verlies van autonomie en controle op juistheid AI kan de besluitvorming ondersteunen, maar mag het politieke oordeelsvermogen van raadsleden niet vervangen. Wanneer AI-systemen veelvuldig worden ingezet bij het schrijven van moties, het analyseren van beleid of het voorbereiden van debatten, bestaat het risico dat raads- en commissieleden te sterk vertrouwen op de door AI gegenereerde output. Om de autonomie van de raad te waarborgen, is het van belang dat raads- en commissieleden altijd zélf de inhoud blijven afwegen, eigen standpunten formuleren en afwegingen maken in het licht van hun politieke en maatschappelijke takenveld. Daarbij hoort ook een actieve controle op de juistheid, volledigheid en relevantie van de AI-output. AI genereert immers geen waarheid, maar een inschatting op basis van bestaande data, waarin fouten, aannames of eenzijdigheden kunnen zitten. 5.2.2 Bewustzijn van gebruikers Raads- en commissieleden moeten zich dus niet alleen bewust zijn van hun eigen rol, maar ook vaardig zijn in het toetsen en bevragen van AI-antwoorden.

Dat vraagt om alertheid, kritisch denken en reflectie: kernwaarden van het politieke ambacht. Daarnaast vraagt het gebruik van AI om bewustzijn van technologische afhankelijkheid. Wanneer AI-ondersteuning de norm wordt, ontstaat het risico dat raadsleden minder vaardig worden in hun eigen analyse, of dat hun oordeel te veel wordt gestuurd door systemen die zelf geen moreel of ethisch kompas hebben. In precaire of gevoelige dossiers – zoals sociaal beleid of ethische keuzes – kan dit leiden tot ongewenste verschuivingen in het debat of verminderde politieke sensitiviteit. Menselijke beoordeling, politieke weging en het democratisch debat blijven daarom onmisbaar. 5.2.3 Privacyschending en datalekken Zonder data zijn AI-modellen niet te gebruiken. Gebruikers voeren ook data in (prompts) en kunnen daar (onbewust) gevoelige gegevens invullen zoals namen, adressen en telefoonnummers. Dit kan ongemerkt leiden tot een datalek of reputatieschade, met gevolgen voor de privacy van inwoners en ambtenaren. Het is daarnaast niet altijd duidelijk hoe en op welke manier data wordt opgeslagen of gebruikt om modellen verder te trainen. Zeker bij internationale aanbieders is hier een groot risico. Voor raads- en commissieleden betekent dit dat zij geen geheime stukken en persoonsgegevens mogen delen en altijd kritisch moeten afwegen welke informatie geschikt is voor AI-gebruik.

5.2.4 Bias en discriminatie AI-modellen worden getraind met data van het internet, waarin politieke voorkeuren, dominante normen of sociale vooroordelen vaak onbewust aanwezig zijn. Deze data is zelden objectief of representatief. Hierdoor bestaat het risico dat uitkomsten systematisch een bepaald narratief of wereldbeeld ondersteunen, zonder dat de gebruiker dit direct doorziet. Het uitgangspunt garbage in is garbage out geldt hier letterlijk: subjectieve en bevooroordeelde input leidt tot output die bestaande ongelijkheden bevestigt. AI-output kan daardoor sturend zijn in toon, inhoud of richting. Dit vergroot het risico op discriminatie, bijvoorbeeld door het versterken van stereotypes of het uitsluiten van minderheidsperspectieven.

13

Voor raads- en commissieleden is het risico reëel dat AI-gegenereerde teksten overtuigend klinken, maar subtiele vooroordelen bevatten die de politieke afweging beïnvloeden. Denk aan het gebruik van bepaalde frames, het weglaten van alternatieve perspectieven of het bevoordelen van de status quo. Zeker wanneer gebruikers weinig kennis hebben van de werking van AI, neemt de kans op onbewuste beïnvloeding toe. Wetenschappelijk onderzoek bevestigt namelijk dat AI de politieke besluitvorming kan sturen, vooral bij gebruikers zonder inhoudelijke tegenkennis.9 Daarom is het belangrijk dat raads- en commissieleden output actief en kritisch toetsen op neutraliteit en diversiteit, en bij twijfel aanvullende bronnen of alternatieve formuleringen raadplegen. 5.2.5 Gebrek aan transparantie Bij veel AI-modellen is het onduidelijk hoe een uitkomst tot stand komt. De verwerking van input gebeurt in zogenoemde hidden layers (verborgen lagen). De hidden layers is een netwerk van informatieknooppunten waar de input (prompt) van een gebruiker doorheen gaat alvorens er een antwoord komt (output). Deze hidden layers zijn te vergelijken met het menselijk brein: ze verwerken informatie via interne patronen, maar doen dat zonder eenvoudig uitlegbare logica. Dit gebrek aan transparantie maakt het lastig om te achterhalen op basis waarvan een AI tot bepaalde conclusies of adviezen komt.

Voor raadsleden betekent dit dat het vaak onduidelijk is of een antwoord goed onderbouwd is, of welke aannames eraan ten grondslag liggen. Onderzoek naar de transparantie toont aan dat modellen weinig inzicht bieden in de route die data aflegt en wat er vervolgens mee gebeurt.10 Dit belemmert een betrouwbare inzet van AI in het politieke proces. Dit leidt bij organisaties vaak tot een terughoudendheid in grootschalige adoptie van modellen.11 5.2.6 Ethische dilemma’s Ethisch gebruik van AI gaat verder dan alleen het normeren van modellen en het volgen van weten regelgeving. Het gaat om fundamentele vragen over verantwoordelijkheid, vertrouwen en de rol van technologie in het democratisch proces. AI-ethiek is geen eigenschap van het systeem zelf, maar ontstaat in de manier waarop mensen ermee omgaan. AI-modellen hebben geen moreel kompas en kunnen geen onderscheid maken tussen wenselijk en onwenselijk gebruik. Het zijn gebruikers – zoals raadsleden of griffiemedewerkers – die bepalen hoe AI wordt ingezet, waarvoor, en met welk doel. Daarbij spelen principes als transparantie, gelijkheid en zorgvuldigheid een centrale rol. Voor de raad betekent dit dat het niet alleen gaat om wat AI kan, maar vooral om wat mag en past binnen een democratische context. Het maken van die afwegingen vraagt om gedeelde normen en duidelijke richtlijnen en spelregels.

Alleen zo blijft AI een hulpmiddel in dienst van het publieke belang en niet andersom. 5.2.7 Duurzaamheid en waterverbruik De inzet van AI heeft niet alleen maatschappelijke, maar ook ecologische gevolgen. Sinds de opkomst van AI wordt steeds meer duidelijk over de ecologische voetafdruk van AI-modellen. Grote AI modellen verbruiken bij training en gebruik enorme hoeveelheden energie en water. Datacenters die AI-systemen aandrijven vragen bovendien continu koeling, vaak met drinkwater. Dit zorgt voor een forse ecologische voetafdruk, die vaak buiten beeld blijft bij gebruikers. Het model GPT-3 van OpenAI gebruikte bij een gemiddelde training in 2023 ongeveer 552 ton CO2.12 Dat is evenveel als de uitstoot van 120 benzine auto's per jaar. Voor de raad betekent dit dat de inzet van AI ook vraagt om bewuste keuzes: wanneer is AI echt nodig, en welke toepassingen zijn verantwoord in het licht van duurzaamheid? Staat de inzet van AI in proportie tot het doel er van?

9

Biased AI can Influence Political Decision-Making (2024) | Jillian Fisher [2409.03307] AI data transparency: an exploration through the lens of AI incidents 11 Algorithmic Transparency of Conversational Agents 12 https://agile-giss.copernicus.org/articles/4/42/2023/ 10

14

Verantwoord AI-gebruik houdt rekening met de milieubelasting en vraagt om terughoudendheid bij overbodige of zware toepassingen, zeker in publieke functies.

15

6.

Wat vinden we belangrijk 6.1

Richtlijnen

Om AI verantwoord te gebruiken, werken we vanuit leidende principes. Deze bieden een kader om te kunnen handelen en achteraf het handelen te kunnen verantwoorden. Daarnaast bieden de leidende principes een richting om keuzes te maken. Bijvoorbeeld als het gaat om aanschaf of implementatie van AI-toepassingen. De uitgangspunten zijn opgesteld om de raad te helpen keuzes te maken over AI. Daarnaast geeft het de griffie een handelingsperspectief: met duidelijke kaders kunnen er betere en veiligere keuzes worden gemaakt. De onderstaande principes gelden als uitgangspunt voor het gebruik van AI: 6.1.1 Ruimte voor experimenten AI is in ontwikkeling. Om als raad mee te groeien en nieuwe kansen tijdig te benutten, is een adaptieve houding nodig: verantwoord experimenteren, gericht leren en bijsturen waar nodig. Pilots en experimenten worden altijd geëvalueerd met een testgroep bestaande uit raads- en commissieleden. Uitgangspunten voor de raad en griffie: • We staan pilots met AI-tools toe mits ze aantoonbaar veilig, transparant en doelgericht worden uitgevoerd. Uitgangspunten voor de griffie: • We evalueren pilots en experimenten altijd met een testgroep op doelbereik, impact en kosten. • We verzamelen systematisch feedback bij raad en griffie over gevoerde experimenten. • We formuleren duidelijke KPI’s op om de prestaties en effecten van AI-modellen te monitoren.

6.1.2 Handelen in lijn met wetgeving De inzet van AI moet voldoen aan geldende wet- en regelgeving. Op dit moment vormen de nieuwe AI-act en de (U)AVG de belangrijkste kaders voor het gebruik van AI. Daarnaast zijn er diverse handreikingen en uitgaven van onder andere de VNG en het ministerie van Binnenlandse Zaken. Hoewel deze niet juridisch bindend zijn, lopen deze handreikingen vaak wel vooruit op toekomstige wetgeving en geven ze een goede richting. AI is een hulpmiddel, geen besluitvormer. Menselijke beoordeling blijft noodzakelijk, zeker bij besluitvorming of communicatie richting de raad of stad. Uitgangspunten voor raad en griffie: • We voeren geen (gevoelige) informatie in prompts in, in lijn met de AVG. • We delen geen geheime informatie via AI-modellen, zoals bedoeld in artikel 87, 88 en 89 Gemeentewet en artikel 2:5 van de AWB. Dit maakt de gebruiker strafbaar. • We gebruiken zoveel mogelijk transparante en uitlegbare AI-systemen zoals beoogd in de AI-act • We maken geen gebruik van verboden systemen en hoog-risico AI-toepassingen. • We zijn transparant over het AI-gebruik, naar elkaar en naar de stad. Uitgangspunten voor de griffie • We volgen nieuwe wet- en regelgeving op de voet en passen onze werkwijze aan om compliant te blijven. • We registreren de hoog-risico en/of impactvolle modellen in het Algoritmeregister.

16

6.1.3 Bewustzijn van de milieu-impact van AI Zoals aangegeven is de milieu-impact van AI-modellen groot. Het gebruik van AI vraagt veel energie en water, onder meer voor het koelen van datacenters. Zelfs eenvoudige opdrachten verbruiken relatief veel stroom. Grootschalige oplossingen voor energiebesparing zijn nog beperkt beschikbaar. Tegelijkertijd biedt AI waardevolle ondersteuning voor het raadswerk. Daarom kiezen we bewust voor toepassingen die deze voordelen benutten, zonder onnodige belasting van het milieu. Daarom hanteren we de volgende uitgangspunten: Uitgangspunten voor de raad en griffie: • We zijn ons bewust van de milieu impact van AI-toepassingen en handelen daar ook naar. • We vermijden onnodige opdrachten, zoals het genereren van afbeeldingen zonder inhoudelijke noodzaak. Uitgangspunten voor de griffie • We kiezen bij aanschaf van AI-tools voor de meest duurzame, energiezuinige en waterbesparende keuze. • Bij het ontwikkelen en hosten van eigen AI-modellen kiezen we voor gecomprimeerde of getrainde lichte modellen die draaien op duurzame energie. 6.1.4 Stimuleren van verantwoord en toegankelijk gebruik Bij de inzet van AI zijn staan veiligheid, transparantie en toegankelijkheid voorop. We gebruiken AI op een manier die veilig, transparant en inclusief is en bijdraagt aan vertrouwen en past bij de publieke taak van de raad.

Door gebruik te maken van veilige systemen en eerlijke toepassingen, waarborgen we dat we vertrouwen in en met AI opbouwen en een positieve impact realiseren op gebruikers er van. Voor publiek toegankelijke AI-systemen volgen we de geldende toegankelijkheidsnormen, zoals vastgelegd in de WCAG 2.2. Toegankelijkheid betekent dat digitale toepassingen begrijpelijk en bruikbaar zijn voor iedereen – ook voor raadsleden en inwoners met minder digitale vaardigheden. Uitgangspunten voor de raad en griffie: • We passen de gedragscode voor raads- en commissieleden ook toe op het gebruik van AI. • AI mag geen extra drempel opleveren voor raadsleden of inwoners met minder digitale vaardigheden. • We zijn open en eerlijk over het gebruik van AI, met name bij door AI gegenereerde teksten en/of afbeeldingen. Uitgangspunten voor de griffie • Alle publiek toegankelijke AI-systemen voldoen aan de WCAG 2.2 richtlijnen. 6.1.5 Een kritische houding aannemen AI biedt kansen, maar roept ook vragen op over betrouwbaarheid, bias en de invloed op besluitvorming. Daarom hanteren we een kritische en doordachte benadering. We beoordelen AIsystemen niet alleen op wat ze opleveren, maar ook naar de manier waarop ze werken. We kijken kritisch naar de impact, risico’s en ethische implicaties van AI-toepassingen, met een focus op veiligheid en eerlijkheid.

Door kritisch te blijven op de werking en uitkomsten van AI-systemen, zorgen we ervoor dat we deze transparant, betrouwbaar en in het belang van de samenleving houden.

17

We zijn ons ervan bewust dat AI-modellen geen neutrale systemen zijn. Ze kunnen sturen in toon, inhoud of richting, en daarmee bewust of onbewust invloed uitoefenen op de politieke afweging. Door actief te reflecteren op de werking en de uitkomsten van AI, en deze kritisch te toetsen op vooroordelen, aannames en vertekeningen, houden we grip op de technologie. Zo zorgen we ervoor dat AI een hulpmiddel blijft dat bijdraagt aan betrouwbare, uitlegbare en maatschappelijk verantwoorde besluitvorming en niet het politieke oordeel overneemt. Uitgangspunten voor de raad en griffie: • We nemen nooit iets één-op-één over van een AI-model, maar kijken eerst kritisch naar de output. • We doen, waar het kan, onderzoek naar mogelijke vooroordelen in verschillende AI-modellen. • We zijn ons bewust van de vooroordelen die verschillende AI-modellen hebben. • We vragen door wanneer antwoorden onduidelijk of twijfelachtig zijn. • Bij twijfel laten we AI-uitvoer verifiëren door collega’s of externe experts. 6.1.6 We blijven leren over en van AI AI is volop in ontwikkeling en roept voortdurend nieuwe vragen op. Veel gemeenteraden verkennen de mogelijkheden, maar verantwoord gebruik vraagt ook om blijvende scholing en kennisdeling. Voor een goed en verantwoord gebruik is het belangrijk dat de raad op de hoogte is van de nieuwste ontwikkelingen binnen het AI-domein.

We investeren daarom actief in kennis, bewustwording en het uitwisselen van ervaringen binnen én buiten onze organisatie. We blijven aangehaakt bij nieuwe ambtelijke ontwikkelingen en kennisvergaring over AI. Uitgangspunten voor raad en griffie: • We volgen actief de ontwikkelingen in het AI-domein om ze beter te kunnen begrijpen en toepassen. • We zoeken zelf actief naar relevante informatie over AI en delen deze met onze collega’s. • We leren van elkaar en van andere initiatieven binnen en buiten de gemeente. Uitgangspunten voor de griffie • We wijzen een AI-coördinator binnen de griffie aan voor vragen en ondersteuning. De functie AIcoördinator wordt ingevuld door de informatiemanager. • We organiseren regelmatig trainingen voor raadsleden over AI-gebruik, risico’s, bias, privacy en ethiek. 6.1.7 We schrijven goede prompts Effectief gebruik van AI begint met het stellen van de juiste vragen. Om een goed prompt te schrijven is het van belang dat we weten welke elementen een goed prompt maken. Een goede prompt is duidelijk, doelgericht en bevat voldoende context. Daarmee vergroot je de kans op bruikbare output en voorkom je dat je het model meerdere keren moet bijsturen. Dat scheelt tijd en energie, want efficiënte prompts verlagen het verbruik van rekenkracht, stroom en water. Daarom gaan we bewust en zorgvuldig om met hoe we prompts formuleren.

Uitgangspunten voor raad en griffie: • We houden ons bij het schrijven van prompts aan de checklist verantwoorde prompts (bijlage 1). • We formuleren in één prompt zoveel mogelijk gerichte vragen. • We vermijden geen onnodige input, zoals bedankjes, complimenten of klachten.

18

7.

Bijlage 1: Checklist verantwoorde prompts 7.1 Wees specifiek en duidelijk Wees precies in wat je wilt weten of wat het model moet doen. Voorbeeld: In plaats van “Vertel iets over het budget”, zeg: “Maak een samenvatting van de Haarlemse begroting 2025 in maximaal 200 woorden, met focus op onderwijs.” Waarom? Een vage vraag levert vaak een vaag of te lang antwoord op en kost te veel onnodige energie.

7.2 Geef context Vertel het model waar je het antwoord voor nodig hebt of in welke situatie je het gebruikt. Voorbeeld: “Ik ben een raadslid in Haarlem en wil een motie schrijven over fietspaden. Geef drie argumenten voor meer fietspaden in de binnenstad.” Waarom? Dit helpt het model om een antwoord te geven dat past bij jouw rol en doel.

7.3 Vraag om een specifieke opmaak Zeg hoe je het antwoord wilt ontvangen, bijvoorbeeld als lijst, samenvatting of tabel. Voorbeeld: “Maak een lijst van vijf voordelen van zonnepanelen voor Haarlem, in korte zinnen.” Waarom? Dit maakt het antwoord overzichtelijk en direct bruikbaar.

7.4 Vermijd gevoelige informatie Voer nooit namen, adressen, telefoonnummers of andere persoonlijke gegevens in. Voorbeeld: Zeg niet “Geef informatie over inwoner Jan Jansen”, maar “Geef algemene informatie over subsidies voor inwoners.” Waarom? Dit beschermt de privacy en voldoet aan de AVG-wetgeving.

19

7.5 Vraag om neutrale en feitelijke antwoorden Zeg expliciet dat je geen meningen, voorkeur of vooroordelen wilt. Voorbeeld: “Geef een feitelijke samenvatting van de voor- en nadelen van windenergie, zonder politieke voorkeur.” Waarom? Een model kan soms bevooroordeelde antwoorden geven als je dit niet vraagt. Dit voorkomt dat nooit 100%, maar geeft wel een stevig kader.

7.6 Controleer en stel vervolgvragen Lees het antwoord kritisch en vraag verder als iets niet klopt of niet duidelijk is. Voorbeeld: Als de AI een te algemene samenvatting geeft, vraag: “Kun je dit specifieker maken voor de situatie in Haarlem?” Waarom? AI-antwoorden zijn niet altijd perfect; doorvragen maakt ze beter.

7.7 Houd het kort en doelgericht Geef alleen de informatie die nodig is en vermijd lange, ingewikkelde zinnen. Voorbeeld: In plaats van “Ik wil graag weten wat de gemeente allemaal doet aan duurzaamheid en welke projecten er zijn en hoe die werken”, zeg: “Vat de duurzaamheidsprojecten van Haarlem samen in 100 woorden.” Waarom? Dit bespaart tijd en energie en voorkomt onnodig lange antwoorden.

7.8 Vraag om uitleg als je iets niet begrijpt Als de AI iets technisch of onduidelijk uitlegt, vraag dan om een eenvoudige versie. Voorbeeld: “Leg dit uit in simpele taal, geschikt voor een raadslid zonder technische kennis.” Waarom? Dit maakt de antwoorden toegankelijk en bruikbaar voor iedereen.

20

8.

Bijlage 2: Overzicht AI-tools voor raad en griffie

21

Dit is een uitgave van gemeente Haarlem, 27 november 2025

Tekst: Griffie, Fotografie: Gemeente Haarlem, Ontwerp: Gemeente Haarlem, Drukwerk: Gemeente Haarlem ________________________________ Postbus 511 2003 PB Haarlem Tel. 14 023 haarlem.nl 22