Bijlage 1. Richtlijnen AI gebruik gemeenteraad

Richtlijnen AI-gebruik gemeenteraad Alkmaar 2025

De richtlijn AI-gebruik voor de gemeenteraad is deels tot stand gekomen met behulp van AI. Richtlijnen AI-Gebruik

Richtlijn AI-gebruik gemeenteraad Alkmaar 2025 De raad van de gemeente Alkmaar; - gelet op het advies van de commissie Bestuur en Middelen d.d. … 2025; - gelet op artikel 147 van de Gemeentewet; besluit: de navolgende richtlijn AI-gebruik gemeenteraad Alkmaar 2025 vast te stellen

2

Inhoudsopgave 1. Inleiding

4

2. Wat is AI

4

3. Europese AI verordening

4

4. Mogelijke toepassingen van AI

5

5. Algemene tips voor het gebruik van AI in het raadswerk

6

6. Risico’s van AI

6

7. Andere kanttekeningen bij gebruik van AI

7

8. Richtlijnen voor het gebruik van AI in de gemeenteraad

8

9. Rol van de griffie

8

10. Evaluatie en bijstelling

8

11. Conclusie

9

3

1. Inleiding Artificial Intelligence (AI) of kunstmatige intelligentie is een technologie die steeds vaker wordt ingezet om werkprocessen te ondersteunen en te verbeteren. AI kan helpen bij het analyseren van gegevens, het opstellen van teksten en het ondersteunen van besluitvorming. Binnen het raadswerk kan AI een waardevolle aanvulling zijn, mits het op een verantwoorde en transparante manier wordt gebruikt. Steeds meer gemeenteraden gaan over tot het opstellen van richtlijnen. Deze richtlijn biedt kaders voor het gebruik van AI binnen de gemeenteraad van Alkmaar. 2. Wat is AI? AI, of kunstmatige intelligentie, verwijst naar technologieën die computers in staat stellen taken uit te voeren die doorgaans menselijke intelligentie vereisen. Dit omvat o.a. spraakherkenning, beeldherkenning, automatische besluitvorming en taalmodellen. Er zijn verschillende vormen van AI waaronder: • machine learning: systemen die leren van gegevens en zichzelf verbeteren; • deep learning: systemen die patronen herkennen in grote hoeveelheden gegevens; • generatieve AI: systemen die nieuwe inhoud genereren, zoals teksten en afbeeldingen. 3. Europese AI-verordening In augustus 2024 is de Europese AI-verordening (AI-Act) in werking getreden. Deze wet stelt regels voor de ontwikkeling en het gebruik van AI-systemen en verleent rechten aan burgers die hiermee in aanraking komen.

Het doel van de AI-Act is om AI-systemen veilig, transparant, traceerbaar, nietdiscriminerend en milieuvriendelijk te maken, wat vaak wordt aangeduid met de termen Explainable AI en Responsible AI. De regelgeving geldt ook voor AI-systemen uit andere delen van de wereld die in Europa worden gebruikt. AI-systemen worden geclassificeerd op basis van vier risiconiveaus, afhankelijk van het risico dat ze vormen: Onaanvaardbaar risico: AI-systemen die de veiligheid, het levensonderhoud en de rechten van mensen in gevaar brengen, zijn verboden. Dit omvat voorspellende politietaken, sociale scoring zoals in China, en speelgoed met spraakherkenning dat gevaarlijk gedrag stimuleert. Hoog risicosystemen: Dit zijn AI-systemen die aanzienlijke invloed hebben op het leven van mensen, zoals in het onderwijs, de overheid, belangrijke infrastructuren en biometrische identificatie op afstand. Ze moeten voldoen aan strikte regelgeving, waaronder risicobeoordeling, datasetkwaliteit, volledige documentatie, gebruikslogging en menselijk toezicht. De ontwikkelkosten voor deze systemen zijn hoog. Beperkt risico, high impact systemen: Dit betreft AI-systemen zoals grote taalmodellen (ChatGPT, Bard) en generatieve AI (Midjourney, Dall-e) die in andere software kunnen worden geïntegreerd.

Fabrikanten en leveranciers moeten voldoen aan strikte transparantieregels, waaronder openheid over de gebruikte trainingsdata, naleving van Europese auteursrechtrichtlijnen, en informatie over het energieverbruik van de algoritmen. Verder geldt dat de gebruiker duidelijk gemaakt moet worden dat de inhoud door AI is gemaakt. Beperkt risicosystemen: Dit betreft AI-systemen die aan specifieke transparantieregels moeten voldoen. Op sociale media moeten gebruikers geïnformeerd worden dat ze met een machine of algoritme communiceren. Ook deepfake-apps vallen onder deze regels. Fabrikanten moeten duidelijkheid verschaffen over de gebruikte data en algoritmes. 4

Minimaal of geen risico: Deze AI-toepassingen zijn de meest voorkomende, zoals spamfilters, videogames met AI en voorraadbeheersystemen. Ze hoeven niet te voldoen aan speciale AI-regels. De eisen die aan AI worden gesteld in de Europese AI-verordening zijn veelal van toepassing op de ontwikkelaars van AI-systemen, maar dat is niet alles. Vanaf februari 2025 dienen organisaties die AIsystemen ontwikkelen of gebruiken ervoor te zorgen dat hun medewerkers AI-geletterd zijn1 . Dit houdt in dat het kennisniveau van medewerkers over AI voldoende moet zijn om op een verantwoorde manier gebruik te maken van een AI-systeem met oog voor sociale, ethische en praktische bezwaren. 4. Mogelijke toepassingen van AI AI kan raadsleden op verschillende manieren ondersteunen in hun werkzaamheden, mits het op een verantwoorde manier wordt ingezet. Voorbeelden van toepassingen zijn: • Teksten schrijven AI kan helpen bij het opstellen van eerste versies van moties, amendementen, initiatiefvoorstellen en andere documenten. • Teksten redigeren AI kan teksten herschrijven en suggesties doen voor (taalkundige) verbeteringen. • Samenvatten en analyseren AI kan grote hoeveelheden informatie verwerken, samenvatten en analyseren om snel inzicht te geven in (complexe) dossiers.

• Communicatie (met inwoners) AI kan ondersteunen bij het opstellen van e-mails, socialmediaberichten en andere communicatiemiddelen. • Vergelijkingen AI kan verkiezingsprogramma’s of standpunten van verschillende partijen vergelijken of deze naast bestaand of voorgesteld beleid leggen om overeenkomsten en verschillen inzichtelijk te maken. • Voorbereiding van debatten en gesprekken AI kan feiten en argumenten aanleveren ter voorbereiding op vergaderingen en debatten en kan beide kanten van een idee of voorstel verdedigen. • Brainstormen AI kan ideeën genereren voor verkiezingsprogramma’s, socialmediacampagnes en wervingscampagnes voor nieuwe leden waardoor partijen inspiratie kunnen opdoen.

5

5. Algemene tips voor het gebruik van AI in het raadswerk Om AI effectief in te zetten ter ondersteuning van het raadswerk, zijn er enkele belangrijke aandachtspunten. Wees duidelijk en specifiek, context is alles

Het is van belang dat u AI duidelijke, specifieke opdrachten geeft en daarbij voldoende context schetst. Hoe gerichter en concreter de vraag, hoe vollediger en bruikbaarder het antwoord is. Behandel AI alsof het een stagiair is en splits grote vragen op in kleinere deelvragen. AI heeft niet als doel het juiste antwoord te geven Veel AI-tools maken gebruik van LLM’s (large language models) die niet ontworpen zijn om feitelijk juiste antwoorden te geven, maar om op basis van training het meest waarschijnlijke en logische antwoord te genereren. Hierdoor kunnen antwoorden plausibel overkomen, maar niet altijd correct of volledig zijn. Antwoorden kunnen verschillen Twee personen die exact dezelfde vraag aan dezelfde AI-tool stellen, kunnen verschillende antwoorden krijgen. Dit komt door meerdere factoren: - De context van een lopend gesprek met de AI-tool, waardoor eerdere interacties invloed hebben op het antwoord; - Er zijn AI-tools die eerdere interacties met een gebruiker onthouden (daarop verder getraind worden) en verder bouwen op die eerdere interacties; - AI-modellen worden doorlopend achter de schermen verbeterd, hierdoor kan het voorkomen dat gebruikers met verschillende versies van een model werken. Doorgaans zullen de verschillen vooral in nuances zitten, maar het blijft belangrijk om hier rekening mee te houden.

Geef aan welke type output wordt verwacht AI kan verschillende soorten output genereren. Geef daarom duidelijk aan wat er van de AI verwacht wordt: een opsomming, samenvatting of voorbeeldtekst? En welke opbouw of structuur dient de tekst te hebben? Wilt u dat AI een opzet maakt van een motie? Laad dan eerst een voorbeeldmotie in, zodat AI een tekst in de juiste stijl en opmaak kan genereren. Laat AI schrijven met uw eigen schrijfstijl Net zoals u een voorbeeldmotie kunt uploaden, kunnen er ook eerder zelf geschreven teksten worden ingevoerd. Geef AI vervolgens de opdracht om de schrijfstijl te analyseren en toe te passen op een nieuwe tekst of document. Controleer de output Aangezien AI geen garantie biedt op feitelijke juistheid, is het van belang om de gegenereerde output kritisch te beoordelen. Blijf de output zelf controleren door logisch na te denken, controlevragen te stellen en om bronvermelding te vragen. 6. Risico’s van AI Hoewel AI veel voordelen biedt, zijn er ook risico’s verbonden aan het gebruik ervan. Enkele belangrijke risico’s zijn onjuiste of misleidende informatie, vooroordelen en discriminatie, en privacy 6

risico’s. AI kan onjuiste, verzonnen of misleidende informatie genereren die overtuigend klinkt, maar feitelijk niet klopt. Dit worden hallucinaties genoemd. Daarnaast kan AI vooroordelen bevatten die leiden tot oneerlijke of bevooroordeelde uitvoer. AI kan persoonsgegevens verwerken, wat risico’s met zich meebrengt voor de bescherming van gevoelige informatie. Bovendien is niet altijd duidelijk waar en hoe de ingevoerde gegevens worden opgeslagen of gebruikt. Bij veel AI-diensten wordt invoer verwerkt op externe servers, mogelijk in andere landen, zonder dat de gebruiker controle heeft over verdere verspreiding of opslag. Dit kan leiden tot datalekken of ongeoorloofd gebruik van gevoelige gegevens. 7. Andere kanttekeningen bij gebruik AI Naast de hiervoor genoemde risico’s zijn er nog twee belangrijke kanttekeningen om in de richtlijn te vermelden. Energieverbruik AI AI verbruikt aanzienlijke hoeveelheden energie. Dit geldt met name voor het trainen van AImodellen, maar ook het uitvoeren van één opdracht kost al ongeveer evenveel energie als een lamp die een uur lang aanstaat. Daarnaast verbruiken datacenters grote hoeveelheden water om de servers waarop AI-software draait te koelen. Het gebruik van AI heeft dus een impact op duurzaamheid en het klimaat. Hoewel er wordt gewerkt aan manieren om AI-toepassingen energiezuiniger te maken, is het nog niet zo ver.

Daarom is het belangrijk om bewust en verantwoord met AI om te gaan. Uitdagingen ambtelijke organisatie bij gebruik AI Gemeenten zien de potentie van AI voor het verhogen van efficiëntie, het verbeteren van de dienstverlening en het opvangen van tekorten op de arbeidsmarkt. Veel gemeenten maken in meer of mindere mate al gebruik van AI, bijvoorbeeld voor communicatie met inwoners (chatbots), het schrijven van voorstellen of het samenvatten van beleidsdocumenten. Tegelijkertijd worstelen veel gemeenten met de inzet van AI binnen de ambtelijke organisatie. Dit komt enerzijds door de risico’s die AI met zich meebrengt. Ambtenaren werken vaak met nietopenbare informatie en persoonsgegevens. Bij de meest gebruikte AI tools is onvoldoende transparantie over waar ingevoerde gegevens worden opgeslagen en of en in hoeverre deze verder verspreid worden. Daarnaast ontbreekt het binnen veel gemeenten nog aan de vereiste AIgeletterdheid om AI op een verantwoorde manier in te zetten. Gemeenten gaan verschillend om met het gebruik van AI. Zo zijn er gemeenten die ambtenaren verbieden bepaalde AI-tools te gebruiken voor hun werkzaamheden en er zijn gemeenten die een poging doen om intern beleid op te stellen voor het gebruik van AI door ambtenaren. De VNG heeft in februari 2025 een position paper uitgebracht over het gebruik van AI5 .

De belangrijkste conclusie uit dit paper is dat AI gemeenten kan helpen bij de maatschappelijke opgaven, maar dat dit op een ethisch verantwoorde en transparante manier moet worden ingezet. Dit vraagt om samenwerking, kennisdeling en een stevige bestuurlijke en juridische basis. De AI-opgave is een overheidsbrede opgave waar nog veel stappen te zetten zijn. Recent heeft het Ministerie van Binnenlandse Zaken een handreiking uitgebracht over het verantwoord gebruik van generatieve AI binnen de juridische kaders en met inachtneming van de risico’s.

7

Raads- en commissieleden hebben het voordeel dat zij (digitaal) enkel toegang hebben tot openbare stukken zonder persoonsgegevens. Hoewel ook zij over een bepaalde AI geletterdheid moeten beschikken om AI verantwoord te gebruiken, brengt het gebruik van AI door raadsleden minder risico’s met zich dan binnen de ambtelijke organisatie.

8. Richtlijnen voor het gebruik van AI binnen de gemeenteraad Bij het gebruik van AI binnen de gemeenteraad van Alkmaar gelden de volgende uitgangspunten: • Gebruik AI voor inspiratie en niet voor creatie. AI heeft veel handige functionaliteiten, maar het gebruik hiervan is niet zonder risico’s. Wanneer AI wordt gebruikt voor inspiratie in plaats van voor creatie, worden veel van de risico’s al ondervangen. • Gebruik alleen openbare informatie. AI mag niet worden gebruikt om geheime, vertrouwelijke of niet-openbare informatie te verwerken of te genereren. • Vermijd het verwerken van persoonsgegevens. AI mag niet worden gebruikt om persoonsgegevens te verwerken, tenzij dit expliciet is toegestaan volgens de AVG-wetgeving. • Blijf kritisch en onafhankelijk. AI kan fouten maken of onnauwkeurige informatie genereren. Daarom moet elke gegenereerde tekst of analyse zorgvuldig worden gecontroleerd voordat deze wordt gebruikt of gedeeld met derden. De gebruiker is verantwoordelijk voor wat er met de uitvoer gebeurt. • Wees transparant over het gebruik van AI. Wanneer AI wordt ingezet voor het opstellen van (beleid)teksten zoals bijvoorbeeld initiatiefvoorstellen of het ondersteunen van besluitvorming moet dit duidelijk worden vermeld. • Gebruik AI als hulpmiddel.

AI kan ondersteuning bieden, maar mag nooit de eigen verantwoordelijkheid van raads- en commissieleden of medewerkers vervangen. • Let op auteursrecht en plagiaat. Neem niet klakkeloos hele stukken tekst over van een AIsysteem. Dit kan een inbreuk opleveren op het auteursrecht of het intellectuele eigendomsrecht van anderen en is daarmee ook plagiaat. 9. Rol van de griffie De griffie speelt een belangrijke rol in het faciliteren van verantwoord AI-gebruik binnen de gemeenteraad. Dit houdt onder meer in: • Het informeren en trainen van raads- en commissieleden over AI-gebruik en bijbehorende risico’s. • Het ondersteunen bij de eventuele toekomstige implementatie van AI-tools, bijvoorbeeld in het raadsinformatiesysteem. • Het adviseren over transparantie en correcte toepassing van AI in het raadswerk. • Het monitoren van AI-ontwikkelingen en het vertalen van relevante wet- en regelgeving naar de praktijk. • Het fungeren als eerste aanspreekpunt voor raads- en commissieleden bij vragen, incidenten of twijfel over het gebruik van AI. Eventuele problemen, zoals het per ongeluk verwerken van vertrouwelijke informatie via AI, dienen zo spoedig mogelijk bij de griffie gemeld te worden. 10. Evaluatie en bijstelling Deze richtlijn wordt jaarlijks geëvalueerd door de griffie in samenspraak met raads- en commissieleden.

Hierbij wordt gekeken naar technologische ontwikkelingen, ervaringen uit de praktijk en eventuele knelpunten in de toepassing van de richtlijn. De uitkomsten van de evaluatie 8

kunnen aanleiding geven tot herziening of aanvulling van de richtlijn. Raads- en commissieleden kunnen knelpunten, ervaringen of suggesties op elk moment melden bij de griffie. 11. Conclusie AI biedt kansen voor het efficiënter en effectiever vervullen van het raadswerk, mits het op een verantwoorde manier wordt ingezet. Deze richtlijn helpt de gemeenteraad van Alkmaar om AI veilig en transparant te gebruiken binnen de kaders van de Europese wetgeving en de gemeentelijke verantwoordelijkheden.

Slotbepalingen 1. Deze richtlijn treedt in werking op de dag na bekendmaking. 2. Deze richtlijn wordt aangehaald als: Richtlijn AI-gebruik gemeenteraad Alkmaar 2025. Aldus vastgesteld door de raad van de gemeente Alkmaar in de openbare raadsvergadering van ………… mw. drs. A.M.C.G. Schouten, burgemeester

mw. mr. V.H. Hornstra, griffier

9