4452 AI Beleid LV 2025-2028_Versie4december2025 NIEUWE VERSIE

AI-visie en beleid 2025-2028

CIO Gemeente Leidschendam-Voorburg 4 december 2025

Voorwoord De gemeente Leidschendam-Voorburg wil op een zorgvuldige, transparante en mensgerichte manier omgaan met kunstmatige intelligentie. Artificiële intelligentie (AI) is niet langer toekomstmuziek, maar dagelijkse realiteit binnen de gemeentelijke context. AI biedt kansen voor het verbeteren van onze dienstverlening en processen. Het biedt daarnaast mogelijkheden om collega’s te ontlasten en de werkdruk daarmee te verlagen. Tegelijkertijd zijn er ook juridische en ethische risico’s, zoals het gebruik van privacygevoelige data en algoritmes die namens mensen keuzes maken. De kansen en risico’s van AI moeten zorgvuldig worden afgewogen. Vanuit onze kernwaarden én onze verantwoordelijkheid als gemeente willen wij AI verstandig, ethisch en doelgericht inzetten. Daarbij hanteren we onderstaande uitgangspunten: • •

•

Menselijk: AI is passend bij de menselijke maat, geen doel op zich en we blijven met AI testen en experimenteren op de gevolgen. Betrouwbaar: AI in de gemeente Leidschendam-Voorburg voldoet aan de wettelijke vereisten, garandeert de privacy en veiligheid van onze inwoners, ondernemers, medewerkers en maatschappelijke organisaties en we doen er alles aan om de neutraliteit van AI te borgen. Transparant: de AI die wij gebruiken is uitlegbaar, herleidbaar en bespreekbaar, doordat we hier openlijk over communiceren.

Deze visie en dit beleid zijn het gezamenlijke kompas om AI de komende jaren (2025-2028) binnen Leidschendam-Voorburg op een verantwoorde manier in te zetten. Bij het gebruik van AI is de Gemeente Leidschendam-Voorburg ook gebonden aan landelijke en Europese regels. Het beleid sluit aan op wetgeving zoals de Europese AI Act, de Algemene Verordening Gegevensbescherming (AVG) en de informatiebeveiligingswetten. Scope van het beleid Dit AI-beleid is van toepassing op de gehele organisatie van de gemeente LeidschendamVoorburg, inclusief het ambtelijk apparaat, het college, de gemeenteraad en de raadscommissies. AI-toepassingen die worden gebruikt in het kader van besluitvorming door de raad, het opstellen van raadsinformatie of het verwerken van documenten binnen het raadsproces vallen eveneens onder dit beleid. Governance en verantwoordelijkheden Voor de uitvoering en borging van dit beleid is een gemeentelijke AI-governancestructuur ingericht. De AI-toetsingscommissie staat onder voorzitterschap van de Chief Information Officer. De commissie bestaat uit vertegenwoordigers van informatiebeveiliging (CISO), privacy (FG), gegevensmanagement (Chief Data Officer) en juridisch advies. Voor zaken die het raadsproces raken, wordt de griffier (GIFI) structureel betrokken. Martijn Vroom Burgemeester Leidschendam-Voorburg 2

Inhoudsopgave 1.

Wat is AI? .............................................................................................................................................4 Definitie ....................................................................................................................................................4 Wet- en regelgeving .................................................................................................................................6

2.

Kansen en risico’s van AI .....................................................................................................................9 Kansen .....................................................................................................................................................9 Risico’s ...................................................................................................................................................10

3.

Onze aanpak ......................................................................................................................................12 Principes voor de toepassing van AI ......................................................................................................12 Beleidsuitgangspunten ...........................................................................................................................13 Governance en verantwoordelijkheden ..................................................................................................14 Tijdpad en implementatie .......................................................................................................................14

4 Slotwoord .................................................................................................................................................16 Bijlage 1 – Samenvatting van risico classificatie uit de AI Verordening .....................................................17 Bijlage 2 – AI Impact Assessment (AIA) .....................................................................................................19 Bijlage 3 – Modelregistratie voor Algoritmeregister ....................................................................................20

3

1. Wat is AI? Kunstmatige intelligentie of Artificiële intelligentie (AI) is geen nieuwe ontwikkeling. Het gebruik van chatbots door klantenservices en gezichtsherkenning op telefoons zijn al onderdeel van ons dagelijks leven. De laatste jaren neemt het aantal toepassingen en het gebruik van kunstmatige intelligentie snel toe. De AI-monitor 2024 van het CBS laat zien dat 22,7 procent van de bedrijven, met tien of meer personeelsleden, één of meer AI-technologieën gebruikte in 2024. Dit was een toename van bijna 9 procentpunt ten opzichte van 2023. De jaren daarvoor was het gebruik relatief stabiel1.a AI is niet alleen populair in de zakelijke wereld, maar steeds meer mensen gebruiken het ook in hun dagelijkse leven. De lancering van Chat-GPT in november 2022 is daar een belangrijke aanleiding voor. AI is daarmee niet meer weg te denken. Doordat medewerkers AI in hun privéleven gebruiken, komt intern steeds vaker de vraag: hoe gaan we als gemeente om met AI? Mogen medewerkers AI-systemen gebruiken? Daarbij komen ook de risico’s voor onze inwoners, ondernemers en maatschappelijke organisaties naar voren.

Vragen zoals: Worden beslissingen betrouwbaar, eerlijk, transparant en neutraal genomen? Wat gebeurt er met de gegevens die wij invoeren? Hoe voorkomen we afhankelijkheid van technische leveranciers? Deze visie geeft antwoord op deze vragen en is het gezamenlijke kompas om AI de komende jaren (2025-2028) binnen Leidschendam-Voorburg op een verantwoorde manier in te zetten. Wij nemen u mee aan de hand van de volgende drie vragen: • • •

Wat is AI en welke wet- en regelgeving bestaat er op het gebied van AI? Welke kansen en risico’s komen er bij het gebruik van AI kijken? Welke aanpak kiezen we in Leidschendam-Voorburg en wat betekent dit voor onze medewerkers en inwoners?

Definitie Kunstmatige intelligentie of artificiële intelligentie (AI) is niet één ding, maar een verzamelnaam voor systemen die intelligent gedrag vertonen. Dat wil zeggen dat het systeem analyseert en met een zeker mate van zelfstandigheid daaruit actie kan ondernemen. Het gaat daarbij dus niet alleen om rekenkracht, maar ook om de mogelijkheid om (zelfstandig) te leren en beslissingen te nemen. AI gebruikt daarvoor regels die door mensen zijn geformuleerd2. Om onduidelijkheid over de definitie te voorkomen, gebruiken we in deze visie de definitie vanuit de Europese regelgeving (Europese AI Act3). Gekoppeld aan deze definitie zijn ook

1

Gebruik kunstmatige intelligentie (AI) door bedrijven neemt toe | CBS

2

Wat is kunstmatige intelligentie (AI)? | Kunstmatige intelligentie (AI) | Rijksinspectie Digitale Infrastructuur (RDI)

3

Article 3: Definitions | EU Artificial Intelligence Act

4

juridische verplichtingen (waarover later meer onder ‘wet- en regelgeving’) daarom is dit een logische definitie om aan te houden: “Een AI-systeem is een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen.” Een AI-systeem heeft dus in ieder geval: Een bepaald niveau van autonomie om te werken. Dit betekent dat het systeem beslissingen kan maken zonder menselijke tussenkomst; • •

een aanpassings-/lerend-vermogen; en de mogelijkheid output te genereren op basis van input4.

Er zijn verschillende vormen van AI. Binnen onze context onderscheiden we: •

•

•

Rekenregels (algoritmen): Eenvoudige beslislogica, gebaseerd op wetgeving of regels. Bijvoorbeeld een scanauto bij parkeercontrole, waarbij kentekens worden vergeleken met de parkeerrechten-database; bij een mismatch beslist een medewerker over een naheffing. Zelflerende AI: Modellen die patronen ontdekken in data, zoals voorspellende analyses. Bijvoorbeeld een Wmo-voorspelmodel dat jaarlijks retrainend model voorspelt per wijk hoeveel inwoners komend vijf jaar Wmo-zorg nodig hebben; dashboard ondersteunt budget en inkoop. Generatieve AI: Systemen die teksten, beelden of codes kunnen genereren (zoals ChatGPT of DALL·E) Bijvoorbeeld zonder tussenkomst van een programmeur bouwen van een gemeentelijke website op basis van de functionele eisen.

Voorbeelden van toepassingen van AI bij de overheid Chatbots We kunnen de dienstverlening verbeteren door middel van automatische beantwoording van vragen van inwoners. Steeds vaker gebruiken gemeente chatbots, die in sommige gevallen ook AI-gestuurd zijn. Sinds 2020 experimenteren verschillende gemeente met AI-chatbots5, waaronder de gemeente Goes, Eindhoven en Montferland.

4

Artificiële intelligentie (AI) Verordening - Europa decentraal

5

Trial en error met gemeentelijke chatbots

5

Data-analyses Data-analyse en voorspelling biedt mogelijkheden om voorspellingen te doen over bijvoorbeeld schooluitval, energieverbruik en toekomstige hulpvragen (bijvoorbeeld in het sociaal domein). Maar ook mogelijkheden voor het optimaliseren van verkeers- en mobiliteitsanalyses. Waarstaatjegemeente.nl maakt bijvoorbeeld sinds kort gebruik van AMIGO (Algoritmische Matchmaker voor Ideale Gemeentelijke Oriëntatie6) die beleidsmakers helpt om gemeente objectief te vergelijken met actuele data. Administratieve ondersteuning Verschillende gemeente en ministeries werken met een tool die met behulp van een algoritme vertrouwelijke gegevens in documenten anonimiseert voordat deze worden gepubliceerd. Daarnaast gebruiken beleidsmakers van onder andere het Ministerie van Economische Zaken en Klimaat, een AI-assistent7 om te helpen bij het beantwoorden van Kamervragen.

Wet- en regelgeving Vanwege de snelle ontwikkeling en groei in de toepassing van AI, zijn er ook diverse wet- en regelgeving opgesteld waaraan gemeente Leidschendam-Voorburg zich moet houden. Op specifiek het gebied van AI is de Europese AI-verordening (in het Engels AI-Act) ingevoerd. De AI-verordening stelt regels voor de ontwikkeling en het gebruik van AI-systemen. Het doel hiervan is het beschermen van de veiligheid, gezondheid en grondrechten van inwoners. Tegelijkertijd biedt het duidelijkheid voor de ontwikkelaars van AI. De AI-verordening wordt gefaseerd ingevoerd en is halverwege 2027 volledig van kracht. De wet maakt een onderverdeling in verschillende risicocategorieën. De risicocategorie van het AI-systeem bepaalt of de regels die gelden zwaarder of minder zwaar zijn (zie voor een beknopte samenvatting bijlage 1). Enkele toepassingen van AI worden door deze wet verboden8. De risicocategorieën die de AI-verordening onderscheid zijn:

6

https://www.waarstaatjegemeente.nl/nieuws/Nieuwe-AMIGO--actuele-data-en-meer-vergelijkingen/350

7

Codi, de virtuele beleidsassistent • Nederlandse AI Coalitie

AI-verordening AI (Artificiële Intelligentie) - Digitale Overheid; AI Act | Shaping Europe’s digital future; Risico onder de loep: hoe werkt het concept 'risico' in de AI-verordening? - Europa decentraal 8

6

1. Verboden toepassingen/onaanvaardbaar risico: Dit zijn toepassingen met een

onaanvaardbaar risico, zoals schadelijke manipulatie, social scoring en emotie- en gezichtsherkenning in de openbare ruimte 2. Hoog-risico toepassingen: Dit zijn systemen met bijvoorbeeld biometrische identificatie en besluitvorming binnen (overheids)organisaties bijv. op het gebied van toeslagen, rechtspraak, sollicitaties en toelating tot onderwijs en zorg 3. Beperkt risico toepassingen: Dit zijn onder andere toepassingen waarbij het risico op misleiding aanwezig is, zoals deepfakes. Ook toepassingen zoals chatbots vallen onder deze categorie. Hiervan moet duidelijk zijn dat het AI-systemen zijn en geen echte mensen. 4. Minimaal/geen risico toepassingen: Dit zijn toepassingen zoals spamfilters. Voor deze categorie gelden geen aanvullende regels, tenzij een bedrijf of organisatie deze zelf vrijwillig opstelt. De AI-verordening geldt zowel voor ontwikkelaars van systemen als de gebruikers. Concreet betekent de wet voor ons als gemeente dat per 2 februari 2025 moeten houden aan9: • • • •

• • •

Registratieplicht: AI-systemen moeten worden geregistreerd in een EU-register. Transparantie-eisen: Inwoners moeten worden geïnformeerd over het gebruik van AI in besluitvorming. Menselijke controle en toezicht: AI mag niet zelfstandig beslissingen nemen zonder menselijke tussenkomst. Risicobeoordeling en Data Protection Impact Assessment (DPIA): Hoog-risico AI moet worden onderworpen aan een DPIA. Een DPIA is een bekend analyse-instrument uit de privacywetgeving waarin de risico’s van een toepassing worden getoetst. Documentatie en logging: AI-systemen moeten controleerbaar en goed gedocumenteerd zijn. Ethische en non-discriminatieprincipes: AI mag geen discriminerende patronen versterken. Cybersecurity en robuustheid: AI-systemen moeten veilig en bestand zijn tegen manipulatie.

Daarnaast zijn er ook andere wetten die niet rechtstreeks, maar wel indirect een verband hebben met het gebruik van AI. Bij het toepassen van AI is bijvoorbeeld de Algemene Verordening Gegevensbescherming (AVG) zeer belangrijk. Gegevens van inwoners en organisaties moeten altijd beschermd worden, ook bij AI-toepassingen. Daarnaast beschrijft artikel 22 van de AVG dat mensen recht op een menselijke blik bij automatische besluiten die serieuze gevolgen voor hen hebben.

Over de implementatie van de AI-verordening is de gemeenteraad op 21 maart 2025 per raadsbrief (ID 36) geïnformeerd, zie hiervoor: Raadsbrief Implementatie AI-act lv - iBabs Publieksportaal. 9

7

Ook de wet- en regelgeving omtrent cyberbeveiliging (Baseline Informatiebeveiliging overheid (BIO) en Network and Information Security directive 2 (NIS2)) is relevant. Op landelijk niveau wordt er ook gewerkt aan handreikingen en visies over algoritmen en AI door o.a. de rijksoverheid en de Vereniging van Nederlandse Gemeenten10. Uiteraard dienen ook deze overheidsbrede visies als input voor de visie van gemeente Leidschendam-Voorburg.

Samenvatting wet- en regelgeving AI

Wet/ Kader AI Verordening/ AI Act (EU) Algemene Verordening Gegegevensbescherming DPIA-verplichting NIS2 (Cybersecurity)

Relevantie voor AI Regelt toelating, risico’s, transparantie van AI Beschermt persoonsgegevens bij AI-verwerking Risicoanalyse bij gevoelige dataverwerking Verhoogde eisen aan beveiliging van de vitale infrastructuur van de gemeente

Bijvoorbeeld: Overheidsbrede visie Generatieve AI; Overheidsbreed standpunt voor de inzet van generatieve AI; Implementatiekader 'verantwoorde inzet van algoritmen'; VNG 'Verantwoorde inzet van AI in gemeenten - Pilot Breda' 10

8

2. Kansen en risico’s van AI AI is geen toekomstmuziek meer, maar dagelijkse realiteit. Door de groeiende toegankelijkheid en veelheid aan nieuwe toepassingen van AI wordt ook het besef dat AI, naast kansen, ook risico’s met zich meebrengt groter. We hebben in beeld wat de kansen en risico’s zijn voor de overheid11 en de VNG heeft inzichtelijk gemaakt welke kansen en risico’s relevant zijn voor gemeenten. Hier sluiten wij op aan en we leggen uit wat dit specifiek voor LeidschendamVoorburg betekent. Van deze kansen kunnen we gebruik maken en de risico’s willen we voorkomen.

Kansen (Generatieve) AI biedt heel veel mogelijkheden. Het kan routinematige taken automatiseren, analyses uitvoeren en helpen bij het verwerken van grote hoeveelheden informatie12. Deze technologieën worden steeds vaker ingezet door gemeenten in Nederland om hun processen te optimaliseren, de dienstverlening te verbeteren en maatschappelijke vraagstukken aan te pakken. Leidschendam-Voorburg ziet in ieder geval de volgende kansen voor de ambtelijke organisatie en de samenleving. 1. Dienstverlening aan inwoners AI kan de dienstverlening aan inwoners aanzienlijk verbeteren. Bijvoorbeeld door het inzetten van chatbots voor klantenservice of geautomatiseerde systemen voor het verwerken van vergunningsaanvragen. Dit kan de snelheid en toegankelijkheid van onze dienstverlening vergroten, terwijl medewerkers minder administratieve taken hoeven uit te voeren. 2. Efficiëntie & productiviteit AI kan repetitieve en routinematige taken sneller en soms volledig automatisch uitvoeren. Dit bespaart medewerkers tijd en vermindert de noodzaak om steeds opnieuw bestaande processen te herzien. 3. Data-analyse Gemeenten verzamelen grote hoeveelheden data. AI en algoritmen kunnen helpen deze gegevens te analyseren om waardevolle inzichten te verkrijgen. Die extra kennis is behulpzaam bij het maken van keuzes op gebied van openbare ruimte, verkeersmanagement, veiligheid en het sociaal domein. 4.

Predictive analytics Door gegevens te analyseren kunnen AI-systemen voorspellingen doen over toekomstige gebeurtenissen. Denk aan het voorspellen van verkeerscongestie, wateroverlast of criminaliteitspatronen. Met deze inzichten kunnen we proactief handelen en maatregelen treffen, wat de effectiviteit van beleid vergroot.

11 Overheidsbrede visie Generatieve AIOverheidsbrede visie Generatieve AI

12 Overheidsbrede visie Generatieve AI

9

5. Administratieve lasten verminderen AI kan de administratieve lasten verlichten, waardoor processen sneller en efficiënter verlopen. De technologie kan ook de betrouwbaarheid van werkzaamheden verbeteren, wat bijdraagt aan een hogere kwaliteit van onze dienstverlening.

Risico’s Hoewel AI veel kansen biedt, brengt het ook diverse risico’s en uitdagingen met zich mee. Sommige van deze risico’s ontstaan door de aard van de technologie zelf, terwijl andere verband houden met de manier waarop AI wordt toegepast. De Vereniging van Nederlandse Gemeenten heeft de specifieke risico’s voor gemeenten in beeld gebracht13. 1. Privacy & gegevensbescherming AI vereist vaak de verwerking van grote hoeveelheden (persoons)gegevens. Het onjuiste verzamelen, opslaan of gebruiken van deze gegevens kan leiden tot schendingen van privacy en gegevensbeschermingswetgeving. Daarnaast kunnen zulke gegevens, vooral bij koppeling tussen verschillende databronnen, toch herleidbaar zijn tot personen of kwetsbare locaties. Het gevolg kan reputatieschade en juridische consequenties zijn. Het is belangrijk om AI-toepassingen daarom zo te ontwerpen dat ze voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en andere privacywetgeving. 2. Menselijke betrokkenheid & verantwoordelijkheid Een te grote afhankelijkheid van AI kan leiden tot minder menselijke betrokkenheid en verantwoordelijkheid. Het is belangrijk om de rol van menselijke besluitvorming en toezicht te behouden om ethische en morele aspecten te waarborgen. Daarmee voorkomen we fouten en misstanden.

Dit wordt onderstreept door artikel 22 van de AVG, waarin menselijke betrokkenheid als verplichting wordt gesteld. 3. Bias & discriminatie AI-algoritmen zijn afhankelijk van de gegevens waarmee ze worden getraind. Wanneer deze gegevens vooringenomen zijn, kan het algoritme onbedoeld discriminatie in stand houden. Dit kan leiden tot ongelijke behandeling van inwoners op basis van geslacht, ras, leeftijd of andere kenmerken. Het is belangrijk om algoritmen voortdurend te testen en te monitoren om dit soort vooroordelen/biases te voorkomen. 4. Transparantie & uitlegbaarheid AI-modellen zijn soms moeilijk te begrijpen zijn. Dat kan leiden tot een gebrek aan transparantie waardoor de acceptatie en het vertrouwen van inwoners en medewerkers vermindert. Het is belangrijk om bij de implementatie van AI-systemen te zorgen voor documentatie en waar mogelijk voor uitlegbaarheid van de werking van de systemen. 5. Veiligheid & beveiliging AI-systemen en de gegevens die zij verwerken kunnen kwetsbaar zijn voor

13

Handreiking AI en Algoritmen, 2023

10

cyberaanvallen en misbruik. Onvoldoende beveiligingsmaatregelen kunnen leiden tot ongeautoriseerde toegang tot gevoelige informatie van de gemeente. Daarnaast kan het beperkte aantal leveranciers onze afhankelijkheid van een aantal bedrijven vergroten. Daardoor kan de controle op applicaties en data onder druk komen te staan.

11

3. Onze aanpak Principes voor de toepassing van AI Op basis van de risico’s en vraagstukken die AI met zich meebrengt, is de richtlijn dat we het vormgeven en toepassen van AI op een menselijke, betrouwbare en transparante manier doen. Aan de hand daarvan hebben we negen principes gedefinieerd. AI in de gemeente Leidschendam-Voorburg is:

Menselijk -

-

-

Passend bij de menselijke maat: AI blijft een hulpmiddel en is geen vervanging van menselijke intelligentie of interactie. Het is een technologie die taken kan automatiseren en simuleren. Geen doel op zich: We passen AI alleen toe als het helpt om onze andere doelen te behalen. Daarbij maken we altijd de afweging wat we ermee winnen en wat er met automatisering aan menselijkheid verloren gaat. Testen & experimenteren: We testen en monitoren algoritmen voortdurend en doen onderzoek naar de effecten van AI. Dit doen we onder andere door te experimenteren met AI in de vorm van pilots.

Betrouwbaar -

-

-

Wettelijk: We hanteren altijd de geldende wetten en kaders voor AI en digitalisering, zoals de Europese AI Act, de AVG en andere regels die van toepassing zijn op AI, Veiligheid & beveiliging Privacy: Privacy en veiligheid van inwoners, bedrijven, organisaties, verenigingen en medewerkers staat centraal. Daarom mag AI niet toegepast worden wanneer de privacy en veiligheid niet gegarandeerd kunnen worden. Neutraliteit: We borgen de neutraliteit van de AI-systemen door goede afspraken te maken met leveranciers, alleen kwalitatief goede data te gebruiken als input en voortdurend te blijven testen of het systeem niet vooringenomen is.

Transparant -

-

12

Uitlegbaarheid: Naast transparantie is het ook belangrijk dat medewerkers, inwoners, ondernemers en maatschappelijke organisaties begrijpen hoe AI wordt gebruikt. We zorgen dat dit goed uitlegbaar is en beantwoorden vragen hierover. Communicatie: De gemeente communiceert open en eerlijk over de toepassingen van AI die worden gebruikt. Hiervoor maken we gebruik van het algoritmeregister, maar ook bij aanvullende vragen geven we ook eerlijk antwoord.

-

Bespreekbaar: In lijn met de Wet Open Overheid zijn we transparant over inzet van AI. We stimuleren discussie met medewerkers, raadsleden en inwoners, ondernemers en maatschappelijke organisaties hierover en maken dilemma’s expliciet.

Beleidsuitgangspunten Deze negen principes leiden tot de volgende tien beleidsuitgangspunten: 1. Generatieve AI (zoals ChatGPT, Copilot) mag alleen worden gebruikt binnen huisregels (nader te bepalen). 2. AI wordt alleen ingezet als de kwaliteit van data voldoende is. De kwaliteit van de data die in een AI-systeem worden gebruikt, bepaald namelijk ook de kwaliteit van de analyse of gegevens die er weer uit volgt. 3. Elke AI-toepassing, ongeacht of deze binnen het ambtelijk apparaat of door het instituut raad wordt gebruikt, wordt vooraf getoetst aan wet- en regelgeving en aanvullende gemeentelijke criteria door de AI-toetsingscommissie. Wanneer de toepassing invloed heeft op raadsinformatie, besluitvorming of ondersteuning van raadsleden, wordt de griffier actief betrokken bij de toetsing en de implementatie. Toepassingen worden alleen gebruikt indien de AI-toetsingscommissie hiervoor een positief oordeel heeft gegeven. 4. We gebruiken geen black box-toepassingen zonder aanvullende borging, zoals uitlegdocumentatie, controlemechanismen en transparantie. 5. Bij de inkoop van AI-toepassingen werken we met duidelijke contractvoorwaarden over werking, eigendom van data en documentatie. Samenwerking met leveranciers bevat bovendien eisen rond ethiek, uitlegbaarheid, databeveiliging en toegang tot brondata. 6.

AI mag alleen draaien in een veilige, gecontroleerde ICT-omgeving, zoals Microsoft 365 of andere door de gemeente goedgekeurde cloudoplossingen. 7. We registreren AI-toepassingen in een openbaar gemeentelijk overzicht (algoritmeregister) en koppelen dit aan ons informatiemanagement. 8. We stimuleren en ondersteunen medewerkers in het veilig en verantwoord leren omgaan met AI, onder andere via trainingen en richtlijnen. We laten de bewustwording groeien door training, intranet en kennissessies. We starten met enkele pilots om de werking van AI uit te proberen en geleidelijk te wennen aan de toepassing van AI. Elke afdeling wijst daarnaast een AI-contactpersoon aan. 9. Raadsleden en fractieondersteuning maken gebruik van AI-toepassingen binnen dezelfde kaders voor veiligheid, betrouwbaarheid en transparantie als de ambtelijke organisatie. Daarom worden huisregels, trainingen en ondersteunende middelen ook voor raadsleden beschikbaar gesteld. De griffier beheert dit proces. 10. De gemeente voert jaarlijks een toetsing en evaluatie uit op het gebruik van AI, waarbij specifiek wordt beoordeeld in hoeverre ethisch bewustzijn, mensgerichte waarden en verantwoord gebruik binnen de organisatie zijn geborgd. De uitkomsten worden gebruikt om beleid, opleidingen en toepassingskaders gericht te verbeteren.

13

Governance en verantwoordelijkheden Om het verantwoord gebruik van kunstmatige intelligentie binnen de gemeente LeidschendamVoorburg te borgen, is een integrale AI-governancestructuur ingericht. Deze structuur zorgt ervoor dat AI-toepassingen veilig, transparant, uitlegbaar en juridisch correct worden ontwikkeld, beoordeeld en gebruikt. De beoordeling van AI-toepassingen sluit aan op de bestaande gemeentelijke governance voor nieuwe applicaties. AI-toepassingen doorlopen dezelfde architectuur-, privacy-, security- en datakwaliteitskaders als reguliere applicaties, aangevuld met een verplichte toets door de AItoetsingscommissie. -

De commissie rapporteert periodiek aan het directieteam én, voor zover relevant voor democratische besluitvorming, aan de gemeenteraad via de griffier.

Het toetsingsproces voor AI-toepassingen Elke AI-toepassing doorloopt een zorgvuldig en consistent toetsingsproces dat inzicht biedt in de aard en de risico’s van de toepassing en dat garandeert dat de toepassing in elke fase verantwoord blijft. Het proces begint met een intakefase, waarin wordt beoordeeld binnen welke risicocategorie uit de AI-Act de toepassing valt. Vervolgens wordt een AI Impact Assessment uitgevoerd waarin doel, werking, datagebruik, risico’s, maatregelen en mogelijke effecten op inwoners en medewerkers worden beschreven. Waar dit wettelijk vereist is, wordt een DPIA uitgevoerd. Ook wordt de toepassing beoordeeld op haar positie binnen de gemeentelijke architectuur en op de kwaliteit en representativiteit van de gebruikte data. Pas nadat alle verantwoordelijke disciplines hun toetsing hebben afgerond, beoordeelt de AItoetsingscommissie de toepassing integraal. De commissie adviseert over de geschiktheid van de toepassing en over mogelijke aanpassingen of aanvullende waarborgen. De uiteindelijke beslissing om de toepassing in gebruik te nemen ligt bij de directie. Wanneer een toepassing wordt toegelaten, wordt deze opgenomen in het gemeentelijk algoritmeregister, zodat inwoners en medewerkers kunnen zien welke toepassingen worden gebruikt en voor welke doelen.

Tijdpad en implementatie 2025

14

• • • • •

AI-visie opstellen en vaststellen. AI-toetsingscommissie formeel ingericht. AI-bewustzijn training, aandacht op intranet en kennissessies voor medewerkers. Huisregels generatieve AI invoeren voor medewerkers, raadsleden en griffie. “Readiness Assessment Microsoft 365” uitvoeren om te bepalen of de huidige omgeving goed is

• • •

ingericht om Co-Pilot, de AI-toepassing van Microsoft, goed te kunnen gebruiken. AI-lab voor pilots start voor productiviteitsverhoging. Inventarisatie bestaande AI-toepassingen. Publicatie van hoog-risico-algoritmen in het Algoritmeregister (conform het format in bijlage 3.)

2026 • • •

Evaluatie eerste pilots en uitrol succesvolle toepassingen. Verdere uitrol trainingen AI-geletterdheid bij medewerkers. Integratie AI-beleid in bredere informatiestrategie.

2027 •

Jaarlijkse herijking beleid op basis van wetgeving, ervaringen en maatschappelijke ontwikkelingen.

15

4. Slotwoord De ontwikkeling van AI gaat zo snel, dat ons denken ook moet meebewegen. Dat vraagt om continu nadenken over de verschuivingen van onze richtlijn en de onderliggende waarden. Naarmate we meer zicht krijgen op de meest recente ontwikkelingen, moeten we onze richtlijn en werkwijze misschien aanpassen. Met dit beleid leggen we de basis. De komende jaren werken we stapsgewijs aan een mensgerichte en uitlegbare inzet van AI die écht bijdraagt aan publieke waarde. De inzet van AI raakt niet alleen de ambtelijke processen, maar ook de manier waarop onze democratische besluitvorming werkt. Daarom gelden de principes en randvoorwaarden uit dit beleid integraal voor zowel de ambtelijke organisatie als de gemeenteraad en de raadscommissies. Hiermee borgen we één uniforme manier van werken binnen de hele gemeentelijke organisatie en versterken we transparantie en betrouwbaarheid richting onze inwoners.

16

Bijlage 1 – Samenvatting van risico classificatie uit de AI Verordening De AI Verordening onderscheidt vier risicoklassen:

1. Onaanvaardbaar risico Deze toepassingen zijn verboden. Voorbeelden: • •

Sociale score systemen Manipulatieve AI die mensen tot gedrag dwingt

•

Gezichtsherkenning in de openbare ruimte (behalve bij uitzondering)

Toegestaan? ❌ Nee 2. Hoog risico AI-systemen die van grote invloed zijn op iemands leven. Bijvoorbeeld bij: • • • •

Werving en selectie Toegang tot onderwijs of zorg Verstrekken of weigeren van een uitkering Handhaving of opsporing

Voorwaarden: • • • •

Menselijke controle Uitvoerige documentatie Risicoanalyse (zoals DPIA) Registratie in Algoritmeregister

Toegestaan? ✅ Ja, maar onder strikte voorwaarden 3. Beperkt risico Bijvoorbeeld AI die gebruikt wordt voor: • •

Chatbots op de website Klantvragen filteren of routeren

Voorwaarden: •

Transparantieplicht (duidelijk maken dat je met AI praat)

Toegestaan? ✅ Ja 17

4. Minimaal risico AI voor ondersteuning, zonder directe impact. Bijvoorbeeld: • • •

Spamfilters Slimme spellingcontrole Automatisch gegenereerde agenda’s of e-mails

Toegestaan? ✅ Ja, zonder aanvullende eisen

18

Bijlage 2 – AI Impact Assessment (AIA) De AI Impact Assessment is een instrument om vooraf in kaart te brengen of een AItoepassing risico’s meebrengt voor burgers of medewerkers.

Stappen in een AIA: 1. Beschrijving van het algoritme Wat doet het systeem? Waarvoor wordt het ingezet? 2. Doel en context Wat wil je ermee bereiken? Wie worden geraakt door de inzet? 3. Data-analyse Welke data wordt gebruikt? Is die representatief en actueel? 4. Risico’s inventariseren Denk aan vooroordelen, uitsluiting, ondoorzichtige uitkomsten, privacy 5. Maatregelen Hoe worden risico’s geminimaliseerd? Is er menselijke controle? 6. Transparantie en communicatie Wordt de werking uitgelegd? Kunnen inwoners bezwaar maken? 7. Go/No-Go-advies Wordt het systeem ingezet, aangepast of (nog) niet gebruikt?

De AIA kan worden uitgevoerd door de afdeling verantwoordelijk voor de ICT, eventueel samen met de privacy officer en de uitkomst wordt voorgelegd aan de AI-toetsingscommissie.

19

Bijlage 3 – Modelregistratie voor Algoritmeregister Voor AI-toepassingen met impact leggen we de volgende gegevens vast in het gemeentelijk algoritmeregister: Voorbeeldtemplate: • •

Naam van het algoritme: Toewijzing Wmo-consulent op basis van postcode Doel: Efficiënte verdeling van consulenten

• •

Type algoritme: Rekenregel (laag risico) Data gebruikt: Postcodegebied en werkverdeling

• • • •

Menselijke tussenkomst? Ja Beoordeling op vooroordelen? Ja, handmatig gecheckt Geïnformeerd gebruik: Medewerkers zijn geïnformeerd, inwoners niet direct Beheerd door: inhoudelijk door de afdeling WIJZ en technisch door de afdeling IISO

Deze registratie wordt opgenomen in het gemeentelijke overzicht én (indien van toepassing) gemeld aan het landelijke Algoritmeregister van de overheid.

20