4183 Raadsbrief implementatie AI-act 1

Aan de raad van de gemeente LEIDSCHENDAM-VOORBURG

Datum 17 maart 2025 Nummer 4183 Onderwerp Raadsbrief implementatie AI-act Portefeuillehouder Burgemeester Vroom

1. Aanleiding De Europese Artificial Intelligence Act (AI-Act) stelt vanaf 1 augustus 2024 regels om het onethisch gebruik en misbruik van kunstmatige intelligentie te voorkomen binnen de EU. Het doel is om ethische en veilige AI-toepassingen te waarborgen, met aandacht voor fundamentele rechten, transparantie en risicobeheer. Gezien de toenemende mogelijkheden voor gebruik van AI binnen de publieke sector, heeft deze verordening directe implicaties voor de gemeente Leidschendam-Voorburg. Per 2 februari 2025 dient de gemeente al te voldoen aan een aantal bepalingen van de AI-Act. Deze raadsbrief beschrijft de verplichtingen voor de gemeente, de huidige stand van zaken in de naleving van die verplichtingen en geeft een stappenplan voor de verdere implementatie van de AIAct.

2. Inhoudelijke uiteenzetting De gemeente Leidschendam-Voorburg vindt naleving van de AI-Act essentieel om zowel ethische als juridische kaders te waarborgen bij het gebruik van kunstmatige intelligentie. AI biedt kansen voor efficiëntere dienstverlening, maar brengt ook risico’s met zich mee. Door te voldoen aan de AI-Act, wil de gemeente transparantie, non-discriminatie en veiligheid garanderen. Door proactief beleid en duidelijke richtlijnen te gaan hanteren, minimaliseert de gemeente de risico’s en benut ze de voordelen van AI op een verantwoorde wijze, in lijn met maatschappelijke en wettelijke normen.

Overzicht van de AI-Act De AI-Act classificeert AI-systemen op basis van risiconiveaus: •

Verboden AI (onacceptabel risico): zoals sociale kredietsystemen en emotieherkenning op de werkvloer.

•

Hoog-risico AI: waaronder AI-systemen in kritieke infrastructuur, justitieketens, biometrische identificatie en besluitvorming binnen overheidsorganisaties. Beperkt risico AI: zoals chatbots en andere transparante AI-systemen. Minimaal risico AI: zoals spellen en spamfilters, waarvoor geen aanvullende regelgeving geldt.

• •

Datum 11 maart 2025 Nummer 4183 Pagina 2/4

De verboden AI-systemen worden niet gebruikt. Voor de gemeenten vereist vooral de categorie hoog-risico AI een grondige inventarisatie. Het daadwerkelijke inzetten van dit type AI vergt een fundamentele afweging van risico’s. Hierbij valt te denken aan AI-gebruik in bijvoorbeeld: • Automatische besluitvorming bij dienstverlening en vergunningverlening. • Fraude-opsporing en openbare veiligheid. • Algoritmische toepassingen in de jeugdzorg en sociale dienstverlening. De toepassing van dit type AI-systemen is binnen onze organisatie niet denkbeeldig, of wordt op dit moment wellicht overwogen. De IT-organisatie is momenteel dan ook extra alert op de aanwezigheid van deze systemen of besluitvormingsprocessen waarin de toepassing wordt overwogen.

Verplichtingen per 2 februari 2025 De wet is per 1 augustus 2024 in werking getreden en zal 2 jaar later volledig van toepassing zijn. Per 2 februari 2025 moeten gemeenten al voldoen aan een aantal bepalingen. Dit houdt in: • Registratieplicht: AI-systemen moeten worden geregistreerd in een EU-register. •

Transparantie-eisen: Inwoners moeten worden geïnformeerd over het gebruik van AI in besluitvorming.

•

Menselijke controle en toezicht: AI mag niet zelfstandig beslissingen nemen zonder menselijke tussenkomst.

•

Risicobeoordeling en DPIA: Hoog-risico AI moet worden onderworpen aan een Data Protection Impact Assessment (DPIA). Een DPIA is een bekend analyse-instrument uit de privacy-wetgeving waarin de risico’s van een toepassing worden getoetst.

•

Documentatie en logging: AI-systemen moeten controleerbaar en goed gedocumenteerd zijn.

•

Ethische en non-discriminatieprincipes: AI mag geen discriminerende patronen versterken.

•

Cybersecurity en robuustheid: AI-systemen moeten veilig en bestand zijn tegen manipulatie.

Huidige situatie binnen de gemeente Leidschendam-Voorburg Uit een eerste analyse blijkt dat de gemeente op dit moment nog niet volledig voldoet aan bovengenoemde verplichtingen. Hiervoor zijn verschillende redenen: •

Handreikingen vanuit de wetgever en/of VNG ontbreken of zijn erg laat beschikbaar gesteld, waardoor een goede inventarisatie en analyse langs conform deze handreikingen pas laat is gestart;

•

Niet alle bedrijfssoftware die de gemeente gebruikt is centraal onder beheer gebracht. Hierdoor heeft nog geen volledige analyse kunnen plaatsvinden;

•

Industriële automatisering en de software die hierin gebruikt wordt, wordt veelal door leveranciers beheerd. Met deze leveranciers zijn vaak nog geen afspraken over verantwoording over deze software gemaakt. Daardoor ontbreekt momenteel nog inzicht.

Datum 11 maart 2025 Nummer 4183 Pagina 3/4

Tegelijkertijd zijn er een aantal positieve constateringen: • Er zijn tot nu toe geen aanwijzingen gevonden voor het onethische gebruik van AI. • Op basis van de huidige bevindingen wordt hoog-risico AI niet toegepast binnen de gemeentelijke processen. •

De tot nu toe geïdentificeerde AI-toepassingen maken geen gebruik van persoonsgegevens.

•

Het management communiceert nadrukkelijk dat AI-toepassingen ethische en normatieve risico’s met zich meebrengen en dat gebruik van AI op persoonsgegevens zeer risicovol is.

Dat de gemeente op dit moment nog niet volledig voldoet aan de eisen uit de AI-act vereist aandacht. Ter relativering kan gezegd worden dat de meeste gemeenten nog niet zover zijn en dat Leidschendam-Voorburg in sommige aspecten zelfs vooroploopt. Dit benadrukt dat we niet alleen staan in deze uitdaging en dat samenwerking en kennisdeling essentieel zijn om effectief en efficiënt aan de verplichtingen te voldoen.

Stappenplan voor implementatie Om te voldoen aan de AI-Act wordt het volgende stappenplan uitgevoerd: Stap 1: Inventarisatie AI-systemen (eerste helft 2025) • Opstellen van een AI-register met een overzicht van alle AI-toepassingen binnen de gemeente. • Classificatie van AI-systemen op basis van de AI-Act-risicocategorieën. Stap 2: Risicoanalyse en controle op juiste toepassing van de regelgeving (tweede helft 2025) • Uitvoeren van DPIA’s voor alle AI-toepassingen met een hoog risico. • •

Controle op transparantievereisten en informeren van inwoners. Ethische toetsing om discriminatie en oneerlijke besluitvorming te voorkomen.

Stap 3: Verbeteren governance en verantwoordingsstructuur (eerste helft 2025) • • •

Opstellen van gemeentelijk AI-beleid met richtlijnen voor verantwoord AI-gebruik. Aanwijzen van AI-verantwoordelijken binnen de organisatie. Juridische toetsing in samenwerking met de Functionaris Gegevensbescherming en CISO (Chief information security officer).

Stap 4: Implementatie en borging (vanaf tweede helft 2025) • • •

Registratie van AI-systemen in het EU-register. Creëren bewustwording van medewerkers over AI-risico’s en ethiek. Transparantie en communicatie naar inwoners over AI-gebruik binnen de gemeente.

Datum 11 maart 2025 Nummer 4183 Pagina 4/4

Stap 5: Monitoring en bijsturing (doorlopend vanaf 2026) • Periodieke audits op AI-systemen om naleving van de AI-Act te waarborgen. • Oprichting van een AI-ethiekcommissie ter toetsing van nieuwe AI-projecten. • Samenwerking met andere gemeenten via de VNG voor kennisdeling en best-practices.

3. Financiën Er zijn geen financiële gevolgen verbonden aan deze besluitvorming. De uitvoering van de voorgestelde maatregelen en activiteiten vindt plaats binnen de bestaande budgettaire kaders en beschikbare middelen. Hierdoor is aanvullende financiering niet noodzakelijk.

4. Conclusie en vervolg De gemeente Leidschendam-Voorburg kan met gerichte acties in 2025 grotendeels voldoen aan de vereisten. De consequentie is wel dat de gemeente eind 2025 deels nog niet voldoet aan de wetgeving. Desondanks zal Leidschendam-Voorburg waarschijnlijk wel tot de koplopers behoren wat betreft de implementatie van de AI-act. De grootste uitdagingen liggen het komend jaar bij registratie, transparantie en risicobeoordeling. Een gestructureerd implementatieplan met duidelijke rollen en verantwoordelijkheden is noodzakelijk om tijdig te voldoen aan de AI-Act. Positief is dat er tot nu toe geen aanwijzingen zijn voor het onethische gebruik van AI, AI zeer terughoudend wordt toegepast en de huidige bekende toepassingen geen gebruik maken van persoonsgegevens. Bovendien wordt vanuit het management nadrukkelijk gewezen op de ethische en normatieve risico’s van AI-gebruik. Gezien de kansen die AI biedt voor innovatie en efficiëntere dienstverlening, is het belangrijk om met heldere kaders te komen. Dit zal niet alleen helpen om AI op een verantwoorde manier te benutten, maar ook de kans op verkeerd gebruik minimaliseren. Binnen de organisatie worden voor diverse terreinen al kansen gezien om met AI efficiënter te werken en/of de kwaliteit van de dienstverlening te verhogen.

Te denken valt aan het gebruik van chatbots die klantcontacten overnemen of eigen medewerkers ondersteunen bij gesprekken met inwoners, intelligente zoekfuncties voor de afhandeling van Woo-verzoeken, intelligente verkeersmanagementsystemen, data-analyse software voor de controle op de rechtmatigheid. Het is belangrijk te beseffen dat de invoering van dit soort functionaliteit bij een overheidsorganisatie een hoge mate van zorgvuldigheid vereist. Fouten die AI maakt hebben immer direct een negatieve impact op onze inwoners. Toch is dit technologie voor de nabije toekomst en zal de organisatie de benodigde stappen – zij het zorgvuldig – zetten.

burgemeester en wethouders van Leidschendam-Voorburg,

R.J. den Haan secretaris

M.W. Vroom burgemeester