278615 Informatienota algoritmen en AI

Openbaar

Zaaknummer: Z/25/278615

Informatienota voor de Gemeenteraad Onderwerp: Informatienota Algoritmen en AI Collegedatum: 18-02-205 Kernboodschap Gemeente Wijchen heeft raadsbijeenkomsten georganiseerd over het thema algoritmen en Artificial Intelligence (AI). Hiermee geven we invulling aan de uitvoering van motie 8 ‘Met de komst van ChatGPT is AI ook in de gemeente geen sciencefiction meer’ van 6 juli 2023. Ook is onlangs een eerste versie van het algoritmeregister van gemeente Wijchen gepubliceerd. Hiermee geven we invulling aan de uitvoering van motie 2 ‘Algoritmeregister’ van 20 oktober 2022. Eerdere besluiten Datum 24-06-2024 02-12-2020

Korte omschrijving eerder genomen besluit Antwoord op schriftelijke vragen ‘transparant algoritmegebruik binnen de gemeente’ (Z/24/243617) Beantwoording schriftelijke vragen ‘algoritmes en het gebruik daarvan binnen de gemeente’ (Z/20/054206)

Toelichting Motie 20 oktober 2022 Op 20 oktober 2022 is een motie aangenomen met het verzoek een algoritmeregister op te zetten, deze te vullen met algoritmes die in gebruik zijn en deze te publiceren. Het kabinet wil dat algoritmes wettelijk kunnen worden gecontroleerd op discriminatie en willekeur. Inwoners moeten erop kunnen vertrouwen dat algoritmes voldoen aan publieke waarden en aan de wet. En dat wordt uitgelegd hoe ze werken. Om dit te bereiken is het belangrijk dat we als gemeente transparant zijn over algoritmes en hun toepassing. Het algoritmeregister kan een belangrijke bijdrage leveren aan het beter uitlegbaar maken van de toepassing en uitkomst van algoritmes. Het gebruik van een algoritmeregister is nog niet wettelijk verplicht voor overheidsorganisaties. Die verplichting komt er wel aan. Het is nog niet duidelijk per wanneer dat zal zijn. De wet zal waarschijnlijk de verplichting kennen om zogenaamde ‘hoog risico’ algoritmes op te nemen in het register. Dit in lijn met de al vastgestelde Europese AI Verordening (AI Act). ‘Hoog risico’ algoritmes kennen een relatief hoog risico dat de privacy van inwoners geschonden wordt. Of dat inwoners onterecht gediscrimineerd worden. Daarom moeten er in dat geval maatregelen genomen worden om deze risico’s te beperken tot een aanvaardbaar niveau.

Gemeente Wijchen heeft momenteel geen algoritmes in gebruik die te classificeren zijn als ‘hoog risico’. We kiezen er nu echter voor om ook niet-risicovolle algoritmes die persoonsgegevens verwerken te publiceren in het landelijke algoritmeregister. Ons doel is om daarmee transparant te zijn en bij te dragen aan de kennis en bewustwording op

Pagina 1 van 3

Openbaar

Zaaknummer: Z/25/278615

dit thema. Het kan zijn dat we er op een later moment voor moeten kiezen om laagrisico algoritmes te verwijderen uit het register. Omdat het aantal algoritmes in het register waarschijnlijk verder zal toenemen, nu de techniek in meer systemen wordt toegepast. De beheerlast van het register zal dan mogelijk te hoog worden. Het algoritmeregister van gemeente Wijchen is te raadplegen via de volgende link: https://algoritmes.overheid.nl/nl/organisatie/gemeente-wijchen. Het register bevat nu vijf (niet-risicovolle) algoritmes die in gebruik zijn. Deze maken onderdeel uit van de volgende digitale oplossingen: 1. Software om eenvoudige digitale aanvragen van burgerzakenproducten automatisch goed te kunnen keuren en af te handelen op basis van vooraf ingestelde criteria; 2. Software om persoonsgegevens in documenten te helpen detecteren en op digitale wijze onleesbaar te kunnen maken (anonimisering); 3. Software om gevoelige informatie zoals persoonsgegevens te helpen detecteren in e-mails. En deze beveiligd te kunnen versturen. 4. Chatbot Robin, een stukje software op onze gemeentelijke website. De chatbot genereert antwoorden op vragen. Hiervoor gebruikt de bot de informatie die aanwezig is op onze website; 5. Software om verslagen te maken van raadsvergaderingen. Gesproken tekst wordt automatisch omgezet naar geschreven tekst.

Voor meer informatie over de algoritmen en hoe deze werken verwijzen we naar het online algoritmeregister. Voor het gemak hebben we ten behoeve van deze informatienota de volledige beschrijving per algoritme ook in PDF vorm beschikbaar gesteld. Zie hiervoor bijlagen 2 t/m 5. Motie 6 juli 2023 Op 6 juli 2023 is een motie aangenomen, met het verzoek om bijeenkomsten te organiseren over het thema algoritmes en AI. Deze bijeenkomsten hadden als doel om kennis op te doen over de ontwikkelingen rond AI. En duidelijk te maken wat deze ontwikkelingen betekenen voor de huidige en toekomstige uitvoering van gemeentelijke taken en de gemeentepolitiek. Op 4 maart 2024 heeft hiervoor een eerste regionale radenbijeenkomst (masterclass) plaatsgevonden over het onderwerp Chat GPT, algoritmes en AI. Hierin is vooral kennis gedeeld. Op 18 november 2024 heeft een volgende lokale bijeenkomst plaatsgevonden met de Wijchense raad, ambtenaren van de WDW en een externe spreker en gespreksbegeleider. Met als doel om duidelijkheid te creëren over wat AI betekent voor de huidige en toekomstige uitvoering van gemeentelijke taken en de gemeentepolitiek. Er zijn verschillende praktijkvoorbeelden besproken van AI-toepassingen. Ook is het gesprek gevoerd aan de hand van diverse (vooral ethische) stellingen over de mogelijke toepassing van AI.

Gevolgen De volgende resultaten zijn bereikt: • Er is meer kennis en bewustwording ontstaan bij ambtenaren en bestuurders op basis van de schriftelijke vragen, de kennissessies met de raad en de (interne) workshops en richtlijnen. • Het onderwerp AI leeft steeds meer onder de medewerkers van de WDW. Dit merken we o.a. in het aantal aanmeldingen voor trainingen en workshops.

Pagina 2 van 3

Openbaar • •

•

Zaaknummer: Z/25/278615

Het is hierdoor gemakkelijker om het gesprek met elkaar aan te gaan over het onderwerp. De voorlopige beleidsprincipes zijn het resultaat van het tot nu toe doorlopen proces en bieden een eerste kader en richting. Hierdoor komen we niet stil te staan in onze ontwikkeling, omdat we binnen dit kader toch al op een verantwoorde wijze nieuwe AI-toepassingen kunnen invoeren of pilots kunnen uitvoeren. Inwoners, ambtenaren en bestuurders hebben met het register meer inzicht gekregen in welke algoritmes gemeente Wijchen toepast en hoe deze werken.

Communicatie • Op 19 september 2023 is een nieuwsbericht geplaatst op de gemeentelijke website om inwoners te informeren over algoritmes en AI. En wat inwoners van de gemeente kan verwachten op dit onderwerp. Ook heeft het onderwerp een structurele plek gekregen op de website. Zie het kopje ‘algoritmes en kunstmatige intelligentie’ op de webpagina 'over deze website'. Hier zijn onze voorlopige beleidsprincipes over het onderwerp te vinden. • Inwoners kunnen via deze webpagina ook kennisnemen van het bestaan van het algoritmeregister. Hier is de link gepubliceerd naar ons algoritmeregister, die is opgenomen op de website van het landelijke algoritmeregister. • Op 8 maart 2024 hebben we interne richtlijnen gepubliceerd op ons intranet Wendi. Voor een verantwoord gebruik van AI-toepassingen zoals chatbots door onze ambtenaren. • Vanuit de WDW academie worden trainingen en workshops georganiseerd over AI en het verantwoord gebruik van AI volgens de richtlijnen van de WDW. Uitvoering of Vervolgstappen De volgende stap is dat we aan de slag gaan met het opstellen van een beleidskader voor algoritmes en AI, ondanks dat er naast de Europese AI verordening nog geen landelijk beleidskader is. Dit doen we in lijn met het voorstel dat wij hebben gedaan bij de beantwoording van de schriftelijke vragen van 24 juni 2024.

Het beleidskader gaat ons helpen om te bepalen welke algoritmes we in gebruiken willen nemen en welke niet. En ook gaat het ons helpen te bepalen welke algoritmes we in het algoritmeregister willen opnemen. Geheimhouding Niet van toepassing

Pagina 3 van 3