D12 00 Beleidvisie AI en algoritmen NOP.pdf

Visie en beleid gebruik AI en Algoritmes gemeente Noordoostpolder 2025 -2028 Kansen zien, risico’s beperken en transparant zijn

1. Inleiding De wereld verandert razendsnel. Technologie die gisteren nog toekomstmuziek leek, is vandaag al niet meer weg te denken uit ons werk. Kunstmatige intelligentie (AI) is daar misschien wel het beste voorbeeld van. We hoeven er niet meer over te discussiëren óf AI ons werk gaat beïnvloeden. Dat doet het al! AI is steeds vaker onderdeel van ons dagelijks leven. Soms zelfs zonder dat we ons daar bewust van zijn. Het verandert hoe we werken, leven en met elkaar omgaan. AI is nog in ontwikkeling, maar biedt veel kansen. We kunnen het gebruiken om maatschappelijke problemen aan te pakken en onze dienstverlening te verbeteren. We willen die kansen graag benutten. Maar dat doen we op een verantwoorde en eerlijke manier. Daarbij houden we ons aan de regels en wetten, zoals die van de Europese Unie. AI en algoritmes lijken op elkaar, maar zijn niet exact hetzelfde. Wel gelden voor de inzet van beide dezelfde wetten, regels en voorwaarden. In dit document is opgenomen welke afspraken en uitgangspunten gelden voor het gebruik van AI en algoritmes binnen de gemeente Noordoostpolder. In bijlage 1 van dit document worden diverse (ook andere) digitale begrippen uitgelegd. 2. Wat willen we bereiken? De gemeente Noordoostpolder wil de kansen die (generatieve) AI biedt inzetten in haar dienstverlening en bedrijfsvoering.

We willen dit echter wel doen op een verantwoorde en ethische wijze, waarbij we transparant zijn richting onze inwoners en andere belanghebbenden. We kunnen uitleggen waarom we AI en algoritmes inzetten en hoe dat werkt. Onze medewerkers hebben voldoende kennis en vaardigheden om AI en algoritmes verantwoord te gebruiken In ons handelen en onze manieren van organiseren staat telkens de vraag van onze inwoners voorop. We willen (generatieve) AI1 en algoritmes gebruiken als dat helpt in onze dienstverlening aan onze inwoners. En om onze processen goed voor elkaar te hebben. Bijvoorbeeld om administratieve taken makkelijker te maken, minder tijd te laten kosten of om onze communicatie te verbeteren. Het is belangrijk dat onze medewerkers de voordelen én de risico’s van (generatieve)AI en algoritmes kennen. Ze moeten daar ook verantwoord mee omgaan. Vanuit Europa en het Rijk zijn al regels gesteld om AI veilig en ethisch verantwoord te ontwikkelen, in te kopen en te gebruiken. Het is belangrijk dat de publieke waarden zoals rechtvaardigheid, betrouwbaarheid, eerlijkheid, recht op privacy, keuzevrijheid, gelijkheid en inclusiviteit gerespecteerd blijven. Een deel van alle algoritmes – al dan niet onderdeel van een AI-systeem – kan gezien worden als impactvol.

Of AI-systemen kunnen een hoog risico voor de gezondheid en veiligheid of de 1 In bijlage 2 informatie over hoe generatieve AI werkt.

Versie: def Datum: november 2025

Beleidsvisie AI en algoritmes

fundamentele rechten van mensen hebben. Hoe impactvoller en hoe groter de risico’s van een AIsysteem hoe meer eisen en waarborgen nodig zijn om een dergelijk systeem te mogen gebruiken. AI systemen

Algoritmes Artikel 5 AI-verordening = niet toegestaan Impactvol met rechtsgevolgen voor inwoners of met invloed op de manier waarop mensen worden ingedeeld.

We willen ook transparant zijn. AI systemen die door de Europese wetgeving als hoog-risico worden aangeduid moeten-naar verwachting in de toekomst verplicht-opgenomen worden in het Algoritmeregister van de Nederlandse overheid. Net zoals algoritmes die direct impact hebben op betrokkenen. Bijvoorbeeld een besluit dat van invloed is op iemands rechten, op iemands juridische status of iemands rechten vanuit een overeenkomst. Als laatste benoemen we het feit dat het energieverbruik voor AI-toepassingen hoog2 is. Die energie is voornamelijk nodig om geavanceerde (machine learning-) modellen te trainen. Met de explosieve groei van AI en de hieraan gekoppelde extra datacenters stijgt het stroomverbruik in een tijd waar al sprake is van netcongestie. Ook hierom moeten we weloverwogen kiezen wanneer we (generatieve) AI willen inzetten. 3. Welke kaders en uitgangpunten hanteren we in de Noordoostpolder3 AI en algoritmes zijn goed in te zetten om routinetaken te automatiseren,voor analyses van grote hoeveelheden data en om processen te verbeteren. We richten ons in eerste instantie op toepassingen voor ‘dagelijks gebruik” die een relatief lage impact hebben op privacy en publieke waarden. Onderstaand schetsen we de uitgangspunten en kaders voor het gebruik van (generatieve) AI en algoritmes.

Hiermee zorgen we dat we deze technologieën aantoonbaar op een ethisch verantwoorde manier gebruiken. l 1. Het inzetten van AI en algoritmes is geen doel op zich maar een middel om onze dienstverlening en bedrijfsvoering te verbeteren. We maken voor de inzet van AI en algoritmes telkens een zorgvuldige afweging of dit middel het beste middel is om onze doelen te bereiken. We leggen het doel van het gebruik vast zodat we daarover kunnen verantwoorden. 2. We gebruiken (generatieve) AI en algoritmes als technologisch hulpmiddel. Beslissingen die mogelijke rechtgevolgen hebben voor onze inwoners worden door onze medewerkers genomen. We zorgen ervoor dat onze inwoners centraal blijven staan en dat we altijd kunnen uitleggen waarom we iets doen.

2 Hoe vervuilend is AI? De afdruk van AI - VAIA - Vlaamse AI Academie 3 Vooruitlopend op het vast te stellen beleid zijn al een uitgangspunten, voorwaarden en instructies voor het

gebruik van AI gedeeld in de organisatie – vastgesteld door het directieteam. Hierbij is vanzelfsprekend gebruik gemaakt van het overheidsbrede standpunt. Versie: def Datum: november 2025 pagina 2 van 7

Beleidsvisie AI en algoritmes

3. Gebruik van (generatieve) AI en algoritmes zetten we voornamelijk in als leerinstrument en als ‘productietool’, zoals: - Als hulpmiddelen voor brainstormen of scenariostudies. - Voor het automatiseren van repetitieve taken, zoals het automatisch invullen van formulieren. - Voor het maken van samenvattingen van complexe beleidsinformatie. - Om teksten om te zetten naar B1 niveau. Voor eenvoudige zoekvragen, die via de bekende zoekmachines online te vinden zijn, gebruiken we geen (generatieve) AI toepassingen. 4. Voordat we AI en algoritmes daadwerkelijk inkopen of inzetten - ook in bestaande systemen4 worden de (privacy) risico’s en de impact op publieke waarden (aanvullend) vastgelegd en beoordeeld5. Waar van toepassing worden aantoonbaar aanvullende maatregelen getroffen om diverse risico’s te beperken. Adviseurs en (interne) toezichthouders worden bij dit proces betrokken en geven advies en akkoord bij gebruik van AI en algoritmes met een hoge impact. 5. AI-systemen moeten zijn ontworpen en getest om ongewenste vooroordelen6 te voorkomen. Dit betekent dat zij niet mogen discrimineren op basis van kenmerken zoals ras, geslacht, leeftijd, of andere beschermde eigenschappen. Om dit te waarborgen, voeren we periodiek controles en audits uit. 6. Wanneer we experimenteren met de inzet van AI-systemen en algoritmes, monitoren we nauwlettend de uitkomsten.

Wanneer de inzet meer middelen en capaciteit kosten dan de opbrengsten, er onzekerheden zijn over de betrouwbaarheid en de aantasting van publieke waarden, kiezen we voor andere methoden. 7. Het gebruik van persoonsgegevens in een AI-systeem of algoritme is alleen toegestaan voor een specifiek doel en op basis van een wettelijke grondslag binnen de AVG. Dit wordt ook opgenomen in ons verwerkingenregister. 8. We zijn transparant over het gebruik van AI-systemen en hoe deze worden ingezet. Het moet duidelijk zijn welke data en welke persoonsgegevens eventueel worden gebruikt en welke algoritmes worden toegepast. Waar van toepassing informeren we onze inwoners via onze website, in persoonlijke contacten of in brieven. 9. We registreren - in het kader van transparantie - het gebruik van impactvolle algoritme in ons werk in het Algoritmeregister van de Nederlandse overheid, wanneer dit van invloed is op besluitvorming. Hierdoor kan iedereen nagaan of het gebruikte systeem op ethische verantwoorde manier is getraind of dat het algoritme correct is. Dat betreft ook de hoog risico AI-systemen met rechtsgevolgen voor inwoners of met invloed op de manier waarop mensen worden ingedeeld. 10.

Bij inkoop van AI-systemen maken we – naast het van toepassing verklaren van de vigerende GIBIT- afspraken maken met leveranciers zodat de werking van de AI-toepassing transparant is en op een veilige en verantwoorde manier gebruikt wordt. Ook zijn afspraken nodig over datadeling en dataretentie. We gebruiken hiervoor als basis de modelbepalingen AI en algoritmes van de gemeente Amsterdam. Periodiek moet getoetst worden of de leveranciers blijvend voldoen aan de voorwaarden.

4 Bijvoorbeeld een bestaande ( en getoetste) applicatie waarbij de leverancier met een updat AI gaat

inzetten 5 We gebruiken waar mogelijk reeds bestaande toetsingsmiddelen, zoals de VNG adviseert of die bij andere gemeenten al in gebruik zijn. Een voorbeeld is het 'Impact Assessment Mensenrechten en Algoritmes (IAMA)' 6 Bias en discriminatie kan ontstaan wanneer in AI-modellen vooroordelen of vooringenomenheden zitten. Bijvoorbeeld door beperkte trainingsdata of juist door het risico dat voor training van het systeem gebruik wordt gemaakt van discriminerende of onwenselijke patronen. Versie: def Datum: november 2025 pagina 3 van 7

Beleidsvisie AI en algoritmes

11. Onze medewerkers moeten inzicht hebben in hoe de AI-systemen die zij bij hun taken gebruiken, werken. Ze moeten aan derden kunnen uitleggen wat het gebruikte AI-systeem doet en wat de impact daarvan is op de (privacy) rechten. Ze moeten voldoende geïnformeerd zijn over het effectieve en verantwoorde gebruik van (generatieve) AI. 12. De uitkomsten bij inzet van generatieve AI moeten gebaseerd zijn op actuele, betrouwbare en context-specifieke informatie. Daar kan je niet automatisch vanuit gaan. Onze medewerkers zijn en blijven zelf verantwoordelijk voor de informatie ze gebruiken en publiceren. Daarom gelden de volgende regels: - Deel nooit persoonlijk identificeerbare informatie of andere gevoelige data met een generatieve AI-tool (tenzij de wettelijke grondslag hiervoor is vastgelegd en geaccordeerd). - Beperk het gebruik tot eenvoudige taken die geen toegang tot gevoelige systemen of data vereisen. Gebruik geanonimiseerde data. - Neem nooit de output één-op-één over. - Controleer zelf de output en pas het waar nodig aan. Check in voorkomende gevallen via andere bronnen op juistheid. - Doe aan bronvermelding, zeker in stukken die openbaar zijn of waarover extern gecommuniceerd wordt in verband met mogelijke auteursrechtelijke bescherming. 13.

Voor zakelijk gebruik van een generatieve AI, gebruiken onze medewerkers de gecontroleerde bedrijfsversie(s) die aan hen beschikbaar gesteld is. Het gebruik van andere generatieve AI is alleen toegestaan onder de voorwaarden zoals bij artikel 12 zijn genoemd. 14. De vastgestelde architectuurprincipes zijn ook van toepassing voor het gebruik van AI en algoritmes. Dat betekent dat ‘kopen voor zelf maken’ gaat. Dit zorgt er ook voor dat beter aan de strenger wordende eisen rondom privacy en informatiebeveiliging wordt voldaan (Security en privacy by design en default. Zelf experimenteren met AI in processen vindt plaats in lijn met artikel 4 en is alleen toegestaan in een gecontroleerde omgeving en met voldoende gekwalificeerd personeel.

4. Welke wetten en kaders zijn van toepassing? Onderstaand een niet onuitputtelijke lijst van wetten en (interne)kaders die van toepassing zijn bij het gebruik van (generatieve) AI en algoritmes. - AI-verordening waarin kaders zijn vastgelegd voor de ontwikkeling en het gebruik van Ai in Europa. - De (u)AVG, de algemene Verordening gegevensbescherming en de Uitvoeringswet AVG zijn van toepassing wanneer AI-systemen en algoritmen werken met persoonsgegevens. - De Wet politiegegevens (Wpg) en Wet justitiële strafvorderlijke gegevens (Wjsg) kan van toepassing zijn wanneer er sprake is van inzet in processen van opsporingsambtenaren zoals de Boa’s en leerplicht. - De Auteurswet, genAI haalt zijn data van het internet en daarop kunnen auteursrechten zitten. - Andere wetten die ook al van toepassing zijn op IT-systemen, zoals de Awb, de WOO en de Archiefwet. - NIS2 en de (nog in ontwikkeling zijnde) cybersecurity wet ter waarborging van de informatieveiligheid. - Het Algoritmekader voor de overheid 7 waarin veel informatie en hulpmiddelen te vinden zijn om te voldoen aan de verschillende wetten en regels. - Het overheidsbrede standpunt voor de inzet van generatieve AI wat is bestemd voor alle overheidsorganisaties die generatieve AI willen inkopen, ontwikkelen of gebruiken. En is van toepassing voor alle medewerkers en bestuurders.

- Ons vigerende beleid op het gebied van informatieveiligheid en privacy dat als uitgangspunt heeft dat onze inwoners en ondernemers erop kunnen vertrouwen dat hun gegevens veilig zijn bij

7 Algoritmekader - Algoritmekader 2.2

Versie: def Datum: november 2025 pagina 4 van 7

Beleidsvisie AI en algoritmes

-

ons. De in dit beleid opgenomen strategische uitgangspunten zijn ook van toepassing op het gebruik van (generatieve) AI en algoritmes. Onze IM-procedures voor changemanagement. Waarin privacy, informatiebeveiliging en het gebruik van AI en algoritmes vanaf de start worden meegenomen. De procedures voor het melden van informatiebeveiligingsincidenten en datalekken.

5. Verantwoordelijkheden en bevoegdheden De eindverantwoordelijkheid voor dit beleid ligt bij het college van Burgemeester en wethouders van de gemeente Noordoostpolder. De directie is eerstverantwoordelijke voor de correcte toepassing van dit beleid Het gebruik van (generatieve) AI en algoritme in het algemeen is een onderwerp dat in de portefeuille van de Burgemeester valt onder algemene ambtelijke en bestuurlijke aangelegenheden. De overige portefeuillehouders zijn eveneens betrokken, vooral omdat de inzet van AI en algoritmes in alle domeinen plaats kan vinden. De verantwoordelijke portefeuillehouders moeten zich in voorkomende gevallen ook verantwoorden over de inzet van AI en algoritmes. Op ambtelijk niveau ligt de eerste verantwoordelijkheid bij het directieteam, gekoppeld ook aan de domeinen waarover zij over gaan. De directie bepaalt binnen de gegeven bestuurlijke kaders de koers van het ambtelijk apparaat. Lijnmanagers zijn integraal verantwoordelijk voor de (bedrijfs)processen. Ze zijn verantwoordelijk voor de kwaliteit, betrouwbaarheid en veiligheid van de gegevens binnen hun processen.

En daarmee ook verantwoordelijk voor het aantoonbaar ethische verantwoord inzetten van (generatieve) AI en algoritmes: - Zij zijn gehouden aan de regels, kaders en uitgangspunten zoals in dit beleid zijn opgenomen - Ze zorgen dat ze aantoonbaar in control zijn en dat dit vastgelegd wordt (archivering). - Zij zorgen dat hun medewerkers in lijn met dit beleid werken en weten hoe ze verantwoord met AI om horen te gaan. Ze zetten dit onderwerp minimaal tweemaal per jaar op de agenda van het werkoverleg. - Zij zorgen ervoor dat in voorkomende gevallen vragen van inwoners over het gebruik van (generatieve) AI of algoritmes in hun processen beantwoord worden. Medewerkers zijn verantwoordelijk voor hun eigen gedrag en het naleven van de procedures en werkinstructies. Zij spreken elkaar ook aan op gedrag, ook als het gaat over het beleid rondom gebruik van AI en algoritmes. Incidenten kunnen vooralsnog rechtstreeks gemeld worden via het meldingsformulier op ons intranet of via privacy@noordoostpolder.nl Toezien op de correcte uitvoering van dit beleid wordt geregeld via het Bureau Bedrijfsvoeringstrategie & control met ondersteuning van de IM-adviseurs. Waar efficiënt zullen hulpmiddelen door het bureau geïntroduceerd worden en trainingen georganiseerd worden. Dit wordt via een plan van aanpak verder uitgewerkt voor de ambtelijke organisatie.

Het CIO-beraad fungeert als adviesorgaan, ook op dit vlak, voor de directie. Vraagstukken of discussie over de ethische verantwoorde inzet van AI-systemen worden in voorkomende gevallen geagendeerd voor dit beraad. Besluiten die hieruit volgen worden vastgelegd.

Versie: def Datum: november 2025 pagina 5 van 7

Beleidsvisie AI en algoritmes

Bijlage 1 Digitale termen Er zijn inmiddels heel veel digitale termen en niet iedereen heeft de verschillen tussen deze termen even scherp of hoe dit met elkaar samenhangt. Daarom onderstaand een kort overzicht 8 van een aantal digitale termen:

Automatisering Digitalisering Robotisering Robotic Process Automation Algoritme AI

Deep learning

Generatieve AI (Gen AI)

Hoog risico AI Digitale ethiek Digitale vaardigheden AI geletterdheid CIO

Het vervangen van menselijke arbeid door machines of computers en computerprogramma’s (het automatiseren van werk) Het digitaal maken van analoge en handmatige processen en documenten Het letterlijk overnemen van menselijke arbeid door een robot op een manier die sneller en foutlozer is dan wanneer een mens dit doet. Het automatiseren van repeterende handelingen door middel van (computercodes of instructies in) software Een stuk computercode dat bestaat uit een eindige reeks instructies die naar een zeker doel toewerkt. Een reeks instructies of regels om een taak te voltooien of een probleem op te lossen. De mogelijkheid van een machine om taken kunnen uitvoeren die normaal gesproken menselijke intelligentie vereisen, zoals leren, redeneren, problemen oplossen, perceptie, en taalbegrip. Kort gezegd is AI een verzamelnaam voor algoritmes en methoden die taken uitvoeren waarvan werd gedacht dat daar menselijke intelligentie voor nodig is. Een methode die computers leert om zelfstandig te leren en beslissingen te nemen, zonder ze expliciet te programmeren. In plaats van een computer precies te vertellen waarnaar hij moet zoeken, laten we de computer veel voorbeelden zien en laten we hem zelf leren. Traditionele AI-systemen worden gebruikt om gegevens te analyseren en voorspellingen te doen.

De generatieve AI gaat verder en kan zelf nieuwe content creëren, zoals teksten, afbeeldingen, muziek en video’s op basis van eenvoudige opdrachten in natuurlijke taal (de prompts). Zie voor extra toelichting bijlage 2 Toepassingen die een hoog risico voor de gezondheid en veiligheid of de fundamentele rechten van mensen inhouden Tak van de filosofie die zich verdiept in regels en morele richtlijnen die van toepassing zijn op digitale interactie tussen bedrijven en individuen De kennis en kunde hebben om effectief en veilig te kunnen werken met digitale technieken. De juiste vaardigheden, kennis en begrip hebben om AI op een verantwoorde wijze te gebruiken. Dat gaat niet alleen over de digitale techniek, maar ook over de sociale, ethische en praktische aspecten. Chief information officer; eindverantwoordelijke directeur voor de ontwikkeling en coördinatie van informatiemanagement in de breedste zin van het woord

8 Vrije vertalingen uit o.a.

‘Digitaal op koers’ van het Waterschap,de Handreiking AI en algoritmes van de Informatiebeveiligingsdienst gemeenten (IBD), de AI-verordening en de Amsterdamse visie op AI. Versie: def Datum: november 2025 pagina 6 van 7

Beleidsvisie AI en algoritmes

Bijlage 2 Hoe werkt generatieve AI Generatieve AI gebruikt een speciaal soort computerprogramma: een neuraal netwerk. Dat werkt een beetje zoals het menselijk brein, met veel “verbindingen” tussen digitale punten. Het zijn systemen die zelf ‘leren’ door een grote hoeveelheid data te analyseren en patronen te herkennen. Dat heet “deep learning”. AI genereert dus nieuwe inhoud op basis van heel veel bestaande data. De onderliggende systemen voor generatieve AI werken op basis van kansberekening. De systemen voorspellen een bepaalde uitkomst op basis van wat ze hebben geleerd. Soms gebruikt het een model zoals GPT (voor tekst) of DALL·E (voor beeld). Deze modellen zijn getraind op miljarden voorbeelden en kunnen daardoor creatief zijn. Generatieve AI werkt met ‘prompts’. Dat is een specifieke vraag of opdracht over wat je wil dat het AIsysteem doet. Een opdracht kan heel kort zijn, zoals ‘vat dit document samen in maximaal 500 woorden’. Het kan ook complex(er) zijn, waarbij je een hele reeks van opdrachten geeft om tot een uiteindelijk resultaat te komen. Je bent min of meer in gesprek en geeft (soms) aanvullende opdrachten. In de handreiking van de overheid voor verantwoorde inzet van generatieve AI wordt verwezen naar het Rathenau instituut9 om een gedegen begrip van een generatief AI-systeem te krijgen. De ontwikkeling van generatieve AI-systemen kent vijf fasen: 1.

Dataverzameling Grote hoeveelheden data worden verzameld. Dat gaat meestal om data uit publiek toegankelijke bronnen. En dat hoeft niet altijd te kloppen 2. Datacuratie De data worden gefilterd en opgeschoond, zoals het anonimiseren van persoonsgegevens en het verwijderen van duplicaten. 3. Training (Pre-training) Het model leert patronen herkennen in de opgeschoonde data. Dit vereist veel rekenkracht en gespecialiseerde hardware. 4. Aanpassing (Fine-tuning) Het model wordt verfijnd met specifieke kennis (bijv. van een organisatie) en getraind op sociaal wenselijke antwoorden. Technieken zoals Reinforcement Learning from Human Feedback (RLHF) worden hierbij toegepast. 5. Implementatie Het model wordt beschikbaar gesteld aan gebruikers.

9 https://www.rathenau.nl/sites/default/files/2023-12/Scan_Generatieve_AI_Rathenau_Instituut.pdf

Versie: def Datum: november 2025 pagina 7 van 7