1328698 - bijlage 1- Beleidskader AI gemeente Zutphen 2026
Tekst van het document
Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 Verantwoorde inzet van AI September 2026
Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 2 / 10 Colofon Dit is een uitgave van de gemeente Zutphen Postbus 41 7200 AA Zutphen 's Gravenhof 2 www.zutphen.nl Informatiemanagement Auteur(s): Elmer Lugtigheid Versie: 1.0
Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 3 / 10 Inhoud Context 4 Aanleiding 4 Doel van het beleidsdocument 4 Reikwijdte 5 Visie op AI 5 Richtingevende principes 6 De mens eerst 6 Ontwerp begint bij menselijke behoeften 6 Waarden en ethiek worden ingebouwd 6 Begrijpelijkheid en uitlegbaarheid worden verplicht 6 Menselijke autonomie blijft behouden 7 Inclusiviteit en toegankelijkheid sturen ontwerp keuzes 7 Continue monitoring met menselijke feedback 7 De rol van de mens bepaalt het ontwerp 7 Betrouwbaar 8 AI voldoet aan wet- en regelgeving 8 Organisatorische zeggenschap 8 Menselijke toetsing is geborgd 8 Data is van hoge kwaliteit 8 Auteursrechten worden gerespecteerd 8 We volgen de regels 9 We gebruiken beheerde en gecontroleerde AI toepassingen 9 Toekomstbestendig 9 Er is voldoende kennis en kunde 9 Onafhankelijk van grote technologiebedrijven 9 We hebben oog voor mens en planeet 10 We werken samen 10 Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 4 / 10 Context Als bestuur van de gemeente Zutphen willen wij de kansen die Artificiële Intelligentie (hierna: AI) biedt benutten. Tegelijkertijd zijn er ook risico’s aan het gebruik van AI verbonden. Om deze reden willen wij naast het benutten van de kansen van AI, AI verantwoord inzetten en gebruiken.
Aanleiding AI-technologie komt steeds vaker terug in software, bedrijfsprocessen en beleidsondersteuning. De ontwikkeling is niet langer toekomstmuziek; AI zit geïntegreerd in zoekmachines, tekstverwerkers, (gemeentelijke) softwaresystemen en analyse- instrumenten. Zonder duidelijke kaders ontstaat risico op: • verlies van autonomie • verkeerde of discriminerende beslissingen • onnodige afhankelijkheid van grote leveranciers • privacy- of datalekken • misbruik van AI door onbekende of ongecontroleerde systemen Tegelijkertijd biedt AI kansen voor: • verbeterde dienstverlening • efficiëntere processen • snellere analyse en besluitvorming • ondersteuning van medewerkers • efficiënter gebruik van informatie • innovatie voor maatschappelijke uitdagingen Door middel van dit beleidskader wil het gemeentebestuur van Zutphen richting geven aan verantwoord gebruik, risico’s beheersen en de kansen van AI benutten. Doel van het beleidsdocument Dit beleidsdocument heeft de volgende doelen: 1. Kaderstelling Vastleggen hoe AI binnen de gemeente mag worden toegepast, met welke randvoorwaarden en onder welke verantwoordelijkheden. 2. Richting geven Duurzame en verantwoorde keuzes stimuleren en ruimte bieden voor innovatie. 3. Risicobeheersing Voorkomen dat AI wordt ingezet op manieren die schadelijk, foutgevoelig of oncontroleerbaar zijn. 4.
Uniformiteit Zorgen dat de ambtelijke organisatie en externe partijen dezelfde uitgangspunten hanteren. Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 5 / 10 5. Transparantie Laten zien aan inwoners hoe de gemeente Zutphen verantwoord en ethisch met AI omgaat. Reikwijdte Dit document is van toepassing op: • alle AI-toepassingen in de organisatie • alle domeinen en teams • zowel interne als geleverde AI-functionaliteit door leveranciers • alle vormen van AI zoals bedoeld in de Europese AI Act Dit beleidskader geldt voor nieuwe en bestaande systemen die AI integreren. Visie op AI Het gemeentebestuur van Zutphen ziet AI als een middel om: • inwoners beter te helpen; • werk effectiever en efficiënter te organiseren; • maatschappelijke opgaven slimmer aan te pakken. Het gemeentebestuur van Zutphen wil: • kansen benutten; • risico’s beheersen; • controle en zeggenschap houden over data en technologie; • menselijke autonomie en publieke waarden beschermen. We passen AI toe wanneer dit relevant, veilig, juridisch verantwoord en uitlegbaar is. De gemeente Zutphen is een slimme volger: meebewegend met ontwikkelingen, maar nooit ten koste van controle, zorgvuldigheid en publieke waarden. De morele afweging ligt altijd bij de mens. We willen binnen de gemeente Zutphen AI inzetten waar het de inwoner gaat helpen en het werk efficiënter kan maken.
Dit kan in principe in elk domein zijn. We zetten AI wel verantwoord en gecontroleerd in met alle waarborgen. We gebruiken alleen AI oplossingen waar wij zelf controle en zeggenschap over hebben en die voldoet aan wet- en regelgeving. De gemeente Zutphen wil slimme volger zijn met het toepassen van AI maar doet dit wel verantwoord. Hiermee worden kansen benut maar kunnen we de risico’s beheersen. Daarbij hebben we drie richtingegevende principes: - De mens eerst - Betrouwbaar - Toekomstbestendig Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 6 / 10 Richtingevende principes De mens eerst Technologie mag nooit de autonomie van de mens overnemen of mensen beschadigen. Menselijke waarden moeten leidend zijn. Deze zijn verwoord in de publieke waarden die leidend zijn in ons ethisch handelen. “De mens eerst” bij het gebruik van AI betekent dat technologie altijd in dienst staat van mensen, niet andersom. Het is een principe om AI op een verantwoorde, veilige en ethische manier in te zetten. “De mens eerst” heeft grote invloed op hoe AI-systemen ontworpen, gebouwd en ingezet worden. Het principe dwingt ontwerpers om niet alleen naar techniek te kijken, maar vooral naar menselijke waarden, behoeften en risico’s.
Dit betekent dat: Ontwerp begint bij menselijke behoeften In een mens-eerst benadering wordt een systeem niet ontworpen vanuit de vraag “Wat kan de technologie?”, maar: “Voor wie lossen we welk menselijk probleem op?” Daarom is de toepassing altijd gebaseerd op: • interviews, persona’s en gebruiksscenario’s met echte gebruikers • focus op begrijpelijkheid en bruikbaarheid • vermijden dat AI features toevoegt die voor mensen verwarrend of niet wenselijk zijn Kortom: AI als hulpmiddel, niet als technologische gimmick. Waarden en ethiek worden ingebouwd “De mens eerst” verplicht ontwerpers om menselijkheid expliciet mee te nemen in het ontwerp, zoals: privacy by design, eerlijkheid by design en veiligheid by design. Voor het in gebruik nemen van een AI toepassing vindt altijd een ethische toetsing plaats op basis van de publieke waarden van Zutphen (“Zuthiek”). Begrijpelijkheid en uitlegbaarheid worden verplicht AI moet voor gebruikers: begrijpelijk, navolgbaar en uitlegbaar zijn. “De mens eerst” betekent dat het ontwerp gericht is op transparantie: • waarom doet het systeem een voorstel? • welke data zijn gebruikt? • hoe zeker is de AI van de uitkomst? Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 7 / 10 Ontwerpen richten zich dus op uitlegbaarheid van interfaces, dashboards, visuele hints, en taal die gebruikers echt begrijpen.
Daarnaast worden ontwerpen gedeeld met de samenleving. Menselijke autonomie blijft behouden AI mag geen ongewenste manipulatie of sturing veroorzaken. Systemen mogen niet autonoom opereren zonder dat het mogelijk is dat een mens kan ingrijpen. Daarom bevatten AI toepassingen: • duidelijke opties om AI aan/ uit te zetten • instelbare niveaus van automatisering (assistentie → co-pilot → autopilot) • waarschuwingen bij onzekerheden De mens houdt de regie. Inclusiviteit en toegankelijkheid sturen ontwerp keuzes AI moet werken voor alle gebruikers, ook voor: mensen met beperkingen, lage digitale vaardigheden en verschillende talen en culturele achtergronden. Ontwerpers houden rekening met: taalcomplexiteit, interface-ontwerp, datasets (divers en representatief) en toegankelijkheidsstandaarden (WCAG). Inclusiviteit is vanaf het begin onderdeel van het ontwerp. Continue monitoring met menselijke feedback Omdat AI leert en verandert, bevat het systeem feedbackloops van gebruikers, monitoring op bias en fouten, aanpasbaarheid van modellen en worden governance en escalatiepaden mogelijk gemaakt. Hierdoor kan er op tijd worden ingegrepen op de werking van het systeem als dat nodig is.
De rol van de mens bepaalt het ontwerp Afhankelijk van het gebruiksscenario wordt het ontwerp geoptimaliseerd voor: Human in the loop; Mens beslist → AI ondersteunt (bruikbaar bij zorg, recht, HR) Human on the loop; AI doet het werk → mens houdt toezicht (veiligheid, handhaving) Human out of the loop; AI is autonoom → alleen waar extreem veilig (bijv. spamfilters, spellcheckers) De mens bepaalt dus hoeveel autonomie een AI systeem mag krijgen. Kortom: “De mens eerst” betekent dat AI menselijke waardigheid, autonomie en controle respecteert en technologie altijd de mens ondersteunt, nooit vervangt of overheerst. Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 8 / 10 Betrouwbaar Bij de toepassing en inzet van AI, is het essentieel om oog te blijven houden voor de digitale rechten van onze inwoners, de integriteit van de techniek en dus de betrouwbaarheid ervan. Hierom is het belangrijk dat we helder zijn waar, hoe en wanneer we AI gebruiken, en stellen we duidelijke grenzen waarbij we onderstaande principes hanteren. AI voldoet aan wet- en regelgeving De organisatie zet AI alleen in wanneer wordt voldaan aan alle toepasselijke wet- en regelgeving, waaronder relevante eisen op het gebied van privacy, veiligheid, intellectueel eigendom en AI-governance.
Belangrijke wetten hierbij zijn: • De AI act • AVG • BIO 2 • Cbw • Auteurswet Organisatorische zeggenschap De organisatie behoudt te allen tijde zeggenschap over en controle op de inzet van AI- toepassingen en de locatie van de verwerkte informatie (data). AI ondersteunt besluitvorming en uitvoering, maar vervangt menselijke verantwoordelijkheid niet. Menselijke toetsing is geborgd Voor elke AI-toepassing is aantoonbaar menselijke toetsing geborgd. Waar nodig vindt beoordeling plaats door een deskundige “in the loop”, die bevoegd is om in te grijpen, uitkomsten te corrigeren of de inzet van de toepassing te stoppen. Data is van hoge kwaliteit De organisatie waarborgt dat data van hoge kwaliteit is en op een gestructureerde, veilige en beheerste manier wordt verzameld, beschikbaar gesteld, verwerkt en beheerd. Datakwaliteit, data classificatie en datagovernance zijn randvoorwaarden voor verantwoord AI-gebruik. Auteursrechten worden gerespecteerd Zodra er een vermoeden bestaat dat output van een generatief AI-model inbreuk maakt op auteursrechten of andere rechten van derden, wordt die output niet gebruikt totdat dit voldoende is beoordeeld en vrijgegeven. Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 9 / 10 We volgen de regels Bij de implementatie en toepassing van AI geldt de governance richtlijn AI van de gemeente Zutphen.
Medewerkers gebruiken AI alleen voor de uitvoering van onze publiekrechtelijke taken. Medewerkers volgen de vuistregels voor verantwoord gebruik AI. We gebruiken beheerde en gecontroleerde AI toepassingen In principe worden alleen door de gemeente Zutphen aangeboden AI toepassingen gebruikt. Openbare generatieve AI-toepassingen en webdiensten die via het internet toegankelijk zijn worden alleen gebruikt als er geen, door de gemeente Zutphen aangeboden en beheerde, toepassing is. Toekomstbestendig We willen dat onze AI duurzaam inzetbaar is en blijft. Hiervoor is het nodig dat we zelf keuzes kunnen maken over de inzet en het ontwerp en dat de medewerkers in onze organisatie voldoende zijn toegerust voor een verantwoord gebruik. Bij deze keuzes wordt ook rekening gehouden met onze leefomgeving. Dat betekent: Er is voldoende kennis en kunde Onze medewerkers hebben voldoende competenties en kennis over het gebruik en (beoordelen van) ontwerpen van AI zodat we AI: • Verantwoord kunnen inzetten, • Kunnen laten ontwikkelen • Verantwoord kunnen gebruiken. Hiervoor hebben we een aantal experts nodig in de organisatie en voldoende AI- geletterdheid bij de overige medewerkers. Onafhankelijk van grote technologiebedrijven We werken met flexibele contracten waar het kan.
We hebben altijd de keuze om te kiezen voor andere oplossingen zonder daarbij afhankelijk te zijn van de keuzes van een leverancier. Daarbij hebben we de uitgesproken voorkeur voor: • Europese leveranciers en Europese locatie van data • Open source • Overheidsinitiatieven • Cloud agnostische opzet Beleidskader Artificiële Intelligentie (AI) gemeente Zutphen 2026 10 / 10 We hebben oog voor mens en planeet AI vraagt grote inzet van arbeid, kapitaal, grondstoffen en energie. Het benodigde materiaal- en energiegebruik en effecten daarvan op mens en planeet is onderdeel van de afweging wanneer we AI al of niet inzetten. We werken samen We zoeken actief de samenwerking met andere organisaties. Door het delen van kennis en kunde en gezamenlijke inzet van middelen hebben we meer slagkracht en kunnen we de kwaliteit van onze systemen beter waarborgen. Daarnaast kunnen we de verantwoordelijkheid voor de continuïteit beter verdelen.