RIB 25 104 Bijlage A Algoritmebeleid Rijswijk

Algoritmebeleid Gemeente Rijswijk

Algoritmebeleid Inhoud 1. Inleiding ...........................................................................................................................................3 1.1 Aanleiding ..................................................................................................................................3 1.2 Begrippen en terminologie .........................................................................................................3 1.3 Scope ........................................................................................................................................4 2.Visie en ambities ..............................................................................................................................5 3.Controle en verantwoording .............................................................................................................6 3.1 Toezicht tijdens de hele levenscyclus .......................................................................................8 3.2 Verantwoordelijkheden ..............................................................................................................8 3.3 Transparantie ............................................................................................................................9 3.4 Jaarlijkse herbeoordeling

...........................................................................................................9 4.Digitaal waardenkader ......................................................................................................................9 5.Veiligheid en risicobeheer ..............................................................................................................11 6.Communicatie en Participatie .........................................................................................................12

2

Algoritmebeleid

1. Inleiding 1.1 Aanleiding Algoritmen en kunstmatige intelligentie (AI) worden steeds vaker toegepast binnen gemeenten, bijvoorbeeld voor het verbeteren van dienstverlening, het sneller afhandelen van aanvragen of het analyseren van verkeersstromen. Deze toepassingen bieden kansen voor een efficiëntere en slimmere overheid, maar brengen ook risico’s met zich mee. Denk aan vooringenomenheid (bias), onduidelijke besluitvorming of aantasting van privacyrechten. De Europese Unie heeft hiervoor regels opgesteld in de Verordening Artificiële Intelligentie (AI-Act)1. Deze wetgeving helpt ervoor te zorgen dat AI-systemen veilig zijn en de rechten van burgers respecteren. Ter voorbereiding op de vertaling van de verordening in de Nederlandse wetgeving heeft het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) een implementatiekader ‘Verantwoorde inzet van algoritmen’2 opgesteld voor verantwoorde inzet van algoritmen door overheden. Om als gemeente Rijswijk voorbereid te zijn op deze wetgeving, is het noodzakelijk om helder beleid te formuleren. Dit algoritmebeleid legt daarvoor de basis. Het biedt een kader voor zorgvuldig gebruik van algoritmen en AI, met aandacht voor integriteit, veiligheid, transparantie en verantwoording. Daarmee versterken we het vertrouwen van inwoners én voldoen we tijdig aan de aankomende weten regelgeving.

1.2 Begrippen en terminologie Algoritme De definitie die gehanteerd wordt is de definitie zoals gesteld in het Implementatiekader “verantwoorde inzet van algoritmen”: ‘Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden’. In de praktijk kan dit variëren van simpele rekenregels tot complexe zelflerende modellen. We hanteren 3 vormen van algoritmen: • Rekenregels – Deze algoritmen zijn handmatig door mensen gemaakt op basis van wetten, verordeningen of ervaring. • Zelflerend – Deze algoritmen kunnen zelf verbanden ontdekken in een grote set van data. • Generatief – Generatieve algoritmen zijn algoritmen die content produceren zoals teksten, documenten, afbeeldingen of video’s. Artificiële intelligentie (A.I.) In de AI-Act wordt AI gedefinieerd als: Een systeem dat is ontworpen om taken uit te voeren waarvoor normaal gesproken menselijke intelligentie nodig is. Dit betekent dat het systeem gegevens (input) kan ontvangen, deze gegevens kan verwerken en vervolgens beslissingen of voorspellingen kan maken. Het systeem kan ook leren van de gegevens om zijn prestaties in de toekomst te verbeteren, zonder dat er voor elke taak een aparte programmering nodig is. AI staat voor systemen of machines 1 2

https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:52021PC0206&from=EN Implementatiekader ‘Verantwoorde inzet van algoritmen’ | Rapport | Rijksoverheid.nl

3

Algoritmebeleid die taken uitvoeren waarvoor normaal gesproken menselijke intelligentie nodig is, zoals leren, redeneren, plannen en zich aanpassen aan nieuwe situaties. AI kan verschillende vormen aannemen, zoals machine learning (waarbij computers leren van gegevens), neurale netwerken (geïnspireerd door het menselijk brein), en natuurlijke taalverwerking (waarbij computers taal begrijpen en gebruiken). Algoritmeregister Het ministerie van Binnenlandse Zaken heeft in 2022 een algoritmeregister gelanceerd om transparantie over AI-gebruik te bevorderen en toezicht door de Autoriteit Persoonsgegevens te ondersteunen. De overheid is vanaf 2 augustus 20263 verplicht om hoog risico systemen te publiceren in de Europese database voor AI-systemen. Kunstmatige intelligentie (K.I.) Een andere benaming voor artificiële intelligentie. Bias Bias is een bewuste of onbewuste vooringenomenheid in de data of ontwerp. In het geval van algoritmen kan dit leiden tot discriminatie, uitsluiting of andersoortige benadeling van bepaalde groepen of personen. Geautomatiseerde besluitvorming Besluiten die zonder menselijke tussenkomst worden genomen door een algoritme, met mogelijke gevolgen voor burgers of medewerkers. Impact Assessment Mensenrechten en Algoritmen (IAMA) Toetsing of een AI-toepassing fundamentele rechten zoals privacy, gelijkheid of autonomie in gevaar kan brengen.

Dit is vanaf 2 augustus 2026 wettelijk verplicht. Profilering Elke vorm van geautomatiseerde verwerking waarbij aan de hand van persoonsgegevens bepaalde persoonlijke aspecten van een natuurlijke persoon worden geëvalueerd, met name met de bedoeling zijn beroepsprestaties, economische situatie, gezondheid, persoonlijke voorkeuren, interesses, betrouwbaarheid, gedrag, locatie of verplaatsingen te analyseren of te voorspellen.

1.3 Scope Het beleid richt zich op twee soorten algoritmen 1. Hoog-risico algoritmen Dit zijn algoritmen die volgens de Europese AI Act (Artikel 6 en Bijlage III) een aanzienlijke invloed kunnen hebben op de gezondheid, veiligheid of fundamentele rechten van mensen. Voorbeelden zijn systemen die worden gebruikt bij personeelsselectie, kredietbeoordeling of handhaving. 2. Impactvolle algoritmen Dit zijn toepassingen die misschien niet onder de officiële ‘hoog-risico’-definitie vallen, maar wel grote invloed kunnen hebben door hun schaal, maatschappelijke betekenis of rol in

3

https://www.digitaleoverheid.nl/achtergrondartikelen/regels-ai-modellen-voor-algemene-doeleinden/

4

Algoritmebeleid besluitvorming. Denk bijvoorbeeld aan generatieve AI-systemen zoals beschreven in Hoofdstuk V van de AI Act. Voor beide categorieën stelt de gemeente extra eisen aan: • Transparantie (inzichtelijk maken hoe het algoritme werkt en wordt gebruikt) • Datakwaliteit (betrouwbare, representatieve gegevens) • Menselijk toezicht (een mens blijft eindverantwoordelijk) • Risicobeheer (risico’s in kaart brengen en beperken)

2.Visie en ambities De gemeente Rijswijk wil technologie op een verantwoorde en doelgerichte manier inzetten om bij te dragen aan een toekomstbestendige stad. Algoritmen en kunstmatige intelligentie (AI) kunnen de dienstverlening verbeteren, processen slimmer en efficiënter maken, en nieuwe mogelijkheden openen in het fysiek en sociaal domein. Tegelijkertijd is het van belang om technologie in balans te brengen met publieke waarden, wetgeving en de menselijke maat. In Rijswijk staan groei en verbinding centraal. Deze ambities zijn ook leidend in ons gebruik van technologie. We willen dat digitalisering bijdraagt aan inclusie, duurzaamheid en samenwerking – binnen de gemeentelijke organisatie én in relatie tot inwoners, ondernemers en partners in de regio. Algoritmen en AI zijn voor ons geen doel op zich, maar een middel dat zorgvuldig moet worden afgewogen op effectiviteit, proportionaliteit en maatschappelijke impact. Dienstverlening verbeteren met technologie De gemeente Rijswijk streeft naar een toegankelijke, efficiënte en betrouwbare dienstverlening voor inwoners en ondernemers. Technologie, en in het bijzonder kunstmatige intelligentie (AI), biedt nieuwe mogelijkheden om processen slimmer in te richten en de interactie met inwoners te verbeteren.

Denk bijvoorbeeld aan een digitale assistent die eenvoudige vragen beantwoordt, procesautomatisering of voorspellende analyses. Deze toepassingen verbeteren niet alleen de dienstverlening, maar maken ook ruimte vrij voor medewerkers om zich te richten op taken met een hogere toegevoegde waarde en menselijk contact. Ook in het fysieke domein zijn toepassingen denkbaar, zoals het gebruik van AI om verkeersstromen te analyseren. Zo kan de doorstroming in de stad verbeteren en kunnen knelpunten sneller worden gesignaleerd. Voorzichtig en stapsgewijs ervaring opdoen met kunstmatige intelligentie De gemeente kiest voor een zorgvuldige, verantwoorde en stapsgewijze inzet van kunstmatige intelligentie. Nieuwe toepassingen worden eerst kleinschalig getest, bijvoorbeeld in de vorm van pilots. Daarbij staat steeds de vraag centraal wat de impact is op inwoners en medewerkers, of de toepassing voldoet aan wet- en regelgeving, en of er sprake is van aantoonbare toegevoegde waarde. Alleen als de baten duidelijk zijn, én de risico’s beheersbaar, volgt een bredere inzet. Zo houdt de gemeente grip op risico’s, draagvlak en uitvoerbaarheid. Vertrouwen, transparantie en integriteit De toepassing van algoritmen raakt aan fundamentele publieke waarden: gelijke behandeling, menselijke waardigheid, privacy en autonomie.

Als overheid dragen we een bijzondere verantwoordelijkheid om deze waarden te bewaken. Inwoners moeten erop kunnen vertrouwen dat hun gemeente technologie inzet op een transparante, integere en uitlegbare manier – waarbij altijd ruimte blijft voor menselijke beoordeling.

5

Algoritmebeleid Vertrouwen vraagt om heldere uitgangspunten, duidelijke verantwoording en structurele toetsing. Binnen elke fase van de levenscyclus van een algoritme – van idee tot beëindiging – wordt daarom expliciet stilgestaan bij juridische kaders, integriteit en maatschappelijke afwegingen. In de onderzoeksfase wordt bijvoorbeeld met een intakekaart en quickscan beoordeeld of een toepassing wenselijk en proportioneel is. Bij verhoogd risico volgt een verdiepende toets, zoals een Impact Assessment Mensenrechten en Algoritmen (IAMA). Voor de besluitvorming over ingebruikname worden de AI Compliance Officer (AICO), juristen, Privacy Officer en – indien nodig – de Functionaris Gegevensbescherming betrokken. Transparantie wordt geborgd via een communicatieplan waarin per toepassing wordt toegelicht wat de technologie doet, hoe deze werkt en waar inwoners met vragen terechtkunnen. Voor toepassingen met een hoog risico geldt bovendien vanaf 2026 een wettelijke verplichting tot registratie in het nationale algoritmeregister. De systeemeigenaar is eindverantwoordelijk voor het borgen van publieke waarden en integriteit. De AICO adviseert over proportionaliteit en ondersteunt teams bij het expliciteren van afwegingen. Juridische toetsing en privacy toezicht maken onlosmakelijk deel uit van de besluitvorming.

Training en bewustwording Verantwoord gebruik van AI vraagt niet alleen om goede kaders, maar ook om voldoende kennis en bewustzijn in de organisatie. Medewerkers op alle niveaus – van beleid tot uitvoering, van beheer tot bestuur – moeten begrijpen wat AI is, welke risico’s ermee samenhangen en hoe zij hun rol daarin zorgvuldig kunnen invullen. De AI Act verplicht organisaties die hoog-risico AI-systemen gebruiken om ervoor te zorgen dat betrokken medewerkers beschikken over voldoende AI-geletterdheid, inclusief kennis van relevante wet- en regelgeving, risico’s en gebruiksbeperkingen4. De gemeente Rijswijk kiest er bewust voor om dit principe voor alle AI-toepassingen toe te passen, omdat ook systemen met een lager risico maatschappelijke impact kunnen hebben. Daarom investeert de gemeente in opleiding en bewustwording. Het opleidingsaanbod wordt stapsgewijs opgebouwd, met aandacht voor juridische kaders, integriteit en praktische toepassingen. Zo ontstaat een gedeeld begrip van wat verantwoord technologiegebruik inhoudt – en bouwen we samen aan een organisatie die digitaal vaardig is én het publieke belang voorop blijft stellen.

3.Controle en verantwoording De gemeente Rijswijk hecht waarde aan zorgvuldig toezicht op de inzet van algoritmen en kunstmatige intelligentie. Niet alleen omdat wet- en regelgeving dit vereist, maar ook om het vertrouwen van inwoners en medewerkers te borgen. We hanteren daarbij een integrale benadering, waarin juridische, integriteit en maatschappelijke aspecten zijn ingebed in de bestaande besluitvormingsprocessen. Verantwoorde inzet van technologie vraagt om heldere afspraken over rollen, toetsmomenten en rapportage gedurende de hele levenscyclus van een algoritme. Die levenscyclus bestaat uit drie herkenbare fasen: 4

AI Act, Artikel 4, lid 4 – “De exploitanten van hoog-risico AI-systemen zorgen ervoor dat natuurlijke personen die bij het gebruik van het AI-systeem betrokken zijn, over de nodige opleiding en competenties beschikken.

6

Algoritmebeleid • • •

Onderzoeksfase – van idee tot intentie Ontwikkelfase – van ontwerp tot besluitvorming Beheerfase – van ingebruikname tot beëindiging

Onderstaande afbeelding laat dit proces zien:

In elke fase nemen we expliciete beslissingen over het gebruik van AI. Daarbij staan de volgende vragen centraal: • • •

Is het gebruik de beste oplossing, juridisch toegestaan, en ethisch verantwoord? Zijn de risico’s voldoende beheerst? Is duidelijk wie waarvoor verantwoordelijk is?

Om die reden werken we met vijf sleutelmomenten waarop we het gebruik van AI expliciet beoordelen en vastleggen:

7

Algoritmebeleid

3.1 Toezicht tijdens de hele levenscyclus Controle vindt plaats op vijf vooraf vastgestelde sleutelmomenten in de levenscyclus van elk algoritme: Sleutelmoment

Fase

Doel

I. Kaderstelling en QuickScan

Onderzoeksfase Is het idee verantwoord en haalbaar?

II. Start ontwikkelproces

Ontwikkelfase

Zijn risico’s in beeld en zijn beheersmaatregelen uitgewerkt?

III. Ingebruikname

Ontwikkelfase

Is ingebruikname verantwoord op basis van juridische, ethische en technische overwegingen?

IV. Wijziging

Beheerfase

Zijn aanpassingen verantwoord en voldoende onderbouwd?

V. Periodieke controle Beheerfase

Functioneert de toepassing nog verantwoord en volgens de uitgangspunten?

Op elk van deze momenten wordt expliciet vastgesteld of de toepassing voldoet aan juridische en ethische kaders, zoals de AVG, de AI Act en gemeentelijke beleidsprincipes.

3.2 Verantwoordelijkheden De gemeente Rijswijk hanteert een heldere verdeling van verantwoordelijkheden voor de inzet van algoritmen en kunstmatige intelligentie. Het college van burgemeester en wethouders is eindverantwoordelijk voor het beleid en voor de zorgvuldige toepassing van algoritmen binnen de organisatie. Het college ziet erop toe dat deze toepassingen bijdragen aan de publieke waarden, voldoen aan wet- en regelgeving en op een transparante en uitlegbare manier worden gebruikt. Het Gemeentelijk Managementteam (GMT) is verantwoordelijk voor de uitvoering van het beleid en borgt dat besluitvorming, risicobeheersing en toezicht op een verantwoorde wijze plaatsvinden. De afdelingen en systeemeigenaren dragen verantwoordelijkheid voor een juiste en zorgvuldige toepassing binnen hun domein. Zij worden daarbij ondersteund door functionarissen met specifieke expertise op het gebied van gegevensbescherming, ethiek en compliance. De uitvoering en voortgang van het beleid worden periodiek geëvalueerd en via de reguliere Planningen Control-cyclus gerapporteerd aan het college en de gemeenteraad.

8

Algoritmebeleid 3.3 Transparantie Transparantie wordt geborgd via een communicatieplan per toepassing, zoals beschreven in hoofdstuk 6, Communicatie en Participatie. Voor toepassingen met een hoog risico gelden aanvullende eisen. Zo moet de gemeente uiterlijk per augustus 2026 dergelijke toepassingen registreren in het nationale algoritmeregister. De systeemeigenaar is verantwoordelijk voor het aanleveren en actualiseren van deze informatie. Wanneer AI wordt gebruikt bij het nemen van een besluit dat rechtsgevolgen of vergelijkbare significante gevolgen heeft voor een persoon, wordt dit expliciet vermeld in het besluit zelf of in de toelichting daarop, conform de verplichtingen in de AI Act (Artikel 13 en Artikel 52). Wanneer een toepassing wordt beëindigd, wordt ook de verantwoording daarover zorgvuldig vastgelegd. Besluiten, documentatie en gebruikte modelversies worden gearchiveerd volgens de Archiefwet, zodat verantwoording achteraf altijd mogelijk blijft.

3.4 Jaarlijkse herbeoordeling Voor toepassingen met een hoog risico geldt een verplichting tot jaarlijkse herbeoordeling. Hierbij wordt opnieuw getoetst op: • • • •

Actualiteit van risico-inschatting en maatregelen Maatschappelijke impact of gewijzigde context Juist gebruik van trainingsdata Monitoringresultaten, zoals bias of prestatieproblemen

De herbeoordeling wordt vastgelegd in een korte verantwoordingsnotitie, opgesteld door de systeemeigenaar in samenwerking met de AICO en functioneel beheer. Bij afwijkingen of signalen kan het GMT betrokken worden.

4.Digitaal waardenkader Data en digitale innovatie biedt kansen om de dienstverlening van de gemeente Rijswijk te verbeteren en maatschappelijke uitdagingen aan te pakken. Tegelijkertijd brengt de inzet van nieuwe technologieën zoals artificiële intelligentie en algoritmen verantwoordelijkheden met zich mee: inwoners, ondernemers en organisaties moeten erop kunnen vertrouwen dat we hun gegevens met respect en zorgvuldigheid behandelen. Dit waardenkader biedt richting bij het gebruik van data en digitale innovatie door de gemeente Rijswijk. Het helpt om keuzes te maken die aansluiten bij onze maatschappelijke verantwoordelijkheid, onze groeiambities en onze betrokkenheid bij inwoners. Dit waardenkader geldt niet alleen voor onze omgang met inwoners en organisaties, maar ook voor de manier waarop we als medewerkers samenwerken, leren en omgaan met digitale middelen. Onze waarden 1. Gelijkheid Iedere inwoner, ondernemer, medewerker en organisatie van Rijswijk heeft recht op gelijke behandeling. Bij het gebruik van data voorkomen we te allen tijde dat discriminatie ontstaat door verkeerde interpretatie of toepassing. We zetten data en digitale innovatie in om gelijke kansen te bevorderen en ongelijkheid tegen te gaan.

9

Algoritmebeleid

2. De mens centraal De gemeente Rijswijk is betrokken bij haar inwoners en ondernemers en zet nieuwe technologieën in om de inwoner te dienen en samenwerking te versterken. We gebruiken data en digitale innovatie voor een positieve impact op de mens. Besluiten die impactvol zijn voor een individu of een groep, worden altijd door een medewerker genomen (en niet door een machine). Tot slot hebben we ook oog voor de impact van digitale innovatie op onze eigen medewerkers. 3. Verantwoordelijk De gemeente Rijswijk gaat verantwoordelijk om met data en digitale innovatie. We kunnen uitleggen waarom en hoe we data gebruiken. Inwoners, ondernemers, organisaties en medewerkers mogen ons hierover bevragen en aanspreken. Transparantie en integriteit staan centraal in ons handelen.

4. Maatschappelijke impact Rijswijk zet data en digitale innovatie in om de dienstverlening te verbeteren en maatschappelijke meerwaarde te creëren. We zijn toegewijd aan het ondersteunen van inwoners, ondernemers, organisaties en medewerkers, zodat iedereen kan profiteren van de mogelijkheden die digitalisering biedt.

5. Innovatief en besluitvaardig Rijswijk groeit. Om die groei te faciliteren, tonen we lef en durft de gemeente nieuwe technologieën in te zetten. Daarbij hebben we een lerende houding: we evalueren onze keuzes en verbeteren doorlopend ons gebruik van data en digitale innovatie.

6. Kwaliteit Wij werken met betrouwbare data en deskundige medewerkers. De kwaliteit van data, de professionaliteit van mensen die ermee werken en integere leveranciers zijn essentieel bij het correct inzetten van digitale innovatie.

7. Privacy en regie Rijswijk respecteert de persoonlijke levenssfeer van inwoners, ondernemers en medewerkers. We verwerken persoonsgegevens volgens de geldende wet- en regelgeving. Iedereen houdt zeggenschap over zijn eigen gegevens. We gebruiken alleen data die echt nodig is, op een veilige en zorgvuldige manier. Digitale technologie zetten we in om de persoonlijke regie en keuzevrijheid te versterken.

10

Algoritmebeleid

5.Veiligheid en risicobeheer Het gebruik van algoritmen en kunstmatige intelligentie (AI) biedt de gemeente Rijswijk kansen om slimmer te werken en maatschappelijke opgaven beter aan te pakken. Tegelijkertijd zijn er risico’s die vragen om een zorgvuldige en planmatige benadering. Daarbij gaat het met name om risico’s die raken aan transparantie, rechtszekerheid en publieke waarden. Rijswijk kiest daarom voor een benadering waarin risico’s al in een vroeg stadium worden onderkend en structureel worden beheerst. Risico’s bij de inzet van AI De belangrijkste risico’s die de gemeente onderkent bij het gebruik van algoritmen zijn: •

•

•

•

Bias en objectiviteitsrisico’s AI-systemen kunnen onbedoeld discriminerende uitkomsten genereren, bijvoorbeeld door gebrekkige of eenzijdige data. Dit kan leiden tot ongelijke behandeling of onbetrouwbare besluitvorming. Kennis- en verantwoordingsrisico’s Veel AI-modellen worden ontwikkeld door externe partijen. Daardoor is het voor gemeenten niet altijd inzichtelijk hoe deze systemen precies werken. Dit maakt het lastig om de werking te toetsen of om burgers goed uit te leggen waarop besluiten zijn gebaseerd. Aansprakelijkheidsrisico’s Wanneer schade ontstaat door het gebruik van AI, is het niet altijd duidelijk wie juridisch verantwoordelijk is: de leverancier of de gemeente als gebruiker. Dit speelt vooral bij modellen met weinig transparantie. Privacyrisico’s AI-toepassingen gebruiken vaak veel persoonsgegevens. Als niet duidelijk is hoe deze gegevens worden verzameld, gebruikt of gedeeld, kan dat in strijd zijn met de AVG. Dit raakt vooral de regels over transparantie, doelbinding, dataminimalisatie en rechtmatigheid. Het kan leiden tot onrechtmatige verwerking en schending van privacyrechten.

Beheersmaatregelen Om deze risico’s te beheersen, zijn binnen het algoritmebeleid meerdere maatregelen verankerd. Deze worden afgestemd op het risicoprofiel van de toepassing en sluiten aan bij het bredere governanceproces van de gemeente. •

•

•

•

Vroege risico-inschatting Elke toepassing start met een QuickScan om risico’s vroegtijdig in beeld te brengen. Bij verhoogd risico volgt een verdiepende toets: een Impact Assessment Mensenrechten en Algoritmen (IAMA) en/of een Data Protection Impact Assessment (DPIA). Uitlegbaarheid en transparantie Bij toepassingen die impact hebben op inwoners of medewerkers wordt altijd een communicatieplan opgesteld, zoals beschreven in hoofdstuk 6 Communicatie en Participatie. In dit plan wordt in begrijpelijke taal uitgelegd hoe het algoritme werkt, welke rol het speelt in besluitvorming en hoe menselijke controle is geregeld. Inwoners moeten weten of zij met een AI-systeem communiceren (bijvoorbeeld bij een chatbot). Voor AI-toepassingen die als hoog risico worden geclassificeerd geldt bovendien vanaf augustus 2026 de wettelijke verplichting om deze te publiceren in het nationale algoritmeregister. Monitoring en kwaliteitsborging Elke AI-toepassing wordt vooraf technisch getest en beoordeeld op toepasbaarheid. Na ingebruikname wordt periodiek gemonitord op werking, datakwaliteit en eventuele bijwerkingen zoals bias of modelverschuiving. Bij hoog-risico toepassingen vindt jaarlijks een herbeoordeling plaats. Opleiding en bewustwording De gemeente investeert in het vergroten van AI-geletterdheid onder medewerkers.

Via HRM wordt scholing aangeboden over wet- en regelgeving, integriteit en toezicht.

11

Algoritmebeleid •

•

Contractuele en organisatorische waarborgen Inkoop van AI-systemen vindt plaats onder voorwaarden die transparantie, uitlegbaarheid en updateverplichtingen borgen (o.a. via GIBIT). In elke fase van de levenscyclus worden afspraken vastgelegd over beheer, wijziging en beëindiging – bijvoorbeeld via het Service Level Agreement en exit plannen. Verantwoording en archivering Bij beëindiging van het gebruik van een algoritme zorgt de gemeente bovendien voor zorgvuldige archivering. Daarbij worden onder meer de documentatie, onderbouwing van besluiten en gebruikte modelversies bewaard. Zo wordt gewaarborgd dat het functioneren van het systeem ook achteraf kan worden gereconstrueerd en verantwoord, bijvoorbeeld bij vragen van inwoners, audits of klachten.

6.Communicatie en Participatie Transparantie is een kernvoorwaarde voor het verantwoord inzetten van algoritmen en kunstmatige intelligentie (AI). Inwoners moeten kunnen begrijpen dat AI wordt gebruikt, welke rol het speelt in besluitvorming en welke invloed het kan hebben op hun rechten of plichten. Daarom hecht de gemeente Rijswijk grote waarde aan duidelijke, toegankelijke en tijdige communicatie over de inzet van deze technologie. Communicatieplan Voor iedere AI-toepassing die impact kan hebben op inwoners of medewerkers wordt een communicatieplan opgesteld. Dit plan beschrijft op welke wijze, via welke kanalen en op welk moment wordt gecommuniceerd, wie de doelgroepen zijn en welke boodschap wordt overgebracht. Het communicatieplan is een verplicht onderdeel van het proces en wordt opgesteld door de systeemeigenaar, in samenwerking met Communicatie en – indien nodig – getoetst door Juridische Zaken, de Privacy Officer en de AI Compliance Officer. Het doel is om transparantie en begrijpelijkheid te waarborgen, en om inwoners en medewerkers in staat te stellen hun rechten uit te oefenen.

Een belangrijk onderdeel van het communicatieplan is dat medewerkers die betrokken zijn bij de uitvoering of toepassing in staat zijn om, indien inwoners daar vragen over stellen, in begrijpelijke taal uit te leggen hoe de algoritme werkt, welke rol deze heeft gespeeld in besluitvorming en welke waarborgen zijn getroffen. Ook wordt geborgd dat bij besluiten waarin AI is gebruikt, dit uitdrukkelijk wordt vermeld in het besluit zelf of in de begeleidende toelichting, in lijn met de verplichtingen uit de AI Act. Bij hoogrisico AI-toepassingen bevat het communicatieplan ook de door de leverancier en/of gemeente verstrekte gebruiksinstructies zoals bedoeld in Artikel 13 AI Act. Deze instructies geven duidelijkheid over het doel van de toepassing, de mogelijkheden, de beperkingen, de onderhoudsverplichtingen en de mogelijke risico’s. Dit geldt zowel voor externe communicatie richting inwoners als voor interne communicatie richting medewerkers die het systeem bedienen. Transparantie richting inwoners De Europese AI-verordening stelt eisen aan transparantie bij het gebruik van AI door overheden. Inwoners hebben het recht te weten wanneer een besluit (mede) tot stand komt met hulp van een algoritme of AI-systeem, en wanneer zij communiceren met een AI-toepassing5.

Dit betekent dat inwoners in begrijpelijke taal moeten kunnen begrijpen dat een AI-systeem is gebruikt, hoe het werkt op hoofdlijnen en wat de invloed ervan is op een besluit of dienstverlening. Deze toelichting wordt proactief aangeboden, bijvoorbeeld via de gemeentelijke website en in de tekst van het besluit zelf, zodat inwoners goed geïnformeerd zijn en hun rechten kunnen uitoefenen. Een bijzonder aandachtspunt is de identificatieplicht: bij interactie met AI-toepassingen, zoals chatbots of spraakassistenten, moet voor de gebruiker duidelijk zijn dat hij of zij met een geautomatiseerd systeem te maken heeft. Dit voorkomt verwarring en draagt bij aan transparant contact met de gemeente. Publicatie in het algoritmeregister Vanaf augustus 2026 zijn overheden wettelijk verplicht om AI-systemen met een hoog risico te registreren in het nationale algoritmeregister. Deze registratie bevat kerninformatie over de werking van het systeem, het doel van de inzet, de verantwoordelijke afdeling en de getroffen maatregelen voor transparantie en toezicht. 5

Deze verplichtingen zijn vastgelegd in Artikel 13 en Artikel 52 van de AI Act.

12

Algoritmebeleid De betreffende afdeling is verantwoordelijk voor het aanleveren en actueel houden van deze informatie. Informatiebeheer ondersteunt, onder meer bij de publicatie in het algoritmeregister, hierbij vanuit het bredere kader van datamanagement en archivering. Betrokkenheid van medewerkers en ondernemingsraad Als een AI-toepassing persoonsgegevens van medewerkers verwerkt, bijvoorbeeld op het gebied van HR, verzuim, personeelsplanning of beoordeling, gelden aanvullende eisen. In dat geval voert de gemeente een Data Protection Impact Assessment (DPIA) uit en wanneer er sprake is van een verhoogd risico op aantasting van fundamentele rechten wordt er ook een Impact Assessment Mensenrechten en Algoritmen (IAMA) uitgevoerd. Daarnaast wordt de ondernemingsraad (OR) tijdig betrokken bij het voornemen tot invoering. Conform de Wet op de ondernemingsraden is bij dit type toepassingen instemming van de OR vereist. Dit waarborgt dat de belangen van medewerkers zorgvuldig worden meegewogen en dat er sprake is van voldoende draagvlak binnen de organisatie. Verantwoordelijkheid voor publieksvragen Publieksvragen over het gebruik van AI, bijvoorbeeld van inwoners, journalisten of belangenorganisaties, worden beantwoord door de inhoudelijk betrokken afdelingen. Zij kennen de toepassing en zijn verantwoordelijk voor de communicatie.

De AI Compliance Officer (AICO) is hiervoor geen aanspreekpunt. Het is daarom belangrijk dat domeinen bij de invoering van een AI-toepassing tijdig nadenken over mogelijke vragen en een communicatieplan opstellen dat aansluit bij de beoogde doelgroep.

13