635453 Bijl01 Beleid Algoritmes.pdf
Tekst van het document
Beleid Algoritmes
Beleid Algoritmes
| 1
Inhoud 1. Inleiding
3
1.1 Leeswijzer
3
1.2 Waarom een beleid voor algoritmes?
3
1.3 Wat zijn algoritmes?
3
1.4 Welke algoritmetoepassingen onderscheidt dit beleid?
3
Artificial intelligence (AI)
3
Robotic process automation (RPA)
4
(Overige) algoritmes
4
2. Algemene uitgangspunten algoritmes
5
2.1Aan welke regels moet algoritmegebruik voldoen?
5
2.2 Registreren van algoritmes
6
2.2.1 Landelijk Algoritmeregister
6
2.2.2 Intern register
6
2.2.3 Proces registreren van algoritmes
7
3. Artificial Intelligence (AI)
8
3.1 Wat is AI?
8
3.2 Welke aanvullende regels gelden voor AI?
8
4. Robotic Process Automation (RPA)
9
4.1 Wat is RPA?
9
4.2 Welke aanvullende regels gelden voor RPA?
9
Begrippenlijst
10
Bijlage I: Onderdelen implementatieplan
12
1. Beleid
12
2. Toezicht op uitvoering (standaardsoftware)
12
3. Registratie
12
4. Kennis/bewustzijn
12
Teamnaam: Informatiemanagement Datum: 12 februari 2026 Ons kenmerk: 635453
2 |
Beleid Algoritmes
1. Inleiding 1.1 Leeswijzer In dit Beleid Algoritmes zijn de wettelijke verplichtingen, de regels in het Algoritmekader van de Rijksoverheid en de interne regels die van toepassing zijn, samengebracht tot een kader waaraan de inzet van algoritmes binnen Gemeente Venlo wordt getoetst. Vetgedrukte donkergroene tekst wordt in de begrippenlijst nader toegelicht.
1.2 Waarom een beleid voor algoritmes? Het gebruik van algoritmes biedt kansen: processen kunnen sneller, efficiënter en objectiever verlopen. Tegelijkertijd is aandacht nodig voor mogelijke risico’s, zoals ondoorzichtigheid, discriminatie of verlies van vertrouwen bij inwoners. Met dit beleid legt de gemeente Venlo vast op welke manier algoritmes verantwoord, transparant en zorgvuldig worden ingezet en op welke manier deze inzet moet zijn getoetst. Zo waarborgen we dat technologie in dienst staat van de samenleving en bijdraagt aan een betrouwbare en rechtvaardige overheid.
1.3 Wat zijn algoritmes? Een algoritme is een reeks instructies die stapsgewijs wordt uitgevoerd om een probleem op te lossen of een taak uit te voeren. Algoritmes kunnen eenvoudig zijn, zoals een rekenformule, of complex, zoals systemen die grote hoeveelheden data analyseren en daaruit besluiten of adviezen genereren. Algoritmes hebben raakvlakken met ‘geautomatiseerde besluitvorming’ zoals bedoeld in de Algemene Verordening Gegevensbescherming (AVG). Van geautomatiseerde besluitvorming is sprake als een besluit door een computersysteem wordt genomen zonder betrokkenheid van een medewerker, en hierbij persoonsgegevens worden verwerkt.
1.4 Welke algoritmetoepassingen onderscheidt dit beleid? Gemeente Venlo maakt onderscheid tussen de volgende algoritmetoepassingen:
Artificial intelligence (AI) In dit beleid wordt met ‘artificial intelligence’ bedoeld een ‘AI-systeem’ zoals gedefinieerd in de AI-Verordening: ‘een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen’. Beleid Algoritmes
| 3
De Certified AI Compliance Officer (CAICO) adviseert over de inzet van algoritmes waarbij sprake is van AI. In dit beleid wordt ook gesproken van ‘AI-gebaseerde algoritmes’. Het begrip ‘artificial intelligence’ wordt in paragraaf 3.1 ‘Wat is AI?’ verder toegelicht.
Robotic process automation (RPA) ‘Robotic process automation’ (RPA), ook wel: ‘robotisering’ of ‘softbot’, is een technologie waarbij software met behulp van vooraf gedefinieerde algoritmes repetitieve, op regels gebaseerde handelingen uitvoert die normaal gesproken door mensen worden gedaan via digitale systemen. Deze algoritmen bepalen stap voor stap hoe de robot een taak moet uitvoeren, zoals het verwerken van gegevens, invullen van formulieren of communiceren tussen verschillende applicaties. In dit beleid wordt ook gesproken van RPA-gebaseerde algoritmes. Het begrip ‘robotic process automation’ wordt in paragraaf 4.1 ‘Wat is RPA?’ verder toegelicht.
(Overige) algoritmes Hieronder vallen, kort gezegd, alle algoritmes waarbij geen sprake is van AI of van RPA. Denk hierbij aan rekenregels en beslisbomen met variërende complexiteit. Op deze algoritmetoepassing zijn alleen de algemene uitgangspunten uit hoofdstuk 2 van toepassing.
4 |
Beleid Algoritmes
2. Algemene uitgangspunten algoritmes 2.1 Aan welke regels moet algoritmegebruik voldoen? • •
• • • • •
Verantwoordelijkheden zijn belegd in overeenstemming met de geldende Beheerregeling Informatiehuishouding. Algoritmes worden geclassificeerd naar impact. Een algoritme wordt volgens de Handreiking Algoritmeregister van de Rijksoverheid beschouwd als ‘impactvol’ als deze valt in één of meer van de volgende categorieën: o Categorie A: Het algoritme betreft een AI-systeem dat op grond van de AIVerordening is geclassificeerd als ‘hoog risico’. o Categorie B1: Het algoritme heeft directe rechtsgevolgen voor betrokkenen. o Categorie B2: Het algoritme beïnvloedt hoe een overheid een persoon of groep classificeert. o Categorie C: Het algoritme is impactvol op grond van eigen interne afwegingen. Gemeente Venlo merkt voor categorie C geen aanvullende algoritmes aan als ‘impactvol’. Voor ingebruikname van een impactvol algoritme moet een Impact Assessment Mensenrechten en Algoritmes (IAMA) worden uitgevoerd. Algoritmes worden geregistreerd conform de uitgangspunten in 2.2 ‘Registreren van algoritmes’. Algoritmeregistraties worden gearchiveerd in overeenstemming met de geldende archiefwetgeving en het geldende interne beleid met betrekking tot archivering. Het geldende Privacy Beleidskader is van toepassing wanneer een algoritme wordt gebruikt voor geautomatiseerde besluitvorming in de zin van de AVG.
In aanvulling op dit beleidskader gelden de volgende uitgangspunten: o De natuurlijke personen van wie gegevens worden verwerkt, moeten over de geautomatiseerde besluitvorming worden geïnformeerd, wanneer deze besluitvorming rechtsgevolgen of andere serieuze gevolgen hebben voor deze personen. ‘Andere serieuze gevolgen’ zijn bijvoorbeeld het wel of niet uitnodigen voor een sollicitatiegesprek of het niet toekennen van een uitkering. o Bij de behandeling van een inzageverzoek wordt de betrokkene ook geïnformeerd over het plaatsvinden van geautomatiseerde besluitvorming, wanneer deze besluitvorming rechtsgevolgen of andere serieuze gevolgen hebben voor deze personen. o Betrokkenen kunnen aangeven niet alleen aan geautomatiseerde besluitvorming met rechtsgevolgen of andere serieuze gevolgen te willen worden onderworpen. Zij hebben tevens recht op herbeoordeling door een medewerker. o Op een verwerking moet een Data Protection Impact Assessment (DPIA) worden uitgevoerd als bij deze verwerking geautomatiseerde besluitvorming plaatsvindt.
Beleid Algoritmes
| 5
o
De Privacy Officer adviseert over geautomatiseerde besluitvorming.
2.2 Registreren van algoritmes 2.2.1 Landelijk Algoritmeregister Voor sommige algoritmes zal waarschijnlijk een toekomstige wettelijke verplichting in het leven worden geroepen om ze in een online landelijk Algoritmeregister te publiceren. Dit geldt in ieder geval voor de impactvolle algoritmes.
In de Handleiding Publicatiestandaard van de Rijksoverheid is beschreven welke invulvelden verplicht zijn.1 Bij uitzondering kan worden afgezien van publicatie. Hiervan is bijvoorbeeld sprake als een weigeringsgrond uit de Wet open overheid van toepassing is.
2.2.2 Intern register Grip op gebruik van algoritmes is onmogelijk zonder zicht hierop. Gebruik van algoritmes moet daarom ook goed worden bijgehouden in een intern register. Hiervoor gebruikt Gemeente Venlo ook het landelijk Algoritmeregister. Algoritmes die enkel intern worden geregistreerd, worden in het landelijk Algoritmeregister niet vrijgegeven voor publicatie, waardoor deze niet zichtbaar zijn voor het publiek. Per algoritme moeten minimaal de volgende gegevens voor interne registratie in het landelijke Algoritmeregister worden opgenomen: • De applicatie waar het algoritme bij hoort; • De algoritmetoepassing (AI, RPA of overig); • De impactclassificatie en, indien van toepassing, de categorie.
6 |
Beleid Algoritmes
De eigenaar van een informatiesysteem draagt zorg voor de volledigheid en juistheid van de registraties van algoritmes in zijn of haar applicaties in overeenstemming met de geldende Beheerregeling Informatiehuishouding.
2.2.3 Proces registreren van algoritmes Registratie van algoritmes maakt expliciet onderdeel uit van de implementatie van het systeem waarin het algoritme voorkomt. Gemeente Venlo maakt al lange tijd veelvuldig gebruik van algoritmes, niet zijnde AI of RPA, zonder dit gebruik centraal te registreren of het algoritme als zodanig te toetsen. Dit leidt ertoe dat voor de analyse en registratie van deze algoritmes een inhaalslag moet worden gemaakt, waarvoor een procesgang wordt uitgewerkt zoals bedoeld in Bijlage I onder punt 3. Het team Informatiemanagement levert de expertise om de algoritmes in samenspraak met de verantwoordelijke van het betreffende informatiesysteem (proceseigenaar conform beheerregeling Informatiehuishouding) in kaart te brengen. In welke volgorde en met welke prioritering de algoritmes worden geregistreerd zal in het implementatieplan worden uitgewerkt.
Beleid Algoritmes
| 7
3. Artificial Intelligence (AI) 3.1 Wat is AI? In dit beleid wordt met ‘artificial intelligence’ bedoeld een ‘AI-systeem’ zoals gedefinieerd in de AI-Verordening: ‘een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen’. Met andere woorden: een AI-systeem is een technologie die zelfstandig gegevens verwerkt en gebruikt om taken uit te voeren waarvoor normaal menselijke intelligentie nodig is. Het systeem analyseert data, herkent patronen en kan zelfstandig leren en verbeteren op basis van nieuwe informatie. Hierdoor kan een AI-systeem complexe beslissingen nemen en voorspellingen doen. Een AI-systeem werkt als een "slimme" software die kan leren en beslissen op basis van data, eventueel zonder menselijke tussenkomst. Deze algoritmetoepassing leent zich het beste voor het uitvoeren van cognitief werk.
3.2 Welke aanvullende regels gelden voor AI? In aanvulling op de algemene uitgangspunten uit hoofdstuk 2, gelden voor AI-gebaseerde algoritmes de volgende regels: • De geldende Beleidsregels Artificial Intelligence zijn van toepassing op deze algoritmetoepassing. • De CAICO toetst het gebruik van deze algoritmetoepassing aan het Beleid Algoritmes en aan de Beleidsregels Artificial Intelligence.
8 |
Beleid Algoritmes
4. Robotic Process Automation (RPA) 4.1 Wat is RPA? RPA is een technologie waarbij software met behulp van vooraf gedefinieerde algoritmen repetitieve, op regels gebaseerde handelingen uitvoert die normaal gesproken door mensen worden gedaan via digitale systemen. Deze algoritmen bepalen stap voor stap hoe de robot een taak moet uitvoeren, zoals het verwerken van gegevens, invullen van formulieren of communiceren tussen verschillende applicaties. Deze algoritmetoepassing leent zich het beste voor het uitvoeren van handmatig werk. RPA-gebaseerde algoritmes hebben niet de mogelijkheid om patronen autonoom te analyseren, uit te voeren of aan te passen en staan om die reden los van artificial intelligence.
4.2 Welke aanvullende regels gelden voor RPA? In aanvulling op de algemene uitgangspunten uit hoofdstuk 2, gelden voor RPA-gebaseerde algoritmes de volgende regels: • De Hyperautomation Consultant adviseert over de inzet van dit type algoritmes. • Voor de toepassing van het Beleid Logische Toegangsbeveiliging op deze algoritmetoepassing wordt een softbot gelijkgesteld met een menselijke medewerker. Deze algoritmetoepassing verricht geen handelingen die voor een menselijke medewerker ook niet zijn toegestaan.
Beleid Algoritmes
| 9
Begrippenlijst AI-systeem
Een machinaal systeem dat kunstmatige intelligentie bezit. In het Beleid Algoritmes wordt met AI-systeem bedoeld een AI-systeem zoals gedefinieerd in de Europese AIVerordening. Algoritme Een reeks instructies die stapsgewijs wordt uitgevoerd om een probleem op te lossen of een taak uit te voeren. Algoritmes kunnen eenvoudig zijn, zoals een rekenformule, of complex, zoals systemen die grote hoeveelheden data analyseren en daaruit besluiten of adviezen genereren. Algoritmeregister Een online register waarop overheden impactvolle algoritmes publiceren. Artificial intelligence (AI) Ook wel: kunstmatige intelligentie. Een technologie die in staat is om razendsnel en autonoom patronen te herkennen in beschikbare data en op basis hiervan beslissingen te nemen. Certified AI Compliance Een functionaris die zich primair bezighoudt met adviseren Officer (CAICO) over de toepassing van de regels met betrekking tot het gebruik van AI. Data Protection Impact Ook wel: gegevensbeschermingseffectenbeoordeling. Een Assessment (DPIA) instrument in de Algemene Verordening Gegevensbescherming waarmee de risico's van een gegevensverwerking in kaart worden gebracht en waarop vervolgens maatregelen worden geadviseerd om de risico's te mitigeren tot een acceptabel restrisico.
Geautomatiseerde Besluitvorming zoals bedoeld in de Algemene Verordening besluitvorming Gegevensbescherming, waarbij een besluit door een computersysteem wordt genomen zonder betrokkenheid van een medewerker, en hierbij persoonsgegevens worden verwerkt. Hoog risico (AI-Verordening) Een classificatie die door de AI-Verordening wordt gegeven aan AI-systemen die vanwege het gebruik voor een doel genoemd in Bijlage I of III van de AI-Verordening aan strengere eisen moeten voldoen dan een AI-systeem die die classificatie niet heeft. Hyperautomation Consultant Een functionaris die de inzet van robotisering realiseert. Impact Assessment Mensenrechten en Algoritmes (IAMA) Input
10 | Beleid Algoritmes
Een instrument om de effecten van een algoritme op mensenrechten te beoordelen. De gegevens die een AI waarneemt en waarop deze een opdracht uitvoert. Bij een opdracht om bijvoorbeeld een tekst samen te vatten is de tekst de input.
Output
Het resultaat van een uitgevoerde opdracht. Bij een opdracht om bijvoorbeeld een tekst samen te vatten is de samenvatting de output. Robotic Process Automation Ook wel: robotisering of softbot. Een technologie waarbij (RPA) software met behulp van vooraf gedefinieerde algoritmen repetitieve, op regels gebaseerde handelingen uitvoert die normaal gesproken door mensen worden gedaan via digitale systemen. Robotisering Zie: Robotic Process Automation (RPA) Softbot
Zie: Robotic Process Automation (RPA)
Weigeringsgrond
Een in de Wet open overheid genoemde uitzondering op de verplichting om informatie openbaar te maken.
Beleid Algoritmes | 11
Bijlage I: Onderdelen implementatieplan In het implementatieplan horend bij het Beleid Algoritmes moeten minimaal de volgende onderdelen worden/zijn uitgewerkt:
1. Beleid • •
•
Wie (welke centrale functie/rol) draagt zorg voor de periodieke/tussentijdse herziening van het Beleid Algoritmes? In welke situaties vindt tussentijdse herziening van het Beleid Algoritmes plaats? Denk bijvoorbeeld aan: o Een interne verplichting is/wordt ook verplicht vanuit wet-/regelgeving. o Gemeente Venlo geeft alsnog invulling aan categorie C impactvolle algoritmes o Inzichten uit de implementatie meenemen in verbeteren van het beleid Invulling geven aan categorie C: hoe wordt dit gedaan? o Volgt Gemeente Venlo de invulling door andere organisaties? o Aanvullende criteria beleid opnemen op basis waarvan een algoritme als impactvol wordt aangemerkt? o Of geeft het beleid proceseigenaren de bevoegdheid om zelf een algoritme als impactvol aan te merken?
2. Toezicht op uitvoering (standaardsoftware) •
Wie (welke centrale functie/rol) ziet toe op de uitvoering en naleving van het Beleid Algoritmes, in het bijzonder met betrekking tot algoritmes in standaardsoftware? o Wie wijst proceseigenaar op verplichtingen uit Beleid Algoritmes? o Wie stelt impactclassificatie vast? o Wie helpt bij uitvoeren IAMA?
3. Registratie • • • •
Intern: moet in Bluedolphin een verwijzing naar de registratie in het Landelijk Algoritmeregister worden vastgelegd? Procesgang registratie (overige) algoritmes: hoe worden alle algoritmes die al in gebruik zijn vastgelegd in het algoritmeregister? Landelijk algoritmeregister: wie mag hier wijzigingen in aanbrengen? Archivering: hoe worden algoritmeregistraties gearchiveerd?
4. Kennis/bewustzijn
12 | Beleid Algoritmes
•
•
Waar kunnen medewerkers intern informatie vinden over dit onderwerp? Centrale kennispagina en/of moeten beheerders dit meenemen in de informatie over hun systeem? Wie houdt de interne informatie actueel?
Beleid Algoritmes | 13
14 | Beleid Algoritmes