Uitvoeringsagenda algoritmes en AI

open source software te gebruiken, onafhankelijke Europese leveranciers op één te zetten en vendor lock-in’s tegen te gaan. • Motie Stel paal en perk aan de AI-proeftuin, 12 november 2025 waarin de raad het college verzoekt maatregelen te nemen bij de inzet van generatieve kunstmatige intelligentie door de gemeente.

Ethisch waardenkader en visie op digitaal Nijmegen Momenteel werkt de gemeentelijke organisatie vanuit een ethisch waardenkader dat op directieniveau is vastgesteld. Eind 2026 wordt de visie op digitaal Nijmegen ter vaststelling aangeboden aan de gemeenteraad en wordt het ethisch waardenkader ook bestuurlijk verankerd. Tot die tijd zal onderstaand ambtelijk waardenkader als ethisch kader dienen.15

15

Zie de startnotitie visie op digitaal Nijmegen, bijlage 1 voor de definities per waarde

30

Veiligheid Fysiek

Sociaal

Autonomie Digitaal

Nijmegenaar centraal Menselijke waardigheid

Bedachtzaamheid

Vrijheid

Privacy

Bestendigheid Houdbaarheid

Behulpzaamheid Doeltreffendheid

Toegankelijkheid

Ecologische duurzaamheid

Betrouwbaarheid Inclusiviteit

Ethische waardenkader gevisualiseerd als mengpaneel.

31

Grip op technologie

Rechtvaardigheid

Transparan e

Bijlage 2: Betrokken rollen in de levenscyclus algoritmes en AI

32

Bijlage 3: Mythes en fabels over AI Aan kunstmatige intelligentie worden soms bijna mythische krachten toegeschreven. Er wordt vaak overdreven, zowel door de enthousiastelingen als door critici. We kiezen voor een nuchtere blik en daarom nuanceren we eerst een aantal hardnekkige fabels. AI-systemen zijn objectief. AI-systemen zouden objectief zijn, in tegenstelling tot mensen. De subjectiviteit van de makers of de verzamelaars van de data waarop het AI-systeem gebaseerd is speelt altijd een rol. Hoe de makers van het systeem naar de wereld kijken en welke data gebruikt zijn voor training van het model vormen de basis voor hoe het AI-systeem de wereld ziet. Daardoor kan een AI-systeem niet objectief zijn. AI-systemen gaan alle banen overnemen. Er zijn weinig banen die op dit moment echt op het spel staan. Banen veranderen als gevolg van automatisering, door de komst van specifieke AI-toepassingen zullen ook specifieke taken worden overgenomen door automatisering. Daardoor kan de mens een andere rol krijgen in het proces, maar volledige vervanging is onwaarschijnlijk. Wat de toekomst brengt is niet volledig te voorspellen, huidige vormen van AI lijken niet in staat volledige banen over te nemen. AI-systemen zijn slimmer dan mensen. Door de snelle ontwikkeling van generatieve AI zoals ChatGPT komen veel mensen in aanraking met AI-tools.

Omdat je aan deze tools alle vragen kan stellen die in je opkomen lijkt het soms alsof de menselijke intelligentie allang ingehaald is. Kan ChatGPT –of een vergelijkbare tool- beter een tekst samenvatten dan de gemiddelde mens, en is dat genoeg? Of moeten we de tool vergelijken met vakmensen? Op sommige komen AI-systemen op dit moment in de buurt van menselijk kunnen, en dat gaat voornamelijk om vlakken waar duidelijke patronen in zitten. Als we het bijvoorbeeld over sociale vaardigheden hebben komen AIsystemen nog niet eens in de buurt. AI-systemen moeten we op zo veel mogelijk manieren inzetten. Ook als AI-systemen wel ingezet kunnen worden voor een taak is het niet altijd de beste keuze. Soms is de inzet van AI-systemen een onverwachte achteruitgang. De uitlegbaarheid en reproduceerbaarheid van een proces kan bijvoorbeeld achteruitgaan als een complex AI-systeem wordt ingezet. Daarbij zijn er veel grondstoffen en energie nodig om AI-systemen te laten functioneren. AI-systemen zorgen altijd voor tijdswinst. Stel er is een proces waar een onderdeel veel handmatig werk vereist en dus veel tijd kost. Een AI-systeem zou dit werk kunnen vervangen en jou als persoon productiever maken. Maar hou je daarmee per definitie tijd over? Het AI-systeem inrichten en onderhouden kost ook tijd.

Ook kan een AIsysteem uitzonderingen niet of verkeerd verwerken, terwijl een ervaren medewerker deze goed kan behandelen. Tot slot blijkt dat een efficiënter systeem vaak meer werk aantrekt, en daarmee uiteindelijk meer kan kosten.16 AI-systemen voorzien van een ‘human in the loop’ zorgt voor controle. We zijn terughoudend met automatische besluitvorming. De oplossing die het meest wordt voorgesteld is het toevoegen van een ‘human in de loop’. Hier wordt bedoeld dat een mens in het proces betrokken blijft, bijvoorbeeld door de output van het systeem te controleren. Krijgen we daardoor daadwerkelijk controle? Wanneer een AI-systeem al 100 keer het juiste resultaat heeft gegeven, zal de mens het 101e (foute) resultaat waarschijnlijk ook accepteren. De concentratie en oplettendheid nemen af, en de menselijke controle verandert in een automatische klik op ‘akkoord’. De taak die een mens krijgt moet dus betekenisvol blijven en de professionaliteit van een ambtenaar moet niet uitgehold, maar versterkt worden.

16 Dit wordt ook wel de paradox van Jevons genoemd.

33

Bijlage 4: Referenties en geraadpleegde literatuur Cover-afbeelding: Alexa Steinbrück / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/ Relevante landelijke ontwikkelingen digitaliseringsbreed • 18 juni 2025 – VNG-resolutie (aangenomen): Als één sterke bestuurslaag regie op de Digitale Samenleving • 4 juli 2025 - De Nederlandse Digitaliseringstrategie (NDS) • 17 november 2025 – Rijk: Investeringsagenda NDS • Verwacht: Definitieve versie investeringsagenda wordt halverwege 2026 verwacht • Actieplan Open Overheid 2023-2027 – Update Punt 8 Open algoritmes Relevante landelijke ontwikkelingen Algoritmes en AI • 9 september 2025: Rijk: ‘Een wettelijke verplichting van het algoritmeregister is op dit moment niet opportuun’ • 22 september 2025 – VNG AI governancekader • 28 november 2025: VNG Collectiviseringsvoorstel AI Relevante landelijke ontwikkeling generatieve AI • 18 januari 2024 – Overheidsbrede visie Generatieve AI • 17 december 2024 – SLM memo M365 Copilot DPIA en FRAIA (nog niet compliant) • 30 januari 2025 - Overheidsbreed standpunt generatieve AI • 31 januari 2025 – Handreiking overheidsbrede handreiking verantwoorde inzet van generatieve AI • 22 april 2025 – Overheid verruimt standpunt inzet generatieve AI • 12 september 2025 – SLM memo M365 Copilot DPIA (onder voorwaarden compliant) Andere gemeentelijke visie op algoritmes en AI ter inspiratie

• 2024: Beleid op algoritmes en AI gemeente Enschede • 11 april 2024: Handreiking generatieve AI gemeente Utrecht • 14 april 2024: Politiek bestuurlijk waardenkader algoritmes Gemeente Rotterdam • 7 augustus 2024: Waar moet de gemeente op letten bij de inzet van algoritmes en AI – Ethische commissie gemeente Groningen • Augustus 2025: richtlijnen voor ontwerp en implementatie AI-systemen gemeente Utrecht • 30 januari 2025: Amsterdamse visie op AI Overige inspiratie • 30 januari 2025 – AP: Aan de slag met AI-geletterdheid • 15 juli 2025 – AP: AI & algoritmes Nederland (RAN) • 23 juli 2025 – AP: Handvatten betekenisvolle menselijke tussenkomst • 23 oktober 2025 – AP: Verder bouwen aan AI-geletterdheid • Innovalor: Samenvatting onderzoeken algoritmewijzer • Algorithm Audit: AI-verordening implementatie tool

34