2025-09-17 Presentatie Digitale ethiek algoritmen 2025

‘De (im)morele machine’ Algoritmen, AI en digitale ethiek

RAADSESSIE 17 SEPTEMBER 2025 AFDELING DIGITALISERING EN DATA

Waar gaan we het vandaag over hebben? • Wat is een algoritme? Wat is AI? Kansen en risico's voor gemeenten. • Wet- en regelgeving: de AI-verordening. • Maar…wetgeving is niet genoeg (‘slechts gedrag en regels’). • Hoe kunnen we het dan wel goed doen? (een ethische praktijk)

Algoritmen en AI Kansen en mogelijkheden - Ondersteuning (Microsoft 365 Copilot) - Identiteitscontroles (Oribi gezichtscanners) Waarom is dit blijvend relevant? - AI ontwikkelt zich razendsnel - Quantum computing - 2025: Jaar van Agentic AI

Algoritmen en AI Risico's en gevaren - Bias en discriminatie → oneerlijke of onbedoeld ongelijke uitkomsten - Gebrek aan transparantie en hallucineren → ‘black box’ beslissingen en verslechtering vertrouwen - Automatisering zonder toezicht → risico op fouten of willekeur - Energieverbruik en duurzaamheid → hoge rekenkracht leidt tot grote ecologische voetafdruk - Dataverslaving en afhankelijkheid → meer data ≠ altijd betere besluiten

De AI-Verordening Digital Decade (EU)

AI-verordening (AI Act) - Introduceert risicocategorieën (laag, hoog/ impactvol en verboden) - Verplichting tot transparantie, toezicht en zorgvuldigheid bij inzet AI

Waarom is wetgeving alleen niet genoeg? Of: wat brengt ethiek ons wat recht ons niet brengt? Recht (algemeenheid)

Ethiek (uniciteit)

Is een stelsel van regels

Is een stelsel van regels én de erkenning van die regels

Stelt de situatie ter discussie

Stelt de situatie ter discussie én het systeem (waarin die situatie plaatsvind)

Heeft een vaststaand geldend principe of relevante waarde

Bevraagd wat het geldende principe of relevante waarde moet zijn

Wat is ethiek wel en niet?

REDENEREN ARGUMENTEN RECHTVAARDIGINGEN OVEREENSTEMMING DOOR DIALOOG HANDELEN EMOTIES

PROCEDURES PROCESSSEN RICHTLIJNEN REGELS MENINGEN EMOTIES

Een ethische praktijk is: door middel van • dialoog • beredeneerd argumenteren (onderbouwen) • overeenstemming bereiken (consensus)

beslissen & (daarop) handelen

Voorbeeld: BOA’s en bodycams Hoe zou een ethische praktijk eruit zien? • Stap 1: ethische casus opstellen: wat is de unieke situatie?

• Stap 2: ethische dialoog: wat is de belangrijkste waarde? • Stap 3: ethisch oordeel: hoe handelen we juist?

Hartelijk dank voor jullie aandacht! LOTTE SCHIEVING (L.SCHIEVING@DEVENTER.NL) BETTE NIJBOER (BB.NIJBOER@DEVENTER.NL)