Motie 1 D66 e.a. Grip op algoritmen_aangenomen

taVhj GEMEE¡ITERAAII

vtû( 3 ó

t*t 0

l.IflTIE

Volt @

Forúm voor Democrade

O

GROEl{ Ltlì¡KS

Part'rj voor

de Dieren

Groep Ek/woltjer

ln te vullen door raadsgriffier Motie

nummer

Agendapunt Datum beraadslaging

I .l

I ¡

t l R,

lndiener Behandelwijze

3 { r|tl|Ap fgfll;.uitsrao stemmins

i1 M,ßu,"s tl 1.1

v

,r;l,()

t¡r'Z ¿/t": t,ru 0

Titel motie: Grip op algoritmen De gemeenteraad van Enschede, in vergadering bijeen op 31 maart 2025, gehoord de beraadslaging over:

Rekenkameronderzoek Algoritmen

Gonstaterende dat:

. ¡

De ontwikkelingen rondom het gebruik van algoritmen en Al zich in razendsnel tempo opvolgen; De gemeenteraad in de afgelopen jaren zich meermaals unaniem of met ruime meerderheid met zorg heeft

uitgesproken rondom het gebruik van digitale, mogelijk privacy schendende of potentieel discriminerende, middelen waaronder het gebruik van algoritmen en Al bij de bepaling van WOZ-waarde, digitale deursloten, de toeslagenaffaire en digitale parkeerkaartjes en scanauto's;

.

Er in de laatste jaren steeds meer duidelijk is geworden over de risico's en gevaren die het gebruik van algoritmen en Al met zich mee kunnen brengen, met als meest extreme voorbeeld de toeslagenaffaire;

¡

De Enschedese rekenkamer en PBLQ als een van de conclusies in hun eindrapport (zie pagina 11) het volgende stellen: "De gemeenteraad heeft daarentegen wel een duidelijke rol in het bespreken van de keuzes en añregingen die rond de inzet van algoritmen en digitalisering worden gemaakt. Het gaat dan om een inhoudelijk en politiek gesprek over de keuzes in de uitvoering en de prioriteiten die daarin worden gelegd. De deelnemers aan de bijeenkomst voor dit ondeaoek benadrukten het belang om de raad goed in die positie te brengen, iets dat tot op heden naar hun mening weinig tot niet is gebeurd."

Overwegende dat:

¡ . ¡ . . .

Het gebruik van algoritmen en Al ook voordelen met zich mee kan brengen. Zo kan het de dienstverlening sneller, goedkoper, nauwkeuriger en completer maken. Het is in staat om verbanden te zien die een mens

soms niet kan zien; Vanaf augustus 2024 de Al-verordeninq van kracht is: een Europese wet die regels stelt voor de ontwikkeling en het gebruik van Al-systemen; Het doel van de Al-verordening is dat Al-systemen die organisaties (binnen de EU) gebruiken, veilig zijn en. fundamentele rechten van mensen respecteren. Afhankelijk van de categorie waarin een Al-systeem valt, gelden zwaardere, minder zware of geen regels; Sommige Al-systemen waarmee onze inwoners of interne dienstverlening mee te maken hebben of toekomstig zouden kunnen hebben mogelijk onder hoog-risico zouden kunnen vallen volgens de Alverordening en dit wordt beschouwd als risicovol voor fundamentele rechten, veiligheid en gezondheid; Het bepalen of iemand in aanmerking komt voor essentiële publieke diensten en subsidies zoals toeslagen valt hier bijvoorbeeld onder (zie bijlage 3, Al-verordening); De Enschedese raad het belangrijk vindt haar kaderstellende en controlerende taak goed uit te kunnen voeren, en het daarin van belang is grip en inzicht te hebben op het gebruik van algoritmen.

þ

ENSCHEIIE

ui GEr'|EE[ITERAAII

Draagt het college op:

¡ ¡

ln het integraal beleid voor digitalisering, welke eind dit kalenderjaar aan de raad wordt voorgelegd, een hoofdstuk op te nemen over het gebru¡k van algoritmes en Al;

ln dit hoofdstuk tenminste te beschrijven welke verschillende risico kwalificaties de gemeente hanteert bij aanschaf en gebruik van (middelen die gebruik maken van) algoritmen en Al, en hoe de gemeente de risico

r ¡

kwalificatie van algoritmen añreegt aan de hand van de Al-Verordeninq; ln dit hoofdstuk een añruegingskader en goedkeuringsstroom voor ingebruikname van algoritmen op te nemen, met daarin expliciet omschreven de rol voor de ethische commissie in dit geheel; Vanaf nu jaarlijks de raad te informeren, door middel van een jaarrapportage, over de stand van zaken rondom het gebruik van algoritmen en Al, binnen welke risicokwalificaties ontwikkelingen zijn geweest in dat jaar, met uitgebreide aandacht voor de zwaarste risicokwalificaties, met als doel raadsleden jaarlijks in positie te brengen om kaders mee te geven aan het college.

Aldus vastgesteld door de gemeenteraad van Enschede in zijn vergadering van

En gaat over tot de orde van de dag Naam en handtekening indiener:

M.l.A. Baas, D66

Stemverklaringen

sl

De

griffier, 3 I URR ¿O¿l

toepassing):

L L

$ eNScHEITE