Brief aan de raad

POSTADRES

Postbus 20 7500 AA ENSCHEDE

BEZOEKADRES

TELEFOONNUMMER

Aan de Gemeenteraad

14053

DATUM

ONS KENMERK

BEHANDELD DOOR

4 maart 2025

2500005211

HJ Kunnen

UW BRIEF VAN

UW KENMERK

DOORKIESNUMMER

06 - 27 90 52 45 ONDERWERP

Eindrapport Rekenkamer Enschede "Siri, ChatGPT, en hun collega's" Rekenkamer Enschede

Geachte leden van de Raad, Inleiding De Rekenkamer Enschede heeft onderzoek gedaan naar algoritmen en AI (artificiële Intelligentie). Zij hebben u het eindrapport “Siri, ChatGPT en hun collega’s” aangeboden, met conclusies en aanbevelingen naar aanleiding van het rekenkameronderzoek. De conclusies en aanbevelingen zijn gebaseerd op het onderzoek dat in opdracht van de Rekenkamer is uitgevoerd door het onderzoeksbureau PBLQ. Met gepaste trots heeft het college het rekenkamerrapport ‘Siri, ChatGPT en hun collega’s – een onderzoek naar algoritmen en AI in de gemeente Enschede’ gelezen. U verzoekt om een bestuurlijke reactie, deze geven wij in deze brief. De inzet van algoritmen en AI binnen de gemeente Enschede is een onderwerp van belang. Zoals het rapport van de rekenkamer laat zien, worden algoritmen ingezet voor diverse gemeentelijke processen, zoals vroeg-signalering van schulden, handhaving en de digitalisering van dienstverlening. Algoritmen en AI komen met een belofte van verbeterde efficiëntie, kostenbesparingen en een verbeterde besluitvorming. Gelijktijdig kan de onjuiste inzet van algoritmen en AI risico’s opleveren op het gebied van publieke waarden zoals transparantie, privacy en eerlijke besluitvorming. Beleid Wij herkennen ons in de algemene conclusie van dit onderzoek. Algoritmen zijn een nieuw onderwerp waar beleidsontwikkeling op plaats vindt.

Op ambtelijk niveau is er beleid opgesteld. De raad kan later dit jaar een integraal beleid voor digitalisering verwachten, naar aanleiding van de motie Grip op digitale zaken. Uitgangspunten over AI en algoritmen maken deel uit van dit beleid. Daarnaast worden bestaande beleidsdocumenten zoals de nota waarden gedreven digitalisering, het gemeentelijke databeleid, en de richtlijnen voor het gebruik van chatGPT in de overwegingen van het rapport meegenomen.

DATUM

ONS KENMERK

PAGINA

4 maart 2025

2500005211

2/3

Aanbevelingen Deze conclusies en aanbevelingen passen bij de concretisering en implementatie van het beleid omtrent digitalisering dat reeds is opgestart. Hierbij is de Raad betrokken in het proces bij het tot stand komen van de nota integraal beleid digitaal Enschede. Het college heeft kennisgenomen van de aanbevelingen van de rekenkamer en geeft hierop de volgende reflectie: Aanbeveling 1: Formuleer expliciet beleid voor algoritmen en AI en implementeer dit. De gemeente is al begonnen met de ontwikkeling van integraal digitaliseringsbeleid samen met de Raad in de nota integraal beleid digitaal Enschede. Hierin worden de uitgangspunten voor AI en algoritmen expliciet opgenomen. Hierbij zijn ook de wetenschappelijke board, de ethische commissie en een afvaardiging van de Enschedese ondernemers in de technologische sector gevraagd om te reflecteren op digitalisering binnen onze gemeente. Het college onderschrijft het belang van dit beleid en de ontwikkeling op het gebied van digitalisering binnen de gemeente Enschede. Daarnaast is een ambtelijk zogeheten adaptief beleid specifiek voor het gebruik van Algoritmen en AI vastgesteld door de CIO Raad, bestaande uit de CIO, directieleden en manager IT-bedrijf. De ontwikkelingen rondom nieuwe technologieën zoals AI en algoritmen gaan erg snel.

De combinatie met nieuwe wet en regelgeving, zoals de onlangs aangenomen AI act, maakt dat dit beleid onderhevig is aan veranderingen. Op dit moment wordt landelijk door de overheid, maar ook door de VNG, onderzocht wat de implicaties en toepasbaarheid van deze nieuwe wetgeving zijn. Wij vervullen hierin als gemeente een proactieve rol op verschillende niveaus en zijn bij verschillende werkgroepen omtrent dit onderwerp betrokken. Aanbeveling 2: Ga verder met de inventarisatie van algoritmen en houd deze actueel. Het rekenkamer rapport toont aan dat de huidige inventarisatie van 70 algoritmen waardevolle inzichten oplevert, maar nog niet volledig is. Er is een vroeg stadium al een inventarisatie gestart door de gemeente Enschede binnen de CIO Office. De resultaten van het rekenkameronderzoek zien wij als een aanvulling op deze inventarisatie. Wij zien dat het bewustzijn en begrip voor het gebruik van algoritmen en AI binnen de organisatie groeiende zijn. Dit getuigt ook door de sessies die centraal maar ook decentraal georganiseerd worden als het gaat om bewustzijn en het kennis nemen van dit onderwerp. Aanbeveling 3: Kijk nog een keer kritisch naar de risico inschatting van algoritmen. De gemeente schat risico’s lager in dan de wettelijke richtlijnen, dit past binnen een risico mijdende neiging van overheden op het gebied van algoritmen.

DATUM

ONS KENMERK

PAGINA

4 maart 2025

2500005211

3/3

Wij zijn ons bewust van de inschatting van risico’s. Dit is een continu proces dat past bij de inrichting van beheer dat betrekking heeft op de levenscyclus van een AI systeem of algoritme binnen onze gemeente. Hierbij volgen wij landelijke en wettelijke kaders. Hoogachtend, Burgemeester en Wethouders van Enschede, de loco-Secretaris, de Burgemeester,

(E.A. Smit)

(R.W. Bleker)