Gouda bestuurlijke reactie

Bezoekadres Huis van de Stad, Burgemeester Jamesplein 1

Aan: Groene Hart Rekenkamer

Postadres Postbus 1086, 2800 BB Gouda

afdeling

telefoon

gouda

Zorg en ondersteuning

14 01 82

23 januari 2024

contactpersoon

uw kenmerk

ons kenmerk

A.J. Vermeer

-

onderwerp

verzonden

bestuurlijke reactie op uitkomsten onderzoek gebruik algoritmes

Geachte leden van de Groene Hart Rekenkamer, Op 4 januari 2024 heeft u het rekenkameronderzoek naar algoritmegebruik door de gemeente Gouda aangeboden aan de gemeente Gouda. Het college heeft met belangstelling kennis genomen van de uitkomsten van dit onderzoek en de aanbevelingen die u daarin aangeeft. Middels deze brief geven wij u een reactie op het rapport. Het gebruik van algoritmes binnen de gemeente Gouda is beperkt. Vanwege het verkennende karakter van het onderzoek van de Groene Hart Rekenkamer is een brede definitie van wat een algoritme is gehanteerd. Deze werkwijze zorgt dat er meer zaken binnen de scope van het onderzoek vallen, wat positief is gezien het verkennende karakter van het onderzoek. Maar tegelijkertijd hebben wij signalen ontvangen dat hierdoor juist onduidelijkheid bij respondenten en geïnterviewden was die het juist beantwoorden van vragen bemoeilijkte. Het college onderschrijft dan ook de conclusie van de Rekenkamer dat een centraal beeld en kader belangrijk zijn voor een toekomstig verantwoord data gebruik. Daarbij is het belangrijk om op te merken dat de aard van een algoritme en de wijze waarop een uitkomst van een algoritme gebruikt wordt richting kan geven aan de wijze waarop besluitvorming hierover en toezicht hierop zal worden ingevuld.

Concreter geformuleerd is besluitvorming en toezicht op algoritmes des te belangrijker wanneer deze een effect hebben op het leven van inwoners, passanten of medewerkers van de gemeente Gouda. Tot slot wil het college benadrukken dat het in alle gevallen van algoritmegebruik belang hecht aan de mogelijkheid van menselijke tussenkomst. Ook op grond van de AVG heeft een ieder recht op een menselijke blik bij het nemen van een besluit. Dit is in ieder geval mogelijk bij de software die in het onderzoek als algoritme geïdentificeerd is. De Rekenkamer geeft de gemeente Gouda de volgende aanbevelingen op basis van het onderzoek: 1. Integreer breder bewustzijn rondom algoritmes in de digitaliseringsvisie van de gemeente. 2. Betrek de politiek in de besluitvorming rondom algoritmes. 3. Zorg bij gebruik van algoritmes dat de informatie over het functioneren van een algoritme bij de juiste personen binnen de organisatie terechtkomt. 4. Stel als gemeenteraad op voorstel van het college jaarlijks de kaders vast waarbinnen de gemeente kan werken met algoritmes en data en toets hierop. 5. Vraag het college actiever zicht te geven op algoritmes binnen de organisatie en deze informatie aan uw raad te verstrekken Daarnaast zijn in een bijlage algemene adviezen van het onderzoeksbureau opgenomen waarvan de Rekenkamer aangeeft dat deze voor elke gemeente interessant kunnen zijn.

Naar aanleiding van de ontwikkeling op gebied van algoritmes en in bredere zin op het gebied van AI heeft de directie van de gemeente Gouda op 18 september 2023 besloten tot het opzetten van een expertgroep AI (Artificial Intelligence). In eerste instantie zal deze expertgroep zich bezighouden met definiëren van wat AI is, met hierbij ook aandacht voor algoritmes, en het vaststellen van richtlijnen voor het gebruik van AI binnen de gemeentelijke organisatie. In algemene zin is het doel van deze expertgroep om grip te krijgen op de materie en om van daaruit richting te geven aan het gebruik. Naast de aanbevelingen van dit onderzoek zal bij de uitwerking ook andere input gebruikt worden zoals de handreiking AI en algoritmes van de IBD die 9 januari is gepubliceerd. Meerdere aanbevelingen van de Rekenkamer gaan over de rol van de politiek; het betrekken van de politiek bij besluitvorming en het houden van toezicht op de inzet van algoritmes. Om hierover het gesprek aan te kunnen gaan is het zoals reeds gesteld belangrijk om een centraal beeld en begrippenkader te hebben. Voor de uitwerking van hoe wij het toezicht op algoritmes willen organiseren geeft de Autoriteit Persoonsgegevens ook input in het document ‘toezicht op AI en algoritmes’. Denk bijvoorbeeld aan een algoritmeregister en een ethiekcommissie ter ondersteuning van het houden van toezicht op algoritmegebruik.

Een te overwegen idee is het opnemen van algoritmes in het dit jaar nieuw op te stellen privacybeleid en algoritmes eveneens onderdeel te laten zijn van het jaarlijkse rapport van de Functionaris Gegevensbescherming (FG). De Raad kan over het gebruik van algoritmes worden geïnformeerd via het jaarverslag van de FG. Het hebben van een centraal beeld en begrippenkader houdt ook in dat de organisatie hierin meegenomen moet worden. Expliciet onderdeel van de opdracht aan de expertgroep AI is ook het werken aan bewustwording en scholing rondom AI voor de medewerkers van de gemeente. Concluderend stelt het college dat zij het belang onderkent van het onderwerp algoritmes. De aanbevelingen en algemene adviezen worden ter harte genomen en meegegeven aan de expertgroep AI. Deze zullen gebruikt worden voor de opdracht die deze expertgroep heeft meegekregen welke ligt op het vlak van definiëring, bewustwording en het organiseren van een verantwoord gebruik van AI en algoritmes. Met vriendelijke groet, Burgemeester en wethouders van Gouda, de secretaris, de burgemeester,

drs. R.C. Bakker

mr. drs. P. Verhoeve

pagina 2