5. Collegebrief inzake Onderzoek openbaar algoritmeregister en afdoening motie M23-92

GEMEENTE HILVERSUM POSTBUS 9900 1201 GM HILVERSUM BEZOEKADRES: RAADHUIS

Aan de gemeenteraad cc commissieleden cc pers

DUDOKPARK 1 TELEFOONNUMMER: 14 035 WWW.HILVERSUM.NL

29 februari 2024 ZAAKNUMM ER 1389618 BEHA NDELD DOOR Jaap Huib van der Knaap TELEFOON (035) 629 2013 BETREFT Collegebrief afdoening M23-92 Onderzoek algoritmeregister DATUM

Geachte raadsleden, In de raadsvergadering van 21 juni 2023 heeft uw raad een motie aangenomen waarin u vraagt te onderzoeken wat er nodig is om een openbaar algoritmeregister voor Hilversum in te richten. Tevens is verzocht de raad te informeren over de uitkomsten van het onderzoek voor de begrotingsbehandeling 2024. Helaas is dit laatste niet gelukt. Wij hebben de mogelijkheden onderzocht en informeren u in deze brief over de voortgang en de planning met betrekking tot het algoritmeregister. Aanleiding Algoritmen zijn tegenwoordig onderdeel van de digitale leefwereld van burgers. Voor de gemeente geldt dit voor het beleid maken en uitvoeren. Algoritmen zijn de vertalers van data naar antwoorden op vragen. Het is niet altijd duidelijk hoe algoritmen tot hun uitkomsten komen, en de mogelijke schadelijke gevolgen van algoritmen zijn algemeen bekend. Het is daarom van belang om vooraf openheid te geven over hoe algoritmen gebruikt worden, welke data we gebruiken en hoe we de uitkomsten gebruiken. Hierom werd gevraagd in de motie ‘algoritmeregister Hilversum’ (M23-92). Verkenning landelijke ontwikkelingen De Nederlandse overheid werkt momenteel aan een wettelijk kader voor het verplicht stellen van het documenteren van (hoog risico) algoritmen. Deze wetgeving wordt getoetst aan de eisen van de Europese AI-verordening.

Hierover is op 9 december 2023 een voorlopig politiek akkoord bereikt. Sinds 22 December 2022 biedt de Nederlandse overheid een centraal register aan middels algoritmes.overheid.nl. Hier publiceert de overheid (rijk, uitvoeringsorganisaties, provincies en lokale overheden) de algoritmes die zij gebruiken. Het algoritmeregister biedt een bijdrage aan het transparant maken van gebruikte technische toepassingen. Op deze manier kunnen inwoners, organisaties en media overheden controleren en bevragen. Als gemeente Hilversum zijn wij voornemens deze lijn te volgen. In Hilversum willen we bewust gebruik maken van digitale technologieën. Het transparant zijn over het gebruik en de werking van algoritmes, maar ook de kwaliteit en veiligheid van data en de borging van publieke waarden maken daar onderdeel van uit.

Borging Algoritmeregister Het is belangrijk om bewust te zijn van de risico’s van algoritmen op de leefwereld van de burgers en haar publieke waarden bij de inzet van digitale toepassingen. We dienen daarbij een continue afweging te maken tussen publieke en individuele belangen en toe te zien hoe we de risico’s kunnen beperken. Zo kunnen we verantwoord groeien naar een datavolwassen organisatie. Om te komen tot een algoritmeregister zijn de uitgangspunten: A) Volgen van de landelijke definitie algoritme B) Publicatie in het landelijke register C) Borging in de organisatie A) Definitie algoritme In een eerder beantwoorde Artikel 41 vraag (ingediend op 17 februari 2023) is al een aanzet gemaakt tot een definitie van een algoritme. We zijn voornemens om in Hilversum de landelijk gedragen definitie te hanteren: ‘’Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.’’ (Algemene Rekenkamer). Deze definitie is landelijk in ontwikkeling en wordt cyclisch verder ontwikkeld. We volgen deze ontwikkeling. In de landelijke handreiking is het uitgangspunt ‘’publiceren, tenzij’’ en zijn impactvolle algoritmen vertaald naar niveaus.

Deze niveaus (A tot en met D) onderscheiden algoritmen in overwegingen om wel of niet te publiceren in het Algoritmeregister en bieden inzicht in uitzonderingsgronden. We zijn voornemens deze niveaus toe te passen als afweging voor de publicatie. Als een eerste stap zijn er algoritmen geselecteerd die gepubliceerd kunnen worden in het landelijke algoritmeregister. Deze zijn inzichtelijk gemaakt in de beantwoording van Artikel 41 vragen (ingediend op 29 maart 2023). Het betreft: • Modelmatig bepalen van WOZ waarden; • Het anonimiseren van documenten; • Toekenning Mantelzorgwaardering; • Toekennen parkeervergunningen. Hiermee is duidelijk gemaakt waar zich op dit moment algoritmen bevinden en biedt Hilversum de mogelijkheid deze openbaar te maken. Bij de beantwoording in maart 2023 maakten we een onderscheid tussen op regels gebaseerde en zelflerende algoritmen. In de ontwikkeling van de wet- en regelgeving wordt dat technische onderscheid niet meer gemaakt. Er wordt uitgegaan van het mogelijke risico voor inwoners (individueel of in groepen). Het classificeren van het risico is voor zelflerende algoritmen wel complexer. B) Publicatie Het landelijke register wordt beschikbaar gesteld door het Ministerie van Binnenlandse Zaken, daarop kan kosteloos gepubliceerd worden.

In het kader van open en transparant handelen zal de link naar het register worden gepubliceerd op Open Hilversum zodat daarmee verbinding gemaakt wordt met onze eigen website. Gebruik van het landelijke register biedt eenduidigheid over alle overheden, voor m.n. burgers en media, en bevordert onderlinge kennisdeling. Hilversum stelt zich daarmee op als slimme volger die gebruikt maakt van bestaande landelijke voorzieningen. C) Borging in de organisatie Het vullen en bijhouden van het algoritmeregister vertoont overeenkomsten met werkzaamheden die in het kader van de AVG worden uitgevoerd. Ook raken ethische waarden aan de waarden voor persoonsgegevensbescherming. Het meest logisch is dan ook deze werkzaamheden te beleggen bij het cluster Privacy en Informatiebeveiliging van team informatiemanagement. De impact wordt nog onderzocht. Het Stadspanel Data is onze ethische commissie en adviseert ons ook over de bescherming van persoonsgegevens. We gaan de hierboven genoemde 4 algoritmen beschrijven conform de benodigde

registratie in het landelijke algoritmeregister. Die beschrijvingen worden voorgelegd aan het Stadspanel Data en daarna opgenomen in het register en daardoor gepubliceerd. We verwachten dat dit eind 2024 gerealiseerd is. Hoe we vervolgens verder gaan met het registreren van algoritmen wordt bepaald door het wettelijk kader dat het Rijk op dit moment uitwerkt. Met deze brief beschouwen wij motie M23-92 – Openbaar algoritmeregister Hilversum als afgehandeld.

Hoogachtend, Burgemeester en wethouders van Hilversum, de gemeentesecretaris,

de burgemeester,

mr. C.P. Torres Barrera

dr. ir. G.M. van den Top