11. Rekenkamer Zwolle- Inspiratiebrief Algoritmen Amsterdam

Als Rekenkamer brengen wij een aantal keer per jaar onderzoek van andere Rekenkamers onder uw aandacht dat mogelijk interessant is voor de gemeente Zwolle en haar raadsleden. Dit doen wij in de vorm van een inspiratiebrief. Hierin vatten we de belangrijke conclusies samen en gaan we in op de relevantie voor Zwolle.

Inspiratiebrief Algoritmen | Oktober 2024 Samenvatting Overheden maken gebruik van algoritmen. De gemeente Amsterdam beschikt over een beheerskader voor de omgang met algoritmen. De Amsterdamse Rekenkamer deed onderzoek naar de wijze waarop Amsterdam algoritmen toepast en onderzocht daarbij of het beheerskader toereikend is. Kijkend naar Zwolle zien we dat de gemeenteraad in 2020 al een motie aannam om tot een algoritmeregister te komen. In reactie op de motie gaf het college in maart 2022 aan dat het register zou worden gepubliceerd in het tweede kwartaal van 2022. Tot op heden is hier echter geen uitvoering aan gegeven.

Rekenkameronderzoek Algoritmen Amsterdam Rapport Hoe Amsterdam algoritmen beter kan toepassen. Centrale vraag In hoeverre is het Amsterdamse beheerskader voor algoritmen toereikend voor een verantwoorde toepassing van algoritmen en welke lessen kunnen getrokken worden over het toepassen van algoritmen in de Amsterdamse praktijk? Achtergrond Een algoritme is een set van regels die een computer uitvoert. Algoritmen helpen om problemen op te lossen, vragen te beantwoorden of om beslissingen te nemen. De overheid gebruikt steeds meer algoritmen. Het gebruik gaat niet altijd goed, neem bijvoorbeeld het zoeken naar mogelijke fraudeurs bij de aanvraag van kinderopvangtoeslag. Daarom heeft de overheid verschillende acties op het gebied van algoritmen opgestart. Amsterdam wil grip krijgen op algoritmen en algoritmen eerlijker en transparanter maken voor burgers. Om dit te realiseren zijn ambtenaren begin 2022 begonnen met het maken van een beheerskader – een soort handleiding – voor algoritmen. Daarmee liep Amsterdam voor op andere gemeenten. De Rekenkamer Amsterdam onderzocht of het beheerskader in orde is. Ook is nagegaan wat geleerd kan worden uit de praktijk van drie Amsterdamse algoritmen. 1

Conclusies Hoofdconclusie Het beheerskader van de gemeente Amsterdam – dat nog in ontwikkeling is – draagt in theorie al in redelijke mate bij aan het verantwoord toepassen van algoritmen, maar het wordt nog weinig toegepast. Om de waarde van het beheerskader te vergroten, de collegedoelen te bereiken en algoritmen verantwoord toe te passen zijn verbeteringen mogelijk en noodzakelijk. Deelconclusies 1. Het beheerskader voor algoritmen is in ontwikkeling. 2. De omgang met bewuste of onbewuste vooringenomenheden of fouten (bias) is nog niet ver genoeg ontwikkeld. 3. De privacy van burgers bij algoritmen is nog onvoldoende beschermd. 4. De gewenste openbaarheid en transparantie worden in beperkte mate bereikt. Aanbevelingen Het college wordt aanbevolen om: - Het beheerskader te blijven ontwikkelen met inachtneming van nieuwe kennis, waarbij een definitie van ‘algoritme’ wordt vastgesteld en het beheerskader praktischer toepasbaar wordt gemaakt. Om het beheerskader doorlopend te ontwikkelen wordt ook geadviseerd een instrument te ontwikkelen om de haalbaarheid van algoritmen te toetsen en het beheerskader periodiek te evalueren. - Toepassing van het beheerskader in de praktijk te bevorderen.

Dit kan worden behaald door belemmeringen voor verantwoorde toepassing van algoritmen weg te nemen, het zicht op algoritmen te verbeteren, gebruik te maken van aanwezige expertise en algoritmen periodiek te evalueren. - De omgang met bias te verbeteren door aanvullende maatregelen te nemen om bias tegen te gaan, het gesprek aan te gaan met de gemeenteraad over de ambitie en de mate van zekerheid die gewenst is om bias uit te sluiten, handvatten voor de omgang met bias op te nemen in het beheerskader en als college zelf besluiten nemen over de rechtvaardigheid van algoritmen (waar het een politieke beslissing betreft). - De privacybescherming van burgers bij algoritmen op orde te brengen door belemmeringen bij uitvoering van privacywetging in kaart te brengen en weg te nemen en burgers persoonlijk te informeren over het gebruik van hun gegevens. - Opener en transparanter te zijn over het gebruik van algoritmen door de raad op vaste momenten te informeren over het algoritmenbeleid en algoritmen, het algoritmeregister aan te vullen, de kwaliteit van het algoritmeregister te verbeteren en transparant te zijn over de rol van algoritmen in besluitvorming.

Relevantie voor Zwolle De Zwolse gemeenteraad heeft in 2020 met een motie het college opgeroepen een publiek algoritmeregister naar het model van Helsinki of Amsterdam in te richten op de website van de gemeente. Oproep was ook om in dat register de broncodes te openbaren van de algoritmes die in gebruik zijn. Aanleiding voor deze motie was dat de gemeente Zwolle gebruik maakt van algoritmes, terwijl burgers die te maken hebben met de uitkomsten geen inzicht hebben in de algoritmes. In maart 2022 heeft het college met een informatienota gereageerd op de motie. Hierin wordt aangegeven dat de basis van het algoritmeregister gereed is en dat de structuur ervan is neergezet. De eerste publieke versie van het algoritmeregister zou gepubliceerd worden in het tweede kwartaal van 2022. Daarbij wordt het algoritmeregister gekoppeld aan de website zwolle.nl.

2

Als Rekenkamer hebben wij gekeken naar de actuele stand van zaken. Reflecterend op de conclusies en aanbevelingen uit het onderzoek van de Rekenkamer Amsterdam stellen wij het volgende vast: - De gemeente Zwolle beschikt niet over een beheerskader voor de omgang met en toepassing van algoritmen. - De gemeenteraad is sinds maart 2022 niet geïnformeerd over algoritmen in het algemeen en het algoritmeregister in het bijzonder. - De gemeente Zwolle is niet aangesloten op het nationale algoritmesregister. - Op de website van de gemeente Zwolle staat een Privacyverklaring, maar is geen register van verwerkingen of informatie over algoritmen te vinden. Wel is er bestuurlijk aandacht geweest voor ethische vraagstukken bij het gebruik van algoritmen en (slimme) digitale technologieën in Zwolle. Zo stelde het college in 2022 de Ethische commissie Digitalisering in om het college te adviseren bij vraagstukken rondom digitale (slimme) technologieën. Deze commissie heeft bijvoorbeeld uitgangspunten opgesteld voor het gebruik van dashboards als instrument voor datagedreven besluitvorming. De gemeenteraad is hierover geïnformeerd. Algoritmen en ethische dilemma’s rondom digitalisering staan op de radar van het gemeentebestuur. Echter is de gemeenteraad deze periode (nog) niet meegenomen in het beleid en daadwerkelijke gebruik van algoritmen door de gemeente.

Het rapport van de Rekenkamer Amsterdam kan de gemeente Zwolle helpen bij het verantwoord toepassen van algoritmen.

3