00 Gemeenteraad Voordracht (5)
Tekst van het document
Gemeenteraad
VN2023-023577 Rekenkamer
RAAD
Voordracht voor de raadsvergadering van
Portefeuille
ICT en Digitale Stad
Agendapunt
0
Datum besluit
n.v.t. Onderwerp
Kennisnemen van het rapport van de rekenkamer Algoritmen, hoe Amsterdam algoritmen beter kan toepassen en de aanbevelingen overnemen. ________________________________________ De gemeenteraad van Amsterdam besluit
De gemeenteraad van Amsterdam besluit gezien de voordracht van het presidium, I. Kennis te nemen van het rapport van de rekenkamer, getiteld Algoritmen, hoe Amsterdam algoritmen beter kan toepassen II. De vijf aanbevelingen uit het rapport over te nemen. III. Het college van burgemeester en wethouders te vragen om deze aanbevelingen uit te voeren. IV. Het college van burgemeester en wethouders te vragen om: a. een plan van aanpak te maken voor de opvolging van de aanbevelingen en dit plan van aanpak binnen een half jaar aan te bieden aan de gemeenteraad; b. te rapporteren over de resultaten als de aanbevelingen zijn uitgevoerd; c. jaarlijks tussentijds te rapporteren over de stand van zaken van de uitvoering van de aanbevelingen als dit langer dan een jaar duurt ________________________________________ Wettelijke grondslag
Gemeentewet artikel 185 lid 4. Bestuurlijke achtergrond
Bestuurlijke achtergrond Het college van B en W wil grip krijgen op algoritmen en algoritmen eerlijker en transparanter maken voor burgers. Om dit te realiseren zijn ambtenaren begin 2022 begonnen met het maken van een beheerskader voor algoritmen. De Rekenkamer Metropool Amsterdam (hierna: de rekenkamer) heeft onderzocht in hoeverre het Amsterdamse beheerskader voor algoritmen toereikend is voor een verantwoorde toepassing van algoritmen en welke lessen getrokken kunnen worden over het toepassen van algoritmen in de Amsterdamse praktijk. Samenvatting van het onderzoek Algoritmen zijn regels die een computer volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. Amsterdam gebruikt veel algoritmen. Bijvoorbeeld om nummerborden te scannen voor parkeercontroles of om de WOZ-waarde van woningen te berekenen. Het college van B en W wil grip krijgen op algoritmen en algoritmen eerlijker en transparanter maken voor burgers. Om dit te realiseren zijn ambtenaren begin 2022 begonnen met het maken van een beheerskader voor algoritmen. De rekenkamer heeft onderzocht of het beheerskader in orde is. En is nagegaan welke lessen de gemeente kan leren uit de praktijk. De rekenkamer concludeert dat het beheerskader en de praktijk aandacht hebben voor veel risico’s die verantwoord toepassen van algoritmen in de weg kunnen zitten.
Tevens constateert de rekenkamer
Gegenereerd: v1.2
1
Gemeenteraad
VN2023-023577 Rekenkamer
RAAD
Voordracht voor de raadsvergadering van
dat verbeteringen mogelijk en nodig zijn om meer grip te krijgen op algoritmen en om algoritmen eerlijker en transparanter te maken. Wat kan er beter aan het Amsterdamse beheerskader voor algoritmen? Het beheerskader en de praktijk hebben nog weinig aandacht voor: 1) de eerlijkheid van algoritmen; 2) de privacybescherming van burgers; en 3) de openheid over het ontwikkelen en toepassen van algoritmen. Ook concludeert de rekenkamer dat de samenhang en de kwaliteit van de onderdelen van het beheerskader beter kan. Bijvoorbeeld door te kiezen voor één definitie van het woord ‘algoritme’, zodat alle ambtenaren weten wanneer ze de handleiding voor algoritmen moeten gebruiken en weten hoe ze met risico’s moeten omgaan. Verder kan de gemeente het beheerskader concreter maken voor ambtenaren. Er is bijvoorbeeld een hulpmiddel nodig waarmee ambtenaren kunnen nagaan of het ontwikkelen van een algoritme wel haalbaar is, voordat er veel tijd en geld in wordt gestopt. Algoritmen eerlijker maken Het college wil niet dat algoritmen zonder goede reden onderscheid maken tussen burgers. Het college wil dus bias voorkomen. Maar de maatregelen om bias tegen te gaan, zijn weinig gebruikt. Zo heeft het college nog maar bij één algoritme onderzocht of het algoritme eerlijk is.
Daarnaast worden moeilijke beslissingen over de eerlijkheid van algoritmen nog niet genomen door het college, terwijl dit politieke keuzes zijn. Privacy beschermen Het college wil de privacy van burgers goed beschermen als het algoritmen gebruikt. Maar slaagt daar nog onvoldoende in. Verplichte wettelijke controles om de privacy te beschermen zijn onvoldoende uitgevoerd. Burgers zijn nog weinig persoonlijk geïnformeerd over wat de gemeente met hun gegevens doet. En het college legt nog niet goed uit hoe algoritmen zijn gebruikt bij het nemen van besluiten over burgers. Openbaarheid en transparantie over algoritmen Het college wil open en transparant zijn over het gebruik van algoritmen. Het heeft daarom een website gemaakt waar alle gemeentelijke algoritmen in moeten staan: het algoritmeregister. Amsterdam was de eerste gemeente met zo’n register. Deze website is alleen nog niet volledig. Zo staan in september 2023 nog maar 29 algoritmen op de website, terwijl er mogelijk honderden algoritmen zijn. Dat komt doordat het college zelf niet goed weet welke algoritmen ze allemaal gebruikt. Hierdoor krijgen raadsleden en burgers te weinig informatie.
Aanbevelingen Naar aanleiding van dit onderzoek doet de rekenkamer vijf aanbevelingen die bijdragen aan de realisatie van de collegedoelstellingen: beter grip krijgen op de algoritmen die de gemeente gebruikt (aanbevelingen 1 en 2), eerlijker maken van algoritmen (aanbevelingen 3 en 4) en transparanter maken van algoritmen voor haar inwoners (aanbeveling 5): 1. Blijf het beheerskader ontwikkelen met inachtneming van nieuwe kennis. 2. Bevorder toepassing van het beheerskader in de praktijk. 3. Verbeter de omgang met bias. 4. Breng de privacybescherming van burgers bij algoritmen op orde. 5. Wees opener en transparanter over het gebruik van algoritmen. Bestuurlijke reacties en nawoord Het college onderschrijft de conclusies van het rekenkameronderzoek en neemt de vijf aanbevelingen over. In het nawoord brengt de rekenkamer drie aandachtspunten onder de aandacht voor de verder uitwerking van het door het college aangekondigde plan. Twee van deze aandachtspunten hebben betrekking op de aanbeveling verbeter de omgang met bias (aanbeveling
Gegenereerd: v1.2
2
Gemeenteraad
VN2023-023577 Rekenkamer
RAAD
Voordracht voor de raadsvergadering van
3) en het derde aandachtspunt heeft betrekking op de aanbeveling breng de privacybescherming van burgers bij algoritmen op orde (aanbeveling 4). Onderbouwing besluit
n.v.t. Financiële onderbouwing Overige toelichting
n.v.t. Conclusie
De genoemde beslispunten in de voordracht hebben geen financiële consequenties. Geheimhouding
n.v.t.
Welke stukken treft u aan Meegestuurd
Registratienr.
Naam
AD2023-081289
02 Bestuurlijk rapport Algoritmen DEF.pdf (pdf)
AD2023-081288
03 Onderzoeksrapport Algoritmen DEF.pdf (pdf)
AD2023-081282
Gemeenteraad Voordracht (pdf)
Registratienr.
Naam
Ter Inzage
Behandelend ambtenaar (naam, telefoonnummer en e-mailadres)
A. Kok, telefoonnummer 06-82 41 80 98 of e-mail a.kok@rekenkamer-amsterdam.nl
Gegenereerd: v1.2
3