Commissie FKD Voordracht

VN2023-023580 Rekenkamer

Raadscommissie voor Financiën, Kunst en cultuur, Diversiteit en antidiscriminatiebeleid, Lucht- en zeehaven (incl. Schiphol), Bedrijfsvoering, Inkoop, Personeel en organisatie, Dienstverlening, Deelnemingen (excl. AEB en Schiphol), Deelnemingen (incl. AEB), Lokale media, ICT en digitale stad, Evenementen

Portefeuille

Voordracht voor de Commissie FKD van 23 november 2023 Ter advisering ICT en Digitale aan Stadde raad

Agendapunt

3

FKD

Datum besluit

Onderwerp

Kennisnemen van het onderzoeksrapport en het bestuurlijk rapport van het onderzoek ”Algoritmen, hoe Amsterdam algoritmen beter kan toepassen” van de rekenkamer en de aanbevelingen overnemen. De commissie wordt gevraagd

De commissie wordt gevraagd De raad te adviseren, I. Kennis te nemen van het rapport van de rekenkamer, getiteld Algoritmen, hoe Amsterdam algoritmen beter kan toepassen II. De vijf aanbevelingen uit het rapport over te nemen. III. Het college van burgemeester en wethouders te vragen om deze aanbevelingen uit te voeren. IV. Het college van burgemeester en wethouders te vragen om: a. een plan van aanpak te maken voor de opvolging van de aanbevelingen en dit plan van aanpak binnen een half jaar aan te bieden aan de gemeenteraad; b. te rapporteren over de resultaten als de aanbevelingen zijn uitgevoerd; c. jaarlijks tussentijds te rapporteren over de stand van zaken van de uitvoering van de aanbevelingen als dit langer dan een jaar duurt.

Wettelijke grondslag

Gemeentewet artikel 185 lid 4. Bestuurlijke achtergrond

Bestuurlijke achtergrond Algoritmen zijn regels die een computer volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. Amsterdam gebruikt veel algoritmen. Bijvoorbeeld om nummerborden te scannen voor parkeercontroles of om de WOZ-waarde van woningen te berekenen. Het college van B en W wil grip krijgen op algoritmen en algoritmen eerlijker en transparanter maken voor burgers. Om dit te realiseren zijn ambtenaren begin 2022 begonnen met het maken van een beheerskader voor algoritmen. De Rekenkamer Metropool Amsterdam (hierna: de rekenkamer) heeft onderzocht in hoeverre het Amsterdamse beheerskader voor algoritmen toereikend is voor een verantwoorde toepassing van algoritmen en welke lessen getrokken kunnen worden over het toepassen van algoritmen in de Amsterdamse praktijk. De rekenkamer concludeert dat het college met het Amsterdamse beheerskader voor algoritmen stappen heeft gezet om meer grip te krijgen op algoritmen en om eerlijker en transparanter te zijn over algoritmen. Het beheerskader - dat nog in ontwikkeling is - draagt in theorie al in redelijke mate bij aan het verantwoord toepassen van algoritmen. Het beheerskader wordt echter nog weinig toegepast. Verbeteringen zijn mogelijk en noodzakelijk om de waarde van het beheerskader te vergroten, de collegedoelen te bereiken en algoritmen verantwoord toe te passen.

Op verschillende vlakken behoeft het beheerskader verdere uitwerking. Dit geldt voor de samenhang en kwaliteit van de individuele onderdelen van het beheerskader, de risicogerichte

Gegenereerd: v1.14

1

VN2023-023580 Rekenkamer

Raadscommissie voor Financiën, Kunst en cultuur, Diversiteit en antidiscriminatiebeleid, Lucht- en zeehaven (incl. Schiphol), Bedrijfsvoering, Inkoop, Personeel en organisatie, Dienstverlening, Deelnemingen (excl. AEB en Schiphol), Deelnemingen (incl. AEB), Lokale media, ICT en digitale stad, Evenementen

FKD

Voordracht voor de Commissie FKD van 23 november 2023 Ter advisering aan de aanpak en de vraag hoeraad in een vroegtijdig stadium kan worden bepaald of het ontwikkelen van een algoritme haalbaar is. Daarnaast heeft het beheerskader voor een aantal thema's relatief weinig aandacht. Op drie thema’s is ook de uitvoering nog van onvoldoende niveau: 1. de omgang met het complexe vraagstuk van bias, 2. het beschermen van privacy van burgers, en 3. de openbaarheid en transparantie met betrekking tot algoritmen. Naast het beheerskader heeft de rekenkamer ook drie algoritmen onderzocht om een beeld te krijgen van de toepassing van algoritmen in de praktijk. Dat heeft verschillende lessen opgeleverd: Zolang er geen eenduidige definitie van de term 'algoritme' wordt gehanteerd, zal er discussie blijven bestaan over de vraag of en wanneer het beheerskader van toepassing is. Ook blijkt het belangrijk om in een vroegtijdig stadium na te gaan of de ontwikkeling van algoritmen haalbaar is in termen van doeltreffendheid, doelmatigheid, rechtmatigheid en vanuit ethisch oogpunt. Zo kan worden voorkomen dat de ontwikkeling van het algoritme strandt. Verder is onvoldoende duidelijk wanneer de betrokkenheid van het college verplicht en gewenst is. Het is van belang dat het college daadwerkelijk wordt betrokken bij besluitvorming. Dit is zeker relevant als het gaat om bias.

Beslissingen over de wenselijkheid, rechtvaardigheid en de potentiële ernst van mogelijke systematische afwijkingen in of door de algoritmen zijn in de onderzochte casussen alleen op ambtelijk niveau genomen. Andere lessen zijn dat de privacy van burgers tot op heden te weinig wordt beschermd, dat beslissingen te weinig worden gedocumenteerd en dat de transparantie over algoritmen tekortschiet. De openbare algoritme- en verwerkingsregisters zijn niet volledig en burgers worden weinig geïnformeerd over het gebruik van hun gegevens. Ook worden burgers vooralsnog nauwelijks betrokken bij de ontwikkeling van algoritmen. Naar aanleiding van dit onderzoek doet de rekenkamer vijf aanbevelingen die bijdragen aan de realisatie van de collegedoelstellingen: beter grip krijgen op de algoritmen die de gemeente gebruikt (aanbevelingen 1 en 2), eerlijker maken van algoritmen (aanbevelingen 3 en 4) en transparanter maken van algoritmen voor haar inwoners (aanbeveling 5): 1. Blijf het beheerskader ontwikkelen met inachtneming van nieuwe kennis. 2. Bevorder toepassing van het beheerskader in de praktijk. 3. Verbeter de omgang met bias. 4. Breng de privacybescherming van burgers bij algoritmen op orde. 5. Wees opener en transparanter over het gebruik van algoritmen.

Reden bespreking

n.v.t. Uitkomsten extern advies

n.v.t. Geheimhouding

n.v.t. Uitgenodigde andere raadscommissies

Gegenereerd: v1.14

2

VN2023-023580 Rekenkamer

Raadscommissie voor Financiën, Kunst en cultuur, Diversiteit en antidiscriminatiebeleid, Lucht- en zeehaven (incl. Schiphol), Bedrijfsvoering, Inkoop, Personeel en organisatie, Dienstverlening, Deelnemingen (excl. AEB en Schiphol), Deelnemingen (incl. AEB), Lokale media, ICT en digitale stad, Evenementen

FKD

Voordracht voor de Commissie FKD van 23 november 2023 Ter n.v.t.advisering aan de raad

Wordt hiermee een toezegging of motie afgedaan?

n.v.t. Welke stukken treft u aan? Meegestuurd

Registratienr.

Naam

AD2023-081300

00 Gemeenteraad Voordracht (5).pdf (pdf)

AD2023-081298

02 Bestuurlijk rapport Algoritmen DEF.pdf (pdf)

AD2023-081299

03 Onderzoeksrapport Algoritmen DEF.pdf (pdf)

AD2023-081291

Commissie FKD Voordracht (pdf)

Registratienr.

Naam

Ter Inzage

Behandelend ambtenaar of indienend raadslid (naam, telefoonnummer en e-mailadres)

A. Kok, telefoonnummer 06-82 41 80 98 of e-mail a.kok@rekenkamer-amsterdam.nl

Gegenereerd: v1.14

3