Raadsinformatiebrief.pdf

Raadsinformatiebrief Afdoening toezegging

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 3 april 2024 ICT en Digitale Stad Alexander Scholtes Digitale Strategie en Informatie (bestuurszaken.dii@amsterdam.nl) Afdoening toezeggingen ten aanzien van het plan van aanpak voor verbeteringen op het gebied van algoritmen ( TA2023-001539, TA2023001540 en TA2024-001599 uit de commissievergadering van 14 december 2023

Geachte leden van de gemeenteraad, Hierbij bied ik u het toegezegde Plan van Aanpak Algoritmen aan. Aanleiding Op 20 oktober 2023 heeft de Rekenkamer Metropool Amsterdam het onderzoeksrapport Algoritmen gepubliceerd. Dit rapport beschrijft de resultaten van een onderzoek naar het beheerskader en de werking ervan bij 3 algoritmen. De Rekenkamer concludeert dat het beheerskader al veel risico’s (49 van de 61 relevante risico’s) adresseert. Maar volgens de Rekenkamer zijn er verbeteringen nodig om meer grip te krijgen op algoritmen en om algoritmen eerlijker en transparanter te maken. Daarom doet de Rekenkamer vijf aanbevelingen. Het college heeft de conclusies van de Rekenkamer onderschreven en de aanbevelingen overgenomen. Plan van aanpak In de bestuurlijke reactie op het rapport heeft het college toegezegd om de handvatten die het rapport biedt te verwerken in een plan van aanpak.Het plan van aanpak beschrijft welke verbeterstappen het college wanneer gaat zetten en welk resultaat dat gaat opleveren. De acties komen voort uit reeds lopende voorstellen van het college, de voorstellen van de Rekenkamer, de bespreking van het rapport in de raad en de aangenomen moties over dit onderwerp. De verbeterstappen zijn in lijn met het raadsbesluit Grip op Tech dat in scope en opzet breder is dan dit plan van aanpak.

De geplande acties zorgen voor: 1) Doorontwikkeling van het beheerskader. Daarvoor gaat het college onder andere de landelijke definitie van het begrip algoritme eenduidig toepassen en een nieuwe classificatie opstellen, in lijn met de Europese AI Act. Per categorie zal worden aangegeven welke instrumenten ingezet moeten worden. Niet-deskundigen moeten zelfstandig deze analyse en classificatie kunnen uitvoeren (en indien nodig of gewenst bieden deskundigen uit het idomein ondersteuning). Daarnaast gaat het college een overkoepelende governance voor de

Gemeente Amsterdam, raadsinformatiebrief

2)

3)

4)

5)

Datum 3 april 2024 Pagina 2 van 2

ethische en verantwoorde inzet van data en technologie opstellen en implementeren. De governance, aansturing, beleid, processen en instrumenten worden doorlopend verbeterd. Verbeterde toepassing van het beheerskader. Daarvoor gaat het college onder andere het zicht op algoritmen verbeteren door alle algoritmen te analyseren, maatregelen door te voeren en het algoritmeregister verder te vullen voor hoog- en beperkt-risico algoritmen. Ook wordt geborgd dat hoog-risico algoritmen ter goedkeuring worden voorgelegd aan het college. Dit wordt expliciet opgenomen in de governance en er wordt een uniforme template voor de voordracht opgesteld. Verbeterde omgang met bias. Met de Commissie Persoonsgegevens Amsterdam (CPA), de functionaris gegevensbescherming (FG) en vakdeskundigen brengt het college de mogelijkheden en onmogelijkheden van biasbestrijding in kaart. Daarna wordt een voorstel geformuleerd, dat wordt besproken met de raad. Aan de hand daarvan wordt er een verbeterd kader opgesteld. Dit kader is in ieder geval van toepassing op alle hoog-risico algoritmen. Daarnaast het college Impact Assessments Mensenrechten en Algoritmes (IAMA’s) uitvoeren op hoog-risico algoritmen en maatschappelijk gevoelige thema’s. Verbeterde privacybescherming. Daarvoor gaat het college onder andere de belemmeringen bij de uitvoering van privacywetgeving in kaart brengen en nemen ze weg.

Het college gaat ook het gesprek aan met de CPA over eventuele belemmeringen die zij ervaren in hun adviserende taak. Daarbij wordt in ieder geval gekeken naar de bezetting en informatiebehoefte. Verbeterde transparantie en participatie. Daarvoor gaat het college onder andere de raad op nader te bepalen momenten informeren over algoritmen(beleid). Daarnaast gaat het college de transparantie voor burgers vergroten door bijvoorbeeld een standaardtekst toe te voegen aan een besluit waarbij een algoritme betrokken is. En wordt de mogelijkheid van het opzetten van een (divers samengesteld) burgerpanel onderzocht om zo Amsterdammers te betrekken.

In het plan zijn alle acties voor de komende jaren opgenomen, voorzien van een tijdsplanning en een raming van de ureninzet. Ik hoop u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Alexander Scholtes Wethouder ICT en Digitale Stad

Bijlagen 1. Plan van Aanpak Algoritmen

Een routebeschrijving vindt u op amsterdam.nl