1. Raadsinformatiebrief voortgangsrapportage 2024 PvA Algoritmes.pdf

Raadsinformatiebrief

Aan:

Portefeuillehouder(s): Behandeld door

De leden van de gemeenteraad van Amsterdam 8 april 2025 ICT en Digitale Stad Alexander Scholtes Digitale Strategie en Informatie (bestuurszaken.dii@amsterdam.nl)

Onderwerp

Voortgangsrapportage 2024 PvA Algoritmes

Datum Portefeuille(s)

Geachte leden van de gemeenteraad,

De gemeente staat voor eerlijke en transparante inzet van algoritmes en AI-systemen (verder: “algoritmes”1). Het Plan van Aanpak Algoritmes2 (“PvA Algoritmes”) is in de raadsvergadering van 26 juni 2024 behandeld, waarin een aantal verbetervoorstellen met bijbehorende resultaten is toegelicht om algoritmes nog eerlijker en transparanter in te zetten. Ik heb toegezegd om u jaarlijks van een voortgangsrapportage te voorzien. Met deze brief informeer ik u over de status per eind 2024. Over het algemeen lopen de acties volgens planning. In bijgevoegde voortgangsrapportage worden de acties en tijdslijnen samengevat en de bijbehorende status en resultaten eind 2024 per actiepunt in meer detail doorlopen. Met name de identificatie, risicoclassificatie en het nemen van maatregelen is meer werk is verwacht. Daarom wordt tijdelijk extra capaciteit vrijgemaakt om een inhaalslag te maken. De uitkomst van het PvA Algoritmes is een geüpdatet en geïmplementeerd beheerskader algoritmes en een grondige analyse van de algoritmes die de gemeente momenteel gebruikt. Ik wil benadrukken dat het beheerskader continu doorontwikkeld zal worden, ook na afloop van het PvA Algoritmes, aangezien er steeds meer technologische mogelijkheden zijn en wet- en regelgeving continu verandert.

En op onderdelen blijft het pionieren, omdat wetten, regels en kaders veelal generieke beschrijvingen bevatten van wat er moet gebeuren in plaats van een concreet handelingsperspectief bieden. Daarom maken we instrumenten zoveel mogelijk praktisch werkbaar voor niet-experts, blijven we de samenwerking zoeken met andere (overheids)instellingen en maken we onze instrumenten zoveel mogelijk openbaar. De uitvoering van het PvA Algoritmes vindt plaats in nauwe samenwerking met andere initiatieven zoals Agenda Digitale Stad, Actieplan Grip op Technologie en de Amsterdamse visie op AI. Tijdens de doorontwikkeling van het beheerskader algoritmes worden landelijke en Europese ontwikkelingen in de gaten gehouden, waardoor sommige elementen weer kunnen veranderen. 1 Tot op heden is binnen Amsterdam de term “Algoritmen” gebruikt. Landelijk is “Algoritmes” inmiddels de standaard. Beide

schrijfwijzen zijn correct. Amsterdam neemt waar mogelijk de landelijke standaard “Algoritmes” over, bv. bestaande publicaties en (web)links blijven gelijk, maar voortaan verwijzen we naar het “PvA Algoritmes”. Het betreft slechts een stijlwijziging zonder inhoudelijke implicaties. 2 Volledige versie Plan van Aanpak Algoritmes: Plan van aanpak algoritmen - openresearch.amsterdam.

Gemeente Amsterdam, raadsinformatiebrief

Datum 8 april 2025 Pagina 2 van 2

Een voorbeeld daarvan is de gewijzigde benaming van de risicoclassificatie categorieën. In de risicoclassificatie gebruiken we vanaf nu benamingen in lijn met de definitieve AI-verordening en landelijk beleid: - Verboden AI-systeem (in plaats van Verboden toepassing); - Hoog-risico AI-systeem (in plaats van Hoog-risico algoritme); - Impactvol algoritme of AI-systeem (in plaats van Beperkt-risico algoritme); en - Laag-risico algoritme of AI-systeem (in plaats van Laag-risico algoritme). De benaming van de risicocategorieën betreft alleen een naamswijziging, inhoudelijk zijn de eisen ten aanzien van te nemen maatregelen in lijn met de vorige benaming. Een visueel overzicht vindt u op de laatste pagina van de voortgangsrapportage. Om het risico van een algoritme in te schatten is een zo objectief mogelijke risicoclassificatie inmiddels gereed, in lijn met de AI-verordening en als gebruiksvriendelijk instrument beschikbaar gemaakt. De risicoclassificatie zorgt ervoor dat algoritmes objectief en volgens dezelfde standaardmethodiek geclassificeerd worden. Alle nieuwe en bestaande algoritmes doorlopen (met terugwerkende kracht) deze objectieve risicoclassificatie. Dit zal stapsgewijs gaan en leidt er onder andere toe dat reeds gepubliceerde algoritmes mogelijk van risicoclassificatie veranderen.

Het proces van bestaande algoritmes identificeren (opsporen), classificeren naar risico (risico inschatten) en maatregelen nemen (risico mitigatie) is in volle gang (zie actie 2.1.1 van het PvA Algoritmes). Zoals in het PvA Algoritmes beschreven zullen eind 2026 alle beperkt- & hoog-risico (nu impactvol en hoog-risico genoemd) algoritmes en AI-systemen opgespoord zijn, een risicoclassificatie hebben en maatregelen genomen zijn. Tot slot wil ik u in deze brief nog informeren over de opvolging van motie 276.24 van de leden Garmy, IJmker, Aslami en Krom inzake de rol van de raad in de besluitvorming over hoog-risico algoritmes. Ik had u naar aanleiding van deze motie toegezegd om u halfjaarlijks te voorzien van informatie over de besluiten die het college genomen heeft over hoog-risico AI-systemen. In de periode van juni 2024 tot en met december 2024 zijn geen oude of nieuwe hoog-risico AIsystemen geïdentificeerd en heeft er dus ook geen besluitvorming over plaatsgevonden door het college. Op basis van de huidige status van identificatie is de verwachting dat er voor het zomerreces 2025 één of meerdere hoog-risico AI-systemen ter besluitvorming door het college zijn gegaan. Ik zal u na het zomerreces van de uitkomsten op de hoogte stellen. Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Alexander Scholtes Wethouder ICT en Digitale Stad Bijlagen 1.

Voortgangsrapportage 2024 PvA Algoritmes v1.0.pdf