2. Voortgangsrapportage 2024 PvA Algoritmes v1.0.pdf

PLAN VAN AANPAK ALGORITMES Q1 2025 Voortgangsrapportage 2024 Plan van Aanpak Algoritmes

Voorgangsrapportage 2024 PvA Algoritmes1 ▪

Het Plan van Aanpak Algoritmes (“PvA Algoritmes”) beschrijft welke verbeterstappen het college gaat zetten om algoritmes eerlijker en transparanter in te zetten. De geplande acties zorgen voor een doorontwikkeling en verbeterde toepassing van het huidige beheerskader, een verbeterde omgang met bias en verbeterde privacybescherming, transparantie en participatie op het gebied van algoritmes.

▪

Het PvA Algoritmes is behandeld in de raadsvergadering van 26 juni 2024.

▪

In deze voortgangsrapportage worden de acties en tijdslijnen samengevat en de bijbehorende status en resultaten eind 2024 per actiepunt doorlopen.

▪

Over het algemeen lopen de acties volgens planning. Enkele acties zijn vertraagd door enerzijds een langer dan verwacht wervingstraject van nieuwe medewerkers en anderzijds een te optimistische inschatting van de benodigde capaciteit en tijd om sommige resultaten te realiseren.

▪

De uitvoering van het PvA Algoritmes vindt plaats in nauwe samenwerking met andere initiatieven zoals Agenda Digitale Stad, Actieplan Grip op Technologie en de Amsterdamse visie op AI.

▪

Tijdens de doorontwikkeling van het beheerskader algoritmes worden landelijke en Europese ontwikkelingen in de gaten gehouden, waardoor sommige elementen weer kunnen veranderen (voorbeeld: nieuwe categorieën in de risicoclassificatie).

1) Tot op heden is binnen Amsterdam de term “Algoritmen” gebruikt. Landelijk is “Algoritmes” inmiddels de standaard. Beide schrijfwijzen zijn correct. Amsterdam neemt waar mogelijk de landelijke standaard “Algoritmes” over, bv.

bestaande publicaties en (web)links blijven gelijk, maar voortaan verwijzen we er naar als het “PvA Algoritmes”. Het betreft slechts een stijlwijziging zonder inhoudelijke implicaties.

2

Voortgangsrapportage PvA Algoritmes: 1. Doorontwikkeling van het beheerskader algoritmes (1/3) Start & einde actie

1.2.1 Toepassen eenduidige definitie, opstellen nieuwe classificatie en koppeling met instrumenten

1.2.2 Invoeren van nieuwe gebruiksvriendelijke instrumenten voor vroegtijdige haalbaarheid

Samenvatting eindresultaten PvA Algoritmes

Status eind 2024

t/m sept. 2024

▪ Landelijke definitie van het begrip algoritme eenduidig toepassen. ▪ Nieuwe risicoclassificatie opstellen in lijn met de Europese AI-verordening (in het Engels: AI Act). ▪ In concept bepalen wanneer een algoritme een bepaalde classificatie krijgt en welke instrumenten ingezet moeten worden per categorie. ▪ Nieuwe definitie en classificatie zullen ook geïmplementeerd worden in de huidige opgavegerichte werkwijze.

▪ Eenduidige, landelijke definitie doorgevoerd. ▪ Versie 1.0 van de risicoclassificatie is op inhoud af en in een gebruiksvriendelijk instrument beschikbaar gemaakt (zie 04. Algoritmes – Risicoclassificatie V1), welke continu verbeterd wordt. Hierdoor kunnen algoritmes nu van een objectieve risicoclassificatie worden voorzien. ▪ De inhoud is afgestemd met zowel interne als externe partijen (bv. Algorithm Audit, G4, etc.) en de interpretatie van de AI-verordening is verwerkt. ▪ Risicoclassificatie-instrument verwerkt in huidige opgavegerichte werkwijze, waardoor alle nieuwe algoritmes de classificatie doorlopen en meteen helder is welke maatregelen genomen moeten worden. Bestaande algoritmes worden de komende twee jaar geïdentificeerd en doorlopen vervolgens hetzelfde proces (zie actie 2.2.1). ▪ Uitgangspunt is dat instrumenten zoveel mogelijk ‘open source’ beschikbaar worden gesteld. De risicoclassificatie is bijvoorbeeld te vinden op Github. ▪ Vanaf heden gebruiken we classificatie benamingen in lijn met de AI-verordening en landelijk beleid (zie laatste pagina). B.v. hoog-risico algoritmes heten nu hoog-risico AIsystemen. Dit betreft slechts een naamswijziging, inhoudelijk is het in lijn met de vorige classificatie.

Jan. ‘25 t/m sept. ‘25

▪ Niet-deskundigen kunnen zelfstandig de analyse en risicoclassificatie maken van een algoritme. En zelf bepalen of een algoritme de juiste oplossing is. ▪ Ontwikkelen van een proces en de benodigde instrumenten invoeren om vroegtijdige haalbaarheid te bepalen.

▪ Niet-deskundigen kunnen met het risicoclassificatie v1.0 instrument al grotendeels zelfstandig de risicoklasse en bijbehorende maatregelen bepalen door begrijpelijke vragen en een duidelijke beslisboom structuur. Het centrale algoritmeteam helpt momenteel de niet-deskundigen met de correcte inschatting van de risicoclassificatie.

Acties 2024 afgerond zoals beoogd

3

Voortgangsrapportage PvA Algoritmes: 1. Doorontwikkeling van het beheerskader algoritmes (2/3)

1.2.3 Verbetering van governance, aansturing, beleid, processen en instrumenten

1.2.4 Verbetering van het algoritmeregister

Start & einde actie

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

Doorlopend, vanaf juli ‘24

▪ Verbeteren van de governance (beleid, taken & verantwoordelijkheden, processen, instrumenten) en de aansturing hiervan. ▪ Opstellen en implementeren van een overkoepelende governance voor eerlijke inzet van data en technologie, die ook betrekking heeft op AI en algoritmes. ▪ Implementatie van de governance, waarin we medewerkers gaan begeleiden bij het toepassen van instrumenten en het maken van risicoanalyses.

▪ Enkele nieuwe medewerkers zijn – met enige vertraging – geworven om extra kennis in huis te halen. ▪ Belangrijkste taken en verantwoordelijkheden, proces en aansturing van centrale algoritme team en aanverwante functies (bv. digitale rechten & ethiek officers) zijn vastgesteld. Uitschrijven en “formaliseren” governance volgt in 2025.

▪ Voldoen aan digitale toegankelijkheideisen. ▪ Zorgen dat de teksten in het algoritmeregister vooraf gecontroleerd worden op begrijpelijkheid en dat beschrijvingen zowel in het Nederlands als Engels beschikbaar zijn. ▪ Zorgen dat het algoritmeregister bekender wordt en goed vindbaar op amsterdam.nl. Zowel door een e-learning aan ambtenaren aan te bieden over algoritmes en het algoritmeregister en ook door het algoritmeregister te promoten via niet-digitale communicatiekanalen.

▪ Per 1 januari 2025 volledige overgang naar het landelijke algoritmeregister (zie: Het algoritmeregister van de Nederlandse overheid). Bij het Ministerie van BZK is een ontwikkelteam bezig met de continue promotie en doorontwikkeling van het landelijke algoritmeregister. ▪ Met de overgang naar het landelijke register is ook voldaan aan digitale toegankelijkheideisen, automatische vertaling naar o.a. Engels en goede vindbaarheid. ▪ Op diverse bijeenkomsten met burgers is het algoritmeregister onder de aandacht gebracht, zoals tijdens de Digital Rights Day en de World AI Week. Ook wordt er verwezen naar het register via bijvoorbeeld www.amsterdam.nl/digitalerechten. ▪ Teksten van de gemeente Amsterdam worden vooraf door de directie Communicatie op begrijpelijkheid gecontroleerd. ▪ De Rijksoverheid heeft inmiddels een landelijke algoritme elearning die ook voor ambtenaren van de gemeente Amsterdam beschikbaar is: Cursus: Non-discriminatie in algoritmes en data | RADIO Leerplatform.

Jan. ‘24 t/m juli ’24

Acties 2024 afgerond zoals beoogd

4

Voortgangsrapportage PvA Algoritmes: 1. Doorontwikkeling van het beheerskader algoritmes (3/3)

1.2.5 Consistent gebruik van de contractvoorwaarden en review huidige contracten met leveranciers

Start & einde actie

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

Jan. ‘24 t/m dec. ’25

▪ Contractvoorwaarden voor de inkoop van algoritmes worden daadwerkelijk toegepast bij relevante aanbestedingen. ▪ Analyseren of bestaande contracten aangepast kunnen worden. Per contract een afweging maken aan de hand van het risicoprofiel van het algoritme, de resterende looptijd van het contract en eventuele extra kosten. De aanpassing kan alleen plaats vinden als beide contractpartijen hiermee instemmen en deze wijziging niet in strijd is met de aanbestedingswet en -regelgeving.

▪ Analyse hoog-risico AI-systemen en gesprekken met leveranciers over toepassen voorwaarden zijn nog niet gestart. ▪ Contractvoorwaarden algoritmes worden nu als standaard optie meegenomen in aanbestedingen. Het is aan de lijndirectie om de contractvoorwaarden ook daadwerkelijk te gebruiken, wat in overleg gaat met de verantwoordelijke contractmanager van de lijndirectie. ▪ De contractvoorwaarden algoritmes worden in samenwerking met een externe partij doorontwikkeld en vollediger gemaakt zodat onder andere digitale rechten en de AI-verordening beter tot zijn recht komen.

▪ Ontwikkelen en invoeren van een praktische standaard voor 1.2.6 Invoeren van een de technische documentatie van door de gemeente zelf nieuwe standaard voor Doorlopend, ontwikkelde algoritmes. Inclusief implementeren van de de technische vanaf april ’24 standaard bij eigen ontwikkelde algoritmes. documentatie

▪ Voorlopige standaard is beschikbaar voor de technische documentatie van algoritmes. Deze standaard wordt nog doorontwikkeld.

1.2.7 Ontwikkeling van een instrument om tijdens de hele April ‘24 t/m levenscyclus van een april ’27 algoritme de juiste maatregelen te kunnen nemen

▪ Fysieke kick-off in Tampere en een vervolgsessie in Turijn gehad, waarbij nadere invulling van scope centraal stond. ▪ Onderlinge best-practices op algoritmes, AI en digitale rechten gedeeld.

▪ Met een consortium van 7 Europese overheidsinstellingen (incl. gemeenten) wordt een (bestaand) instrument ontwikkeld of aangepast om tijdens de levenscyclus van een algoritme continu de juiste maatregelen te kunnen nemen.

Acties 2024 afgerond zoals beoogd

5

Voortgangsrapportage PvA Algoritmes: 2. Verbeterde toepassing van het beheerskader algoritmes (1/2) Start & einde actie

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

2.2.1 Algoritmeregister completeren, analyses Jan. ‘24 t/m maken en maatregelen dec. ’26 doorvoeren

▪ Bestaande algoritmes van alle directies zijn eind 2026: ▪ Geïdentificeerd; ▪ Geclassificeerd naar risico; en ▪ Eventueel aangepast en juiste maatregelen genomen.

▪ Continu proces: in 2024 zijn 19 algoritmes gepubliceerd tot een totaal aantal van 55 gepubliceerde algoritmes, wat bijdraagt aan de transparantie. ▪ Om het portfolio verder inzichtelijk te maken wordt nauw samengewerkt en verdere afspraken gemaakt met de lijnorganisatie. Gezien de omvang van de opgave is capaciteit en continue aandacht noodzakelijk om dit proces effectief te borgen. ▪ Het identificeren van algoritmes en toepassen van de relevante maatregelen door de lijndirecties blijft een aandachtspunt, mede door het aantal algoritmes en complexiteit van de maatregelen. Dit is een leerproces voor de organisatie. ▪ Voortdurende veranderingen in regelgeving rondom algoritmen en AI kunnen extra eisen stellen en capaciteit vergen.

2.2.2 Bezwaar en beroep beter implementeren

Sept. ‘24 t/m dec. ‘24

▪ Proces voor bezwaar en beroep bij besluiten beter ingericht. ▪ Onderzoeken van de mogelijkheid om op een eenvoudige wijze digitaal bezwaar in te dienen – in lijn met bestaande methodes binnen de gemeente.

▪ Uitgesteld vanwege te weinig menskracht in 2024, wordt in eerste helft 2025 opgepakt. Huidige bezwaar en beroep proces is afdoende, maar kan efficiënter.

2.2.3 Invoeren periodieke evaluaties

Doorlopend, vanaf jan. ’25

▪ Beheerskader wordt 1x per 3 jaar geëvalueerd ▪ Met burgers (onderdelen van) het beheerskader evalueren tijdens bijvoorbeeld de Digitale Rechten Weken.

Acties 2024 afgerond zoals beoogd

6

Voortgangsrapportage PvA Algoritmes: 2. Verbeterde toepassing van het beheerskader algoritmes (2/2)

2.2.4 Vergroten van het bewustzijn binnen de gemeentelijke organisatie

Start & einde actie

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

Doorlopend, vanaf jan. ‘24

▪ Continue bewustwordingsworkshops/trainingen houden en e-learning beschikbaar stellen voor medewerkers. ▪ Het volgen krijgt een verplichtend karakter voor medewerkers die uit hoofde van hun functie betrokken zijn bij (besluiten over) de invoering van algoritmes.

▪ Rijksoverheid heeft een landelijke e-learning (zie actie 1.2.4). ▪ Een aantal algoritme gerelateerde opleidingen en elearnings is al in het gemeentelijke aanbod opgenomen. ▪ Met P&O lopen gesprekken over wat mogelijk is m.b.t. (verplichting van) diverse e-learnings, waaronder algoritmes en AI.

▪ Borgen dat nieuwe hoog-risico AI-systemen ter goedkeuring worden voorgelegd aan het college. ▪ Governance aanpassen en opstellen van een uniforme template voor de voordracht.

▪ In 2024 zijn geen nieuwe hoog-risico AI-systemen in gebruik genomen of bestaande hoog-risico AI-systemen geïdentificeerd. De identificatie en risico classificatie is een continu proces (zie 2.2.1), de verwachting is dat er voor het zomerreces 2025 één of meerdere hoog-risico AI-systemen ter besluitvorming door het college zijn gegaan. ▪ Naast implementatie in de opgavegerichte werkwijze is ook in het afwegingskader en voortbrengingsproces voor generatieve AI de processtap over goedkeuring door het college geborgd. ▪ Uniforme template voor voordracht zal in 2025 worden gemaakt op basis van praktijkervaringen.

2.2.5 Het college Vanaf sept. neemt een explicietere ’24 rol in

Acties 2024 afgerond zoals beoogd

7

Voortgangsrapportage PvA Algoritmes: 3. Verbeterde omgang met bias (1/2) Start & einde actie

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

3.2.1 Uitwerking van de ambitie van biasbestrijding

April ‘24 t/m dec. ’25

▪ Met de Commissie Persoonsgegevens Amsterdam (CPA), de functionaris gegevensbescherming (FG) en vakdeskundigen brengen we de mogelijkheden en onmogelijkheden van biasbestrijding in kaart en formuleren we een ambitie en (ethische) afwegingen rondom bias. ▪ Aan de hand van de uitkomsten van deze uitwerking stelt het college in de eerste helft van 2024 een eerste voorstel op met daarin enkele overwegingen en dat gaan we bespreken met de raad. ▪ Daarna zal dit voorstel iteratief doorontwikkeld worden om tot praktisch handvatten te komen wat geïntegreerd wordt in het beheerskader.

▪ Mogelijkheden en onmogelijkheden van bias-analyse zijn in kaart gebracht met zowel interne als externe experts en niet-experts. ▪ Ambitie en (ethische) afwegingen rondom bias-analyse zijn beschreven in algemene uitgangspunten en voorgestelde keuzes. ▪ Naast interne experts, is uitgebreid advies gevraagd van externe experts zoals Stichting Algorithm Audit, de Hogeschool van Amsterdam en de CPA. Daarnaast zijn ook andere experts op onderdelen gehoord vanuit bijvoorbeeld BZK, het Civic AI lab, Universiteit van Amsterdam, Vrije Universiteit en andere gemeenten en overheidsinstellingen. ▪ Het voorstel zal iteratief worden doorontwikkeld aan de hand van feedback en praktijkervaringen om eind 2025 met een praktisch v1.0 bias-analyse instrument te komen.

3.2.2 Opnemen aanvullende maatregelen in het beheerskader om bias tegen te gaan

▪ Aan de hand van uitkomsten van het gesprek met de gemeenteraad (zie 3.2.1.) gaan we op basis van huidige instrumenten een verbeterd kader opstellen. ▪ Kader vertaald naar instrumenten en geïmplementeerd in Vanaf april ’25 organisatie – uitgevoerd op hoog-risico AI-systemen. ▪ Lijndirecties zullen daarna structureel begeleid worden om de verbeterde biasanalyse uit te voeren en maatregelen te implementeren.

Acties 2024 afgerond zoals beoogd

8

Voortgangsrapportage PvA Algoritmes: 3. Verbeterde omgang met bias (2/2) Start & einde actie

3.2.3 Mensenrechtenanalyses uitvoeren op alle impactvolle- en Vanaf jan. ‘24 hoog-risico algoritmes en AI-systemen

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

▪ Mensenrechtenanalyses uitvoeren op alle nieuwe impactvolle- en hoog-risico algoritmes en AI-systemen, maatregelen genomen en bewustwordingsworkshops gegeven. ▪ Voor impactvolle-risico algoritmes waarop geen IAMA van toepassing is worden andere, minder bewerkelijke, mensenrechtenanalyses opgesteld en uitgevoerd. ▪ Daarvoor verfijnen we bestaande instrumenten en trainen we de digitale rechten-, ethiek- en privacy officers om de mensenrechtenanalyses te begeleiden en organiseren we speciale bijeenkomsten voor clusters en directies

▪ Bij 15 nieuwe (potentiële) algoritmes (incl. AI) zijn in 2024 extra waarborgen ingezet om mensenrechten te borgen, bijvoorbeeld door Ethische Bijsluiter of IAMA sessies ongeacht risico classificatie. In de Ethische Bijsluiter sessies wordt een bewuste, weloverwogen afweging gemaakt van de impact op digitale rechten en wordt getoetst op morele waarden bij inzet van een algoritme. ▪ Daarnaast is geëxperimenteerd met het samenvoegen van de Amsterdamse Ethische Bijsluiter en hoofdstuk 4 van het landelijke IAMA rondom grondrechten. Het IAMA wordt daarin als dubbel ervaren en meer gezien als een “afvinklijst”, waardoor het zijn doel voorbij schiet. Daarom is eind 2024 gestart met het samenvoegen van de diverse mensenrechten- en privacy-instrumenten. In 2025 moet een gebruiksvriendelijker en effectiever instrument in gebruik genomen worden. ▪ Continue bewustwording over digitale rechten door middel van het organiseren van diverse kennissessies voor verschillende teams, zowel bij lijndirecties als binnen het cluster DII. ▪ Middag voor lijndirecteuren georganiseerd over algoritmes, AI en ethiek om bewustwording over ethiek en digitale rechten te vergroten. Focus lag op omgaan met verantwoordelijkheid als gemeente in het gebruik van technologie. Input is ook meegenomen in de AI Visie.

Acties 2024 afgerond zoals beoogd

9

Voortgangsrapportage PvA Algoritmes: 4. Verbeterde privacybescherming Start & einde actie

4.2.1 Wegnemen van privacy belemmeringen

Jan. ‘24 – sept. ‘24

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

▪ Meer gebruik maken van de kennis van de Commissie Persoonsgegevens Amsterdam en medeoverheden, zoals bijvoorbeeld met de G4 en het rijk. ▪ Daarna gaan we de werkwijzen, hulpmiddelen en sjablonen aanpassen. Daarbij wordt bijvoorbeeld de template voor de privacy-analyse (DPIA) zo aangepast dat de functionaris gegevensbescherming (FG) standaard wordt betrokken. ▪ Gesprek met de CPA over eventuele belemmeringen die zij ervaren in hun adviserende taak. Daarbij zullen we in ieder geval kijken naar de bezetting en informatiebehoefte.

▪ Nauwere samenwerking met o.a. CPA, G4, BZK en VNG. Zowel op Privacy als Digitale Rechten en Algoritme vlak. ▪ Privacy proces is versimpeld, verbeterde Privacyinstrumenten geïmplementeerd in OWW-werkwijze. Zo heeft de DPIA een nieuw gebruiksvriendelijker template, wordt de FG standaard betrokken, zijn algoritmes een apart onderdeel van de DPIA en is expliciet gemaakt dat een DPIA minimaal 1x per 3 jaar herzien en waar nodig geactualiseerd moet worden. ▪ De nieuwe opzet en instrumenten worden continu verbeterd, wat ook onderdeel is van een breder I-domein initiatief om de Quality Assurance werkwijze te verbeteren. ▪ De CPA ervaarde belemmeringen rondom het meer betrekken bij diverse vraagstukken en de informatiepositie. Dit is opgelost door het proces rondom CPA-adviezen integraal op te nemen in de Quality Assurance werkwijze en de ambtelijk secretaris een grotere rol te geven in het proces.

Acties 2024 afgerond zoals beoogd

10

Voortgangsrapportage PvA Algoritmes: 5. Verbeterde transparantie en participatie (1/2) Start & einde actie

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

5.2.1 Verbeterde Doorlopend, informatievoorziening vanaf sept. over algoritmes aan de ‘24 raad

▪ De raad op nader te bepalen momenten informeren over algoritmes(beleid). Hiervoor zal een standaardtemplate worden opgesteld aan de hand waarvan een periodieke update gedaan wordt voor hoog risico AI-systemen. Jaarlijks wordt gerapporteerd over de stand van zaken van de uitvoering van de aanbevelingen tot aan implementatie

▪ In lijn met beantwoording van motie 276.24 worden ieder halfjaar de genomen besluiten over inzet van nieuwe hoogrisico AI-systemen gebundeld en aangeboden aan de raad. In de besluiten is opgenomen welke afwegingen het college heeft gemaakt, welke risico’s dit oplevert voor de Amsterdammer en voor de gemeente en hoe deze worden beheerst. ▪ Zoals in 2.2.5 vermeld, zijn in 2024 geen nieuwe hoog-risico AI-systemen in gebruik genomen of bestaande hoog-risico AI-systemen geïdentificeerd. De identificatie en risico classificatie is een continu proces (zie 2.2.1), de verwachting is dat er voor het zomerreces 2025 één of meerdere hoogrisico AI-systemen ter besluitvorming door het college zijn gegaan. Daarvan zal de raad na het zomerreces van op de hoogte gesteld worden.

5.2.2 Verbeterde informatievoorziening Sept. ‘24 – aan burgers over het dec. ’26 gebruik van algoritmes bij besluiten

▪ Burgers transparantie bieden over de rol van algoritmes in besluiten en gaan ze informeren over het gebruik van hun gegevens bij hoog- en beperkt-risico algoritmes ▪ Met alle betrokken directies een standaardtekst opstellen die aan een besluit wordt toegevoegd als daarbij een algoritme betrokken is, Daarin verwijzen we in ieder geval naar de beschrijving van het algoritme in het algoritmeregister. ▪ Ook wijzen we de burger op de (bestaande) mogelijkheden om bezwaar te maken. De analyse voor welke algoritmes dit geldt ronden we gedurende 2024 af, implementatie van maatregelen zal geleidelijk gaan waarbij in 2025 afronding volgt.

▪ Eind 2024 is gedeeltelijk inzichtelijk gemaakt welke directies de meeste brieven aan burgers verzenden. ▪ Begin 2025 zal er een pilot zijn met de opname van een standaardtekst rondom de inzet van algoritmes bij het proces van parkeerboetes bij Belastingen. In 2023 ging het om 400.000 parkeerboetes waar burgers schriftelijk geïnformeerd werden.

Acties 2024 afgerond zoals beoogd

11

Voortgangsrapportage PvA Algoritmes: 5. Verbeterde transparantie en participatie (2/2) Start & einde actie

5.2.3 Onderzoeken mogelijkheid burgerpanel

Doorlopend, vanaf maart ’24

Samenvatting eind resultaten PvA Algoritmes

Status eind 2024

▪ Onderzoeken de mogelijkheid van het opzetten van een (divers samengesteld) burgerpanel te om zo Amsterdammers te betrekken bij digitaliseringsvraagstukken zodat zij een stem krijgen in onder andere de ontwikkeling en inzet van algoritmes van gemeente Amsterdam

▪ In 2024 zijn stappen gezet om burgers mee te laten denken over digitalisering. Voorbeelden hiervan zijn het burgerpanel bij het project Blurring as a Service en de stadsdialogen voor het ontwikkelen van de Amsterdamse visie op AI. ▪ In 2025 vindt met het stedelijk participatieteam onderzoek plaats hoe invulling gegeven kan worden aan de participatieverordening bij digitaliseringsvraagstukken om Amsterdammers te betrekken. ▪ Met de internationale “Cities Coalition for Digital Rights” zijn diverse sessies rondom best practices voor participatie bij digitalisering georganiseerd en het ontwikkelen van instrumentarium daarvoor geïnventariseerd. Vervolg en resultaten zullen in 2025 beschikbaar zijn.

Acties 2024 afgerond zoals beoogd

12

Bijlage: De risico classificatie benaming is in lijn gebracht met de definitieve AI-verordening en landelijk gebruik Risico classificatie benaming Ten tijde van opstellen PvA Algoritmes

Huidige versie

Verboden toepassing

Verboden AI-systeem

Hoog-risico algoritme

Hoog-risico AI-systeem

Laag-risico algoritme

Laag-risico AI-systeem

Impactvol algoritme

Impactvol AI-systeem

Hoog-risico AI-systeem Beperkt-risico algoritme

Impactvol algoritme of AI-systeem

Laag-risico algoritme

Laag-risico algoritme of AIsysteem

Verboden AI-systeem

13