Plan van Aanpak Algoritmen.pdf

Inleiding Het gebruik van algoritmen biedt de gemeente kansen om de dienstverlening te verbeteren. Daar willen we verantwoord mee omgaan, met oog voor de risico’s die ook kunnen optreden bij het gebruik van algoritmen. Daarom heeft het college een beheerskader opgesteld voor algoritmen. Dit beheerskader bestaat uit 7 instrumenten, die we inzetten om grip te krijgen op algoritmen en om ze verantwoord (eerlijker en transparanter) toe te passen. We vervulden (en vervullen) hiermee een pioniersrol. Wij zagen daarbij dat het op sommige punten beter kon en waren voor afzonderlijke onderdelen verbetervoorstellen aan het uitwerken. Toen de Rekenkamer aankondigde onderzoek te gaan doen naar het beheerskader als geheel, hebben we het onderzoek afgewacht om in één keer alle verbetervoorstellen in een plan van aanpak te bundelen. Op 20 oktober heeft de Rekenkamer Metropool Amsterdam het onderzoeksrapport Algoritmen gepubliceerd. Dit rapport beschrijft de resultaten van een onderzoek naar het beheerskader en de werking ervan bij 3 algoritmen. De Rekenkamer concludeert dat we met ons beheerskader al veel risico’s (49 van de 61 relevante risico’s) adresseren. Maar volgens de Rekenkamer zijn er verbeteringen nodig om meer grip te krijgen op algoritmen en om algoritmen eerlijker en transparanter te maken. Daarom doet de Rekenkamer de volgende aanbevelingen. 1.

Blijf het beheerskader ontwikkelen met inachtneming van nieuwe kennis. 2. Bevorder de toepassing van het beheerskader in de praktijk. 3. Verbeter de omgang met bias. 4. Breng de privacybescherming van burgers bij algoritmen op orde. 5. Wees opener en transparanter over het gebruik van algoritmen. Het college heeft de conclusies van de Rekenkamer onderschreven en de aanbevelingen overgenomen. De Rekenkamer heeft daarbij aangeboden om als vraagbaak te fungeren, maar heeft verder geen rol in de totstandkoming, toetsing en nakoming van het plan. Dit plan van aanpak beschrijft welke verbeterstappen we wanneer gaan zetten en welk resultaat dat gaat opleveren. We volgen daarbij de indeling die door de Rekenkamer is gebruikt bij de aanbevelingen (waarbij we sommige sub-aanbevelingen hebben geclusterd). Het rapport omvat onze eigen voorstellen, de voorstellen van de Rekenkamer, de bespreking van het rapport in de raad en de aangenomen moties over dit onderwerp. De verbeterstappen zijn in lijn met het raadsbesluit Grip op Tech dat in scope en opzet breder is dan dit plan van aanpak. Het college gaat met al deze inzichten aan de slag. De wethouder ICT en Digitale Stad is stelselverantwoordelijk voor het plan van aanpak en de sturing op de uitvoering. Alle wethouders afzonderlijk zijn verantwoordelijk voor de uitvoering van de acties door de desbetreffende lijndirecties.

Op ambtelijk niveau worden de activiteiten centraal opgezet en gecoördineerd. De uitvoering ligt deels binnen dit centrale team, maar ook daarbuiten bij de lijndirecties. Het centrale team zal waar nodig met de lijndirecties samenwerken om activiteiten uit te voeren. Indien nodig kan er worden geëscaleerd via de Chief Information Officer (CIO) of het GMT. De uren die in het plan genoemd worden zijn schattingen en hoofdzakelijk uren die gemoeid zijn met de centrale opzet en aansturing vanuit het I-domein. De uren bij de lijndirecties moeten nog per directie/Opgave worden afgestemd en zijn mede afhankelijk van de exacte oplossingsrichtingen en het aantal algoritmen binnen de directie met een verhoogd risico profiel.

2

1 Doorontwikkeling van het beheerskader 1.1 Welke verbeteringen/aanpassingen zijn er nodig •

• •

De Rekenkamer adviseert om te komen tot één definitie van algoritme, het beheerskader praktischer toepasbaar te maken, het uit te breiden met een instrument om de haalbaarheid van algoritmen te toetsen en het beheerskader periodiek te evalueren. Motie 157.23 vraagt om het algoritmeregister laagdrempeliger te maken en om het bekender te maken onder de Amsterdammers. Ook uit de evaluatie naar aanleiding van het raadsbesluit Grip op Tech bleek dat er behoefte is aan een governance en kaders, richtlijnen en instrumentarium voor ethisch en verantwoord gebruik van data en technologie, zoals algoritmen en AI-systemen.

1.2 De maatregelen die we treffen 1.2.1 Toepassen eenduidige definitie, opstellen nieuwe classificatie en koppeling met instrumenten (t/m september 2024) We gaan de landelijke definitie1 van het begrip algoritme eenduidig toepassen. Daarnaast stellen we een nieuwe classificatie op in lijn met de Europese AI Verordening (ook wel genoemd: AI Act): hoog-, beperkt- en minimaal-/geen risico. De 4e categorie is onaanvaardbaar risico, dit betekent dat het algoritme helemaal niet gebruikt mag worden. Ook bepalen we in concept wanneer een algoritme een bepaalde classificatie krijgt en welke instrumenten ingezet moeten worden per categorie. Omdat deze indeling nog niet landelijk of Europees is bepaald, werken we eerst met een concept opzet die we eventueel later aanpassen in lijn met landelijke richtlijnen. In het conceptontwerp worden de nieuwste ontwikkelingen meegenomen, zoals bijvoorbeeld de vaststelling van de definitieve AI Act. De nieuwe definitie en classificatie zullen ook geïmplementeerd worden in de huidige opgavegerichte werkwijze. Tijdsinspanning I-domein: 200 uur (incidenteel). 1.2.2 Invoeren van nieuwe gebruiksvriendelijke instrumenten voor vroegtijdige haalbaarheid (januari 2025 t/m september 2025) We zorgen ervoor dat niet-deskundigen zelfstandig de analyse en classificatie kunnen maken van een algoritme.

En om te bepalen of een algoritme de juiste oplossing is voor het voorliggende probleem. Daarvoor ontwikkelen we een proces en de benodigde instrumenten en voeren die in. Hierdoor kan vroegtijdig de haalbaarheid van algoritmen in kaart worden gebracht. Tijdsinspanning I-domein: 100 uur (incidenteel). 1.2.3 Verbetering van governance, aansturing, beleid, processen en instrumenten (doorlopend, vanaf juli 2024) Dit punt is breder dan alleen algoritmen, maar heeft duidelijke raakvlakken en is ook opgenomen in het actieplan Grip op Tech. We verbeteren de governance (beleid, taken & verantwoordelijkheden, processen, instrumenten) en de aansturing hiervan. We doen dit door het opstellen en implementeren van een overkoepelende governance voor ethische en verantwoorde inzet van data en technologie, die ook betrekking heeft op AI en algoritmen. Hierin nemen we ook de AI Act mee, net als het Opgavegericht en Wendbaar Werken (OWW), onafhankelijke toetsing, 1

Definitie algoritme: “Een algoritme is een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden”. Na vaststelling van de AI Act wordt de landelijke definitie hiermee in lijn gebracht, welke overgenomen zal worden.

3

de geleerde lessen uit de praktijk vanuit diverse pilots rondom Generatieve AI en de governance bij pilots (wie beslist wat). Bij de implementatie van de governance gaan we medewerkers begeleiden bij het toepassen ervan en het maken van risicoanalyses. We gaan ook in op geautomatiseerde besluitvorming. Voor geautomatiseerde besluitvorming geldt het uitgangspunt: 'Nee, tenzij', waarbij strikte voorwaarden & instructies expliciet worden gemaakt. Een voorbeeld waar geautomatiseerde besluitvorming wel mag is als het in een specifieke wet is opgenomen (bv. geautomatiseerd parkeerboetes verwerken). Daarbij kijken we ook naar de best practices bij mede-overheden. Op basis van het interne onderzoek naar hoog risico algoritmen tot nu toe en het onderzoek van de Rekenkamer is er één algoritme met geautomatiseerde besluitvorming geïdentificeerd. Dit is ook besproken met de raad. Aan de hand van het geüpdatet beheerskader en in lijn met actie 2.2.1. zullen alle algoritmen onderzocht worden waarbij specifieke aandacht zal zijn voor identificatie van eventuele algoritmen met geautomatiseerde besluitvorming. Tijdsinspanning I-domein: 1.850 uur per jaar (structureel).

1.2.4 Verbetering van het algoritmeregister (januari 2024 t/m juli 2024) Het algoritmeregister gaat voldoen aan niveau AA van de WCAG-toegankelijkheideisen, zodat het bijvoorbeeld toegankelijk wordt voor mensen met een functiebeperking. We zorgen dat de teksten in het algoritmeregister vooraf gecontroleerd worden op begrijpelijkheid en dat beschrijvingen zowel in het Nederlands als Engels beschikbaar zijn. Tot slot zorgen we ervoor dat het algoritmeregister bekender wordt. Dat doen we door ervoor te zorgen dat het algoritmeregister goed vindbaar is op amsterdam.nl, door een e-learning aan ambtenaren aan te bieden over algoritmen en het algoritmeregister en ook door het algoritmeregister te promoten via niet-digitale communicatiekanalen. Tijdsinspanning I-domein I-domein: 150 uur (incidenteel). Tijdsinspanning communicatie: 150 uur (incidenteel) en 200 uur (structureel, voor vertaling). 1.2.5 Consistent gebruik van de contractvoorwaarden en review huidige contracten met leveranciers (januari 2024 t/m december 2025) We zorgen dat de contractvoorwaarden voor de inkoop van algoritmen daadwerkelijk worden toegepast bij relevante aanbestedingen. Daarom maken we ze helder en begrijpelijk voor alle gemeentelijke organisatieonderdelen die hierbij betrokken zijn. Daarnaast gaan we ook kijken of bestaande contracten aangepast kunnen worden.

We maken daarvoor per contract een afweging aan de hand van het risicoprofiel van het algoritme, de resterende looptijd van het contract en eventuele extra kosten. De aanpassing kan alleen plaats vinden als beide contractpartijen hiermee instemmen en deze wijziging niet in strijd is met de aanbestedingswet en -regelgeving. Tijdsinspanning I-domein (incl. vakgroep ICLM): 1.000 uur (incidenteel). 1.2.6 Invoeren & volgen van een verbeterde standaard voor de technische documentatie (doorlopend, vanaf april 2024) Op basis van bestaand materiaal ontwikkelen en voeren we een praktische standaard in voor de technische documentatie van door de gemeente zelf ontwikkelde algoritmen. En implementeren de standaard bij eigen ontwikkelde algoritmen. Tijdsinspanning I-domein: 100 uur (incidenteel). 1.2.7 Ontwikkeling van een instrument om tijdens de hele levenscyclus van een algoritme de juiste maatregelen te kunnen nemen (april 2024 – april 2027) Met een consortium van 7 Europese overheidsinstellingen (incl. gemeenten) zal een (bestaand) instrument ontwikkeld of aangepast worden om tijdens de levenscyclus van een algoritme continu de juiste maatregelen te kunnen nemen. Doelgroep zijn ambtenaren die nauw betrokken zijn bij de ontwikkeling van algoritmen en het instrument is met name bedoeld voor eigen ontwikkelde 4

algoritmen. Hierin zal specifieke aandacht zijn voor het vertalen van eisen uit wetgeving (bv. de AIAct) naar praktische handvatten. Tijdsinspanning I-domein: 2.000 uur

5

2 Verbeterde toepassing van het beheerskader 2.1 Welke verbeteringen/aanpassingen zijn er nodig •

•

De Rekenkamer adviseert om belemmeringen voor de verantwoorde toepassing van algoritmen weg te nemen, het zicht op algoritmen te verbeteren, meer gebruik te maken van de binnen de gemeente aanwezige expertise en algoritmen periodiek te evalueren. Uit de evaluatie naar aanleiding van het raadsbesluit Grip op Tech blijkt dat het bewustzijn ten aanzien van digitale rechten binnen de gemeentelijke organisatie verbeterd moet worden.

2.2 De maatregelen die we treffen 2.2.1 Algoritmeregister completeren, analyses maken en maatregelen doorvoeren (januari 2024 t/m december 2026) We gaan het zicht op algoritmen verbeteren door alle algoritmen te analyseren, maatregelen door te voeren en het algoritmeregister verder te vullen voor hoog- en beperkt-risico algoritmen. Algoritmen zullen opnieuw worden ingedeeld op basis van de nieuwe classificatie. Op grond van een grove eerste inventarisatie verwachten we dat we honderden algoritmen met een hoog- en beperkt-risico gaan toevoegen aan het register. In lijn met de richtlijnen die het ministerie van BZK heeft gegeven voor het landelijk Algoritmeregister zullen de minimaal/geen-risico algoritmen (niet-impactvolle algoritmen) niet worden opgenomen in het register. De lijndirecties die verantwoordelijk zijn voor de algoritmen worden hierin begeleid en het proces zal met hen worden doorontwikkeld. We willen dat in 2026 alle hoog- en beperkt-risico algoritmen zijn geanalyseerd en opgenomen in het algoritmeregister. Tijdsinspanning I-domein voor analyse & maatregelen: 1.850 uur voor inventarisatie en hulp bij identificeren en analyseren van algoritmen en bij het implementeren van de juiste maatregelen (structureel).

Tijdsinspanning I-domein voor publicatie: 1.850 uur, met de onderliggende aannames 20 – 60 uur per hoog-risico algoritme en 4 – 12 uur voor een beperkt-risico algoritme (grotendeels incidenteel). Tijdsinspanning lijndirecties voor analyse, maatregelen & publicatie: 20.000+ uur (verdeeld over alle directies), met de onderliggende aannames 200 uur per hoog-risico algoritme, 80 uur voor beperkt-risico algoritme, 0,5 uur voor minimaal-risico algoritmen (grotendeels incidenteel). Tijdsinspanning per cluster zal verschillen. Op basis van huidige ervaringen en inschatting waar waarschijnlijk de meeste hoog risico algoritmen zitten: ▪ Cluster Sociaal: 4.000 uur ▪ Bestuur en Organisatie: 4.000 uur ▪ Cluster Ruimte en Economie: 4.000 uur ▪ Cluster Digitalisering, Innovatie en Informatie (DII): 4.000 uur ▪ Cluster Bedrijfsvoering: 2.000 uur ▪ Cluster Stadsdelen, Beheer en Dienstverlening: 2.000 uur 2.2.2 Bezwaar en beroep beter implementeren (september 2024 t/m december 2024) We gaan het proces voor indienen/afhandelen van bezwaar en beroep tegen besluiten waarbij algoritmen zijn gebruikt beter inrichten. Dat gebeurt in nauwe samenwerking met onder andere de directie Juridische Zaken. We onderzoeken daarbij ook de mogelijkheid om op een eenvoudige

6

wijze digitaal bezwaar in te dienen – in lijn met bestaande methodes binnen de gemeente. Tijdsinspanning I-domein I-domein: 60 uur (incidenteel). Tijdsinspanning directie JZ/Juridisch Bureau/Communicatie: 150 uur (incidenteel).

2.2.3 Invoeren periodieke evaluaties (doorlopend, vanaf januari 2025) We gaan het beheerskader 1x per 3 jaar en de gepubliceerde algoritmen jaarlijks evalueren. Hiervoor gaan we het proces en de instrumenten doorontwikkelen. Dit gaat o.a. over het periodiek evalueren en bijwerken van de algoritmen die in het register staan. Het register zelf wordt ook geëvalueerd; dat gaan we samen met burgers en belangengroeperingen (zoals Open State Foundation) doen tijdens de Digitale Rechten Weken. Tijdsinspanning I-domein: 400 uur (structureel). Tijdsinspanning lijndirecties: 600 uur (structureel). 2.2.4 Vergroten van het bewustzijn binnen de gemeentelijke organisatie (doorlopend) We vergroten het bewustzijn over algoritmen en het belang van gebruik van de instrumenten uit het beheerskader. Dit doen we onder andere met trainingen, e-learning en serious gaming voor ambtenaren. Het volgen hiervan krijgt een verplichtend karakter voor medewerkers uit de lijnorganisatie die uit hoofde van hun functie betrokken zijn bij (besluiten over) de invoering van algoritmen. Tijdsinspanning I-domein: trainingen 120 uur per jaar (structureel). E-learning 150 uur in totaal (incidenteel, exclusief de uren van de deelnemers). Tijdsinspanning deelnemers trainingen: 400 uur, 4 uur per deelnemer (incidenteel).

Deze verbeteractie heeft raakvlakken met het actieplan Grip op Tech dat inzet op het vergroten van de bewustwording, basiskennis en vaardigheden van medewerkers op het gebied van digitale ethiek. De verschillende activiteiten worden gecoördineerd met elkaar in lijn gebracht. Tijdsinspanning I-domein vanuit algoritmen: 300 uur per jaar (structureel).

2.2.5 Het college neemt een explicietere rol in (vanaf september 2024) Op basis van de nieuwe classificatie en proces bepalen wanneer en hoe bestuurders geïnformeerd en/of betrokken moet worden. We gaan daarbij in ieder geval borgen dat hoog-risico algoritmen ter goedkeuring worden voorgelegd aan het college. Hiervoor passen we de governance aan en stellen een uniforme template op voor de voordracht. Tijdsinspanning I-domein: 100 uur (incidenteel), 100 uur (structureel). Tijdsinspanning lijndirecties: 200 uur (incidenteel).

7

3 Verbeterde omgang met bias 3.1 Welke verbeteringen/aanpassingen zijn er nodig •

De Rekenkamer adviseert om aanvullende maatregelen om bias tegen te gaan te overwegen en meer handvatten op te nemen voor de omgang met bias in het beheerskader. Ook roept de Rekenkamer het college op om besluiten over de rechtvaardigheid van algoritmen zelf te nemen en het gesprek aan te gaan met de raad over welke mate van zekerheid zou moeten worden en kunnen nagestreefd bij het uitsluiten van bias.

3.2 De maatregelen die we treffen 3.2.1 Uitwerking van de ambitie van biasbestrijding (april 2024 t/m december 2025) Het college heeft de ambitie om bias te minimaliseren. Die ambitie gaan we nader uitwerken. Met de Commissie Persoonsgegevens Amsterdam (CPA), de functionaris gegevensbescherming (FG) en vakdeskundigen brengen we de mogelijkheden en onmogelijkheden van biasbestrijding in kaart en formuleren we een ambitie. Ook brengen we de (ethische) afwegingen rondom bias in kaart. Zo kan het bestrijden van bias mogelijk op gespannen voet staan met het principe van dataminimalisatie omdat er extra persoonsgegevens nodig kunnen zijn om te controleren of er sprake is van vooringenomenheid. Aan de hand van de uitkomsten van deze uitwerking stelt het college in de eerste helft van 2024 een eerste voorstel op met daarin enkele overwegingen en dat gaan we bespreken met de raad. Daarna zal dit voorstel iteratief doorontwikkeld worden om tot praktisch handvatten te komen wat geïntegreerd wordt in het beheerskader. Tijdsinspanning I-domein: 2.000 uur (incidenteel). Tijdsinspanning lijn: 200 uur (incidenteel). 3.2.2 Opnemen verbeterde maatregelen in het beheerskader om bias tegen te gaan (vanaf april 2025) Aan de hand van uitkomsten van het gesprek met de gemeenteraad (zie 3.2.1.) gaan we op basis van huidige instrumenten een verbeterd kader opstellen.

Dit kader is in ieder geval van toepassing op alle hoog-risico algoritmen. De lijndirecties zullen daarna structureel begeleid worden om de verbeterde biasanalyse uit te voeren en maatregelen te implementeren. Tijdsinspanning I-domein: aanpassen kaders 1.500 uur (incidenteel) en begeleiding 500 uur (structureel). Tijdsinspanning lijndirecties: 2.000 (incidenteel). 3.2.3 Mensenrechtenanalyses uitvoeren op alle beperkt- en hoog-risico algoritmen (vanaf januari 2024) Mensenrechtenanalyses worden gedaan op alle beperkt- en hoog-risico algoritmen. Afhankelijk van exacte uitkomst van de nieuw op te stellen classificatie (zie punt 1.2.1), gaan we Impact Assessments Mensenrechten en Algoritmes (IAMA’s) uitvoeren op hoog-risico algoritmen en maatschappelijk gevoelige thema’s. Voor beperkt-risico algoritmen waarop geen IAMA van toepassing is worden andere, minder bewerkelijke, mensenrechtenanalyses opgesteld en uitgevoerd. Daarvoor verfijnen we bestaande instrumenten en trainen we de digitale rechten-, ethiek- en privacy officers om de mensenrechtenanalyses te begeleiden. Ook organiseren we speciale bijeenkomsten voor clusters en directies.

8

Tijdsinspanning I-domein: verfijnen instrumenten & trainen digitale rechten-, ethiek- en privacy officers 600 uur (incidenteel), IAMA’s en andere mensenrechtenanalyses uitvoeren 600 uur en het organiseren van de tweedaagse events 300 uur (structureel). Tijdsinspanning lijndirecties: IAMA’s en andere mensenrechtenanalyses uitvoeren & maatregelen nemen 1.000 uur (incidenteel).

9

4 Verbeterde privacybescherming 4.1 Welke verbeteringen/aanpassingen zijn er nodig •

•

De Rekenkamer adviseert om belemmeringen bij uitvoering van privacywetgeving in kaart te brengen en weg te nemen. Ook moeten burgers persoonlijk over het gebruik van hun gegevens geïnformeerd worden. Motie 005.24 vraagt het college om het gesprek aan te gaan met de CPA over hoe de CPA meer kan worden ingezet.

4.2 De maatregelen die we treffen 4.2.1 Wegnemen van belemmeringen (januari 2024 – september 2024) We brengen de belemmeringen bij de uitvoering van privacywetgeving in kaart en nemen ze weg. In de tweede helft van 2023 is al begonnen met de implementatie van diverse belemmeringen. Bijvoorbeeld standaardisering van een verkorte DPIA om snel te bepalen of een volledige DPIA nodig is, gebruiksvriendelijker maken van de volledige DPIA en opleiden van Privacy Officers. Bij de interne audits die voor 2024 gepland staan is ook een privacy-audit opgenomen. In die audit worden ook de ervaringen van medewerkers meegenomen. Ook gaan we (meer) gebruik maken van de kennis van de Commissie Persoonsgegevens Amsterdam en medeoverheden, zoals bijvoorbeeld met de G4 en het rijk. Daarna gaan we de werkwijzen, hulpmiddelen en sjablonen aanpassen. Daarbij wordt bijvoorbeeld de template voor de privacy-analyse (DPIA) zo aangepast dat de functionaris gegevensbescherming standaard wordt betrokken. De CPA is een onafhankelijk adviesorgaan en heeft momenteel al een zeer belangrijke rol op het gebied van privacy, ethiek en algoritmen. De CPA heeft echter een limiet op het aantal zaken wat behandeld kan worden. Het reglement van de CPA zegt dat ze maximaal 10 leden mag hebben. Dit zijn er nu 7. We gaan het gesprek aan met de CPA over eventuele belemmeringen die zij ervaren in hun adviserende taak.

Daarbij zullen we in ieder geval kijken naar de bezetting en informatiebehoefte. Tijdsinspanning I-domein: 500 uur (incidenteel). In de raadsvergadering is specifiek aandacht gevraagd voor twee onderdelen van de gegevensbescherming (die ook in de AVG opgenomen zijn): • De rechten van burgers om hun eigen gegevens in te zien en eventueel te wijzigen of te laten verwijderen. Voor het uitoefenen van deze rechten kunnen burgers terecht bij het gemeentelijke Loket Persoonsgegevens. Omdat we burgers zo goed mogelijk in staat willen stellen om hun digitale rechten uit te oefenen, wordt binnen de Agenda Digitale Stad gezocht naar (aanvullende) mogelijkheden om burgers hun gegevens in te laten zien (waarbij gedacht wordt aan bijvoorbeeld mijn.amsterdam.nl). • De verplichtingen van leveranciers die in onze opdracht persoonsgegevens verwerken. Daarin blijven wij -net als alle andere gemeenten in Nederland- de lijn van de VNG volgen. De VNG heeft hiervoor een model-verwerkersovereenkomst opgesteld en die blijven wij toepassen.

10

5 Verbeterde transparantie en participatie 5.1 Welke verbeteringen/aanpassingen zijn er nodig •

• •

De Rekenkamer adviseert om de raad op vaste momenten over het algoritmebeleid en algoritmen te informeren, het algoritmeregister aan te vullen en de kwaliteit ervan te verbeteren en om transparant te zijn over de rol van algoritmen in de besluitvorming. Uit de evaluatie naar aanleiding van het raadsbesluit Grip op Tech blijkt dat we burgers beter inzicht moeten bieden in onze digitalisering en de bescherming van digitale rechten. Uit de evaluatie komt tevens naar voren dat we ervaringen en perspectieven van burgers met verschillende leeftijden, genders en achtergronden structureel moeten betrekken bij digitaliseringsvraagstukken. In motie 733.23 vraagt de raad aan het college om in dat kader de mogelijkheid van het opzetten van een burgerpanel te onderzoeken.

5.2 De maatregelen die we treffen 5.2.1 Verbeterde informatievoorziening over algoritmen aan de raad (doorlopend, vanaf september 2024) We gaan de raad op nader te bepalen momenten informeren over algoritmen(beleid). Hiervoor zal een standaardtemplate worden opgesteld aan de hand waarvan een periodieke update gedaan wordt voor hoog risico algoritmen. Jaarlijks wordt gerapporteerd over de stand van zaken van de uitvoering van de aanbevelingen tot aan implementatie. Tijdsinspanning I-domein: 40 uur (incidenteel). 5.2.2 Verbeterde informatievoorziening aan burgers over het gebruik van algoritmen bij besluiten (september 2024 – december 2026) We bieden burgers transparantie over de rol van algoritmen in besluiten en gaan ze informeren over het gebruik van hun gegevens bij hoog- en beperkt-risico algoritmen. Daarom gaan we met alle betrokken directies een standaardtekst opstellen die aan een besluit wordt toegevoegd als daarbij een algoritme betrokken is. Daarin verwijzen we in ieder geval naar de beschrijving van het algoritme in het algoritmeregister. Dat register gaan we begrijpelijker en bekender maken (zie 1.2.4). Ook wijzen we de burger op de (bestaande) mogelijkheden om bezwaar te maken. De analyse voor welke algoritmen dit geldt ronden we gedurende 2024 af, implementatie van maatregelen zal geleidelijk gaan waarbij in 2025 afronding volgt.

Tijdsinspanning I-domein: 500 uur (incidenteel). Tijdsinspanning lijndirecties: 1.000 uur (incidenteel). In het actieplan Grip op Tech is in bredere zin voorzien in verbetering van de informatievoorziening aan burgers en andere belanghebbenden over digitalisering en bescherming van digitale rechten. Deze verbeteractie past daarin. De verschillende activiteiten zullen worden afgestemd en gecoördineerd.

5.2.3 Onderzoeken mogelijkheid burgerpanel (doorlopend, vanaf maart 2024) We onderzoeken de mogelijkheid van het opzetten van een (divers samengesteld) burgerpanel te om zo Amsterdammers te betrekken bij digitaliseringsvraagstukken zodat zij een stem krijgen in onder andere de ontwikkeling en inzet van algoritmen van gemeente Amsterdam. Tijdsinspanning I-domein: 100 uur opzet (incidenteel) en 330 uur (structureel).

11

Deze actie heeft raakvlakken met het actieplan Grip op Tech waarin is voorzien in het organiseren van betrokkenheid van Amsterdammers bij digitaliseringstrajecten met grote impact op bewoners en/of organisaties. Ook wordt gekeken naar het opzetten van een moreel beraad met de CPA en/of de Ombudsman. De verschillende activiteiten zullen worden gecombineerd.

12

A. Bijlage: Overzicht uren en planning