A - 25 ICT en Digitale Stad (49) Raadsinformatiebrief afdoening toezeggingen

Raadsinformatiebrief Afdoening toezegging

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 25 januari 2023 ICT en Digitale Stad Shula Rijxman Digitale Strategie en Informatie (bestuurszaken.dii@amsterdam.nl) Toezeggingen over algoritmen tijdnes commissievergaderingen in het derde kwartaal 2022

Geachte leden van de gemeenteraad, In de vergaderingen van de raadscommissie FKD van 8 september, 29 september en 13 oktober 2022 heb ik toegezegd u op een aantal onderwerpen schriftelijk terug te zullen komen. Hieronder doe ik dat voor de vragen met betrekking tot algoritmes (TA2022-000770, TA2022-000771, TA2022-000755 en TA2022-000849). In de vergadering van 8 september heeft het lid Garmy (Volt) gevraagd waarom er op dit moment zes algoritmes in het algoritmeregister staan en aan te geven wanneer het register compleet is. Er staan nu negen algoritmes in het register en dat moeten -en gaan- er meer worden. De ervaringen met het algoritmeregister leren dat het vullen van het algoritmeregister meer tijd kost dan in het begin was voorzien: tussen de 6 weken en 4 maanden per algoritme. Dat heeft twee oorzaken:  Bij bestaande algoritmes speelt mee dat ze soms zijn ingekocht voordat onze nieuwe contractvoorwaarden van toepassing waren. In die contractvoorwaarden staat welke informatie de leverancier moet delen met de gemeente Amsterdam, zodat wij die informatie weer kunnen delen met de Amsterdammers. Bij oudere contracten is er veel afstemming nodig met de leverancier. In 2023 willen we meer zicht hebben op de algoritmes die ingekocht zijn en gaan we na in hoeverre bestaande contacten aangepast kunnen worden.

 Het is niet eenvoudig om de algoritmes te beschrijven, omdat wij drie doelgroepen willen bedienen met het register: de burger, de expert en de techneut. Voor elk van hen moet er informatie beschikbaar zijn. Bij algoritmes die al langere tijd in gebruik zijn, moet de beschrijving worden opgesteld door de lijnorganisatie, naast al hun andere beheerwerkzaamheden. Bij nieuwe algoritmes gaat het iets makkelijker, omdat we dan een beroep kunnen doen op een projectorganisatie die daar eenvoudiger capaciteit voor kan leveren. We zijn afgelopen oktober gestart met het identificeren van de algoritmes met een hoog risico. Dat zijn de algoritmes met de grootste impact voor burgers. Die gaan we zo snel mogelijk opnemen in het register. We verwachten in het eerste kwartaal van 2023 alle algoritmes met een

Gemeente Amsterdam, raadsinformatiebrief

25 januari 2023 Pagina 2 van 3

hoog risico geïdentificeerd te hebben. Op dit moment wordt het aantal algoritmen in het register uitgebreid van 9 naar 19 stuks. Daarvan zijn er 9 uitgebreid beschreven en 10 algemeen beschreven algoritmen. In het eerste kwartaal van 2023 gaan we vervolgens van 19 naar 30 algoritmen in het register. En daarna blijven we het register vullen. Naar aanleiding van de Tussenrapportage Digitale Stad hebben de raadsleden Garmy (Volt) en IJmker (GroenLinks) ook geïnformeerd naar de uitkomsten van het onderzoek in het kader van de Agenda Amsterdamse Intelligentie naar nieuwe toepassingen. Het onderzoek heeft geleid tot de volgende projecten met kunstmatige intelligentie:  door middel van beeldherkenning worden objecten in de openbare ruimte herkend (Object Detection Kit). In Amsterdam Oost, West en Nieuw-West zijn testen uitgevoerd met deze beeldherkenning door het scannen van bouwprojecten (bijvoorbeeld huizen) maar ook afval. Afval kan daardoor gerichter opgehaald worden zonder te hoeven afgaan op alleen meldingen van bewoners.  door middel van speciale apparatuur bevestigd aan een voertuig (auto, boot, fiets) worden er 3D-beelden gemaakt van de omgeving, waarbij privacygevoelige informatie wordt verwijderd, zoals personen en kentekens (Mobile Mapping).

Door middel van het gebruik van AI kunnen bijvoorbeeld lantaarnpalen herkend worden en wellicht ook de soort en eventuele schade, waardoor het onderhoud makkelijker en goedkoper wordt.  door middel van 3D-data wordt de breedte van stoepen in kaart gebracht. Dit levert bijvoorbeeld informatie op over rolstoeltoegankelijkheid.  de begrijpelijkheid van de gemeentelijke communicatie (B1 niveau). Hier wordt kunstmatige intelligentie gebruikt om met vervangende opties te komen voor de moeilijk begrijpbare woorden. Dit bevindt zich nog in de pilotfase. Daarnaast heeft het lid Mangal gevraagd naar de maatregelen die de gemeente neemt om bias en discriminerende factoren in algoritmes te voorkomen. We willen voorkomen dat er een ongerechtvaardigd onderscheid wordt gemaakt op gevoelige kenmerken als: nationaliteit, geboorteland, postcode, huidskleur, etniciteit, geslacht, leeftijd, burgerlijke staat, seksuele geaardheid, religie, politieke opvatting, verblijfsstatus, zwangerschap, gezondheid, sociale klasse en genetica. In de inkoopvoorwaarden die wij hanteren bij de aanschaf van nieuwe algoritmes is opgenomen dat de leverancier er redelijkerwijs voor moet zorgen dat het datamodel en de data die bij het ontwikkelen van het algoritme zijn gebruikt geen ongewenste vooringenomenheid (bias) bevat.

Voordat een algoritme in gebruik wordt genomen, wordt er door de gemeente een zogeheten bias-analyse uitgevoerd. In grote lijnen1 komt het erop neer dat we de uitkomsten van het algoritme vergelijken voor verschillende groepen op basis van één of meerdere van de eerder 1

Meer technische uitleg vindt u op: https://www.amsterdamintelligence.com/posts/analyzing-bias-inmachine-learning-a-step-by-step-approach (Engelstalig).

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

25 januari 2023 Pagina 3 van 3

genoemde gevoelige kenmerken. We willen en moeten gevoelige gegevens zo min mogelijk gebruiken bij de ontwikkeling van modellen (data minimalisatie), maar we kunnen sommige wel als controlevariabelen gebruiken (bijvoorbeeld bepaalde gegevens uit de Basisregistratie Personen). Ze worden dan géén onderdeel van het model, maar enkel gebruikt om een verschil tussen groepen te meten. Bij het onderzoek delen we de dataset op in twee groepen op basis van een controlevariabele. We kijken dan of er verschillen te constateren zijn, bijvoorbeeld of er een gelijke verhouding zit tussen het percentage gevallen dat per groep wordt geselecteerd. Als er verschillen worden geconstateerd bij een bepaald kenmerk, dan wordt gekeken of het verklaarbaar is of niet. Het onderzoeksteam bespreekt deze verschillen met de betrokken directeuren, beleidsadviseurs, juristen en senior medewerkers van het werkproces. Gezamenlijk wordt bepaald of een verschil passend is of niet. Hiermee zijn de toezeggingen TA2022-000755, TA2022-000770, TA2022-000771 en TA2022000849 afgedaan.

Ik hoop u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Shula Rijxman Wethouder ICT en Digitale Stad

Een routebeschrijving vindt u op amsterdam.nl