Raadsinformatie afdoening toezegging algoritme crowdmonitoring Public Eye.pdf

Raadsinformatiebrief Afdoening toezegging

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 13 april 2023 Verkeer en Vervoer Melanie van der Horst Debbie Dekkers (bestuurszaken.dii@amsterdam.nl) Afdoening toezegging algoritme crowdmonitoring Public Eye uit de commissievergadering FKD van 9 maart 2023

Geachte leden van de gemeenteraad, In de vergadering van de commissie FKD van 9 maart 2023 heeft wethouder Meliani op een vraag van raadslid M. Meerburg van de Partij voor de Dieren toegezegd de commissie nader te informeren over de volgende twee onderwerpen. De inzet van algoritmen in de openbare ruimte en het algoritme open source crowd management van Public Eye. Over het laatste onderwerp is specifiek gevraagd wie bepaalt dat de politie daar nieuwe inzetlocaties voor gaat zoeken (TA2023000254). Omdat de voortgangsrapportage Smart Mobility hiervoor de aanleiding was, wil ik u graag via de commissie MOW hierover informeren. In deze brief ga ik hier nader op in. Algemeen Er zijn op dit moment verschillende definities voor ‘algoritme’ of ‘algoritmische toepassing’.

De gemeente Amsterdam verstaat onder een algoritme: “software die - door gebruik van dataanalyse, statistiek of zelflerende logica - geautomatiseerd voorspellingen doet, beslissingen neemt of adviezen geeft die leiden tot beslissingen van de gemeente die bestuursrechtelijk, privaatrechtelijk en/of feitelijk van aard zijn en die direct of indirect één of meer burgers van de gemeente, bezoekers van de gemeente of bedrijven of andersoortige instellingen in aanmerkelijke mate treffen.” De Europese Commissie heeft een voorstel voor een Artificial Intelligence (AI)-verordening gedaan, waarmee de lidstaten op 6 december 2022 hebben ingestemd. Mogelijk loopt de AIVerordening echter vertraging op, want de AI-Verordening houdt (nog) geen rekening met generatieve AI, zoals bijvoorbeeld ChatGPT. De definitie die de gemeente Amsterdam hanteert is grotendeels in lijn met de (gewijzigde) definitie die is voorgesteld door de Europese Commissie, maar de AI-verordening kent dus nog geen vastgestelde definitie. In het voorstel voor een AI-verordening is overigens een uitgebreide bepaling over sancties en administratieve geldboeten opgenomen voor inbreuken op de AIverordening.

Gemeente Amsterdam, raadsinformatiebrief

Datum 13 april 2023 Pagina 2 van 3

Aanpak risicobeheersing algoritmen Amsterdam Het college heeft besloten om de inwerkingtreding van de AI-verordening niet af te wachten, maar alvast een AI-governance en een afwegingskader voor AI op te stellen. Daarnaast zijn ook model inkoopvoorwaarden voor algoritmen vastgesteld, zodat leveranciers weten dat zij mee moeten werken aan transparantie over de gebruikte algoritmen. Verder is een lijst van hoogrisicoverwerkingen opgesteld, gebaseerd op de AI-verordening. Op deze lijst staan vrijwel alle vormen van het gebruik van algoritmen in de openbare ruimte. Prioritering voor opname in het Algoritmeregister vindt plaats op basis van categorieën die door de Europese Commissie zijn voorgesteld. Algoritmen met een hoog risico én met geautomatiseerde besluitvorming zonder betekenisvolle menselijke tussenkomst worden eerst beoordeeld en beschreven. Daarna worden algoritmen met een hoog risico waarbij wél sprake is van menselijke tussenkomst beschreven en beoordeeld. Tot slot worden algoritmen met een laag risico beschreven en beoordeeld. Verder zijn diverse andere instrumenten voor publieke controle op algoritmes vastgesteld, zoals Mensenrechten Impact Assessments, een Handreiking voor bezwaarbehandelaars algoritmen, bias-analyse, audits en dergelijke. Algoritmen in de openbare ruimte In de openbare ruimte wordt door de gemeente Amsterdam gebruikt gemaakt van diverse algoritmen.

Niet alleen voor verkeersmanagement om drukte in beeld te brengen, maar denk ook aan de ANPR-camera’s voor handhaving van de Milieuzone of de VerkeersRegelInstallaties, beter bekend als verkeerslichten. Verkeerslichten maken gebruik van algoritmen in samenhang met zogenaamde detectielussen in het wegdek. Met een detectielus kan met behulp van elektronica een voertuig worden waargenomen, zodat het verkeerslicht sneller naar groen kan als dat veilig is. Er wordt onderscheid gemaakt naar de réden waarom een algoritme in de openbare ruimte op de lijst van hoogrisicoverwerkingen van de gemeente Amsterdam is gezet. De algoritmen in de verkeersregelinstallaties worden bijvoorbeeld uitsluitend als hoog risico algoritmen gezien, omdat de verkeerslichten onderdeel uitmaken van de kritische infrastructuur van de gemeente Amsterdam. Fouten in deze algoritmen zouden kunnen leiden tot verkeersongevallen of een verkeersinfarct, met alle maatschappelijke schade van dien. Zorgen over privacy en eventuele bias spelen bij deze algoritmen echter nauwelijks een rol. Het gebruik van een algoritme in de openbare ruimte betekent dus niet altijd een bedreiging voor de privacy of andere grondrechten. Algoritmen crowdmanagement Public Eye De tekst in de voortgangsrapportage Smart Mobility die in de raadscommissie FKD van 9 maart 2023 aan de orde kwam, gaat over de pilot Public Eye.

Public Eye was een project om een nieuw algoritme voor crowdmonitoring te ontwikkelen. Het ging hierbij in totaal om tien camera’s. Zes camera’s bevinden zich op het Marineterrein en vier in het ArenAgebied. Bij de beslissingen om het algoritme op het Marineterrein en in het ArenAgebied in te zetten, is de AI-governance gevolgd.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 13 april 2023 Pagina 3 van 3

Het algoritme in Public Eye is vervolgens open source gemaakt. Dat betekent dat het algoritme vervolgens ook door de politie en GVB kon worden gebruikt en elke andere organisatie die er een zinvolle toepassing in ziet. Daar gaan deze organisaties zelf over. Deze organisaties moeten daarvoor natuurlijk onder andere een rechtmatige grondslag hebben. Over het open source maken van dit algoritme is uitgebreid advies ingewonnen, omdat open source betekent dat Amsterdam geen invloed meer heeft welke andere (statelijke) actoren dit algoritme kunnen gebruiken. Ik hoop u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Melanie van der Horst Wethouder Verkeer en Vervoer

Een routebeschrijving vindt u op amsterdam.nl