Raadsinformatiebrief BaaS.pdf

Raadsinformatiebrief

Aan:

Portefeuillehouder(s): Behandeld door

De leden van de gemeenteraad van Amsterdam 18 september 2023 ICT & Digitale Stad Alexander Scholtes Digitalisering, Innovatie en Informatie (bestuurszaken.dii@amsterdam.nl)

Onderwerp

In gebruikname algoritme ‘Blurring as a Service’

Datum Portefeuille(s)

Geachte leden van de gemeenteraad, Met deze brief informeert het college u over het volgende. In de commissie FKD van 13 juli 2023 heb ik met u gesproken over de rol van de gemeenteraad bij de inzet van algoritmen binnen de gemeente. Naar aanleiding van vragen van raadslid IJmker heb ik uitgesproken dat ik de commissie vaker informeer zodat we meer concrete digitale toepassingen en pilots kunnen bespreken. Het college van B en W heeft op 17 juli 2023 besloten een algoritme in gebruik te nemen dat beelden anonimiseert. Het algoritme is in staat om personen en kentekens op beelden te ‘blurren’. Dat betekent dat deze beelden op deze manier worden geanonimiseerd. Een belangrijk voordeel van dit algoritme voor de gemeente is dat het een hoge kwaliteitsstandaard biedt. Met het algoritme worden hele personen geblurd en niet alleen gezichten. Voor de gemeente is dit algoritme daarmee een belangrijke ontwikkeling in het beschermen van digitale rechten en privacy van burgers. Blurring as a Service Het algoritme is onderdeel van de voorziening ‘Blurring as a Service’ (BaaS). ‘Blurring as a Service’ levert een transparante en kwalitatief hoogwaardige anonimisering van beelden die bovenal eerlijk is. Dat wil zeggen dat elke inwoner of bezoeker van Amsterdam moet een gelijke kans krijgen om geanonimiseerd te worden.

Toepassing binnen de gemeentelijke organisatie De eerste toepassing waar het algoritme binnen de gemeente voor wordt ingezet, is voor het anonimiseren van panoramabeelden die de gemeente maakt met behulp van scanauto’s. In de toekomst kan het algoritme ook worden ingezet voor andere beeldbronnen, voorbeelden zijn foto’s gemaakt door handhaving of foto’s die met burgermeldingen mee worden gestuurd. Per nieuwe toepassing of nieuw proces wordt onderzocht of de inzet van het algoritme proportioneel is ten opzichte van het doel. Een besluit over de inzet wordt genomen door de verantwoordelijke portefeuillehouder. Prestaties Er is op dit moment geen landelijke norm voor het vaststellen van de prestaties van dit soort algoritmen. Grofweg 95% van de beelden waarop personen en kentekens zijn vastgelegd, worden succesvol geanonimiseerd door het algoritme. Daarmee is het algoritme dus niet foutloos. Er is

Gemeente Amsterdam, raadsinformatiebrief

Datum 18 september 2023 Pagina 2 van 2

geconstateerd dat het merendeel van de niet-geanonimiseerde personen of kentekens ver weg staan van de camera en daarmee niet meer herleidbaar zijn tot een individu. Bij gebruik van BaaS wordt door afnemers een proces ingericht waarbij niet-volledig geanonimiseerde beelden alsnog geanonimiseerd kunnen worden door medewerkers. Alleen een aantal specifieke medewerkers heeft toegang tot deze niet-geanonimiseerde beelden. Daardoor blijft privacy zoveel mogelijk gewaarborgd. Hoogrisicoalgoritme In afwachting van de Europese AI-verordening, de nieuwe Europese wetgeving voor AI, is onderzocht of sprake is van een hoogrisicoalgoritme om te kunnen bepalen welke maatregelen noodzakelijk zijn voor het algoritme. De gemeente heeft ervoor gekozen dit risico als hoog te beschouwen, omdat het beelden van mensen verwerkt en geen onderscheid mag worden gemaakt. Het anonimiseringsalgoritme wordt uitdrukkelijk niet ingezet ter identificatie of categorisering van mensen. Een hogere risicoclassificatie draagt eraan bij dat de gemeente nadere analyses moet doen om ervoor te zorgen dat het algoritme wettig, ethisch verantwoord en robuust functioneert. Er zijn diverse maatregelen getroffen om dit zoveel mogelijk te garanderen. Extra interne controles en audits hebben plaatsgevonden op alle getroffen maatregelen op het gebied van sturing en beheersing, privacy en security, het model zelf en de data.

Er is een biasanalyse uitgevoerd, waarbij werd gekeken of het algoritme discrimineert, bijvoorbeeld op huidskleur, leeftijd of gender. Uit de biasanalyse is gebleken dat het algoritme niet discrimineert, wat betekent dat inwoners een zo’n gelijk mogelijke kans hebben om geanonimiseerd te worden, onafhankelijk van leeftijd, gender of huidskleur. De resultaten zijn opgenomen in een rapport, en dit is onafhankelijk beoordeeld en vastgesteld met een review van Verdonck, Klooster & Associates. Dit bureau is gespecialiseerd in technische reviews op algoritmen. Het rapport is toegevoegd als bijlage aan deze raadsinformatiebrief. Voorbeeld In de bijlage is een afbeelding waarop de resultaten van BaaS zichtbaar zijn. Hierop is te zien dat de gehele persoon is geanonimiseerd. Het algoritme slaagt erin alle personen, die dicht bij de camera staan, te anonimiseren. Enkel personen ver weg van de camera, waarvan de identiteit zeer lastig of niet te herleiden is, worden niet geanonimiseerd.

Over de verdere ontwikkelingen rondom AI gaat het college graag met uw raad in gesprek. Ik verwacht u daarover in het eerste kwartaal van 2024 te kunnen informeren. Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Alexander Scholtes Wethouder ICT & Digitale Stad

Een routebeschrijving vindt u op amsterdam.nl