Raadsinformatiebrief_toezegging_verbod_biometrischesurveillance.pdf

Raadsinformatiebrief Afdoening toezegging

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door

Onderwerp

De leden van de gemeenteraad van Amsterdam 9 juli 2024 ICT en Digitale stad Alexander Scholtes Directie Digitalisering Strategie en Informatievoorziening, Bestuurszaken.dii@amsterdam.nl Afdoening toezegging informeren over stand zaken verbod biometrische surveillance-technieken

Geachte leden van de gemeenteraad, Ik informeer u over de voortgang van het verbod op biometrische surveillance-technieken zoals vastgesteld in het Amsterdams Akkoord 2022-2026. Eerder bent u op 3 augustus 2022 al door de burgemeester hierover geïnformeerd. In het Amsterdams Akkoord is opgenomen dat er een verbod komt op biometrische surveillancetechnieken, zoals gezichtsherkenning. Het verbod is bedoeld om de privacy en de grondrechten van de Amsterdammers te beschermen zodat ze onbespied en anoniem zich kunnen bewegen in de fysieke en digitale openbare ruimte. Sinds het sluiten van het coalitieakkoord is er veel beweging geweest op dit onderwerp, mede dankzij de snelle ontwikkeling van kunstmatige intelligentie. Biometrische identificatie is de automatische herkenning van fysieke, fysiologische, gedragsmatige en psychologische menselijke kenmerken met als doel de identiteit van een persoon vast te stellen door biometrische gegevens van die persoon te vergelijken met opgeslagen biometrische gegevens van personen in een database (één-op-vele-identificatie). Deze technologieën kunnen worden gebruikt om personen te volgen en/of te profileren voor verschillende doeleinden, zoals veiligheid, marketing of gezondheidszorg. Zodra er sprake is van volgen noemen we het biometrische surveillance.

Biometrische identificatie én surveillance roepen ethische, juridische en sociale vragen op over de bescherming van de privacy, de mensenrechten en de democratie. Zoals de burgemeester in 2022 al aangaf, beperkt bestaande wetgeving in onder andere de Algemene Verordening Gegevensbescherming (AVG) en de Wet Politiegegevens (Wpg) het gebruik van biometrische persoonsgegevens aanzienlijk. Deze beperkingen gelden voor de gemeente zelf, maar ook voor het bedrijfsleven en andere overheden voor zover die persoonsgegevens en/of politiegegevens verwerken. Destijds werd er rondom de AI-verordening al onderhandeld over een algemeen Europees verbod op biometrische surveillancetechnieken. Hierom hebben we de noodzaak voor een specifiek Amsterdams verbod afgewacht.

Gemeente Amsterdam, raadsinformatiebrief

Datum 9 juli 2024 Pagina 2 van 3

De Europese wetgever heeft recent de AI-verordening vastgesteld, waarin bepaalde vormen van biometrische identificatie met behulp van AI worden verboden en andere vormen aan strenge voorwaarden moeten voldoen (hoog risico AI-systemen). Hiermee wordt grotendeels voldaan aan de Amsterdamse ambitie voor een verbod op biometrische surveillance-technieken. De verplichtingen uit de AI-verordening worden getrapt ingevoerd. Zes maanden na officiële publicatie van de verordening moeten de verboden vormen van AI gestopt moeten zijn. Hier vallen belangrijke vormen van biometrische identificatie en surveillance onder: •

•

•

Databanken voor gezichtsherkenning: Het op de markt brengen, specifiek in gebruik nemen of gebruiken van AI-systemen die databases voor gezichtsherkenning aanleggen of aanvullen door ongericht gegevens te verzamelen van internet of CCTV-beelden. Biometrische categorisering: Het op de markt brengen, specifiek in gebruik nemen of gebruiken van systemen voor biometrische categorisering die individuen indelen op basis van biometrische gegevens om informatie af te leiden over hun ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze overtuigingen, seksleven of seksuele gerichtheid. Dit verbod geldt niet voor legitiem verkregen biometrische datasets voor rechtshandhavingsdoeleinden. Biometrische identificatie voor rechtshandhaving: Het gebruik van systemen voor biometrische identificatie op afstand in realtime in openbare ruimten voor rechtshandhavingsdoeleinden, tenzij strikt noodzakelijk voor specifieke doeleinden zoals: 1. Het zoeken naar slachtoffers van ontvoering, mensenhandel en seksuele uitbuiting, evenals het opsporen van vermiste personen. 2. Het voorkomen van dreigingen voor mensenlevens, inclusief actuele of te verwachten dreigingen van terroristische aanslagen. 3. Het lokaliseren van verdachten van ernstige misdrijven ten behoeve van gerechtelijk onderzoek.

Onder hoog-risico AI-toepassingen vallen in het kader van biometrische gegevens: •

•

Biometrische identificatie op afstand: Deze systemen gebruiken biometrische gegevens, zoals gezichtsherkenning, om individuen op afstand te identificeren. Het gebruik ervan is beperkt tot situaties waarin biometrische verificatie vereist is om de identiteit van een persoon te bevestigen. Biometrische categorisering AI-systemen die biometrische gegevens gebruiken om individuen te categoriseren op basis van gevoelige eigenschappen of kenmerken, zoals ras of religie, vallen ook onder deze categorie. Dit omvat ook systemen die emoties kunnen herkennen op basis van biometrische gegevens.

Hoewel deze hoog-risico AI-toepassingen toegestaan zijn binnen de AI-verordening zal de gemeente Amsterdam geen AI-toepassingen met biometrische categorisering in gebruik nemen, omdat deze applicaties niet door de ethische checks zullen komen die in het kader van Quality Assurance uitgevoerd worden. De reikwijdte van dit verbod, en de vereisten die gelden bij het toepassen van hoog-risico AI, strekken zich uit over hele Europese Unie. Het verbod is dus van toepassing op de gemeente zelf,

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 9 juli 2024 Pagina 3 van 3

maar bovenal voor alle mogelijke aanbieders of gebruikersverantwoordelijken van dergelijke systemen. Effectieve handhaving op de AI-verordening is van groot belang. De verordening vraagt om het aanwijzen van toezichthoudende instanties. Deze worden nog aangewezen door middel van een uitvoeringswet. De Autoriteit Persoonsgegevens is in 2023 gestart als coördinerende autoriteit voor het toezicht op algoritmes. De AP geeft invulling aan deze rol vanuit de nieuwe directie Coördinatie Algoritmes (DCA). In haar nieuwe rol staat de DCA in verbinding met andere toezichthouders, sectorvertegenwoordigers, uitvoeringsorganisaties, belangenorganisaties, het maatschappelijk middenveld, de wetenschap en specialistische organisaties en instituten. De gemeente is zich actief aan het voorbereiden op de AI-verordening. De praktische vertaling van de AI-verordening naar het gebruik van algoritmes in gemeentelijke taken en verantwoordelijkheden is geen eenvoudige opgave. De AI-verordening bevat een complex en gedetailleerd juridisch kader dat verschillende aspecten van AI reguleert. Als gemeente integreren we de verplichtingen vanuit de AI-verordening in de doorontwikkeling van het Beheerskader Algoritmes, waarover u eerder geïnformeerd bent. Ik hoop u hiermee voldoende te hebben geïnformeerd. Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Alexander Scholtes Wethouder ICT en digitale stad

Een routebeschrijving vindt u op amsterdam.nl