SV203_21_Beantwoording_schriftelijke_vragen_IJmker_onderzoek_Digitale_Perimeter.pdf

Raadsinformatiebrief Beantwoording schriftelijke vragen

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 14 juni 2021 ICT en Digitale Stad Touria Meliani CTO (bestuurszaken.cto@amsterdam.nl) Beantwoording schriftelijke vragen van het lid IJmker inzake onderzoek Digitale Perimeter

Geachte leden van de gemeenteraad, Op 14-05-2021 heeft het college schriftelijke vragen ontvangen van het lid IJmker inzake het onderzoek Digitale Perimeter van Bits of Freedom. Onderstaand treft u de beantwoording van deze vragen aan. Toelichting door de vragenstellers Bits of Freedom publiceerde op 11 mei jl. een onderzoeksrapport1 waarin wordt gesteld dat verschillende publieke waarden en digitale rechten niet worden gewaarborgd bij het experiment rond de Johan Cruijff ArenA, ook wel bekend als de ‘Digitale Perimeter’. GroenLinks is bezorgd over het geschetste beeld in het onderzoek van Bits of Freedom. Zowel over de inzet van gezichtsherkenning als het gebrek aan transparantie en de juiste informatievoorziening over dit experiment. In Amsterdam hebben we met de Agenda Digitale Stad, Tada-waarden en de Datastrategie een duidelijke visie neergezet op het gebruik van verantwoorde technologie in de stad. Het lijkt erop dat van de betrokken partijen bij dit experiment alleen de gemeente Amsterdam zich echt inzet voor het naleven van de Tadawaarden. De conclusie van het onderzoek dat deze waarden in de praktijk en bij samenwerking met andere partijen niet altijd tot uitvoering komen roepen dan ook vragen op bij de fractie van GroenLinks.

Gezien het vorenstaande stelt ondergetekende, namens de fractie van GroenLinks, op grond van artikel 84 van het Reglement van orde gemeenteraad en raadscommissies Amsterdam, de volgende schriftelijke vragen:

1 https://www.bitsoffreedom.nl/2021/05/11/een-digitaal-hek-om-een-voetbalstadion-met-een-blauw-likje-verf/

Gemeente Amsterdam, raadsinformatiebrief

Datum 14 juni 2021 Pagina 2 van 6

Het college kan de gestelde vragen als volgt beantwoorden. 1. Is het college bekend met het onderzoek ‘Op Waarden Geschat: Living Lab Digitale Perimeter’? (Bits of Freedom, 30 april jl.) Ja, het college is bekend met het onderzoek. 2. Deelt het college de opvatting dat het experiment ‘Digitale Perimeter’ niet geheel in lijn is met de vastgestelde Tada-waarden en de uitgangspunten van de Agenda Digitale Stad en de Datastrategie? De Digitale Perimeter is een samenwerking tussen vier partijen (Gemeente Amsterdam, Johan Cruijff ArenA, Nationale Politie en TNO). De samenwerking is gericht om te leren wat de impact van de inzet van technologieën binnen het veiligheidsdomein inhoudt. Onder de samenwerking vallen zeven deelprojecten en deze worden door de verschillende partijen getrokken. De deelprojecten waar de Gemeente Amsterdam verantwoordelijk voor is, zijn in lijn met de Tada-waarden2. Dat wordt ook in het onderzoek bevestigd. Specifiek zijn dat het Catalyst-traject en Public Eye. Ook in andere trajecten worden gesprekken gevoerd over de Tada-waarden. Het doel van de projecten is om ook juist daarover dialoog te voeren. 3.

Hoe verhoudt het experiment zich specifiek tot één van de uitgangspunten van de Datastrategie, namelijk dat Amsterdammers zich onbespied en anoniem kunnen bewegen in de openbare ruimte? Voor alle deelprojecten geldt dat deze volgens de systematiek van privacy-by-design worden ontworpen. Dat wil zeggen dat er in het ontwerp al vroegtijdig rekening wordt gehouden met het afdwingen van zorgvuldig omgaan met persoonsgegevens. In de openbare ruimte is slechts één deelproject waarin persoonsgegevens verwerkt worden. Dat is het Public Eyesysteem, onderdeel van Crowd Monitoring Systeem Amsterdam (CMSA)3. Op basis van een proportionaliteit- en subsidiariteitsafweging wordt lokaal een uitzondering gemaakt op het uitgangspunt onbespied in de openbare ruimte, in verband met de omvang en de aard van de drukte problematiek ter plaatse. Dit valt onder de portefeuille Verkeer, Vervoer en Luchtkwaliteit. De gemeente Amsterdam dient als wegbeheerder met het oog op de verkeersveiligheid en de bereikbaarheid van publieksfuncties informatie te geven aan voetgangers en/of verkeersmaatregelen te treffen. Hier draagt het Public Eye-systeem aan bij, als onderdeel van het CMSA. Andere projecten waarin persoonsgegevens worden verwerkt, worden niet in de openbare ruimte toegepast, maar uitsluitend binnen de Johan Cruijff ArenA onderzocht.

De persoonsgegevens die in deze projecten verwerkt worden, worden enkel verzameld met 2 https://tada.city/ - Het ‘tada, duidelijk over data’-manifest wordt geïmplementeerd. Dit manifest biedt een handleiding om bewust om te

gaan met de mogelijkheden en bedreigingen van digitale technologieën, voor het beschermen van burgerrechten en voor eerlijke toegang tot, en het eerlijk verdelen van de opbrengsten van digitale technologieën. 3 Zie eventueel: https://algoritmeregister.amsterdam.nl/public-eye/

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 14 juni 2021 Pagina 3 van 6

behulp van de inzet van acteurs. De acteurs hebben toestemming gegeven om aan de experimenten mee te doen. Het doel van de Digitale Perimeter is om te onderzoeken hoe bezoekers in het drukke arenagebied op een veilig en comfortabele manier van punt A naar B te krijgen, zonder hierbij (te veel) overlast te ervaren. De projecten vinden plaats in een proeftuinomgeving, waarbij de toepassingen op een veilige en verantwoorde manier uitgeprobeerd kunnen worden. Het project is gericht op het vinden van alternatieven voor technologie die de privacy beperkt. Deze vinden plaats binnen de wet- en regelgeving. Het uitgangspunt is dat er open en transparant wordt gecommuniceerd en dat de digitale rechten worden gerespecteerd. 4. Deelt het college de opvatting dat het experiment eigenlijk gaat om twee aparte projecten in plaats van één gezamenlijk project? Zo ja, waarom is dit niet op deze manier gecommuniceerd? Nee, deze opvatting deelt het college niet. Digitale Perimeter is een samenwerking bestaande uit zeven projecten. Per project is er één trekkende partij (Gemeente Amsterdam, Johan Cruijff ArenA, TNO of de Nationale politie). De trekkende partij bepaald in grote lijnen de behoefte en wat er per project gaat gebeuren.

Wat betreft de projecten waar de JCA of de Nationale Politie een leidende rol heeft, is de rol van de gemeente Amsterdam beperkt tot het kennisnemen van het onderzoek en hiervan te leren. Het gaat hier dus om een samenwerking met aparte projecten, met ieder een eigen verantwoordelijkheid en mandaat. 5. Welke concrete stappen kan het college nemen om de openbare informatievoorziening over dit experiment te verbeteren? Met daarin graag specifiek aandacht voor transparantie over de herkomst en infrastructuur van de ingezette technologie en communicatie over op welke exacte locatie er wordt geëxperimenteerd. Naast het delen van informatie en bevindingen via webinars, artikelen, workshops, onderzoekstrajecten, een vak op de VU waar studiepunten voor de Digitale Perimeter-casus gehaald kunnen worden en een project gefocust op bewonersparticipatie (genaamd Catalyst), wordt er een aantal aanvullende acties uitgevoerd. De informatievoorziening is op de gemeentelijke website herzien, aangescherpt en openbaar toegankelijk gemaakt zodat Amsterdammers er kennis van kunnen nemen4. Verder wordt er een verwijzing naar het algoritmeregister toegevoegd. Hetzelfde verzoek zal naar de samenwerkende partijen gaan. Verder zal er een collectie op openresearch.amsterdam.nl worden aangemaakt.

In deze collectie worden de relevante projectplannen, methodieken, webinars en onderzoeksresultaten gepubliceerd. 6. In het recente jaarverslag van de CPA wordt geadviseerd “om een goede gebruikersregeling binnen de normen van de AVG op te stellen voor de deelnemers aan de

4 Zie eventueel: https://www.amsterdam.nl/innovatie/digitalisering-technologie/digitale-perimeter/

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 14 juni 2021 Pagina 4 van 6

perimeter”, met specifiek aandacht voor de informatieverschaffing aan de betrokken burgers. Welke concrete acties onderneemt het college om hier invulling aan te geven? De Commissie Persoonsgegevens Amsterdam (CPA) adviseert in het jaarverslag om een goede gebruikersregeling binnen de normen van de AVG op te stellen. Dit advies en verslag ten aanzien van de Digitale Perimeter zijn van 2019. Aan dit advies is uitvoering gegeven door open en transparant te zijn, zoals in de vorige vraag beantwoord. Voordat een project start worden de privacyrisico’s in kaart gebracht en worden met de deelnemende partijen afspraken gemaakt om te zorgen dat deze zo gering mogelijk zijn. Deze afspraken zijn minimaal conform de AVG5 en vaak strenger. 7. Deelt het college de opvatting van experts dat er geen noemenswaardig verschil bestaat tussen gelaatsherkenning en gezichtsherkenning?6 Graag met argumentatie. Het klopt dat tussen de woorden gelaatsherkenning en gezichtsherkenning geen noemenswaardig verschil zit. Echter gebruiken we in de projectcommunicatie de term gelaatsvergelijking en niet gelaatsherkenning. In het Nederlands zijn de woorden ‘gelaat’ en ‘ gezicht’ synoniemen van elkaar. Het gaat in dit geval om het achtervoegsel ‘-vergelijking’ en ‘-herkenning’.

Voor een completer beeld wordt ook ‘-identificatie’ toegevoegd: - Gelaats- of gezichtsvergelijking, en face comparison is het vergelijken van twee of meer gezichten met elkaar. Technisch gezien is dit het bepalen van een afstandsmaat tussen de gezichten. - Bij gelaats- of gezichtsherkenning wordt er een koppeling gelegd naar een observatie van iemand op een ander moment. Dat betekent dat dan bekend wordt waar en wanneer iemand eerder is gezien, maar de identiteit is dan nog niet bekend. - Bij gelaats- of gezichtsidentificatie wordt er een koppeling gelegd naar een unieke identiteit, dus één mens uit alle aardbewoners. Dan wordt bijvoorbeeld de naam bekend. Er zijn dus betekenisvolle verschillen tussen gelaatsvergelijking (of gezichtsvergelijking), gezichtsherkenning en gezichtsidentificatie. Experts hanteren dit onderscheid. In het rapport van TNO wordt de term gezichtsherkenning gebruikt, omdat het o.a. de meest gangbare term is. 8. Welke mogelijkheden ziet het college om de deelnemende partijen (TNO, landelijke politie en Johan Cruijff ArenA) in dit experiment ook het Tada-manifest te laten ondertekenen, om zo deze waarden beter te verankeren in het experiment? Vanaf het begin van het project is Tada betrokken en is een aantal workshops gehouden.

Het Tada-manifest biedt een handleiding om bewust om te gaan met de mogelijkheden en bedreigingen van digitale technologieën, voor het beschermen van burgerrechten en voor 5 https://www.amsterdam.nl/privacy/ 6 Zie bijvoorbeeld prof. Raymond Veldhuis (Universiteit Twente) in Volkskrant 27 maart 2020.

https://www.volkskrant.nl/kijkverder/v/2020/de-stand-van-gezichtsherkenning-in-nederland~v91028/

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 14 juni 2021 Pagina 5 van 6

eerlijke toegang tot, en het eerlijk verdelen van de opbrengsten van digitale technologieën. De gemeente Amsterdam zal samen met de andere deelnemende partijen verdere gesprekken met Tada aan gaan, o.a. om te onderzoeken of het haalbaar is om de deelnemende partijen voor specifiek het digitale perimeter project de waarden te laten onderschrijven. Indien er aanvullende acties nodig zijn om de Tada-waarden in de projecten te verankeren, dan wordt daar invulling aangegeven. 9. Welke mogelijkheden ziet dit college om naast privacy by design ook value sensitive design op te nemen als een van de criteria voor het inzetten van nieuwe technologie? Privacy by design zorgt ervoor dat vanaf het begin, dus in het ontwerp, rekening wordt gehouden de privacy. Dat is een criterium waarbij iedere technologie op getoetst dient te worden. Impliciet gebeurt dit al in de samenwerking Digitale Perimeter. Voor een betere borging van dergelijke waarden wordt er naar opties tot een samenwerking met het Responsible Sensing Lab (RSL) gezocht. Daar staat het value sensitive design7 centraal. Het value senstive design is een theoretische benadering van het ontwerp van technologie die op een principiële manier rekening houdt met menselijke waarden.

De Responsible Sensing Toolkit8 die daarbij wordt gebruikt is onderdeel van het RSL en is grotendeels gebaseerd op ervaring die is opgedaan bij het Public Eye-project. 10. Wanneer worden de eerste resultaten van dit experiment verwacht? Hoe zal dit experiment worden geëvalueerd? Het samenwerkingsverband (of experiment) loopt iets korter dan twee jaar. Er zijn al enige resultaten behaald en deze zullen de komende periode op openresearch.amsterdam worden gepubliceerd. Daarnaast worden de resultaten al in workshops en gesprekken met bijvoorbeeld andere gemeenten gedeeld. De evaluatie van het experiment vindt plaats aan de hand van gesprekken door onderzoeksinstellingen in een participatietraject met bewoners genaamd Catalyst. De stuurgroep komt elke kwartaal bijeen waarbij er ook wordt teruggekeken en tussentijds geëvalueerd. Daarnaast wordt er structureel een evaluatie met instanties zoals Tada georganiseerd. 11. Hoe kijkt het college naar de lange termijn doelen van dit experiment? Het doel van de Digitale Perimeter is om te onderzoeken hoe bezoekers in het drukke arenagebied op een veilig en comfortabele manier van punt A naar B te krijgen, zonder hierbij (te veel) overlast te ervaren. De projecten vinden plaats in een proefomgeving waarbij nieuwe toepassingen op een veilige en verantwoorde manier uitgeprobeerd kunnen worden.

Het is gericht op het vinden van alternatieven voor technologie die de privacy beperkt. Deze vinden plaats binnen de wet- en regelgeving. Het uitgangspunt is dat er open en transparant wordt gecommuniceerd en dat digitale rechten worden gerespecteerd. De toepassingen worden 7 Zie eventueel: https://en.wikipedia.org/wiki/Value_sensitive_design 8 (zie eventueel: https://www.amsterdam.nl/innovatie/digitalisering-technologie/responsible-sensing-lab/#h6f0ca232-1220-4c1b-9865-

acb4c84b0148)

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 14 juni 2021 Pagina 6 van 6

altijd getoetst op randvoorwaarden zoals privacy en ethiekwaarborging. Indien een pilot als succesvol wordt beschouwd, wordt er gekeken hoe dit eventueel ingezet kan worden door andere afdelingen van de gemeente. Dat gebeurt bijvoorbeeld bij het Public Eye-project dat bij Verkeer en Openbare ruimte wordt geïmplementeerd. Wij verwachten u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam, Touria Meliani Wethouder ICT en Digitale Stad LET OP: GEEN ONDERTEKENING NODIG

Een routebeschrijving vindt u op amsterdam.nl