Beantwoording sv IJmker en Bakker inzake Lancering Fieldlab ArenA gebied

Raadsinformatiebrief Beantwoording schriftelijke vragen

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 4 september 2023 ICT & Digitale Stad Alexander Scholtes Bestuurszaken DII (bestuurszaken.dii@amsterdam.nl) Beantwoording schriftelijke vragen van de leden IJmker en Bakker inzake Lancering Fieldlab ArenA gebied

Geachte leden van de gemeenteraad, Op 14 juni 2023 heeft het college schriftelijke vragen ontvangen van de leden IJmker en Bakker inzake Lancering Fieldlab ArenA gebied. Onderstaand treft u de beantwoording van deze vragen aan. Toelichting door de vragenstellers Op 11 mei jl. vond het lanceringsevenement van het Fieldlab ArenA gebied plaats. Het gebied rond de Johan Cruijff ArenA wordt hiermee een “testlocatie voor innovaties op het gebied van mobiliteit, veiligheid, duurzaamheid en leefbaarheid”.1 Binnen dit ‘Fieldlab’ wordt samen met de Johan Cruijff ArenA, TNO en Politie Nederland gewerkt aan een aantal experimenten, waaronder het gebruik van gezichtsherkenning, bodycams en crowd monitoring. GroenLinks heeft al eerder zorgen geuit over de verschillende experimenten die plaatsvinden in het ArenA gebied.2 In Amsterdam hebben we met de Agenda Digitale Stad en de Datastrategie een duidelijke visie neergezet op het gebruik van verantwoorde technologie in de stad.

Uit eerder onderzoek van Bits of Freedom bleek dat deze visie in de praktijk en bij samenwerking met andere partijen niet altijd tot uitvoering komt.3 Daarnaast is in het coalitieakkoord 2022-2026 de ambitie geformuleerd voor “een verbod op biometrische surveillance-technieken, zoals gezichtsherkenning”.4 GroenLinks en Partij voor de Dieren maken zich zorgen over het aantal experimenten, living labs, en fieldlabs dat plaatsvindt in de openbare ruimte. Zeker waar het gaat om de inzet van biometrische surveillance technieken. Deze technieken hebben wat GroenLinks en Partij voor de Dieren betreft geen plek in een vrije democratische samenleving. Het is bij deze experimenten ook niet altijd duidelijk of er sprake is van een tijdelijk experiment of juist een (zo goed als) permante inzet van dit soort nieuwe technieken. En dat terwijl goede afbakening een belangrijke

1 https://www.amsterdam.nl/innovatie/nieuws-innovatie/lancering-fieldlab-arena-gebied/ 2 https://amsterdam.raadsinformatie.nl/document/10131215/1 3 https://www.bitsoffreedom.nl/2021/05/11/een-digitaal-hek-om-een-voetbalstadion-met-een-blauw-likje-verf/ 4 Coalitieakkoord 2022-2026 “Amsterdams Akkoord”, pagina 70

Gemeente Amsterdam, raadsinformatiebrief

Datum 4 september 2023 Pagina 2 van 5

voorwaarde is bij het experimenteren met nieuwe technologische toepassingen. GroenLinks en Partij voor de Dieren willen daarom meer duidelijkheid over de effectiviteit en de noodzakelijkheid van het Fieldlab ArenA Gebied waarin nieuwe digitale technieken worden ingezet. Gezien het vorenstaande stelt ondergetekende, namens de fracties van GroenLinks en Partij voor de Dieren, op grond van artikel 84 van het Reglement van orde gemeenteraad en raadscommissies Amsterdam, de volgende schriftelijke vragen: Het college kan de gestelde vragen als volgt beantwoorden. 1Hoe verhoudt het op 11 mei gelanceerde ‘Fieldlab ArenA gebied’ zich tot het experiment ‘Digitale Perimeter’ dat al eerder plaatsvond in het ArenA gebied? Het Fieldlab Arenagebied is het vervolg van de Digitale Perimeter. Na het afronden van de Digitale perimeter is de samenwerking tussen de gemeente, politie en Johan Cruijff Arena voortgezet. In de komende drie jaar worden nieuwe innovaties en projecten gestart die kunnen bijdragen aan de veiligheid en leefbaarheid in de openbare ruimte. De nieuwe projecten zijn samengevat in 4 categorieën (zie bijlage).

2 Is het experiment ‘Digitale Perimeter’ afgerond? Zo ja, hoe is dit geëvalueerd en wat waren de resultaten? Hoe worden de eventueel succesvolle resultaten van dit experiment verder geïmplementeerd? Kunnen wij de evaluatie ontvangen? De Digitale perimeter is afgerond en per project is er geëvalueerd: ▪ Privacybeschermende techniek in gezichtsherkenning. Multi-party Computation (MPC) is de techniek die binnen dit project is gebruikt en dit lijkt een geschikte manier te zijn om bepaalde gegevens te versleutelen en daarmee ‘geheim’ te houden. Zo kunnen privacygevoelige gegevens beter beschermd worden. De evaluatie staat hier: https://openresearch.amsterdam/nl/page/70613/gezichtsherkenning. ▪ Blue-force tracking. Binnen dit project werd onderzocht of een armbandje met sensoren kan bijdragen aan de bescherming van eigen veiligheidspersoneel. Het resultaat is dat de techniek goed in staat is om bepaalde triggerwaarden door te geven en daarmee informatie gestuurd ondersteuning te kunnen bieden. Echter, heeft het project geen vervolg meer gekregen na meerdere pogingen tijdens de pandemie. Deze plannen zijn er in de nieuwe fase van het Fieldlab ook niet. ▪ Bodycams (5G). Dit project is door stewards van de JCA getest en is na evaluatie van de gebruikersgroep door een deel van het personeel van de JC ArenA in gebruik genomen. ▪ Public eye.

Is een geslaagd onderzoek geweest waarbij we veel beter begrijpen hoe een algoritme werkt om beelden tot statische data te verwerken. Inmiddels bieden marktpartijen een soortgelijke oplossing aan en wordt de opgedane kennis breed benut. Een uitgebreide beschrijving inclusief broncode van het project staat hier: https://algoritmeregister.amsterdam.nl/public-eye/ ▪ Scan op wapens. De uitkomsten van dit project zijn vertrouwelijk en binnen het projectteam bekend. ▪ Drone detectie. Dit project is na de start in 2021 een stuk groter geworden, omdat er op veel plekken in de stad illegaal gevlogen wordt met drones.Veel drones hebben een camera en dit botst met het uitgangspunt om onbespied en anoniem door de stad te

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

▪

Datum 4 september 2023 Pagina 3 van 5

kunnen bewegen. De raad wordt hierover in een aparte brief namens de driehoek over geïnformeerd. Catalyst. Een methode om bewoners zinvol te betrekken bij innovatievraagstukken in de stad. Evaluatie: https://openresearch.amsterdam/nl/page/70837/catalyst-methodiek

3 Welk doel heeft het ‘Fieldlab ArenA gebied’? Hoe lang loopt dit project? Welk probleem wordt hiermee opgelost, voor welke burgers? Is technologie de beste manier om dit probleem op te lossen? Zo ja, waarom? Het doel van het Fieldlab Arenagebied is om te onderzoeken hoe bezoekers in het drukke arenagebied op een veilig en comfortabele manier van punt A naar B kunnen komen, zonder hierbij (te veel) overlast te ervaren. De projecten vinden plaats in een proefomgeving waarbij nieuwe toepassingen (zie bijlage) op een veilige en verantwoorde manier uitgeprobeerd kunnen worden. De oplossingen worden niet uit de lucht gegrepen, maar zijn gebaseerd op behoeftestellingen van verschillende organisaties(onderdelen). Het Fieldlab Arenagebied is juist gericht op het vinden van alternatieven voor technologie die de privacy beperkt. Deze vinden plaats binnen de wet- en regelgeving. Het uitgangspunt is dat er open en transparant wordt gecommuniceerd en dat digitale rechten worden gerespecteerd. De toepassingen worden altijd getoetst op randvoorwaarden zoals privacy en ethiekwaarborging. Indien een pilot als succesvol wordt beschouwd, wordt er gekeken hoe de kennis kan worden benut door andere afdelingen van de gemeente. Het kan voorkomen dat digitale technologie niet de beste oplossing is. We kijken per opgave wat passend is.

Innovatie kan ook een nieuwe werkwijze zijn of een product kan ook een niet digitale vorm van technologie aannemen. 4 Welke problemen creëert het gebruik van de technologie in dit Fieldlab die ook moeten worden opgelost? Het gebruik van technologie kan ertoe leiden dat men steeds meer afhankelijk wordt van de techniek. Dit kan betekenen dat we volledig vertrouwen op analyses die de ‘computer’ ons laat zien. Het is daarom van groot belang dat we blijven valideren hoe de techniek werkt, wat de betrouwbaarheid hiervan is en wat de menselijke maat inhoudt. 5 Wanneer worden de eerste resultaten van dit Fieldlab verwacht? Hoe zal dit experiment worden geëvalueerd en door wie? Het Fieldlab Arenagebied is een samenwerkingsverband dat ongeveer 3 jaar zal lopen en rondom Amsterdam 750 jaar zal worden afgerond. De planning is om 2023 te gebruiken als voorbereidend jaar, 2024 als jaar om prototypes te testen en 2025 om de opgedane kennis in te zetten waar dat mogelijk is. Evaluaties worden door het projectteam, wetenschappelijke organisatie(s) en gebruikersgroepen opgesteld. Vervolgens worden deze onder andere gedeeld op openresearch, workshops, presentaties of via wetenschappelijke organisaties. 6 Hoe kijkt het college naar de lange termijn doelen van dit Fieldlab? Processen en methoden kunnen altijd slimmer, efficiënter, beter of veiliger worden ingericht.

Het Fieldlab Arenagebied onderzoekt hoe een verantwoorde inzet van technologie kan bijdragen aan veiligheid en leefbaarheid in de openbare ruimte. Zij kijkt welke digitale oplossingen en welke informatievoorziening nodig zijn om een gedeelte van de doelstellingen van de gemeente te

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 4 september 2023 Pagina 4 van 5

realiseren. Daarbij onderzoekt het Fieldlab Arenagebied de invloed van technologie op de stad en vertaalt deze naar adviezen. Het Fieldlab Arenagebied volgt actuele technische en maatschappelijke ontwikkelingen binnen het veiligheidsdomein. 7 Hoe verhoudt het Fieldlab zich specifiek tot één van de uitgangspunten van de Datastrategie, namelijk dat Amsterdammers zich onbespied en anoniem kunnen bewegen in de openbare ruimte? Deze is niet veranderd ten opzichte van het principe bij de Digitale perimeter. Zie verder het antwoord bij vraag 3. 8 Hoe verhoudt het Fieldlab zich tot de ambitie uit het coalitieakkoord, namelijk “Er komt een verbod op biometrische surveillance-technieken, zoals gezichtsherkenning”? Het Fieldlab Arenagebied sluit aan bij die ambitie. Er is dus geen sprake van inzet van gezichtsherkenningtechnologie. 9 Het gebied van het experiment bevindt zich voor een groot deel in de publieke ruimte. Hoe worden bezoekers en gebruikers van dat gebied geïnformeerd over het verzamelen en gebruiken van hun data? Hoe wordt de keuzevrijheid om niet mee te doen in het experiment en hun rechten daaromheen hierin gewaarborgd? Een van de vier programmalijnen is toegewijd aan het onderwerp participatie.

We willen in samenwerking met bewoners onderzoeken hoe we beter kunnen communiceren over bestaande sensoren, hoe het Arenagebied van de toekomst eruit dient te zien (inclusief een ‘goede buur’ zijn) en hoe er transparanter kan worden omgegaan met de maatregelen die voortvloeien uit informatie gestuurd werken. 10 Sommige delen van het Fieldlab (zoals experimenten met gezichtsherkenning) worden toegepast in een afgebakende (private) omgeving. Hoe wordt erop toegezien dat technieken toegepast in dit Fieldlab (of vergelijkbare experimenten) niet zomaar in het publieke domein toegepast worden? Binnen het Fieldlab Arenagebied wordt er geen onderzoek gedaan naar gezichtsherkenning. Dat project is binnen de Digitale perimeter afgerond (zie antwoord vraag 2). Technieken zullen nooit ‘zomaar’ in het publieke domein worden toegepast. Dit controleren de partners van elkaar. Binnen het Fieldlab gaan de onderzoeken juist om technieken die de privacy beter kunnen beschermen dan bestaande methoden. 11 In een recent advies van de Commissie Persoonsgegevens Amsterdam wordt geadviseerd om de Tada-waarden te heroverwegen en concretiseren.

Hoe gaat het college daar opvolging aangeven? Voor de opvolging van het raadsbesluit Grip op Technologie heeft het college een evaluatie uitgevoerd in hoeverre er voldoende maatregelen zijn voor het waarborgen van brede ethische toetsing van technologische toepassingen in de gehele gemeentelijke organisatie en of deze maatregelen ook daadwerkelijk worden toegepast. Op basis van deze evaluatie zijn verbetervoorstellen geformuleerd. De voorstellen zijn geconcretiseerd in een actieplan. Eén van de acties in het actieplan Grip op Technologie betreft de doorontwikkeling van de Tadawaarden. Dit moet leiden tot een kader gebaseerd op Tada en op inzichten die sinds 2018

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 4 september 2023 Pagina 5 van 5

nationaal en internationaal zijn verschenen, zoals de EU Digital Rechten Principes en de Code Goed Digitaal Openbaar Bestuur (CODIO). Het kader zal zowel met inwoners als met experts en het bestuur in co-creatie sessies worden vormgegeven. Dit kader gaat gelden voor de hele organisatie. Het is daarom belangrijk dat het concreet, duidelijk en hanteerbaar is voor medewerkers, opgaven en projecten. Het actieplan Grip op Technologie is reeds naar uw raad gestuurd en staat geagendeerd voor de commissie FKD op 14 september. Wij verwachten u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam, Alexander Scholtes Wethouder ICT & Digitale Stad

Een routebeschrijving vindt u op amsterdam.nl