Jaarverslag CPA 2021-2022_def.docx

Commissie Persoonsgegevens Amsterdam (CPA)

Jaarverslag 2021-2022

Inhoud 1.

Inleiding en samenvatting.....................................................................................2

2.

De CPA................................................................................................................4

3.

Adviezen 2021......................................................................................................5

4.

Adviezen 2022 ....................................................................................................11

5.

Geagendeerde onderwerpen/bijeenkomsten zonder schriftelijk advies ...................14

6.

Onderzoek DPIA praktijk gemeente Amsterdam...................................................18

7.

Symposium ‘Data in Damsko’..............................................................................19

8.

Conclusie, reflectie en vooruitblik 2023.................................................................21

1

1. Inleiding en samenvatting Hierbij treft u aan het jaarverslag van de Commissie Persoonsgegevens Amsterdam (CPA) van de jaren 2021-2022, conform artikel 8 lid 1 van het Reglement van de CPA 2021.1 In 2021 is er geen jaarverslag vastgesteld omdat er tijdelijk onvoldoende ondersteuning was van een ambtelijk secretaris. Daarom beslaat dit verslag de het jaar 2021 en 2022, mede opdat een zo volledig mogelijk overzicht van de door de CPA verrichte werkzaamheden en gegeven adviezen (samengevat) kunnen worden voorgelegd. Eerst zal een algemeen beeld worden gegeven van de ontwikkelingen per 2021, waarna een korte toelichting volgt over de taken en samenstelling van de CPA. Vervolgens worden de adviezen van 2021 en 2022 toegelicht en onderwerpen die op de vergadering aan bod zijn gekomen waar geen formeel advies uit is voortgekomen maar beperkt is gebleven tot het meegeven van aandachtspunten of meediscussiëren. Er wordt afgesloten met een reflectie en vooruitblik voor volgend jaar.2 In de jaren 2021-2022 zijn in totaal twintig adviezen uitgebracht, wat leidt tot het volgende overzicht (aantal adviezen per cluster): Cluster Bedrijfsvoering Digitalisering, Innovatie en Informatie (DII) Bestuur en Organisatie Ruimte en Economie Sociaal Gebiedsgericht werken en Stadsbeheer (GWS)

Aantal adviezen / 2 1 13 3 1

De CPA heeft gezien de taakuitbreiding in 2021 de taak om op verzoek of uit eigen beweging het college van Burgemeester en Wethouders (B&W) de gemeente Amsterdam te adviseren over de aan haar voorgelegde of onderzochte kwesties betreffende de bescherming van persoonsgegevens, algoritmen, data-ethiek en mensenrechten bij digitale toepassingen. De advisering vindt plaats op basis van drie pijlers: recht, ethiek en techniek. De CPA is derhalve samengesteld uit leden met verschillende achtergronden en disciplines om op basis van de drie pijlers gedegen te kunnen adviseren. Verschillende kwesties die verband houden met de taakuitbreiding zijn inmiddels de revue gepasseerd, waaronder het advies inzake het WPI risicomodel,3 waarbij een voorspellend model, aan de hand van de aanvraag kan bepalen of deze al dan niet onderzoekswaardig is. De CPA heeft tijdens de ontwikkelfase geadviseerd over de vormgeving van het risicomodel, waaronder de te hanteren risico-indicatoren. De adviesaanvragers hebben de CPA gevraagd te beoordelen of de inzet van het algoritme proportioneel is. Uit de behandeling tijdens de commissievergadering blijkt in ieder geval, dat de voorbereiding van de inzet zorgvuldig is geweest. De in dit advies gegeven aanbevelingen kunnen bijdragen aan de proportionaliteit van de verwerking en de zorgvuldige verwerking van persoonsgegevens.

De CPA zal op de hoogte worden gehouden van het resultaten van de pilot. 1 Gemeenteblad 2021, 457829 | Overheid.nl > Officiële bekendmakingen (officielebekendmakingen.nl). 2 Zie paragraaf 8.

3 Ook bekend als ‘De slimme check Bijstandsaanvragen'. Zie: https://www.amsterdam.nl/werk-

inkomen/bewaren-terugkerende-items/slimme-check-bijstandsaanvragen/.

2

De werkwijze bij het advies inzake het WPI risicomodel is qua en vorm van advisering, alsmede het traject, in lijn met de verwachting zoals beschreven in de bestuurlijke reactie op het jaarverslag van de CPA van 2020.4 In de bestuurlijke reactie is ten aanzien van de inzet van algoritmes opgemerkt dat op het gebied van de rechtmatigheid en behoorlijkheid door de gemeente vooraf advies wordt gevraagd aan de CPA en de Functionaris Gegevensbescherming (FG) over de inzet van algoritmes. De CPA merkt op dat zij twijfelt of alle algoritmen die binnen de taakomschrijving van de CPA vallen worden voorgelegd ter advisering. Daarom zal de CPA zich blijven inzetten om voorgenomen ontwikkelingen en/of toepassingen van potentieel onderzoekswaardige algoritmes voorgelegd te krijgen, met als doel het gebruik van algoritmen door de gemeente transparanter en behoorlijker te maken voor de inwoners.

4 https://amsterdam.raadsinformatie.nl/document/10993083/1#search=%22cpa%22.

3

2. De CPA Het college van B&W is (eind)verantwoordelijk voor het opstellen, uitvoeren en beheren van het privacy- en gegevensbeschermingsbeleid van de gemeente Amsterdam. Voor de gemeente geldt dat hiervoor dat het college een stedelijk beleidskader heeft opgesteld voor de verwerking van persoonsgegevens door de gemeente Amsterdam. De rol van de CPA met betrekking tot de bescherming van privacy en persoonsgegevens is meerledig. De CPA heeft een signalerende en adviserende taak en fungeert daarnaast ook als (maatschappelijk) klankbord. De heer U. van de Pol heeft per 1 april 2021 als voorzitter afscheid genomen van de commissie. De heer U. van de Pol heeft zich zeven jaar lang ingezet als voorzitter en heeft veel betekend voor de commissie en de gemeente. De commissie dankt ook via deze weg de heer U. van de Pol voor zijn inzet. Per 1 april 2021 is mevrouw E. van Hasselt de voorzitter met de heer F. van Rootselaar en de heer A. Commandeur in de rol van vice-voorzitters. Per 1 december 2022 was de samenstelling als volgt:5 E. F. van Hasselt, voorzitter F. van Rootselaar, vicevoorzitter A. Commandeur, vicevoorzitter H. Belarbi, lid F. Çapkurt, lid H. L. Janssen, lid I. Kist, lid M. Berk, lid M. Steketee, lid

5 Voor een actueel overzicht, zie: De leden van de CPA - Gemeente Amsterdam.

4

3. Adviezen 2021 De commissie heeft in 2021 totaal negen keer vergaderd. Daar zijn vijftien adviezen uit voortgekomen, een samenvatting van de adviezen volgt hieronder. De adviezen zijn vastgelegd in de notulen van de openbare plenaire vergaderingen. De uitgebrachte (openbare) adviezen zijn toegankelijk gemaakt op de webpagina van de CPA.6 Vanwege voortschrijdend inzicht en voortdurende ontwikkelingen zijn sommige adviezen op inhoud mogelijk niet langer actueel. Het advies illegale onderverhuur Het team Onderhuur en Adreskwaliteit heeft een digitaal instrument ontwikkeld om een adequate inschatting te maken van de kans dat er sprake is van een overtreding van de regelgeving op een adres (illegale onderhuur van een corporatiewoning). Het gaat om het automatiseren van het huidige handmatige onderzoeksproces in het kader van het effectief handhaven van de Huisvestingsverordening 2020 van de gemeente Amsterdam en de aanpak van wederrechtelijke onderhuur van corporatiewoningen. Er vindt een pilot plaats om dit nieuwe instrument te testen. De CPA adviseert in dit advies dat men zich moet blijven afvragen hoe gewaarborgd kan worden dat de menselijke factor bepalend blijft. Ook vindt de CPA dat er een ethische afweging moet plaatsvinden, zodat onnodige verwerkingen van gegevens voorkomen worden.

Het advies netwerkvisualisatie Het product netwerkvisualisatie is ontwikkeld om op eenvoudige, digitale wijze een visuele weergave te kunnen geven van de administratieve situatie op basis van informatie uit verschillende bronnen. De CPA adviseert om bij het uitvoeren van een pilot om het product te testen, het van belang is om een compleet overzicht te hebben van de risico’s. De standaardrisico’s met de nadere toespitsingen of weging horen opgenomen te worden in een Data Protection Impact Assessment (DPIA). Het advies woonruimteverdeling en gezamenlijk gebruik Woningnet regio Amsterdam Via WoningNet worden sociale huurwoningen aangeboden, kunnen woningzoekenden zich inschrijven, reacties plaatsen en wordt de rangorde van woningzoekenden bepaald. Medewerkers van de gemeente hebben toegang om specifieke doelgroepen een voorrangstatus toe te kennen of informatie op te zoeken. Directie Wonen geeft aan dat de corporaties en WoningNet hebben aangegeven dat een app, in dit geval Qii, beter geschikt is voor het implementeren van lokale voorrang. De gemeente heeft de corporaties gevraagd om deze app te gebruiken indien deze voldoet aan de AVG en veiligheidsvereisten. De overstap naar Qii vindt de CPA opmerkelijk vanwege de koppeling aan MijnOverheid.nl.

MijnOverheid.nl is namelijk bedoeld om de burgers te informeren over wat de overheid over een burger aan data in huis heeft en niet om burgers zelf actief informatie te laten verstrekken aan de overheid. De gemeente mag de burger alleen attenderen op de mogelijkheid om via de app Qii informatie aan MijnOverheid te leveren, maar er moeten voor de burger ook andere kanalen open blijven staan, inclusief een niet-digitale wijze van aanleveren, waarbij dan te denken valt aan het burgerloket. In een overspannen woningmarkt kunnen burgers zich eerder gedwongen voelen te veel informatie aan te leveren als een app daarom vraagt.

6 www.amsterdam.nl/cpa.

5

Het advies draft convenant cameratoezicht Johan Cruijff Arena In de omgeving van de Johan Cruijf ArenA wordt door publieke en private actoren samengewerkt ten behoeve van het handhaven van de openbare orde en om de dreigende knelpunten in de doorstroming van het verkeersnetwerk tegen te gaan. In het convenant zijn afspraken gemaakt rondom toegang en beveiliging en worden gemaakte afspraken tussen de partijen geëxpliciteerd. Het convenant heeft als doel het handhaven van de openbare orde. In dit soort convenanten is het volgens de CPA belangrijk om duidelijk de grondslagen uit te werken en te zorgen voor optimale transparantie. In dit convenant heeft men te maken met een multidisciplinair gebied waar integraal gewerkt wordt, er is namelijk sprake van een drietal gegevensstromen: beelden van de ArenA voor intern gebruik, politiebeelden met het oog op de openbare orde en veiligheid en de beelden die specifiek zijn gericht op het opsporen van strafbare feiten. Het is van belang om de gegevensstromen goed te onderscheiden, omdat men vaak te maken heeft met meerdere wetten die van toepassing zijn. Het advies bias analyse over ontwikkelde algoritmen Een 'bias analyse' is een methodiek om te controleren of onderliggende data of een ontwikkeld algoritme een ongerechtvaardigd verschil veroorzaakt tussen personen en groepen, wat kan wijzen op discriminatie of vooringenomenheid.

Deze methodiek is een herhalend proces, dat resulteert in en conclusie over een (potentieel discriminerend) algoritme, dat transparant, verifieer- en controleerbaar is. Om de bias analyse uit te kunnen voeren is een specifieke dataset met (bijzondere) gegevens uit de Basisregistratie Personen (BRP-gegevens) nodig. De belangrijkste (ethische) vraag, volgens de commissie, is of de eenmalige levering van de BRP levering ten behoeve van de bias analyse test gerechtvaardigd is. De commissie meent dat de bias analyse nodig is om zaken te objectiveren en dat om deze reden het ook proportioneel is om deze route te volgen om te komen tot een eerlijker manier van handhaven. De vraag die men volgens de commissie moet stellen is wat de gevolgen kunnen zijn als deze analyse achterwege wordt gelaten. De CPA wijst erop dat het niet alleen gaat om het belang van de gemeente, maar dat het vooral gaat om een rechtvaardige behandeling van de burger. De CPA denkt dat er vanuit de publieke taak als grondslag een keten van argumenten aan te dragen is om te rechtvaardigen dat deze analyses nodig zijn om handhavingstaken zonder ingeslopen bias uit te voeren. De controle is een publieke taak en om de randvoorwaarden goed in te vullen zijn zulke analyses nodig en dus ook eenmalig opvragen van de BRP-gegevens.

Het advies transparantiedocument aansluiting zaaksysteem Wonen Het programma Modernisering IV Wonen heeft als doel de modernisering van de dienstverlening en informatievoorziening te faciliteren. Eén van de ijkpunten in dit programma is het uitfaseren van het ruim 25 jaar oude zaaksysteem. Ter vervanging daarvan wordt een nieuw zaaksysteem geïntroduceerd. Hierdoor is een nieuwe wijze van levering van BRP-gegevens gewenst en kan de directie Wonen aansluiten op de moderne generieke informatievoorzieningen die de gemeente Amsterdam in ontwikkeling heeft. Daarnaast worden er geen BRP-gegevens meer in een eigen register vastgelegd maar wordt de bron (BRP) gebruikt voor de raadpleging. De commissie ziet in de voorgestelde wijziging vanuit het perspectief van gegevensbescherming voordelen. Gegevens worden op één plek beheerd hetgeen onder meer de juistheid en actualiteit van de persoonsgegevens ten goede komt. Het vraagt echter ook om voldoende waarborgen voor het rechtmatig gebruik van de gegevens. Het advies motie van de raad openbaarmaking omzettingsvergunningen De commissie heeft op verzoek geadviseerd over de vraag of en hoe er binnen de kaders van de privacywetgeving een database opgesteld kan worden waarin alle vergunde omzettingsaanvragen 6

worden opgenomen. Een omzettingsvergunning in het kader van de Huisvestingsverordening is bijvoorbeeld nodig om een woning onder te mogen verdelen in kleinere onzelfstandige woonruimten. De motivatie was vooral de burgers bij overlast in staat te stellen te controleren of de bewoning wel voldoet aan de regels. Het gaat om het opstellen van een openbare database met daarin de adresgegevens, zoals straatnamen, huisnummers en of postcodes met bijbehorende lettercombinaties. Als alternatief heeft de directie Wonen bedacht gegevens op wijk- of buurtniveau beschikbaar te stellen zonder tot individuele personen herleidbare gegevens vrij te geven. Hier gaat het dus om het toebedelen van een toezichthoudende rol aan de burger en, afgezien van de juridische bezwaren hiertegen, rijst de ethische vraag volgens de CPA of men een toezichthoudende rol voor burgers wel moet willen. Een gevaar is dat die toezichthoudende rol snel kan overgaan in een actief opsporende rol, waarbij de burger het minder nauw neemt met de privacy van anderen dan de overheid dat idealiter doet. Het komt de CPA ongewenst voor om deze bedreiging van privacy te faciliteren door de burger uit te nodigen zelf een toezichthoudende rol te spelen.

Uiteraard begrijpt de CPA dat het hier altijd gaat om een afweging: als de burger een rol kan spelen in het terugdringen van overlast en criminaliteit moet die rol serieus worden genomen. Maar daar lijkt in dit geval geen sprake van te zijn. Er zijn immers ook minder ingrijpende alternatieven beschikbaar. Het advies Transparantie document systematische leveringen Cartotheek 75+ De gemeente Amsterdam bezoekt Amsterdammers van 75 jaar en ouder in bepaalde wijken in het kader van uitvoering van de subsidieregeling Sociale Basis. Er zijn vijf instellingen, namelijk: stichting Dynamo Welzijn, CIVIC, MaDiZO, Centram, Doras, die namens de gemeente Amsterdam deze bezoeken verrichten. Tweemaandelijks ontvangen deze instellingen voor maatschappelijke dienstverlening een bestand van 75+ inwoners, waarmee ze deze bewoners kunnen aanschrijven en een aanbod kunnen doen van een huisbezoek. Er worden huisbezoeken gedaan om ouderen te ondersteunen bij het zelfstandig wonen. Er is een grondslag van de gegevens uit de BRP. De commissie overweegt dat in het transparantiedocument duidelijk wordt aangegeven voor welke doeleinden de organisaties de gegevens mogen gebruiken, welke rechten de betrokkenen hebben en op welke wijze zij deze kunnen effectueren. Het transparantiedocument geeft op dat punt geen aanleiding tot aanvullende opmerkingen.

De CPA adviseert verder in dit advies om na te gaan of de gemeente Amsterdam de BRP als grondslag kan blijven gebruiken of dat voor de verstrekking voorrang moet worden gegeven aan de mogelijkheden die de Wet publieke gezondheid (Wpg) biedt. Advies business rule model v2 Het team Onderhuur en Adreskwaliteit heeft een nieuw digitaal instrument ontwikkeld dat als doel heeft een adequate inschatting te maken van de kans dat er sprake is van een overtreding op een bepaald adres. Het gaat om het automatiseren van het huidige handmatige onderzoeksproces in het kader van de effectieve handhaving van de Huisvestingsverordening 2020 van de gemeente Amsterdam en de aanpak van wederrechtelijke onderhuur van corporatiewoningen in het kader van het convenant Zoeklicht. Men wil starten met een pilot. De CPA wil graag op de hoogte gehouden worden van de uitkomsten van deze pilot. Advies CDS-M pilots deelmobiliteit Infrastructuur, vervoersvormen en burgers staan door technische toepassingen steeds meer met elkaar in verbinding. Data-uitwisseling is daarbij integraal onderdeel geworden van de mobiliteitsketen. Gemeenten, provincie en het Rijk vragen data aan mobiliteitsaanbieders om te monitoren, te leren en om de openbare ruimte te beheren. Maar er bestaat geen uniforme standaard voor de uitwisseling van die data: verschillende overheden stellen verschillende eisen 7

aan mobiliteitsaanbieders. Dat kan effectiever en efficiënter door één uniforme data standaard voor mobiliteit (CDS-M) te ontwikkelen. De CDS-M legt vast hoe en langs welke standaarden de uitwisseling van data tussen mobiliteitsaanbieders en overheid verloopt. De CDS-M wordt gebruikt in samenwerkingsafspraken tussen mobiliteitsaanbieders en gemeenten. Op langere termijn wordt toegewerkt naar een Europese datastandaard. De gemeente Amsterdam wil een pilot uitvoeren over het gebruik van deelscooters. De CPA adviseert om ervan uit te gaan dat de combinatie van verschillende gegevens tot personen te herleiden valt en dus dat er sprake is van een persoonsgegeven in de zin van de AVG. Daarvoor moet men dan ook goede maatregelen treffen. Daarnaast wil de CPA op de hoogte gehouden worden van de uitkomsten van de pilot. Advies Dashboard TON De afdeling toezicht en handhaving (directie Wonen) wenst een sterke informatiepositie om effectieve handhaving op onrechtmatige vakantieverhuur binnen de gemeente Amsterdam te bewerkstelligen. In april 2021 is om die reden de registratieplicht ingevoerd. Als opvolging van deze registratieplicht is het Dashboard TON ontwikkeld. De CPA acht het van belang om bij het verzamelen van informatie steeds na te gaan of een gegeven nog wel nuttig en/of nodig is.

De commissie is verder benieuwd naar de ervaringen die met dit dashboard zullen worden opgedaan en ziet graag dit agendapunt terugkomen bij een volgende vergadering. Onderzoek opgroeien in Amsterdam De Universiteit van Amsterdam (UvA) voert een onderzoek uit om te begrijpen hoe fysiologische prikkels bij kinderen van acht tot veertien maanden hun latere ontwikkeling beïnvloeden. Tijdens het onderzoek worden video-opnamen gemaakt terwijl ouders en kinderen speciale opdrachten en spelletjes uitvoeren met speciaal speelgoed. Daarnaast wordt de reactie van het kind op externe prikkels gemeten aan de hand van lichaamssignalen zoals hartslag. Speeksel- en haarmonsters worden genomen om de genetische en hormonale aspecten te onderzoeken. Ouders vullen ook vragenlijsten in over zichzelf en hun kind. In eerste instantie worden persoonsgegevens gepseudonimiseerd, maar tijdens het onderzoek worden de gegevens geanonimiseerd. Biometrische onderzoeksmaterialen worden na afloop van de onderzoekstermijn vernietigd. De CPA heeft vastgesteld dat de gemeente alleen verantwoordelijk is voor het gebruik van persoonsgegevens uit de BRP om de brief te versturen waarin het UvA-onderzoek wordt beschreven. De CPA adviseert de UvA om bij de beoordeling van de verstrekking van BRP-gegevens voor wetenschappelijk onderzoek meer nadruk te leggen op transparantie richting potentiële deelnemers.

De CPA merkt op dat bij dit onderzoek niet alleen reguliere gegevens worden verzameld, maar ook bijzondere gegevens in de vorm van biometrische persoonsgegevens. De verwerking van deze gegevens past binnen het doel van het onderzoek. De CPA vraagt echter om meer gedetailleerde informatie over hoe de UvA met deze gegevens omgaat, inclusief pseudonimisering en anonimisering. De CPA benadrukt dat ondanks pseudonimisering de verzamelde gegevens nog steeds als persoonsgegevens moeten worden behandeld en geeft als suggestie mee dat de UvA mogelijk een uitgebreidere toelichting op haar website kan plaatsen om de uitnodigingsbrief en het onderzoek nader toe te lichten. Advies resultaat biasanalyse vakantieverhuur algoritme Alpha De biasanalyse houdt in dat wordt gekeken of bepaalde groepen ongerechtvaardigd worden benadeeld binnen het werkproces (op basis van onderliggende data) en het ontwikkelde algoritme. Voor de biasanalyse is eerst met het team gekeken naar categorieën die gevoelig zijn 8

voor bias. Dat zijn de gebruikelijke zaken als sekse, herkomst, religie en dergelijke. De lijst is zo breed mogelijk gemaakt. Vervolgens is gekeken welke variabelen in de datasets direct of indirect tot een bias zouden kunnen leiden. Een indirecte variabele is bijvoorbeeld de postcode, omdat in bepaalde postcodes meer personen met een bepaald kenmerk wonen dan in andere. Elke variabele werd vervolgens opgesplitst in een deel met de potentieel gediscrimineerde groep en een ander deel waar daar geen sprake van is. Daarna is het reken- en analysesysteem gemaakt, waarbij ook gekeken is naar de betrouwbaarheid en validiteit van de data per variabele. Uit de analyse is de conclusie getrokken dat men niet alleen mag afgaan op burgermeldingen en dus ook data uit andere processen moet meenemen. De tweede conclusie was dat meenemen van de variabele ‘sekse’, discriminatie van mannen oplevert en dat die daarom dus weggelaten moet worden. De methodiek van deze bias-analyse gaat bij de Werkplaats Datagestuurde Aanpak Ondermijning verder ontwikkeld en verbeterd worden aan de hand van aanbevelingen, zodat men die ook elders in de gemeente kan gaan hanteren om systematische afwijkingen in algoritmes op te sporen en weg te nemen. De CPA attendeert in dat kader op de Handreiking non-discriminatie by design.7 Die bestrijkt zowel juridische als computertechnische aspecten.

Daarnaast is het belangrijk goed uit te zoeken hoe het zit met de criteria die men hanteert om een resultaat significant dan wel acceptabel te noemen. Zeker waar het gaat om de overheid die opereert in het publieke domein is transparantie nodig met het oog op betrouwbaarheid naar de burger toe. Verder wijst de CPA op het belang van betekenisvolle menselijke inbreng van de besluitvorming over handhaving en sancties. De commissie beveelt aan in de evaluatie ook te kijken of de menselijke maat daadwerkelijk nog de doorslaggevende factor is in de besluitvorming. Advies inzet Qii lokale voorrang voor jongeren De lokale voorrang voor jongeren en de stadsdeelvoorrang voor bepaalde nieuwbouwcomplexen hanteren de bindingseis zoals deze is neergelegd in de Huisvestingswet. Dit betekent dat een woningzoekende voorrang krijgt als deze ‘ten minste zes jaar onafgebroken ingezetene is dan wel gedurende de voorafgaande tien jaar ten minste zes jaar onafgebroken ingezetene is geweest van die woningmarktregio, die gemeente of die kern.’ Op 16 november 2021 heeft het college van B&W ingestemd met het privacy-convenant Woonruimteverdeling tussen gemeente en woningcorporaties. Het borgen van huidige gegevensuitwisselingen kon niet meer wachten op implementatie van Qii vanuit de gemeente. Om die reden zijn vaststelling van het convenant en de inzet van Qii losgekoppeld.

De inzet van Qii om bepaalde voorrangsbepalingen uit te voeren, in eerste instantie de jongerenvoorrang, wordt middels een addendum bij het convenant geregeld. De CPA merkt op dat het goed is om een reëel alternatief te bieden voor kwetsbare jongeren (dakloos, verward e.d.) die niet zelfredzaam zijn en de weg naar een loket niet zelfstandig weten te vinden. Men kan bijvoorbeeld een route via maatschappelijk werk en andere hulpinstanties mogelijk maken. Ten tweede vraagt de commissie zich af hoe directie Wonen omgaat met risico’s bij het gebruik van Qii. Met name betreft het risico dat data met derde partijen worden gedeeld en het risico dat dat jongeren in hun afhankelijke situatie zich gedwongen voelen meer gegevens te verstrekken dan zij zelf wenselijk achten. Verder adviseert de CPA om te kijken naar ervaringen in andere gemeenten met dit soort apps van Amerikaanse origine. Er wordt ergens wel vermeld dat Qii een Europese vestiging heeft, maar dat biedt amper garanties. De CPA benadrukt ook het belang om de verantwoordelijkheden goed vast te leggen en wie er aanspreekbaar is. Ten slotte heeft de CPA-behoefte aan meer inzicht in het verdienmodel en wat dat betekent voor de

7 Handreiking non-discriminatie by design | Rapport | Rijksoverheid.nl

9

individuele gebruiker van de app. Het is belangrijk bij de inschakeling van een commerciële partij garanties te bedingen dat data niet gedeeld worden met derden.

Advies Ontwikkelingen Jeugd en Veiligheid Volgsysteem Een applicatie van Jeugd en Veiligheid wordt gebruikt om persoonsgegevens vast te leggen in het kader van de aanpak problematische jeugdgroepen op overlast individuen en groepen. Dit betreft een persoonsgericht traject en/of een groepsgericht traject van jeugdgroepen binnen de stadsdelen. Het doel van de applicatie is het op een effectieve en integrale wijze terugdringen van jeugdoverlast- en criminaliteit en de problematiek die dit met zich meebrengt voor de omgeving. Daarnaast ook om groepsleden perspectief te bieden middels een tweesporige benadering op groep, individu en omgeving en het voorkomen van aanwas van jeugdige delinquenten. De commissie adviseert allereerst om in het vervolgtraject duidelijk en transparant te zijn dat bij het raadplegen van de BRP om jongeren te identificeren ook de gegevens van anderen op hetzelfde adres worden meegenomen. De CPA mist daarnaast de grondslag voor het gebruik van bestaande gegevens in combinatie met nieuwe informatie voor dit nieuwe doel. Dit moet ook worden verwerkt in de DPIA. De vraag is of het hier alleen gaat om strafrechtelijke handhaving of ook om maatschappelijke hulp, zorg en ondersteuning. Wellicht kan de Top600-aanpak hiervoor model staan. Ook mist de CPA duidelijk de scheidslijnen in de verantwoordelijkheden.

Deze moeten scherp worden aangegeven, zodat duidelijk is wie welke gegevens mag gebruiken voor bepaalde doelstellingen. Wat betreft de bewaartermijnen van de verwerkte persoonsgegevens is de CPA van mening dat deze langer dan nodig is.

10

4. Adviezen 2022 De commissie belegde in 2022 in totaal acht vergaderingen. Daaruit zijn de volgende vijf adviezen uit voortgekomen: Het advies Internetveldwerk sekswerkers De GGD (prostitutie en gezondheidscentrum (P&G2928)) heeft een wettelijke preventietaak ten aanzien van sekswerkers. Deze preventietaak werd door de moeilijke bereikbaarheid van de onvergunde branche beperkt uitgevoerd. Sinds 2012 doet P&G292 daarom internetveldwerk om contact te krijgen met deze sekswerkers. Het doel van dit internetveldwerk is:  Nieuwe sekswerkers (m/v), die online adverteren, op de hoogte brengen van het aanbod van P&G292.  Het geven van informatie en voorlichting over soa-onderzoek, testen op locatie, veilig werken en seksuele gezondheid in het algemeen en gelegenheid bieden vragen te stellen over soa’s, hiv, veilig vrijen en algemene seksuele gezondheid in het bijzonder. Vanwege het toenemende hybride werken heeft P&G292 in januari 2021 de, tot dan toe volledige handmatige screening, gedigitaliseerd door de inzet van een webscraper. Er is begonnen met de website Kinky.nl en in 2022 wil P&G292 de webscraper uitbreiden naar de overige websites. De webscraper wordt uitgevoerd door de eigen informatiseringsdienst van de GGD. Door het inzetten van een webscraper wordt het bereik van P&G292 onder thuiswerkers/internetsekswerkers vergroot.

Het gaat hier om een kwetsbare en moeilijk bereikbare doelgroep en zonder screening bestaat het risico dat sekswerkers werken met soa’s (zoals chlamydia, gonorroe, syfilis, HIV en Hepatitis A en B) en dat deze soa’s zich kunnen verspreiden. De vraag die aan de CPA wordt voorgelegd is, of de webscraper een geëigend middel is om het doel te bereiken. De CPA kan zich voorstellen dat het middel passend is in de gegeven bijzondere omstandigheden van deze casus en dat de daarvoor gestelde grondslag bruikbaar is. Wel adviseert de CPA voor wat betreft de gegevensverwerking transparantie te betrachten. Het advies Inzet Qii lokale voorrang voor jongeren - update Sinds 2002 verloopt de woonruimteverdeling via een online-systeem van WoningNet. In dit systeem worden sociale huurwoningen aangeboden, kunnen woningzoekenden zich inschrijven en kunnen zij reacties plaatsen. In het systeem worden de inschrijvingen en de reacties op volgorde geplaatst. Uit deze tijd stamt het gezamenlijke gebruik van Woningnet, door zowel woningcorporaties als door gemeenten. Langs deze weg hebben medewerkers van de gemeente toegang tot het systeem waarin zij specifieke doelgroepen een voorrangstatus kunnen toe kennen, of informatie op kunnen zoeken.

8 P&G292 is een centrum voor sekswerkers van de GGD. P&G292 biedt informatie, advies en hulp aan

sekswerkers in de regio Amsterdam. Bij P&G292 werken zowel verpleegkundigen als maatschappelijk werkers. Het doel van P&G292 is de zelfredzaamheid en emancipatie van sekswerkers te bevorderen. Ongeacht hun geslacht, hun werkplek of verblijfstatus in Nederland

11

Dit onderwerp eerder is geagendeerd bij de CPA. De CPA constateert dat er goede stappen zijn gezet en onderstreept het belang van goede communicatie naar de burgers, en het belang dat gemeente ook kan kiezen voor een beperktere dataset.

Het advies objectdetectie containers De directie Verkeer en Openbare Ruimte (V&OR) heeft het Computer Vision Team de opdracht gegeven om te verkennen hoe objectherkenning kan helpen om te voorkomen dat kwetsbare bruggen en kademuren instorten, omdat hierop zware objecten worden geplaatst. Door de verkregen informatie van de objectherkenning te combineren met aanvullende informatie uit gemeentelijke bronnen, kunnen gemeentelijke toezichthouders effectiever en efficiënter kwetsbare bruggen en kademuren monitoren ter borging van de veiligheid van personen in de Amsterdamse openbare ruimte. De CPA twijfelt over de in de adviesaanvraag opgegeven verwerkingsgrondslag en geeft in haar advies een ongevraagd juridisch advies over de grondslag van de gegevensverwerking. Daarnaast wijst de CPA op de beginselen van proportionaliteit hetgeen inhoudt dat de gemeente meer aandacht dient te besteden aan de vraag of de maatregelen die de gemeente wil nemen, in redelijke verhouding staan met de inbreuk op de rechten van burgers. Ook moet zij de subsidiariteit van de verwerking beoordelen: zijn er met minder ingrijpende maatregelen gelijkaardige resultaten te boeken? Dan moet op die minder ingrijpende maatregelen worden ingezet. De commissie adviseert de proportionaliteit en de subsidiariteit van de gewenste methode nader te onderbouwen.

De commissie heeft immers geconstateerd, dat alternatieve manieren om de gestelde doelen te behalen nog onvoldoende in ogenschouw zijn genomen. Het advies WPI-risicomodel (slimme check bijstandsaanvragen) De Directie Werk Participatie en Inkomen is verantwoordelijk voor de beoordeling van aanvragen voor levensonderhoud (bijstandsuitkering). Afhankelijk van de informatie in een ontvangen aanvraag kan er aanleiding zijn om hiernaar nader onderzoek te doen of extra informatie op te vragen, voordat beslist wordt over de toekenning of weigering van een aanvraag. De huidige werkwijze leidt ertoe dat in ongeveer 35% van de onderzochte aanvragen een onrechtmatigheid wordt aangetroffen. Het afgelopen jaar is gewerkt aan een voorspellend model, een zogenaamd random forest regressie algoritme, aan de hand waarvan wordt bepaald of een aanvraag al dan niet onderzoekwaardig is. Dit model kan worden toegevoegd aan het werkproces en dient als extra filter voor onderzoekwaardige aanvragen. Het nieuwe instrument moet ervoor zorgen dat er minder overbodig onderzoek plaatsvindt en dat wel alles gecontroleerd wordt wat zou moeten worden gecontroleerd. Een medewerker kan vervolgens mede op basis van de voorspelling van het model bepalen welke vragen al dan niet nader worden onderzocht.

Het doel van dit risicomodel is het minimaliseren van onrechtmatige verstrekking van bijstand, waardoor kan worden voorkomen dat er bijstandsschulden als gevolg van een ten onrechte verstrekte uitkering ontstaan. De CPA is betrokken geweest tijdens de ontwikkelfase van het model en heeft tijdens een tweetal vergaderingen het onderwerp behandeld. Naar aanleiding van de gegeven presentaties en de antwoorden die zijn gegeven op de gestelde vragen tijdens deze vergaderingen, heeft de CPA in haar advies vanuit de perspectieven ‘technisch’, ‘juridisch’ en ‘ethisch’ gereflecteerd op de voorgestelde gegevensverwerking en heeft per onderdeel aanbevelingen gedaan. De indieners hebben de CPA gevraagd te beoordelen of de inzet van het algoritme proportioneel is. Uit de 12

behandeling tijdens de commissievergadering blijkt in ieder geval, dat de voorbereiding van de inzet zorgvuldig is geweest. De in dit advies gegeven aanbevelingen kunnen bijdragen aan de proportionaliteit van de verwerking en de zorgvuldige verwerking van persoonsgegevens. De pilot is van start gegaan en de CPA zal op de hoogte worden gehouden over de resultaten.9 Het advies verstrekking gegevens BRP ten behoeve van “de Puntenteller” Woningzoekenden kunnen zich via WoningNet inschrijven voor een (sociale) huurwoning. Per januari 2023 is het zoeken naar een sociale huurwoning veranderd en wordt gewerkt met een nieuw puntensysteem. De bedoeling van het nieuwe puntensysteem is om urgente doelgroepen voorrang te geven bij de toewijzing van sociale huurwoningen. Daarmee beoogt de gemeente om te komen tot een rechtvaardigere verdeling van de schaarse woningen in Amsterdam. Die wens sluit aan bij de Amsterdamse Tada-waarde van inclusiviteit, een stad waarin iedereen telt en waarin mensen indien nodig worden ondersteund. De CPA adviseert niet met de verwerking van persoonsgegevens aan te vangen dan nadat de taken en verantwoordelijkheden voor de verwerking van persoonsgegevens formeel zijn vastgelegd in het conventant. Daarnaast vraagt de CPA aandacht voor de (digitale) toegankelijkheid van het aanvraagproces.

Uit navraag bij WoningNet blijkt, dat de aanvraag uitsluitend digitaal ingediend kan worden. Het is mogelijk dat er woningzoekenden zijn, die niet digitaal vaardig genoeg zijn om op deze manier een aanvraag in te dienen. De CPA adviseert om hier gezien het belang van inclusiviteit aandacht aan te besteden. Tot slot adviseert de commissie om beleid te ontwikkelen ten aanzien van controle van inzagehandelingen in het BRPraadpleegscherm om er zeker van te zijn dat gegevens rechtmatig worden verwerkt.

9 Zie: Slimme check Bijstandsaanvragen - Gemeente Amsterdam

13

5. Geagendeerde onderwerpen/bijeenkomsten zonder schriftelijk advies De CPA brengt niet alleen (on)gevraagd (schriftelijk) advies uit. Regelmatig worden er onderwerpen die raken aan de taakomschrijving van de CPA geagendeerd om deze ter discussie te stellen, waarbij de CPA als klankbord of forum dient. Ook laat de CPA zich regelmatig op openbare vergaderingen informeren door stakeholders binnen de gemeente over actuele (beleids)ontwikkelingen, en weegt hierin haar kennis en deskundigheid mee, denk bijvoorbeeld aan overleggen met de Chief Technology Officer (CTO), Informatiecommissaris en de Ombudsman. Bovendien nemen de leden van de CPA ook deel aan externe sessies of bijeenkomsten. Hierna volgt een kort overzicht van een aantal relevante onderwerpen die op voornoemde wijze zijn voorbijgekomen.10 Informatiesessie over beveiliging systemen (gesprek CISO 15 april 2021) Met alle directies zijn sessies gehouden om alle risico’s inzichtelijk te maken en te bezien welke maatregelen daarom getroffen moeten worden. Er is veel aandacht voor het testen van de veiligheid van de ICT-infrastructuur (onder meer servers, werkplekken en telefoons). Een wezenlijk onderdeel is de bevordering van het bewustzijn van veiligheidsrisico’s bij medewerkers om menselijke fouten te voorkomen.

In Amsterdam wordt bij het toegangsbeheer een verschil gemaakt tussen het IAM (Identity Access Management) dat toegang geeft tot de voordeur van het systeem en het functioneel toegangsbeheer dat regelt tot welke functionaliteiten een medewerker toegang heeft. Na vertrek uit een functie heeft een medewerker geen toegang meer tot de functiegebonden delen van het systeem of tot het systeem als geheel na vertrek uit dienst. Voorts heeft de ACAM een audit uitgevoerd om afwijkingen op te sporen die in het IAM-systeem waren binnengekomen. Dat heeft geleid tot een verbetertraject. Presentatie Data-Ethiek (vergadering 14 april 2022) De aandacht voor ethiek neemt toe omdat de huidige technologie tot veel in staat is waar velen zich over afvragen of men die mogelijkheden wel zou willen en mogen benutten. En die ontwikkelingen gaan steeds sneller. Ethische dialogen kunnen helpen de kloof tussen burger en overheid te overbruggen en om te komen tot nieuwe vertrouwenwekkende regelgeving. In het door veel mensen en organisaties in Amsterdam ondertekende manifest van TADA staan zes waarden genoemd die voor de digitale stad van belang zijn: menselijke maat, inclusief, open en transparant, legitiem en gecontroleerd, van en voor iedereen, zeggenschap. Men kan zeggen dat die gelden voor de ‘modelburger’ maar ze zouden in ieder geval op beleidsniveau in acht genomen moeten worden.

10 De aangehaalde verslagen zijn op datum te benaderen via de webpagina van de CPA: Commissie

Persoonsgegevens Amsterdam - Gemeente Amsterdam.

14

Een vraag die aan de orde kwam is waar en op welk moment ethische toetsingen op hun plaats zijn. De CPA wordt tot nu toe wel betrokken bij de stadia van concept en design, ontwikkeling en training en bij de evaluatie van testen. Maar niet meer als een programma eenmaal in gebruik genomen is of als het ontmanteld wordt. Er zouden eigenlijk ook ethische toetsingen moeten plaatsvinden om misbruik in de praktijk te voorkomen. Hierin kan de FG wellicht een rol spelen. Verder kan het nuttig zijn bij ontmanteling na te gaan of de oorspronkelijke doelen gehaald zijn en wat er gebeurt met de verzamelde data. Een mogelijkheid zou zijn om als CPA enkele cruciale AIprojecten langdurig te volgen. Dat zou ook via een dashboard kunnen. De vraag is of daar ook andere partijen bij betrokken moeten worden, bijvoorbeeld de FG, de ontwikkelaars, de politiek, de burger, het ambtelijk apparaat. Een andere optie is het opnemen in de CPA-flap van een paragraaf over de ethische vragen die de indieners zelf zich al gesteld hebben. Of in de vorm van een checklist of als om een ethische bijsluiter te laten maken. CPA workshop ethiek en algoritmes11 (3 juni 2021) Kunstmatige intelligentie wordt steeds meer ingezet, ook in de gemeente Amsterdam. Dat leidt tot veel maatschappelijke discussie. Daarom organiseerde de CPA een workshop over het gebruik van algoritmes en data-ethiek.

Vierentwintig adviseurs die zich binnen de gemeente bezighouden met data waren bij de workshop aanwezig, onder wie de FG en haar team. De workshop werd geleid door data-ethicus Piek Visser-Knijff van Filosofie in actie. Ook in de gemeente Amsterdam speelt de vraag hoe algoritmes op een juiste wijze kunnen worden ingezet. Daarbij is het van belang dat een algoritme zelf geen oordeel velt. Vervolgens is het belangrijk dat mensen nog eens kritisch kijken hoe zij het risico zelf inschatten. Op die manier blijft de verantwoordelijkheid altijd bij de mens liggen en kan deze niet worden afgeschoven op de techniek. Dit komt ook terug in de adviezen die de CPA aan de burgemeester en wethouders van Amsterdam heeft gegeven. Een ander punt dat terugkomt in de adviezen is duurzaamheid: vaak wordt niet stilgestaan dat het gebruik van algoritmes ontzettend veel energie kost. Zo leidde het trainen van een bekend algoritme voor taalverwerking tot ongeveer evenveel uitstoot van koolstofdioxide als de retourvlucht van een volle Boeing 747 tussen New York en San Francisco. Door afstand te nemen van waar je mee bezig bent, even te kijken naar wat het doel ook alweer was en daarop te reflecteren, kun je een ethische houding ontwikkelen. Door de ontwikkeling van technologie kan er steeds meer.

Maar daardoor wordt een andere vraag steeds belangrijker, namelijk: wat willen we eigenlijk? Integrale risico- en privacyanalyse (IRPA) (3 maart 2022) De IRPA is een instrument dat Informatiebeveiligingsdienst (IBD) van de Vereniging Nederlandse Gemeenten (VNG) ontwikkelt voor informatiebeveiligers, FG’s en PO’s in alle Nederlandse gemeenten. Met dit instrument kunnen zij een integrale analyse maken van de risico’s op het gebied van beveiliging en privacy van projecten die zij onder handen hebben. Via een dashboard wordt men door een stroomschema geleid om de risico’s op alle mogelijke gebieden voor de organisatie en de betrokkenen in beeld te brengen. Tijdens de presentatie wordt ingegaan op het verschil van dit instrument met de handmatige tijds- en arbeidsintensieve DPIA zoals die in de meeste gemeenten nog wordt uitgevoerd. Dit instrument is veelomvattender, objectiever, betrouwbaarder en minder kostbaar dan een DPIA. De VNG heeft bij het ontwikkelbedrijf een licentie geregeld waar alle gemeenten gebruik van kunnen maken. Bovendien is het mogelijk vanuit dit instrument diverse rapportages te halen. Gaandeweg zal het instrument ook leren van 11

https://assets.amsterdam.nl/publish/pages/1038562/algoritmes_hoe_gebruik_je_ze_verantwoord_doc x.pdf

15

de aangeleverde analyses en zullen verbeteringen doorgevoerd worden. Men kan ook volgen in welke gemeentes voorbeelden navolging hebben gekregen en welke verbeteringen daarbij zijn aangebracht. De verwachting is dat steeds meer gemeenten, ook Amsterdam, gebruik gaan maken van IRPA.

Vraaggesprek CPA SALTO TV ‘The Peter Talks’12 (10 april 2022) Een drietal leden van de vertelt over de ontstaansgeschiedenis van de CPA en de huidige taken en onderwerpen waarover wordt geadviseerd. De interviewer stelt vragen over privacy in het algemeen en de daarbij gemoeide belangen en recente ontwikkelingen en thema’s, waaronder de menselijke maat bij het inzetten van algoritmen. Verschillende thema’s en standpunten passeren de revue, waaronder ongebreidelde toegang tot dossiers met gevoelige persoonsgegevens, waarbij de CPA aangeeft dat zij tracht belangrijke zaken onder de aandacht te brengen bij de juiste actoren binnen de gemeente Amsterdam. Zodoende kan middels discussie en onderzoek tijdig worden bijgestuurd. Kennismaking en informatiesessie Informatiecommissaris, van WOB naar Woo (3 november 2022) Toen de Informatiecommissaris werd aangesteld binnen de gemeente vanwege de invoering van de Woo, bleek de informatiehuishouding van de gemeente een belangrijk obstakel voor de uitvoering. Er was geen generiek proces en geen goed overzicht, zodat alle opgevraagde informatie handmatig moest worden verzameld en gescreend.

Daarom is de informatiecommissaris een pilot gestart met kaders en richtlijnen en heeft zij een anonimiseringsbeleid ontwikkeld dat een uitwerking geeft van het onderscheid tussen namen die wel openbaar gemaakt mogen worden en functies waarvoor anonimiteit geldt. De wet geeft daar handvatten voor, maar geeft ook beleidsruimte. Het huidige college van B&W geeft de prioriteit aan wat verplicht is en daarop is de huidige beleidslijn toegesneden. Het is niet altijd zo dat meer transparantie en informatie leiden tot meer vertrouwen in de overheid, maar het is wel belangrijk zakelijke en duidelijke informatie te verstrekken. Het college van B&W heeft gekozen voor het scenario dat gericht is op het basaal voldoen aan de wettelijke verplichtingen. Dit alles betekent dat de informatiehuishouding van de gemeente meer gecentraliseerd wordt en binnen Microsoft Office 365 wordt ingericht. Dat vraagt een cultuuromslag in de organisatie en een vergroting van het bewustzijn bij medewerkers dat ze werken voor een publieke organisatie. De CPA wil komen tot een afspraak voor periodiek overleg over datavraagstukken en synergie. Participatiesessie sensoren Bij de sessie over het sensorenafwegingskader kwam naar voren dat de gemeente momenteel een pilot uitvoert met een camera plus microfoon voor de registratie van geluidsoverlast.

De camera en microfoon nemen alles in de omgeving op dus ook stemmen en gezichten. Men vond het te ingewikkeld daarvoor een DPIA te maken en had eerder behoefte aan een thema-DPIA voor sensoren. De CPA zou eigenlijk op de hoogte gesteld moet zijn van deze pilot. De FG zal hier navraag naar doen en noemt dit als een duidelijk concreet voorbeeld om in het jaarverslag op te nemen als iets waar de CPA (en de FG) niet tijdig bij zijn aangehaakt door de gemeente. Kennismaking Ombudsman Metropool Amsterdam + thema digitale rechten De ombudsman signaleert steeds vaker dat digitalisering leidt tot uitsluiting van bepaalde groepen. De ombudsman kijkt vooral achteraf naar hoe mensen getroffen zijn door het optreden 12 The Peter Talks - Commissie Persoonsgegevens Amsterdam is mijn gast. - SALTO

16

van de lokale overheid in de acht regiogemeenten nadat ze eerder bij de gemeente zelf geen gehoor vonden voor hun bezwaren en argumenten tegen een maatregel van hun gemeente. De CPA merkt op dat de intenties van individuele medewerkers en projectgroepen vaak goed zijn, maar dat de gemeente doordrenkt is van het denken in managementtermen. Dat wordt door de burgers – en vooral door de meest kwetsbare - als eng ervaren. Men zou moeten stoppen de burgers als klanten te zien, want het gaat om mensen die voor de betreffende dienst volledig afhankelijk zijn van de gemeente. Het is een illusie te veranderstellen dat de burger al zijn rechten en plichten tot in de puntjes kent. Bij medewerkers moet het besef voorop staan dat men te maken heeft met mensen van vlees en bloed. Vaak ook staat men te ver af van de doelgroep. De gemeente zegt wel de burgers grip te willen laten houden op hun persoonsgegevens, maar dat is vaak windowdressing, zie de inzet van camera’s terwijl de leus is dat de burger zich onbespied moet weten in de openbare ruimte. De ombudsman zegt dat hij op dat punt veel gesprekken heeft met ambtenaren. Ook binnen de organisatie is er vaak te weinig vertrouwen in het doenvermogen van de eigen medewerkers. Men lijkt verslaafd aan een eenmaal vastgestelde manier van werken en heeft een blinde vlek voor specifieke omstandigheden.

Er zijn veel signalen dat er schade is ontstaan bij burgers als gevolg van digitalisering en daar moet aan de voorkant iets aan gedaan worden. De CPA merkt op dat het vertrekpunt binnen organisaties toch veelal blijft dat er meetbare resultaten behaald moeten worden met vastgestelde targets. Meestal bestaat er op papier wel de ruimte voor reflectie en afwijkingen van gestelde normen, maar wordt er in de praktijk weinig gebruik van gemaakt.

17

6. Onderzoek DPIA-praktijk gemeente Amsterdam Zoals aangekondigd in het jaarverslag van 2020 heeft de CPA onderzoek laten doen naar het gebruik van Data Protection Impact Assessments (DPIA’s, diepgaande analyse naar de privacyrisico’s bij (voorgenomen) verwerkingen van persoonsgegevens, bijvoorbeeld in een proces of een systeem) om na te gaan of ethische vraagstukken daarbij ook een plek krijgen.13 Uit het onderzoek blijkt dat het instrument DPIA tot veel ruis en onduidelijkheid leidt. Vaak wordt het uitsluitend gezien als een eenmalige compliancetest die kan uitwijzen of een project goed of fout is als het gaat om een (voorgenomen) verwerking van persoonsgegevens. Men moet het echter veel meer zien als een doorlopend proces om te beoordelen of en hoe een project de risico’s die digitale systemen met zich meebrengen voor de rechten en vrijheden van burgers wel adequaat worden geadresseerd. Het identificeren van risico’s is vaak ingewikkeld. De eerste vraag is hoe dat te doen, wie daarin het voortouw neemt en hoe het gesprek daarover aan te gaan met de verschillende actoren. Belangrijk is ook in het DPIA-proces voldoende aandacht de geven aan discriminatierisico’s. Het advies van de onderzoeker is daarvoor een steekhoudende preassessment uit te voeren.

Bij het identificeren van risico’s binnen een DPIA is het van belang goed te kijken naar de technische, juridische en organisatorische factoren die gebruikt worden bij het identificatieproces en of die wel accuraat zijn, of er met betrekking tot de factoren een hiërarchie gehanteerd wordt en of de weging van factoren regelmatig aan herziening worden onderworpen. Ook kan het zijn dat men per sector verschillende factoren hanteert. De vraag is verder of de factoren die in het pre-assessment zijn gehanteerd dezelfde zijn als de factoren in de praktijk. Telkens dient men zich de vraag te stellen waar de uitdagingen bij de identificatie van risico’s liggen. Bij monitoring zijn de belangrijkste aandachtspunten of monitoring structureel plaatsvindt, op welk moment en door wie en of dat alles duurzaam belegd is binnen de organisatie. Ook is het nuttig te kijken in welke sectoren er sprake is van good and bad practices en in welke mate besloten wordt voorgestelde mitigerende maatregelen te nemen. Verder is het van belang monitoring vast te tellen ten behoeve van beleidsevaluatie en te zorgen dat er voldoende middelen en tijd voor beschikbaar zijn. Ook hier moet men oog hebben voor de uitdagingen. In de DPIA dienen de identificatie en monitoring op discriminatie een stevige plek te krijgen. 14

13 Het DPIA onderzoek, uitgevoerd door het Tilburg Institute for Law, Technology, and Society (TILT)

isinmiddels gepubliceerd en te benaderen via: Https://pure.uvt.nl/ws/portalfiles/portal/67380872/22082022_Data_Protection_Impact_Assessments_in _the_Urban_Environment.pdf. 14 Denk hierbij ook aan het gebruik van de handreiking ‘Non-discrimination by design’, https://www.tilburguniversity.edu/nl/over/schools/law/departementen/tilt/onderzoek/handreiking.

18

De conclusies van het DPIA onderzoek zullen door de CPA in 2023 met de Vakgroep Privacy worden besproken om deze te verbinden aan de praktijk van de gemeente. Hierbij staan de volgende bespreekpunten centraal: - Op welke manier risico’s in DPIA’s worden geïdentificeerd; - In hoeverre monitoring van de geïdentificeerde risico’s plaatsvindt en op welke wijze deze monitoring is ingericht; - Of het identificeren van risico’s op schending van andere mensenrechten (bijvoorbeeld discriminatie en bias bij algoritmen) punt van aandacht is en hoe dat eventueel anders kan worden ingericht.

19

7. Symposium ‘Data in Damsko’ Waar het symposium in 2021 wegens de destijds geldende coronamaatregelen niet plaats kon vinden, is in september 2022 wel weer een symposium gehouden, met als onderwerp ‘Data in Damsko’15 Daarin stond de vraag centraal hoe gemeenten moeten omgaan met de juridische en ethische uitdagingen van de data-gedreven stad. Het symposium was vrij toegankelijk voor professionals van binnen en buiten de gemeente Amsterdam en bestond uit twee panelgesprekken. In het eerste panel werd ingegaan op de uitvoering van DPIA’s door gemeenten en in het tweede panel werd stilgestaan bij de ontwikkeling van ethische kaders bij de inzet van nieuwe informatietechnologieën in de stad. Het symposium was een groot succes, waarbij verschillende inzichten de revue zijn gepasseerd en hebben bijgedragen aan een waardevolle dialoog. Het evenement bracht een diverse groep experts en belanghebbenden samen, waardoor er een breed scala aan perspectieven en ideeën naar voren kwam. Gedurende het symposium werden er diepgaande discussies gevoerd over onderwerpen als DPIA's, ethische kaders en het verantwoord gebruik van data. De deelnemers deelden hun ervaringen, best practices en zorgen, wat heeft geleid tot een verrijkende uitwisseling van kennis en inzichten.

Belangrijkste conclusie van het panelgesprek over DPIA's is dat we niet uit het oog moeten verliezen waar een DPIA precies voor dient. Het belang van de dialoog rondom een DPIA wordt hoger geacht dan het louter invullen van het formulier; het moet niet een formaliteit worden. Ook de rest van het panel maakt zich zorgen dat de DPIA een checklist wordt voor een compliance check op één moment. Een DPIA is een voortdurend proces, waarbij de verwerkingsverantwoordelijke steeds nagaat, dus ook als een systeem eenmaal in gebruik is genomen, of eventuele risico’s voor de rechten en vrijheden van burgers voldoende worden gemitigeerd met behulp van organisatorische en technische maatregelen. Voor wat betreft het ontwikkelen van ethische kaders geldt dat er nooit één lijst van onveranderlijke waarden zijn die ethisch gezien het belangrijkst zijn. Een mensenrechtenkader vormt het startpunt van de discussie, maar het moet een doorlopend open dialoog blijven tussen de betreffende stakeholders. Het draait erom dat de organisatie op een ethisch verantwoorde manier gebruik maakt van de data. Al met al heeft het symposium een vruchtbare bodem gecreëerd voor verdere discussies en initiatieven op het gebied van dataprivacy en ethiek. 15 Een verslag van het symposium is te raadplegen via: Verslag CPA symposium 'Data in Damsko' 1

september 2022 - Gemeente Amsterdam.

20

Naast deze onderwerpen stond het symposium ook in het teken van het afscheid van de voorzitter Ulco van de Pol aan wie een liber amicorum werd aangeboden. Ook werd aandacht besteed aan het afscheid van commissielid Kees De Bakker, die tevens actief was als secretaris van de CPA. Wethouder Rijxman sprak de heer Van de Pol en de heer De Bakker toe en decoreerde hen met een Amsterdamspeld.

21

8. Conclusie, reflectie en vooruitblik 2023 In vergelijking met 2020 en voorgaande jaren is het aantal adviezen dat is gegeven verminderd, maar de adviezen die zijn gegeven in 2021-2022 zijn inhoudelijk complexer en zijn uitgebreider in omvang. Dezelfde koers wordt ook in 2023 voortgezet, waarbij er eveneens aandacht wordt besteed aan het vergroten van de bekendheid van de CPA binnen de verschillende organisatieonderdelen van de gemeente Amsterdam. Gezien de reorganisaties, centralisaties en personeelswisselingen, is het belangrijk om de bijzondere rol van de CPA en de bijbehorende taken breed onder de aandacht te brengen. Daarnaast wordt in 2023 ook gereflecteerd op de positionering, inrichting en adviesfunctie van de CPA om te onderzoeken of de CPA als ‘moreel beraad’ kan fungeren bij complexe en/of gevoelige ethische vraagstukken binnen de gemeente en voor het bestuur, mede ingegeven door het raadsinitiatief ‘Grip op Technologie’.16 De CPA wijst op het belang van zeggenschap van de burgers van Amsterdam, bijvoorbeeld over de inzet van algoritmes, en in het bijzonder van de mensen die de inzet van het algoritme mogelijk aan den lijve ondervinden. Die zeggenschap is deels op verschillende manieren al georganiseerd, onder meer – uiteraard – via het gebruikelijke democratisch proces. De vraag is of deze vorm van zeggenschap voldoende is.

Steeds gebruikelijker is om bij de inzet van nieuwe technologieën zoals algoritmen ook meer rechtstreeks te vragen om inbreng van de burger. Een vorm waarin die burgerparticipatie vaak wordt georganiseerd is die van een vorm van moreel beraad. De commissie beseft dat een dergelijk beraad idealiter in een vroeg stadium moet plaatsvinden, maar dat neemt niet weg dat iets dergelijks ook in de pilotfase en zelfs daarna nog moet kunnen plaatsvinden. Een moreel beraad is niet alleen bedoeld om toekomstige beslissingen te nemen, maar ook om achteraf te bepalen of de juiste beslissingen genomen zijn en ook om daar zo meer draagvlak voor te krijgen. Verder kunnen de uitkomsten van een dergelijk beraad hopelijk ook nog worden meegenomen in de verdere vormgeving en het gebruik van een beslismodel, algoritme of voorgenomen verwerking met mogelijk grootschalige gevolgen voor de betrokkene(n). De commissie acht een dergelijk beraad van belang omdat daarmee recht wordt gedaan aan de eerste van de zes TADA-waarden: er wordt gestreefd naar legitiem en gecontroleerd gebruik van data. Amsterdammers hebben immers zeggenschap over de vormgeving van hun stad en data zijn daarbij een onlosmakelijk onderdeel.

De CPA benadrukt dat wanneer een algoritme wordt gebruikt in besluitvormingsprocedures, bijvoorbeeld om de onderzoekswaardigheid van een inwoner te bepalen, op de gemeente een extra verantwoordelijkheid rust om hierover transparant te communiceren. Dit betekent dat de gemeente zich moet inspannen om de individuele inwoner op de hoogte te stellen, tevens rekening houdend met de diverse capaciteiten van verschillende individuen. De systematische transparantie die reeds wordt geboden via het (onvolledige) algoritmeregister van de gemeente,17 is ontoereikend. Dit register impliceert immers dat burgers uit eigen beweging nagaan of in het register rekenschap wordt gegeven van een algoritme dat mogelijkerwijs invloed heeft gehad op hun rechtspositie. Dit terwijl uit rechtspraak voortvloeit dat bestuursorganen actief moeten

16 De CPA heeft in 2023 over het Raadsinitiatief een advies uitgebracht, Advies Grip op technologie 26

januari 2023 - Gemeente Amsterdam. 17 https://algoritmeregister.amsterdam.nl/

22

informeren over de verwerking van persoonsgegevens door algoritmen die worden gebruikt voor fraudeopsporing.18

18 Zie in het bijzonder de uitspraak van de rechtbank Den Haag 5 februari 2020,

ECLI:NL:RBDHA:2020:865 (Systeem Risico Indicatie, ‘SyRI’-uitspraak).

23

24