Grip op Tech - evaluatie en verbetervoorstellen_def

Grip op Technologie Ethische toetsing technologische toepassingen: evaluatie en verbetervoorstellen

20-6-2023 Versie 1.0

1.

Inleiding

Raadsinitiatief Grip op Technologie De Raad vraagt het College in het raadsinitiatief Grip op Technologie van 16 februari 2022 te evalueren of er voldoende maatregelen zijn voor een brede ethische toetsing van technologische toepassingen in de gehele organisatie. Dit is het resultaat van de gevraagde evaluatie. De door de Raad gevraagde aspecten In het raadsinitiatief vraagt de Raad om specifiek aandacht te besteden aan een viertal aspecten. In de evaluatie is aan elk van de aspecten een aparte paragraaf gewijd. Het gaat om de aspecten:    

Openbare monitoring en toetsing. Vooraf en achteraf toetsen aan de hand van ethische kaders. Belanghebbenden betrekken en diverse Amsterdamse perspectieven meenemen. Experimenteren met verantwoorde technologieën.

Voor de volledigheid is ‘Bewustwording en vaardigheden in de organisatie’ als vijfde aspect toegevoegd. Gevraagd voorstel De Raad vraagt om op basis van de evaluatie een voorstel voor te leggen. In dit document staan bij elk aspect verbetervoorstellen. De verbetervoorstellen zijn geconcretiseerd in een actieplan dat kan worden gezien als het overall voorstel. De sturing en uitvoering van de activiteiten uit het plan worden onderdeel van de Agenda Digitale Stad & Overheid. Zelfevaluatie en advies van de Commissie Persoonsgegevens Amsterdam De evaluatie en de verbetervoorstellen zijn opgesteld door eigen experts van de gemeente op het gebied van digitale rechten. De Commissie Persoonsgegevens Amsterdam heeft hierop onafhankelijk advies gegeven. Dit advies is overgenomen en verwerkt. De evaluatie is gebaseerd op een internationaal framework Voor de evaluatie en de verbetervoostellen is het framework ‘Mainstreaming human rights in the digital transformation of city-governments 1 gebruikt. Dit framework geeft aan wat je breed geregeld moet hebben binnen de lokale overheid voor de borging van digitale mensenrechten. TADA Bij de evaluatie is uitgegaan van de TADA-waarden. De gemeente Amsterdam heeft deze als basiswaarden omarmd voor het gebruik van technologie en data.

De waarden zijn: legitiem en gecontroleerd, open en transparant, van en voor iedereen, inclusief, zeggenschap en menselijke maat.

1 Dit framework is ontwikkeld door het netwerk “Cities Coalition for Digital Rights”. Dit netwerk is in 2018 opgericht door

Barcelona, New York City en Amsterdam. Hierbij is intensief samengewerkt met UN-HABITAT, EUROCITIES en UCLG. Het framework is een geïnspireerd door het mensenrechten framework “Human rights cities in the EU: a framework for reinforcing rights locally” van de EU Fundamentel Rights Agency. Het framework is hier te vinden: Mainstreaming human rights in the digital transformation of cities – A guide for local governments | UN-Habitat (unhabitat.org)

1

2.

Inhoudsopgave en samenvatting

De universele mensenrechten moeten beschermd worden. Ook, of misschien wel juist, in de context van digitale technologie. We spreken dan over digitale rechten. Digitale rechten vormen de basis voor inclusief en verantwoordelijk gebruik van data en technologie. Het respecteren van digitale rechten is voor het college van groot belang. Iedereen in Amsterdam moet erop kunnen vertrouwen dat hun digitale rechten veilig zijn en bevorderd worden. In het collegeakkoord onderschrijft het college de TADA-waarden. De gemeente profileert zich sinds 2016 als mensenrechtenstad. In de raad zijn de uitgangspunten van mensenrechten in Amsterdam vastgesteld2. In 2018 is de verklaring van de Cities Coalition for Digital Rights ondertekend. Het is belangrijk dat de gemeente grip heeft op de technologie die zij gebruikt. Als de gemeente grip heeft is zij beter in staat om bij digitalisering de menselijke waarden zeker te stellen. Openbare monitoring en toetsing

Zie paragraaf 3, pagina 6

De gemeente spant zich al in om aanspreekbaar te zijn en zich te verantwoorden over bescherming en toepassing van digitale rechten. Verbetering is echter mogelijk. De verbetervoorstellen zijn gericht op het versterken van het vertrouwen van Amsterdammers dat de gemeente zorgvuldig omgaat met digitale rechten, door:  

Te verantwoorden en aanspreekbaar te zijn. Transparant te zijn over digitalisering van de gemeente.

Vooraf en achteraf toetsen aan de hand van ethische kaders

Zie paragraaf 4, pagina 8

Binnen de gemeentelijke organisatie is er aandacht voor zowel by design toepassen als achteraf toetsen van digitale rechten bij inzet van data en technologie voor dienstverlening en processen. Maar verbetering is nodig en mogelijk. De verbetervoorstellen zijn gericht op het toepassen van digitale rechten van Amsterdammers bij het ontwikkelen, inkopen en gebruiken van digitale technologie. De gemeentelijke organisatie herkent en erkent ethische vraagstukken. Zij weegt morele waarden op de juiste momenten en op de juiste manier tegen elkaar af.

Belanghebbenden betrekken en diverse Amsterdamse perspectieven meenemen

Zie paragraaf 5, pagina 12

De gemeente heeft een goed netwerk voor samenwerking met organisaties bij beleidsvorming over digitalisering. Voor de individuele Amsterdammer is het echter lastig om te mee te doen in digitaliseringstrajecten. Het actief betrekken van burgers bij het ontwerpen, realiseren en toetsen van digitale oplossingen is nog geen gebruik. Bewustwording bij burgers, bedrijven en organisatie over de impact van digitalisering op mensenrechten is belangrijk. De gemeente werkt samen met het Amsterdam Digital Rights House om bewustwording en betrokkenheid te versterken. Speerpunten zijn inclusiviteit en digitale weerbaarheid.

2 ' Vaststellen van de uitgangspunten van Mensenrechten in Amsterdam.' Voordracht voor de

raadsvergadering van woensdag 14 september 2016. Jaar (raadsinformatie.nl)

2

Nationaal en internationaal werkt de gemeente samen met andere overheden om digitale rechten te agenderen en toe te passen. De verbetervoorstellen zijn erop gericht om belanghebbenden meer zeggenschap te geven over digitale technologie in de stad. Door hen te betrekken bij het ontwerpen, realiseren/verwerven en toetsen van digitale toepassingen. Daarnaast is er aandacht voor meer bewustwording over digitale rechten bij Amsterdammers en Amsterdamse bedrijven.

Experimenteren met verantwoorde technologieën

Zie paragraaf 6, pagina 14

Vanuit de Agenda Digitale Stad heeft de gemeente de afgelopen jaren samen met externe partners veel aandacht besteed aan innovaties en experimenten met nieuwe technologieën. Ook bij innovaties en experimenten moet aandacht gegeven worden aan ethische kaders en participatie. Specifieke aandacht is er voor ontwikkeling van verantwoorde technologie, technologie waarin publieke waarden al by design zijn zeker gesteld. De verbetervoorstellen zijn gericht op het stimuleren van de ontwikkeling en gebruik van verantwoorde technologie en explicieter toepassen van digitale rechten bij innovaties en experimenten.

Bewustwording en vaardigheden in de organisatie

Zie paragraaf 7, pagina 15

Bij digitaliseringstrajecten kunnen publieke waarden met elkaar botsen, bijv. veiligheid via cameratoezicht vs. onbespied in de openbare ruimte. Een moreel oordeel is dan nodig. Morele oordeelsvorming is bij digitaliseringstrajecten van de gemeente nog geen gewoonte. Ambtenaren zijn hier ook nog niet voldoende op toegerust. De verbetervoorstellen zijn erop gericht de bewustwording en vaardigheden in de organisatie te vergroten, zodat ambtenaren ethische vraagstukken bij digitaliseringstrajecten herkennen en tot een moreel oordeel kunnen komen.

Bijdrage verbetervoorstellen aan TADA-waarden

Zie paragraaf 8, pagina 15

Het hanteren van Amsterdamse waarden dwingt de gemeente om met een ethische blik daadwerkelijke grip op technologie te houden. De voorgestelde verbeteringen dragen bij aan alle TADA-waarden, soms direct, soms indirect.

3

3.

Openbare monitoring en toetsing

3.1. Introductie Openbare monitoring en toetsing van bestaande en nieuwe technologische toepassingen is een vorm van transparantie. Doel van transparantie is het versterken van het vertrouwen van de burger in de overheid. Het helpt de gemeente ook om kritisch te zijn op haar eigen doen en laten. Openbare monitoring en toetsing is meer dan alleen het publiceren van beleid en rapporten. Het gaat er ook om dat burgers een ingang hebben om de betekenis van digitalisering voor hun individuele situatie te bepalen en daar kritisch over mee te denken. Openbare monitoring en toetsing draagt in directe zin bij aan de TADA-waarde open en transparant. Indirect draagt het bij aan naleving van alle TADA-waarden. 3.2. Mechanismen binnen de gemeente waarin dit geborgd (zou) moet(en) zijn Het framework geeft de volgende mechanismen voor transparantie en verantwoording:   

3.3.

Zorg voor transparantie in het gemeentelijk handelen en de dienstverlening. Richt een publieksfunctie in (gemeentelijk loket, antidiscriminatiebureau, ombudsman) voor digitale rechten. Hanteer een jaarlijkse monitoring voor digitale rechten.

Huidige status

Transparantie Via de Amsterdamse begroting en jaarverslagen en via het communicatiekanaal Amsterdam.nl zijn alle doelen en activiteiten van de beleidsterreinen transparant gemaakt. Met enig zoeken kunnen belanghebbenden op Amsterdam.nl informatie vinden over innovatie en de impact van technologie. Er is een algoritmeregister waarmee de gemeente beoogd transparant te zijn over de algoritmen die zij ontwikkelt en gebruikt. Het aantal gepubliceerde algoritmen is nu nog beperkt en zal in 2023 verder worden uitgebreid. Op Amsterdam.nl maakt de gemeente duidelijk hoe persoonsgegevens worden gebruikt en wat de rechten van de Amsterdammers zijn. Het digitaliseringsbeleid van de gemeente en de technologie die zij gebruikt zijn niet op een centrale plek beschikbaar voor belanghebbenden. Het ontbreekt ook aan een overzicht van de mate van digitalisering, risico’s en uitkomsten van ethische toetsing. Publieksfunctie Via het loket persoonsgegevens op Amsterdam.nl kunnen burgers inzage vragen in de gegevens die de gemeente van hen heeft. Ook is het mogelijk om gegevens te laten corrigeren en bezwaar te maken tegen de verwerking van de eigen persoonsgegevens. Als burgers van mening zijn dat hun rechten geschonden worden kunnen zij rechtstreeks terecht bij de Functionaris Gegevensbescherming.

De gemeente heeft een Ombudsman benoemd die klachten behandelt over instanties en personen waarvoor de gemeente verantwoordelijk is. De Ombudsman kijkt of de ambtenaar of instantie op de juiste manier geholpen heeft. Ook komt hij met advies en aanbevelingen ten behoeve van de dienstverlening van de Gemeente Amsterdam.

4

Monitoring Er zijn binnen de gemeente Amsterdam verschillende organen en protocollen om het gebruik van technologie te monitoren.

Commissie Persoonsgegevens Amsterdam Een belangrijk orgaan op dit gebied is de Commissie Persoonsgegevens Amsterdam. De commissie bestaat momenteel uit negen leden inclusief een ambtelijk secretaris. De leden hebben vanuit verschillende achtergronden expertise op het gebied van recht, privacy en filosofie. Zij worden voor vier jaar door het college benoemd. Er wordt geprobeerd om voor een goede balans tussen jong en oud, mannen en vrouwen en overheid en bedrijfsleven te zorgen. De Commissie Persoonsgegevens Amsterdam adviseert de gemeente over haar privacybeleid en de uitvoering daarvan. Daarnaast adviseert de commissie sinds afgelopen jaar de ambtelijke organisatie bij complexe kwesties rondom algoritmen, data-ethiek en digitale mensenrechten. Zij signaleert wat er binnen de gemeente speelt en brengt dit onder de aandacht van het gemeentebestuur en het management van de ambtelijke organisatie. De Commissie Persoonsgegevens Amsterdam heeft bijvoorbeeld de gemeente geadviseerd over een algoritme om illegale vakantieverhuur tegen te gaan. De vergaderingen van de Commissie Persoonsgegevens Amsterdam zijn openbaar. Functionaris Gegevensbescherming De gemeente heeft sinds de invoering van de Algemene Verordening Gegevensbescherming (AVG) een onafhankelijke Functionaris Gegevensbescherming benoemd en meerdere privacy officers aangesteld.

De Functionaris Gegevensbescherming ziet toe op de naleving door de gemeente van de AVG en andere privacywetgeving en het Stedelijk kader verwerken persoonsgegevens door de gemeente Amsterdam. De privacy officers adviseren de gemeente zodat de gebruikte technologieën de privacy waarborgen en misbruik wordt voorkomen. Openbare rapportages Jaarlijks rapporteren de Chief Information Security Officer, de Functionaris Gegevensbescherming en de Stadsarchivaris over respectievelijk de informatiebeveiliging, de gegevensbescherming en het informatiebeheer. Deze rapportages zijn openbaar. Ook de Commissie Persoonsgegevens Amsterdam brengt een jaarverslag uit. 3.4.

Beoordeling

Transparantie Op het gebied van digitalisering en digitale rechten is de gemeente nog onvoldoende transparant. Amsterdammers hebben verschillende mogelijkheden om inzicht te krijgen hoe de gemeente werkt en digitaliseert en welke gegevens zij daarbij gebruikt. De gemeente Amsterdam gaat daarbij verder dan dat zij volgens wet- en regelgeving verplicht is. De informatieverstrekking is echter versnipperd en niet volledig waardoor het voor belanghebbenden moeilijk is om een compleet beeld te vormen. Publieksfunctie Voor een individuele Amsterdammer is het moeilijk om de betekenis van digitalisering van de gemeentelijke processen en dienstverlening voor zijn of haar specifieke situatie te bepalen. Het loket persoonsgegevens is daarvoor te beperkt. Monitoring Anders dan de rapportagecycli over informatiebeveiliging, gegevensbescherming en informatiebeheer is er geen cyclus voor openbare rapportage over digitale rechten. Met de Ombudsman, de Commissie Persoonsgegevens Amsterdam en de Functionaris Gegevensbescherming heeft de gemeente voldoende instanties die toezien op of adviseren over

5

zorgvuldige en verantwoorde digitalisering met respect voor de digitale rechten. Tussen de Ombudsman en de gemeente is er geen terugkerend overleg over de gevolgen van digitalisering. De rol van de Commissie Persoonsgegevens ten aanzien van advisering over ethische vraagstukken kan nog wat versterkt worden. Door te bevorderen dat er meer casussen aan de Commissie worden voorgelegd, door te werken met een termijnagenda en via het organiseren van een periodiek overleg over de rode draad in de adviezen van de Commissie.

3.5.

Verbetervoorstellen 1. 2. 3. 4. 5.

6.

Inrichten van een rapportagecyclus over digitale rechten aansluitend op de presentatie van en het gesprek over de jaarlijkse staat van de digitale rechten in Amsterdam. Met de Commissie Persoonsgegevens Amsterdam inrichten van een moreel beraad dat adviseert over complexe en gevoelige ethische vraagstukken. Samenwerking organiseren met Openbare Bibliotheek Amsterdam en Cybersoek voor het signaleren, monitoren en verbeteren van digitale dienstvelening. Inrichten van overleg tussen de Ombudsman, de FG, de directeur Dienstverlening en de CIO. Openbaar maken van het gemeentelijke digitaliseringsbeleid, de technologie en algoritmen die de gemeente gebruikt en het portfolio aan lopende digitaliseringstrajecten. Verbeteren van de communicatie over mogelijkheden voor burgers om hun rechten uit te oefenen. Aansprekende voorbeelden uitlichten waarin digitale rechten toegepast en/of uitgewerkt zijn en deze publiceren.

6

4.

Vooraf en achteraf toetsen aan de hand van ethische kaders

4.1.

Introductie

Inzet van data en technologie moet zorgvuldig en verantwoord gebeuren om publieke waarden zeker te stellen. Als er sprake is van botsende waarden dienen deze zorgvuldig tegen elkaar afgewogen te worden. Toetsing vooraf en het by design borgen van kwaliteit is noodzakelijk. Besluiten en maatregelen moeten worden vastgelegd om toetsing achteraf mogelijk te maken. Het moet voor iedereen duidelijk zijn dat de gemeente de digitale rechten van de Amsterdammers belangrijk vindt. De ethische kaders moeten eenduidig en bekend zijn in de organisatie om naleving en toetsing mogelijk te maken. Het vooraf en achteraf toetsen van technologische toepassingen aan ethische kaders draagt bij aan naleving van alle TADA-waarden.

4.2.

Mechanismen binnen de gemeente waarin dit geborgd (zou) moet(en) zijn

Het framework geeft de volgende mechanismen die gehanteerd kunnen worden voor het creëren van de voorwaarden voor toetsing aan de hand van ethische kaders:      

Maak het belang dat de gemeente hecht aan digitale (mensen)rechten officieel. Geef bestuurlijk en ambtelijk opdracht voor de coördinatie van digitale rechten. Organiseer dat alle organisatieonderdelen digitale rechten als kwaliteitscriteria hanteren voor de dienstverlening en uitvoering van processen. Stel een expertiseteam samen met als doel om in de gehele organisatie de verbinding te leggen tussen mensenrechten en digitalisering. Bouw ervaring op met impact assessments voor digitale rechten bij opgaven en projecten. Neem digitale rechten op als kwaliteitscriteria voor inkoop en realisatie van digitale oplossingen.

7

4.3.

Huidige status

Formaliseren van het belang van digitale rechten Diverse eerdere bestuurlijke besluiten hebben het belang van digitale mensenrechten expliciet gemaakt3. Het Amsterdams bestuur heeft de TADA-waarden omarmd en uitgewerkt in de datastrategie. Daarnaast onderschrijft zij de Verklaring van de Cities Coalition for Digital Rights. Amsterdam afficheert zich sinds 2016 als mensenrechtenstad. In het coalitieakkoord zijn de menselijke en democratische waarden verbonden met de ontwikkeling van de digitale stad. Hiermee loopt Amsterdam vooruit op aankomende wet- en regelgeving vanuit zowel de EU als het Rijk. Bestuurlijk en ambtelijk mandaat In het college is de opdracht voor digitalisering toegewezen aan de wethouder ICT & Digitale Stad. Ambtelijk ligt de opdracht hiervoor bij de CIO van de gemeente Amsterdam. In het coalitieakkoord 2022-2026 is opnieuw benoemd dat dit inclusief digitale rechten en waarden is. Organisatiebreed hanteren van digitale rechten als kwaliteitscriteria Organisatieonderdelen besteden in het bijzonder aandacht aan gegevensbescherming (privacy), informatiebeveiliging (security) en informatiebeheer. Hierover zijn afspraken gemaakt in de organisatie. De Functionaris Gegevensbescherming, CISO en stadsarchivaris zien toe op naleving van deze afspraken. Er is instrumentarium beschikbaar en er zijn expertiseteams (vakgroepen) ingericht.

Anders dan voor gegevensbescherming, informatiebeveiliging en informatiebeheer is er geen afsprakenstelsel voor borging van digitale rechten. Organisatieonderdelen geven wel aandacht aan de TADA-waarden, maar dit gebeurt minder expliciet dan bij gegevensbescherming, informatiebeveiliging en informatiebeheer. Het is daarom moeilijker om vast te stellen in welke mate deze waarden toegepast worden. De TADA-waarden zijn nog niet uitgewerkt in een hanteerbare set van ethische kaders voor digitaliseringstrajecten en er is geen richtlijn voor het afwegen van concurrerende of botsende waarden. Aan het organiseren van een expertiseteam voor digitale rechten wordt gewerkt. Er is een start gemaakt met speciale inkoopvoorwaarden voor data en algoritmen. Hierbij wordt ook aandacht gegeven aan digitale rechten.

3 - In het Coalitieakkoord 2018-2022 zijn voor het onderdeel 'Democratisering en Digitale stad' diverse doelen opgenomen

voor het bewust omgaan met de mogelijkheden en bedreigingen van digitale technologieën en het eerlijk verdelen van de opbrengsten van digitale technologieën. - Met de 'Verklaring voor Digitale Rechten' van 6 november 2019 heeft het college aangegeven de mensenrechten te respecteren bij omgang met technologie en daarin wereldwijd een voortrekkersrol in te nemen binnen de Cities Coalition for Digital Rights. - In de Amsterdamse Datastrategie van januari 2021 is beschreven hoe Amsterdammers meer zeggenschap krijgen over hun data en hoe data over de stad voor de stad kan wordt ingezet. - Op 16 november 2021 heeft het college ingestemd met de bestuurlijke reactie op het initiatiefvoorstel Grip op technologie met in de bijlage de belangrijkste punten. - Op 16 februari 2022 is het aangepaste initiatiefvoorstel Grip op technologie aangenomen door de Raad. Het college wordt verzocht om een evaluatie en een voorstel (huidige notitie is uitwerking van voorstel). - In het Amsterdams Akkoord Bestuursperiode 2022-2026 staan digitale rechten, TADA-waarden en monitoring van algoritmen opnieuw expliciet genoemd als prioriteit binnen 'Digitale stad en ICT'.

8

Gebruik van impact assessments De gemeentelijke organisatie heeft verschillende hulpmiddelen voor het vooraf toetsen van digitale rechten bij opgaven en projecten. Impact Assessment Mensenrechten en Algoritmes Het Rijk schrijft sinds april 2022 voor om de Impact Assessment Mensenrechten en Algoritmes toe te passen bij de inzet van algoritmen. Dit instrument heeft als doel dat digitale rechten op een gestructureerde manier aan bod komen. Gemeente Amsterdam had al voor april 2022 heeft een eigen mensenrechten impact assessment voor algoritmen. De gemeente past de landelijke Impact Assessment Mensenrechten en Algoritmes nu nog incidenteel toe. Zij gaat ertoe over om deze structureel te gebruiken in plaats van het eigen instrument. Risico analyse & Bias Analyse algoritmen Gemeente Amsterdam heeft een methodiek ontwikkeld om onbewuste vooringenomenheid – ofwel ‘bias’ – op te sporen in een getraind model. De methodiek controleert of het model gelijke gevallen gelijk behandeld. Voor de methode is een aparte handleiding beschikbaar. De methode wordt uitgevoerd door datascientists. Data Privacy Impact Assessment Het uitvoeren van een Data Privacy Impact Assessment is volgens de AVG verplicht als er sprake is van gegevensverwerking met een hoog privacy risico. De Data Privacy Impact Assessment brengt in kaart welke risico’s er zijn en welke maatregelen deze risico’s kunnen verminderen.

De Data Privacy Impact Assessment moet worden voorgelegd aan de Functionaris Gegevensbescherming. Die kan aanvullende maatregelen adviseren. Ethische Bijsluiter (Tada) De Ethische Bijsluiter ondersteunt een moreel proces bij opgaven en projecten en maakt dit proces expliciet. Hierdoor kan het team doelen en handelingen afstemmen op de TADA-waarden en kan er helder communicatie plaatsvinden naar derden als burgers, raadsleden en andere belanghebbenden. Transparantiedocument Bij de verwerking van persoonsgegevens moet het transparantiedocument doorlopen worden voor er overgegaan wordt tot levering of verstrekking vanuit de Directie Data. Het gebruik van deze hulpmiddelen is nog beperkt. Binnen de organisatie is er weinig bekendheid over het bestaan, nut en noodzaak en afspraken over toepassing van de instrumenten. 4.4.

Beoordeling

Belang van digitale rechten De gemeente Amsterdam vindt digitale rechten belangrijk. Zij heeft dat vastgelegd in meerdere besluiten en draagt dit ook uit. Nationaal en internationaal is het denken over digitale rechten, mede op initiatief van de gemeente Amsterdam, verder ontwikkeld. De TADA-waarden zijn inmiddels vijf jaar oud. Het is verstandig om het voortschrijdend inzicht te gebruiken voor verdieping, aanscherping en aanvulling van de te hanteren waarden voor het gebruik van data en technologie, waarbij de TADAwaarden wel de basis blijven. Bestuurlijk en ambtelijk mandaat Zowel bestuurlijk als ambtelijk is de verantwoordelijkheid toegewezen om hier verdere invulling aan te

9

geven. Al bij de ambtseed zeggen ambtenaren toe de gerechtigheid te dienen en zelf een juist moreel oordeel te vormen. Organisatiebreed hanteren van digitale rechten als kwaliteitscriteria Borging van digitale rechten via vooraf en achteraf toetsen staat in de gemeentelijke organisatie nog in de kinderschoenen. Anders dan voor gegevensbescherming, informatiebeveiliging en informatiebeheer, die in de ontwikkeling een aantal jaren verder zijn, is er voor digitale rechten nog geen afsprakenstelsel om digitale rechten zeker te stellen. Een eenduidige en hanteerbare set aan ethische kaders ontbreekt. Het hebben hiervan is een voorwaarde om digitale rechten expliciet en organisatiebreed te beschermen. De gemeente heeft TADA en de Verklaring van de Cities Coalition for Digital Rights omarmd. De hierin gegeven waarden en principes zijn voor directe toepassing binnen de gemeente echter te abstract. Ze hebben een praktische vertaling nodig. Gebruik van impact assessments Er is een aantal hulpmiddelen beschikbaar om digitale rechten by design toe te passen in digitaliseringstrajecten, onder andere impact assessments. De hulpmiddelen worden nog niet breed gebruikt. Dit heeft te maken met onbekendheid in de organisatie, maar ook met het ontbreken van een afsprakenstelsel voor borging van digitale rechten. 4.5.

Verbetervoorstellen 7.

Doorontwikkelen van de TADA-waarden als concreet, duidelijk en hanteerbaar ethisch kader voor de hele organisatie gebaseerd op de laatste inzichten over digitale rechten, zoals de nieuwe Europese EU Digitale Rechten Principes en de Code Goed Digitaal Openbaar Bestuur. 8. Inrichten van een afsprakenstelsel voor borging van digitale rechten vergelijkbaar met en geïntegreerd in het stelsel voor informatiebeveiliging, gegevensbescherming en informatiebeheer. 9. Opstellen van een richtlijn hoe bij ethische vraagstukken waarden tegen elkaar worden afgewogen en besluitvorming plaatsvindt. De gemaakte afwegingen en genomen besluiten dienen te worden vastgelegd. 10. Organiseer expliciete aandacht voor digitale rechten in de processen van opgavegericht en wendbaar werken, in projecten, bij vervanging/vernieuwing van applicaties en bij beheer. 11. Actief zorgen voor bewustzijn over de Amsterdamse waarden bij samenwerkingspartners en verbonden partijen en hier expliciete afspraken over maken. 12. Hulpmiddelen voor naleving van de kaders verder ontwikkelen en vergroten bekendheid in de organisatie.

10

5.

Belanghebbenden betrekken en diverse Amsterdamse perspectieven meenemen

5.1.

Introductie

Om Amsterdam voor iedereen te laten werken is het goed om burgers, ondernemers en organisaties in de stad actief te betrekken. Ook, of misschien wel juist, bij digitalisering van de dienstverlening en de processen van de gemeente. Belanghebbenden kunnen dan meedenken over toepassing van waarden en ethische dilemma’s bij digitalisering. Juist in die situaties waarin inzet van data en technologie de grootste impact hebben op bewoners en andere belanghebbenden. Participatie verbetert de acceptatie en legitimiteit van beslissingen die de gemeente op dit vlak neemt. Het is een directe invulling aan de TADA-waarden ‘Zeggenschap’ en 'Van en voor iedereen'.

5.2.

Mechanismen binnen de gemeente waarin dit geborgd (zou) moet(en) zijn

Het framework geeft de volgende mechanismen die gehanteerd kunnen worden voor het versterken van participatie bij het inzetten van data en technologie:   

5.3.

Organiseer en stimuleer inclusieve participatie in het bestuurlijk besluitvormingsproces. Zet een externe adviesraad in met een inclusieve samenstelling van lokale organisaties en vertegenwoordigers van kwetsbare groepen. Zoek actief nationale en internationale samenwerking om uitdagingen met betrekking tot digitale rechten gezamenlijk aan te pakken.

Huidige status

Kennisnetwerk Op het gebied van digitalisering is vanuit het programma Agenda Digitale Stad een netwerk opgebouwd met kennisinstituten en organisaties in de stad. Daarnaast organiseert de gemeente regelmatig openbare bijeenkomsten in het Datalab over specifieke onderwerpen met betrekking tot data en technologie. Algoritmen Via het algoritmeregister nodigt de gemeente burgers, ondernemers en organisaties uit feedback te geven op algoritmen die zij gebruikt. Het aantal gepubliceerde algoritmen is nu nog beperkt en zal in 2023 verder worden uitgebreid om transparantie en participatie te bevorderen. Digital Rights House Amsterdam Specifiek voor digitale rechten is het Digital Rights House Amsterdam opgezet: een meerjarige samenwerking tussen de stichting Digital Rights House en de gemeente Amsterdam. De samenwerking heeft als doel de digitale rechten op de agenda te houden van organisaties die in de stad actief zijn. Het Digital Rights House Amsterdam monitort de digitale rechten in de stad en onderzoekt wat er moet verbeteren. Hieruit volgt gevraagd en ongevraagd advies. Activiteiten die vanuit Digital Rights House Amsterdam zijn gestart:  

Bij de Digitale Rechten Helpdesk worden ervaringen van inwoners verzameld op basis waarvan verbeteringen worden voorgesteld aan de gemeente en aan partijen in de stad. Het jaarlijks terugkerende State of Digital Rights geeft de status van de bescherming van de digitale rechten van Amsterdammers weer.

11



Sinds 2021 organiseert DRH Amsterdam met de gemeente Amsterdam jaarlijks een Digitale Rechten Dag, waar Amsterdammers deel kunnen nemen aan activiteiten rondom Digitale Rechten-thema's en evenementen kunnen bezoeken.

Internationale samenwerking De gemeente Amsterdam is een van de initiatiefnemers van de Coalitie van Steden voor Digitale Rechten (CC4DR). De Coalitie van Steden voor Digitale Rechten is een bestuurlijk netwerk dat kennisdeling en samenwerking rond digitale rechten in steden stimuleert. Dit jaar wordt het bestuurlijk leiderschap van de Coalitie uitgebreid met nieuwe steden om duurzaamheid van het netwerk verder te versterken. Eén van de resultaten van de coalitie is het framework “Mainstreaming human rights in the digital transformation of city-governments”, dat ook in deze notitie wordt gebruikt. Het framework is in november 2022 vastgesteld. Net als Amsterdam passen op dit moment vier andere steden het framework toe voor een selfassessment digitale rechten. Het voornemen is dat alle lidsteden dit gaan doen. De coalitie agendeert digitale rechten bij beleidsmakers van de Verenigde Naties, de Europese Unie en de rijksoverheid. Nationale samenwerking Specifiek op het gebied van grip op de ontwikkeling en inzet van algoritmen zijn er contacten en samenwerking met VNG, het Rijk en de EU.

5.4.

Beoordeling

Het is binnen de gemeentelijke organisatie nog niet gebruikelijk burgers te uit te nodigen bij het ontwerpen, realiseren en controleren van digitale toepassingen. Voor de individuele Amsterdammer is het vanwege de versnipperde communicatie over digitalisering lastig om te mee te doen. Met betrekking tot algoritmen is de gemeente met het algoritmeregister op de goede weg. Nog beter zou zijn als Amsterdammers ook vooraf worden uitgenodigd om mee te denken bij aanschaf/ontwikkeling van algoritmen. De gemeente heeft een goed netwerk voor samenwerking met organisaties bij beleidsvorming over digitalisering. Het gebruik van dit netwerk bij de beleidsprogramma’s kan versterkt worden. Het samenwerkingsverband Digital Rights House Amsterdam loopt. Aandachtspunt is het organiseren van inclusieve betrokkenheid van burgers en organisaties. Nationale en internationale samenwerking: de gemeente Amsterdam is nationaal en wereldwijd één van de voortrekkers op het gebied van digitale rechten. Er is een inspanning nodig om deze rol te behouden.

5.5.

Verbetervoorstellen 13. Organiseren van betrokkenheid van Amsterdammers bij het ontwerpen, realiseren/verwerven en toetsen van digitale toepassingen met grote impact op bewoners en/of organisaties, inclusief de morele afweging van publieke waarden. 14. Actief verbinden, agenderen en participeren op het gebied van digitale rechten binnen gebiedsgericht werken. 15. Nationale en internationale samenwerking:

12

 

Intensiveren van de internationale samenwerking in CC4DR en deelname aan Eurocities werkgroepen rondom digitale inclusie en algoritmen. Versterken samenwerking op nationaal niveau (VNG, Rijk) om geleerde lessen van CC4DR en ervaringen die wij binnen Amsterdam hebben opgedaan uit te dragen.

13

6.

Ruimte om te experimenteren met verantwoorde technologieën

6.1.

Introductie

Digitale oplossingen moeten gebaseerd zijn op verantwoorde technologieën en verantwoorde inzet van data. Via experimenten kan worden onderzocht in hoeverre waarden als privacy en TADA by design in technologie kunnen worden ingebouwd. Als de waarden al in de technologie zijn geborgd, zijn er minder aanvullende maatregelen nodig om digitale rechten zeker te stellen.

6.2.

Mechanismen binnen de gemeente waarin dit geborgd (zou) moet(en) zijn

Het framework geeft de volgende mechanismen die gehanteerd kunnen worden voor het geven van ruimte op te experimenteren met verantwoorde technologieën: 

6.3.

Creëer een omgeving waarin met inclusieve participatie geëxperimenteerd en getest kan worden met digitale toepassingen.

Huidige status binnen de gemeente

Omgeving om te experimenteren Vanuit de Agenda Digitale Stad heeft de gemeente Amsterdam de afgelopen jaren ingezet op innovatie en experimenten met nieuwe technologieën. Het Responsible Sensing Lab is een voorbeeld hoe de gemeente met externe partijen ruimte geeft aan experimenten met verantwoorde technologieën, in dit geval in de openbare ruimte. De afgelopen jaren heeft de gemeente de waardengedreven inzet van digitale toepassingen via innovatietrajecten gestimuleerd. Eén van de inzichten die daarbij is opgedaan is dat bij publiek-private samenwerking aandacht gegeven moet worden aan waarden zoals TADA. De Amsterdammers moeten erop kunnen vertrouwen dat de waarden waar de gemeente voor staat ook daar worden gevolgd. De wens is om te komen tot meer alternatieve technologieën waarin waarden als privacy en TADA al by design in de toepassing zijn gerealiseerd. Het ontwerp, realisatie en toetsing van deze toepassingen kan goed via experimenten vorm krijgen, open, transparant en met betrokkenheid van verschillende groepen in de samenleving.

6.4.

Beoordeling

Omgeving om te experimenteren Digitale rechten zijn bij innovatie-initiatieven nog niet altijd expliciet opgenomen als randvoorwaarde en zijn ook geen vast onderdeel van de evaluatie van experimenten. De TADA-waarden moeten invulling krijgen in het proces van design, realisatie en toetsing van de toepassing. Net als bij reguliere digitaliseringstrajecten binnen de gemeente speelt ook hier dat het niet eenvoudig is om de TADA-waarden om te zetten in praktische acties. Het is niet altijd eenvoudig om hier invulling aan te geven in de samenwerking met partners buiten de gemeente. Er spelen vaak meerdere belangen. Er zijn kansen voor de gemeente om met samenwerkingspartners te komen tot verantwoorde technologie. Technologie waarin waarden als privacy en TADA al by design zijn ingebouwd. Als publieke waarden al in de technologie zijn geborgd, zijn er buiten de techniek om minder maatregelen nodig om de digitale rechten zeker te stellen.

14

6.5.

Verbetervoorstellen 16. Ook bij innovaties en experimenten:  Hanteren van de ethische kaders die voor de organisatie worden uitgewerkt.  Zorgen voor inclusieve participatie van Amsterdammers met aandacht voor verschillende groepen in de samenleving  Zorgen voor expliciete aandacht voor digitale rechten.  Actief zorgen voor bewustzijn over Amsterdamse waarden bij samenwerkingspartners. 17. Stimuleren van alternatieve technologieën en/of digitale toepassingen waarin de Amsterdamse waarden by design zijn zeker gesteld.

15

7.

Bewustwording en vaardigheden in de organisatie

7.1.

Introductie

Bij elk digitaliseringstraject moet de vraag gesteld worden of er behalve een positief effect misschien niet ook nadelige bijwerkingen zijn. Verschillende publieke waarden kunnen met elkaar botsen. In die situaties is vorming van een moreel oordeel nodig. Ethische kaders, afspraken en richtlijnen helpen daarbij. Het herkennen en erkennen van dillema’s en het komen tot een moreel oordeel vragen echter ook om ethisch bewustzijn en vaardigheden in realisatieteams, afdelingen en bij het management.

7.2.

Mechanismen binnen de gemeente waarin dit geborgd (zou) moet(en) zijn

Het framework geeft de volgende mechanismen die gehanteerd kunnen worden voor morele oordeelsvorming: 



7.3.

Ontwikkel competenties ten aanzien van digitale rechten voor een inclusief en democratisch gebruik van technologie. Organiseer jaarlijks een digitale rechten dag met evenementen in de stad.

Huidige status binnen de gemeente

Bureau Integriteit adviseert en ondersteunt ambtenaren en bestuurders op het gebied van integriteit. Zij geven workshops in morele oordeelsvorming voor teams die dilemma's tegenkomen bij ethisch gebruik van data. Anders dan voor informatiebeveiliging, privacy en informatiebeheer is er geen centrale plek in de organisatie waar expertise over digitale rechten is gebundeld. De methode Ethische Bijsluiter is ontwikkeld voor identificatie van positieve effecten en eventuele nadelige bijwerkingen van inzet van data en technologie. Vergelijkbaar met de bijsluiter bij medicijnen. Het resultaat van deze methode is een ethische bijsluiter. Dit is de basis voor het nemen van morele beslissingen en het toepassen hiervan. Er is een workshop beschikbaar om realisatieteams en afdelingen te ondersteunen bij het gebruik van deze methode . Het aantal ambtenaren dat deze workshop kan begeleiden is nog klein. Om deze groep groter te maken is een training ontwikkeld volgens het concept van ‘train-de-trainer'. ‘Weet Wat Je Deelt’ is een programma om medewerkers van de gemeente bewust te maken van en te helpen bij het gebruiken en delen van informatie. Bijvoorbeeld het veilig opslaan en delen van informatie of privacy bij het verwerken van persoonsgegevens. Morele oordeelsvorming komt hier nog niet expliciet bij aan de orde.

Op 10 december 2022 heeft Amsterdam aandacht gegeven aan digitale rechten in het kader van de internationale dag van de digitale rechten. De bedoeling is dat dit een jaarlijks terugkerende activiteit is.

7.4.

Conclusie

Ambtenaren zijn zich niet altijd bewust van ethische vraagstukken bij inzet van data en technologie. De vaardigheden in de organisatie om vraagstukken te herkennen, te erkennen en te komen tot een onderbouwd moreel besluit moeten versterkt worden. Het bundelen en organiseren van expertise over digitale rechten in een vakgroep helpt hierbij.

16

7.5.

Verbetervoorstellen 18. Vergroten van vaardigheden, basiskennis en bewustzijn bij ambtenaren over digitale rechten en de noodzaak om bij digitaliseringstrajecten eventuele negatieve bijeffecten te identificeren en concurrerende waarden tegen elkaar af te wegen. 19. Bij de directies benoemen van ambassadeurs die opgaven en projecten kunnen ondersteunen met ethische workshops, het gebruik van de juiste instrumenten en continue reflectie. 20. Ontwikkelen van morele oordeelsvorming bij inzet van data, algoritmen en technologie als vaardigheid van de moderne ambtenaar. 21. Uitbreiden van de expertise over digitale rechten binnen de gemeentelijke organisatie en dit onderbrengen in een expertiseteam. 22. Opbouwen van moresprudentie (zoals jurisprudentie maar op het gebied van ethiek) door het vastleggen van afwegingen, keuzes en beslissingen bij morele vraagstukken en deze verbinden aan leren en ontwikkelen binnen Gemeente Amsterdam. 23. Diversiteit in teams verbeteren, in lijn met het huidige HR-beleid binnen gemeente Amsterdam.

17

8.

Bijdrage verbetervoorstellen aan TADA-waarden

Voor elk hierboven behandeld aspect geldt dat verbetering ervan positief werkt voor de TADA-waarden. In onderstaande tabel is het verband weergegeven tussen de verschillende aspecten en de TADAwaarden.

Open en transparant

Van en voor iedereen

Inclusief

Zeggenschap

√

√

√

√

√

√

H4 Vooraf en achteraf toetsen

√

√

√

√

√

√

H5 Belanghebbenden en perspectieven

√ √

√ √

√

√

√

√

√

√

√ √

√

√

√

√

√

√

H6 Ruimte om te experimenteren H7 Bewustwording en vaardigheden

Menselijke maat

Legitiem en gecontroleerd

H3 Openbare monitoring en toetsing

Korte uitleg aan de hand van twee voorbeelden: 



Verbetering van het aspect Openbare monitoring en toetsing draagt direct bij aan de waarde Open en transparant, maar werkt ook positief door op alle waarden. Als iedereen mee kan kijken stimuleert dit de gemeente om het beter te doen en bij digitaliseringstrajecten alle TADAwaarden toe te passen. Verbetering van Vooraf en achteraf toetsen aan ethische kaders dient direct de waarde Legitiem en gecontroleerd. Tegelijkertijd versterkt dit ook de toepassing van de andere waarden. Het gaat er immers om dat alle waarden worden meegewogen bij de toetsing aan ethische kaders bij inzet van data en technologie.

18