Raadsinformatiebrief Grip op Tech def

Raadsinformatiebrief

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door

Onderwerp

De leden van de gemeenteraad van Amsterdam 20 juni 2023 ICT en Digitale Stad Alexander Scholtes, wethouder ICT en Digitale Stad Milou Jansen, Directie Digitale Strategie en Informatie (bestuurszaken.dii@amsterdam.nl) Opvolging van het raadsbesluit ‘Grip op technologie: een digitale gemeente met menselijke waarden’ van de leden IJmker, Blom, Bosman, Biemond en N.T. Bakker d.d. 16 februari 2022

Geachte leden van de gemeenteraad,

Digitalisering heeft soms, onbedoeld, negatieve effecten voor bepaalde groepen Amsterdammers. Daarmee worden de rechten van burgers geschaad en handelt de gemeente niet conform haar vastgestelde waarden. Op 14 april 2021 hebben raadsleden E.C. IJmker (GroenLinks), S.R.H. Blom (GroenLinks), A.M. Bosman (D66), H.J.T. Biemond (PvdA) en N.T. Bakker (SP) - hierna ‘de initiatiefnemers’ - een initiatiefvoorstel ingediend getiteld ‘Grip op technologie: een digitale gemeente met menselijke waarden’. Met dit voorstel wordt het college gevraagd om een aanpak die garandeert dat de menselijke waarden ook in toekomstige digitale technologieën gewaarborgd blijven. Op 7 december 2021 heeft het college de bestuurlijke reactie op dit initiatiefvoorstel gepresenteerd. Dit heeft ertoe geleid dat de initiatiefnemers op 3 februari 2022 een gewijzigd initiatiefvoorstel hebben ingediend, waarmee de raad op 16 februari 2022 heeft ingestemd. In het raadsbesluit wordt het college van burgemeester en wethouders verzocht te evalueren in hoeverre er op dit moment voldoende maatregelen zijn voor het waarborgen van brede ethische toetsing van technologische toepassingen in de gehele gemeentelijke organisatie die ook daadwerkelijk worden toegepast. Ook wordt het college verzocht op basis van die evaluatie een voorstel aan de raad voor te leggen, waarbij ten minste de volgende aspecten meegenomen worden: a.

Openbare monitoring en toetsing van bestaande en nieuwe technologische toepassingen op alle beleidsterreinen van de gemeente; b. Mogelijkheden om zowel vooraf als achteraf technologische toepassingen te toetsen aan de hand van ethische kaders; c. Het structureel meenemen van ervaringen en perspectieven van zowel Amsterdammers als experts uit verschillende sectoren met verschillende leeftijden, genders en achtergronden;

Gemeente Amsterdam, raadsinformatiebrief

d.

20-06-2023 Pagina 2 van 5

Ruimte om verantwoord te experimenteren met technologieën.

Uit de evaluatie blijkt dat de gemeente al diverse zaken goed doet, maar dat er verbeteringen mogelijk en nodig zijn om de digitale rechten te garanderen. Zo is de gemeente niet altijd transparant over de gemeentelijke digitalisering. Er is aandacht voor aspecten als privacy en beveiliging bij het ontwikkelen, inkopen en gebruiken van digitale technologie, maar bredere ethische vraagstukken worden niet herkend of erkend. De gemeente heeft een goed netwerk voor samenwerking met organisaties bij beleidsvorming over digitalisering, maar voor de individuele Amsterdammer is het lastig om te mee te doen. De bewustwording bij burgers, bedrijven en organisaties over de impact van digitalisering op mensenrechten kan versterkt worden. De ontwikkeling en het gebruik van verantwoorde technologie kan worden gestimuleerd en de vaardigheden in de organisatie kunnen worden vergroot, zodat ambtenaren ethische vraagstukken bij digitaliseringstrajecten herkennen en tot een moreel oordeel kunnen komen. In de evaluatie zijn de zaken die al goed lopen én de diverse verbeterpunten op een rijtje gezet, gegroepeerd conform de indeling van het raadsbesluit. Deze evaluatie is voorgelegd aan de Commissie Persoonsgegevens Amsterdam (CPA). De CPA heeft advies uitgebracht (bijgevoegd) en dit is verwerkt.

De CPA heeft ook geadviseerd om de verbetervoorstellen uit de evaluatie te concretiseren en de resultaten in de tijd uit te zetten. Hiertoe is het Actieplan opgesteld, waarin de verbeteringen ten aanzien van ‘Digitale rechten’ voor de komende jaren in detail zijn uitgewerkt en gepland. De evaluatie en het actieplan zijn een start om digitalisering met behoud en bescherming van digitale rechten van de Amsterdammers naar een hoger volwassenheidsniveau te brengen. Met de uitvoering van het voorgestelde actieplan loopt Amsterdam vooruit op naderende Europese en nationale wetgeving op het gebied van digitalisering. Grip op Tech c.q. het borgen van digitale rechten en ethiek is een verbreding van de kaders die gelden bij digitalisering, bovenop zaken als privacy en informatiebeveiliging. Het geldt bovendien als paraplu voor en aanvulling op de bestaande kwaliteitsaspecten bij de inzet van digitale technologieën. Het college vindt het belangrijk dat deze ontwikkeling bestuurlijk en ambtelijk aandacht krijgt, het gaat immers om de kwaliteit van het gemeentelijk functioneren en het vertrouwen van de Amsterdammers in de gemeente. Uitwerking Evaluatie en verbetervoorstellen De evaluatie is opgesteld conform de vier in het raadsbesluit genoemde aspecten, plus een vijfde aspect ‘Bewustwording en vaardigheden in de organisatie’. Per aspect leidt dit tot een aantal verbetervoorstellen.

De verbetervoorstellen behelzen onder meer:  Verantwoorden en aanspreekbaar zijn over inzet van digitale technologie;  Legitiem en gecontroleerd inzetten van data en technologie. Het herkennen en erkennen van ethische vraagstukken en het expliciet maken van een afweging van tegengestelde waarden, morele oordeelsvorming, in alle transparantie;

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

 

20-06-2023 Pagina 3 van 5

Meer zeggenschap voor inwoners en experts over data en technologie in de stad; Vergroten van kennis, bewustwording en vaardigheden in de organisatie.

Advies Commissie Persoonsgegevens Amsterdam en Actieplan Het ‘Actieplan Grip op Tech’ (bijgevoegd) is de uitwerking van de verbetervoorstellen in concrete doelen, acties en resultaten voor de komende jaren. Het actieplan is gemaakt naar aanleiding van het advies van de Commissie Persoonsgegevens Amsterdam om de verbetervoorstellen uit de evaluatie te concretiseren en de resultaten in de tijd uit te zetten. De actiepunten uit het actieplan worden opgenomen in de Agenda Digitale Stad & Overheid 20232026. Deze nieuwe agenda wordt op korte termijn aan de raad voorgelegd. De initiële activiteiten van het actieplan kunnen met bestaande capaciteit, die door interne verschuivingen met twee fte is uitgebreid, worden uitgevoerd. De hogere ambities met betrekking tot brede ethische toetsing van technologische toepassingen kunnen echter niet zonder meer uitgevoerd worden met de bestaande formatie. Het structureel realiseren van een hoger ambitieniveau vraagt vanaf 2025 extra inzet van drie fte. Dit kan mogelijk ten koste gaan van andere activiteiten. De wethouder ICT en Digitale Stad heeft opdracht gegeven om bij de voorbereiding van de begroting 2025 scenario’s uit te werken welke ambities voor de stad kunnen worden gerealiseerd bij welke capaciteitsuitbreiding (0 tot 3 fte). Activiteiten Er zijn vijf actielijnen uitgewerkt in het Actieplan: 1.

Openbare monitoring en toetsing; verantwoorden en aanspreekbaar zijn over inzet van digitale technologie Een van de acties is bijvoorbeeld het versterken van de samenwerking met OBA, Cybersoek en de Ombudsman om de digitale dienstverlening te verbeteren. Het ontbreekt aan inzicht over problemen die burgers ervaren als gevolg van digitalisering door de gemeente. Het is de bedoeling om deze met de inzichten van OBA, Cybersoek en de Ombudsman beter in kaart te krijgen, proactief op te lossen en in de toekomst te voorkomen. Dit doen we zodat Amsterdammers en andere belanghebbenden hun recht op informatie en transparantie beter kunnen uitoefenen. Dat is nodig om democratische controle te realiseren, maar ook om beter in gesprek te kunnen gaan met het hele digitalerechtenecosysteem in de stad. Daarbij is het belangrijk dat we open zijn over de stand van zaken en dat we snel kunnen acteren op inkomende signalen rondom vraagstukken die verbetering behoeven.

2.

Vooraf en achteraf toetsen aan de hand van ethische kaders; het legitiem en gecontroleerd inzette van data en technologie Bijvoorbeeld het doorontwikkelen van de TADA-waarden als concreet, duidelijk en hanteerbaar ethisch kader voor de hele organisatie en gebaseerd op de laatste inzichten over digitale rechten. De gemeente heeft de TADA-waarden een aantal jaren geleden

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

20-06-2023 Pagina 4 van 5

omarmd. Inmiddels zijn er op het gebied van digitale rechten nationaal en internationaal nieuwe inzichten. Om de waarden daadwerkelijk toe te passen is een vertaling nodig naar een voor ambtenaren hanteerbaar kader. Dit doen we zodat er binnen alle stedelijke opgaveteams van gemeente Amsterdam voortaan expliciet aandacht is voor digitale rechten en waarden. Daarbij is het belangrijk dat de verantwoordelijkheden duidelijk zijn, maar ook dat medewerkers op de juiste manier ondersteund worden om deze waarden toe te passen. Het kader dat we hiervoor volgen moet meer concreet hanteerbaar zijn en de juiste waarden representeren vanuit de samenleving gezien. 3.

Belanghebbenden betrekken en diverse perspectieven meenemen; inwoners en experts hebben zeggenschap over data en technologie in de stad Bijvoorbeeld werken aan een plek waar Amsterdammers en organisaties terecht kunnen voor samenwerking en informatie rondom digitale rechten door actief verbinden, agenderen en participeren op het gebied van digitale rechten binnen gebiedsgericht werken. Het bewustzijn over digitale rechten is nog te beperkt. De gemeente spant zich in om dit te versterken via een buurtgerichte aanpak met externe partners. Dit doen we zodat er ook bij de inzet van digitale technologieën meer ruimte is voor een diversiteit aan perspectieven, wat uiteindelijk de kwaliteit van onze dienstverlening zal verbeteren. Inmiddels weten we dat technologie niet neutraal is en verschillende groepen in de stad op verschillende manieren raakt. Door Amsterdammers en experts voortaan expliciet een stem te geven binnen digitale ontwikkelingen zal dit beter aansluiten bij de behoeften van de stad.

4.

Ruimte om te experimenteren met verantwoorde technologieën; digitale rechten zijn by design onderdeel van digitale technologie in de stad Ook bij pilots, experimenten en innovatietrajecten van de gemeente Amsterdam zijn de digitale rechten zekergesteld en worden belanghebbenden die dat willen betrokken doordat er vooraf afspraken gemaakt met samenwerkingspartners over de te hanteren ethische waarden en mate/wijze van inspraak voor bewoners. Deze afspraken worden tijdens het project gemonitord en spelen een rol bij het achteraf vaststellen van het succes van de samenwerking en het project. Dit doen we zodat Amsterdammers in de toekomst kunnen vertrouwen op de digitale technologie om hen heen. Dit vraagt wat van de digitale technologieën die de gemeente zelf innovatief inzet, maar vraagt ook om het stimuleren van een verantwoorde technologiesector in de stad. De waarden die Amsterdam onderstreept moeten daarom voortaan expliciet meegenomen worden.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

5.

20-06-2023 Pagina 5 van 5

Bewustwording en vaardigheden in de organisatie; het herkennen van waardenafwegingen bij inzet van digitale technologie Inzetten op het vergroten van vaardigheden, basiskennis en bewustzijn bij ambtenaren over digitale rechten en de noodzaak om bij digitaliseringstrajecten eventuele negatieve bijeffecten te identificeren en concurrerende waarden tegen elkaar af te wegen. Dit doen we zodat er meer ruimte ontstaat in de gemeentelijke organisatie voor morele oordeelsvorming omtrent de inzet van digitale technologieën. Door het opbouwen van moresprudentie wordt het lerend vermogen van de organisatie aangesproken en krijgen we meer inzicht in de rode lijn die door de ethische afwegingen van de organisatie loopt. Dit vraagt om de ontwikkeling van een organisatiecultuur met een zekere basiskennis van digitale ethiek

De gemeente wil de negatieve effecten van digitalisering zoveel mogelijk voorkomen door ethische toetsing, morele oordeelsvorming en afweging van tegengestelde publieke waarden met aandacht voor de digitale rechten van de Amsterdammers. Over de uitvoering van het Actieplan zal ik de raad vanaf 2024 jaarlijks informeren.

Ik hoop u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Alexander Scholtes, Wethouder ICT en Digitale Stad

Een routebeschrijving vindt u op amsterdam.nl