Nadere toelichting bij raadsvoorstel Ethiek en digitalisering

gemeente Eindhoven Inboeknummer Dossiernummer B&W beslisdatum

21bst01319 21.36.103_4.5.1. 07 september 2021

Nadere toelichting bij raadsvoorstel Onderwerp: Raadsvoorstel Ethiek en Digitalisering In de afgelopen periode zijn twee rapporten verschenen die we graag onder uw aandacht brengen. De rapporten zijn bedoeld als achtergrondinformatie. We zijn van mening dat het raadsvoorstel goed aansluit bij de aanbevelingen van de rapporten. 1.

2.

Autoriteit Persoonsgegevens: Smart Cities: Onderzoeksrapport bescherming van persoonsgegevens in de ontwikkeling van Nederlandse Smart Cities (Juli 2021) H&P: Hoe gemeenten besluiten over algoritmen & mensenrechten: onderzoek voor het College voor de Rechten van de Mens (Juni 2021)

Ad 1. Autoriteit Persoonsgegevens (AP) 1 Op initiatief van de griffie is het rapport bij dit raadsvoorstel gezet aangezien privacy één van de publieke waarden is die in het ethisch waardenkader is opgenomen. Vorig jaar zijn we voor dit onderzoek geïnterviewd. De AP signaleert dat er steeds vaker persoonsgegevens worden verzameld in de openbare ruimte. De inzet van bijvoorbeeld sensoren, camera’s en apps kan ertoe leiden dat mensen zich niet meer vrij en onbespied in de openbare ruimte kunnen bewegen. De AP roept bestuurders en ambtenaren op ‘om stil te staan bij rechten en vrijheden van burgers en die ook daadwerkelijk mee te nemen bij elke stap in de ontwikkeling naar een smart city.’ Gemeenteraadsleden worden specifiek gevraagd om zich te verdiepen in het ethisch kader bij ieder technologisch voorstel. Wet- en regelgeving wordt ‘gestolde ethiek’ genoemd, maar niet alles kan in wet- en regelgeving worden gevangen. Ethiek gaat over de vraag ‘of het juist is om technologie op deze wijze en deze plek in te zetten’. Dit vereist een brede dialoog met alle betrokkenen en stelt dat een ethisch kader en een ethische commissie kunnen helpen om deze dialoog op gang te brengen. De aanbevelingen van de AP adresseren een breed scala aan thema’s om zoals ze dat noemen om weer ‘grip op de smart city te krijgen’.

De aanbevelingen gaan onder meer over de basisbeginselen van de AVG op orde, DPIA’s als proces, Kaders voor de smart city en de Inrichting van de privacy-organisatie. De AP is formeel toezichthouder op de AVG en daarmee wegen haar aanbevelingen zwaar. 1 https://autoriteitpersoonsgegevens.nl/nl/nieuws/ap-publiceert-aanbevelingen-voor-smart-cities

Inboeknummer 21bst01319

Het raadsvoorstel Ethiek en Digitalisering draagt in elk geval bij aan de implementatie van de aanbevelingen over ethiek. We zijn nog niet in de gelegenheid geweest om het rapport in zijn geheel te bestuderen en de mogelijke gevolgen voor ons beleid en onze manier van werken te bepalen. Naar verwachting zullen wij dit begin volgend jaar kunnen afronden. Wij zullen uw raad daar over informeren. Ad 2. H&P Wij maken van deze gelegenheid ook gebruik om u ook te informeren over het rapport van het College voor de Rechten van de Mens (CRM). CRM heeft namelijk laten onderzoeken of er bij gemeenten die gebruik maken van algoritmen ook aandacht is voor de mensenrechtelijke aspecten.2 Op basis van interviews met twaalf gemeenten en gemeentelijke samenwerkingsverbanden constateren de onderzoekers dat er in de praktijk meer aandacht moet zijn voor de impact van algoritmen op mensenrechten. Mede gezien de toezeggingen tijdens de meningsvorming Begroting 2021 (27 oktober 2020) en de motie Computer says no? (23 februari 2021) hebben we actief aan het onderzoek van H&P meegewerkt. De onderzoekers bevelen aan om in een vroegtijdig stadium mensenrechten mee te nemen bij de ingebruikneming van algoritmen. Ze zien risico’s in het vertrouwen dat gemeenten hebben in (gestandaardiseerde) software. Het kan namelijk betekenen dat sommige beslissingen of uitgangspunten al zijn ‘ingebakken’ in software.

Hierdoor kunnen bestuurders eigenlijk niet goed aan de inwoners of de gemeenteraad verantwoorden of er wel voldoende rekening is gehouden met mensenrechten. De onderzoekers houden dus een pleidooi om meer inzicht te krijgen in de software zodat waarden als transparantie en uitlegbaarheid kunnen worden nagekomen. We hebben ons al vroeg ingezet voor de Spelregels voor de digitale stad, de open data principes en het Smart Society charter en stellen bij inkoop van nieuwe technologie eisen aan de software. Maar algoritmen worden steeds breder toegepast en complexer waardoor het belangrijk is om kennis over de werking van algoritmen blijvend te ontwikkelen. In de uitvoeringspraktijk blijken transparantie en uitlegbaarheid van algoritmen zowel technisch als organisatorisch een bijzonder complex vraagstuk. We verwachten met het raadsvoorstel Ethiek en Digitalisering een basis te bieden voor het gesprek met samenleving, raadsleden, ambtenaren en bestuurders over de naleving van mensenrechten bij de inzet van algoritmen. In de bijlage treft u beide rapporten aan. Burgemeester en wethouders van Eindhoven,

secretaris

2 https://mensenrechten.nl/nl/nieuws/gemeenten-worstelen-met-mensenrechten-bij-inzet-algoritmen

2