Raadsvoorstel Ethiek en Digitalisering

gemeente Eindhoven Inboeknummer 21bst00745 Dossiernummer 21.20.551 B&W beslisdatum 18 mei 2021

BLANCO

Raadsvoorstel Ethiek en Digitalisering Inleiding Het afgelopen jaar heeft de corona-app laten zien dat wat technisch mogelijk is, niet altijd maatschappelijk wenselijk is. De app zou bijdragen aan de afremming van de verspreiding van het virus en als afgeleide effecten kunnen helpen om de bewegingsvrijheid van mensen te vergroten, het op- en afschalen van maatregelen vereenvoudigen, bron- en contactonderzoek ondersteunen, leiden tot grotere saamhorigheid en een positieve impact op de economie. Critici van de app wijzen op het gevoel van schijnveiligheid (“mijn app geeft geen melding, dus ik heb geen corona”), het risico van vrijheidsbeperking en pressie (“de app houdt precies bij waar ik ben en wie ik ontmoet”), ongelijkheid en verdeeldheid in de samenleving (have en have-nots van technologie), en vergroot de angst voor het virus. Allemaal verwachtingen die na een jaar na gebruik van de app maar deels zijn uitgekomen. Tegelijkertijd valt op dat het maatschappelijke debat over de noodzaak-middel-doel en dus haar wenselijkheid nog in volle gang is. Ook de raad wordt regelmatig gevraagd om een oordeel te vormen over de inzet van een nieuwe technologie en het gebruik van data in de openbare ruimte of publieke dienstverlening.

Inmiddels heeft de raad zich gebogen over een groot aantal digitale onderwerpen, denk aan sensoren in de stad, de inzet van de deelscooter, de inzet van een scanauto bij handhaven parkeren, het gebruik van de bodycam en 5G. Ook heeft de raad tijdens begrotingsbehandeling 2021 verzocht om te controleren dat de algoritmen die Eindhoven gebruikt niet discrimineren (27 oktober 2020) en is een vrije motie ‘Computer says no? – openbaar algoritmeregister’ besproken waarin werd opgeroepen om een openbaar algoritmeregister in te richten en variabelen als nationaliteit, etniciteit en geboorteplaats uit te sluiten bij de risicomodellen die de gemeente gebruikt (23 februari 2021). Net als bij de corona-app heeft de inzet van digitale middelen grote gevolgen op de verhoudingen in de stad. In feite werpt een nieuwe technologie iedere keer de vraag op wat voor samenleving we willen zijn. Het gaat hier niet om vragen over effectiviteit en efficiency, maar om de zoektocht naar de publieke waarden die worden nagestreefd. De raad heeft de lastige taak om de mogelijke gevolgen van digitalisering in te schatten en deze vervolgens politiek te wegen. In het licht van de landelijke discussie over de betrouwbare overheid wordt steeds meer belang gehecht aan het kunnen verantwoorden van deze de weging.

Dit is immers de kerntaak van de overheid omdat het direct raakt aan de grondbeginselen van de rechtstaat.

Inboeknummer 21bst00745

In verschillende debatten heeft de raad de vraag gesteld hoe het gesprek over de ethische inzet van digitalisering kan worden versterkt.1 In de commissienotitie ‘ethiek en digitalisering’ van 17 juni 2020 heeft het college toegezegd om drie hulpmiddelen te ontwikkelen waarmee we de publieke waarden bij digitaliseringsprojecten beter kunnen borgen. Het gaat om een (1) ethisch afwegingskader gebaseerd op publieke waarden (dit noemen we in het vervolg van het raadsvoorstel het ‘waardenkader’); (2) installatie van een ethische commissie en (3) een werkwijze om het ethisch gesprek te voeren. Samen met de raadswerkgroep Ethiek & Digitalisering is aan de slag gegaan om deze hulpmiddelen te ontwikkelen. Het college heeft inmiddels een agenderingsverzoek ingediend voor een presentatie van de resultaten tijdens de a-avond, voorafgaand aan de behandeling van dit raadsvoorstel.

 Wettelijke taak ◼

Kerntaak gekoppeld aan het werkprogramma van het college

 Onvermijdelijk

Doelstelling Het versterken van goed lokaal bestuur2 door het ontwikkelen van praktische kennis over ethische en maatschappelijke vraagstukken bij de raad, college en de ambtelijke organisatie als het gaat om de inzet van digitalisering. We doen dit door een waardenkader te ontwikkelen en een ethische commissie in te stellen. Hiermee worden publieke waarden binnen en buiten de organisatie bespreekbaar en kunnen deze expliciet worden meegenomen in de politieke besluitvorming zodat (nieuwe) technologie maatschappelijk verantwoord wordt ingezet. Voorstel 1.

2.

3.

Het vaststellen van zeven publieke waarden (autonomie, mens centraal, privacy, veiligheid, controle over technologie, rechtvaardigheid, duurzaamheid) inclusief de beschrijving van de publieke waarden. Kennisnemen van het besluit van het college om onder voorbehoud van het raadsbesluit onder 1. te besluiten tot het instellen van een ethische commissie. Kennisnemen van de samenvatting werkwijze toepassing waardenkader.

1 Meningsvorming 28-05-2019 Commissienotitie Digitalisering in de stad (agendapunt 5),

Raadsinformatiebrief bij Nota Digitalisering van de stad (juli 2019), Raadsinformatiebrief Opvolging toezeggingen Commissienotitie Digitalisering in de stad dd. 27 mei 2019 (december 2019). Voorbereiding 04-02-2020 Digitalisering in de stad. Collegebrief d.d. 03-03-2020 Ondersteuning bij de ethiek van digitalisering. Commissienotitie ethiek en digitalisering 17 juni 2020. Webinar ethiek op 18 november 2020. 2 Meijer, A., M.T. Schäfer, M. Branderhorst. (2019) Principes voor goed lokaal bestuur in de digitale samenleving. In: Bestuurswetenschappen (73) 4.

2

Inboeknummer 21bst00745

Argumenten 1.1 Digitalisering van de publieke dienstverlening en de openbare ruimte brengt nieuwe ethische en maatschappelijke uitdagingen met zich mee. Dit vereist een praktisch instrumentarium om belangrijke publieke waarden en mensenrechten als privacy, gelijke behandeling, autonomie en menselijke waardigheid te borgen. In verschillende studies van het Rathenau Instituut blijkt dat veel gemeenten moeite hebben om publieke waarden te borgen bij digitaliseringsprojecten. Veelal lopen gemeenten tegen knelpunten aan op het gebied van samenwerking, juridische eisen, inwonerparticipatie en leervermogen.2 Nieuwe technologische ontwikkelingen zoals artificiële intelligentie kunnen nieuwe vragen oproepen over het borgen van de menselijke maat: kunnen algoritmen gebruikt worden om beslissingen over inwoners te nemen?3 Wij hebben reeds met de Nota Digitalisering van de stad (juli 2019), en met de ‘spelregels voor de digitale stad’, ‘open data principes’ en ‘Smart society Charter: IoT Architecture principles & guidelines’ enkele piketpaaltjes geslagen, maar deze ondersteunen slechts deels het gesprek over publieke waarden in het geval van een nieuwe technologie (bijv. gezichtsherkenning, bodycam of drones). U heeft bij de behandeling van de nota aangegeven een kader mee te willen geven voor de maatschappelijke discussie over publieke waarden en de ethiek van digitalisering.

Dit voorstel is een uitwerking hiervan. Wij hebben een werkwijze ontwikkeld die de kennis en kunde over ethiek in de organisatie, college en uw raad kan versterken en bijdraagt aan het concrete handelingsperspectief. De beschrijving van de publieke waarden staat hierin centraal. 1.2 Met beschrijving van de publieke waarden dragen we bij aan het doel om ethische aspecten expliciet mee te nemen bij het uitwerken van innovatieve oplossingen. Binnen gemeenten wordt digitalisering steeds vaker ingezet in de verschillende domeinen. Ook wij zetten slimme technologie in voor onze dienstverlening en om stedelijke uitdagingen in de openbare ruimte aan te pakken. Dit brengt nieuwe ethische en maatschappelijke uitdagingen met zich mee die raken aan grond- en mensenrechten, zoals privacy en gelijke behandeling. Het blijkt in de praktijk moeilijk om een goed gesprek over de gevolgen van nieuwe technologie te voeren. Veel effecten zijn nog onbekend als de toepassing nog beperkt is. Het kan daarom helpen om vroegtijdig stil te staan bij de publieke waarden die met de 2 Rathenau Instituut (2017). Opwaarderen - Borgen van publieke waarden in de digitale

samenleving. Den Haag, (auteurs: Kool, L., J. Timmer, L. Royakkers en R. van Est); Rathenau Instituut (2020). Voeten in de aarde – Datagestuurde innovatie in de stad. Den Haag (auteurs: Karstens, B., L. Kool & R. van Est).; Rathenau Instituut (2020). Raad weten met digitalisering – Hoe de gemeenteraad kan sturen op de maatschappelijke impact van digitale technologie (auteurs: Das D., P. Faasse, B. Karstens en P. Diederen). 3 Hiervoor heeft BZK informatieve websites ingericht, waaronder https://www.digitaleoverheid.nl/overzicht-van-alle-onderwerpen/nieuwe-technologieen-data-enethiek/publieke-waarden/toolbox-voor-ethisch-verantwoorde-innovatie/ en https://kennisopenbaarbestuur.nl/thema/artificiële-intelligentie-en-publieke-waarden/

3

Inboeknummer 21bst00745

nieuwe oplossing worden nagestreefd. De beschrijving van publieke waarden biedt ons een ethische bril om naar nieuwe projecten te kunnen kijken en bestaande projecten te bespreken. Het is een hulpmiddel dat tijdig inzicht kan geven in welke waarden mogelijk onder druk komen te staan wanneer de toepassing van een nieuwe technologie wordt overwogen. Het maakt de relatie noodzaak-middel-doel bespreekbaar. Bovendien faciliteert het uw raad in het uitvoeren van uw kaderstellende en controlerende rol op het thema digitalisering. De beschrijving van de zeven publieke waarden is gebaseerd op het raamwerk van het Rathenau instituut dat is gevalideerd in het onderzoek ‘Raad weten met Digitalisering’ dat mede in opdracht van de Vereniging van Griffiers (VvG), de Vereniging van Nederlandse Gemeenten (VNG) en de Nederlandse Vereniging voor Raadsleden (NVR) is uitgevoerd en tijdens het webinar op 18 november jl. aan u is gepresenteerd. De beschrijving hebben we geactualiseerd op basis van gesprekken met interne en externe deskundigen waardoor bijvoorbeeld ook een thema als duurzaamheid is opgenomen. Zie bijlage 1.1 voor de beschrijving van zeven publieke waarden. 2.1 Met het installeren van een ethische commissie krijgen wij – het college - gevraagd en ongevraagd advies over de mogelijke ongewenste effecten van nieuwe technologische ontwikkelingen.

Technologische ontwikkelingen volgen elkaar in rap tempo op en het is voor de samenleving moeilijk om deze bij te benen. De taak van de gemeente is om alert te blijven op mogelijke ongewenste effecten en hier vroegtijdig op te anticiperen. De ethische commissie kan als deskundige vanuit een onafhankelijke positie hierover adviseren en bijdragen aan de ‘moresprudentie’: de kennis over welke ethische randvoorwaarden aan nieuwe technologie kunnen worden gesteld en hoe we er mee willen omgaan. Lang niet alle gemeenten hebben een ethische commissie. Enschede experimenteert hier al wel mee. Daar beschrijft de voorzitter van de ethische commissie prof. dr. PeterPaul Verbeek de rol van de commissie als volgt: “We gaan kritisch constructief reflecteren op beleidsvoornemens. De bedoeling is dat we voorwaardenscheppend zijn om een goed democratisch debat te voeren over technologie en dat we dimensies in het debat kunnen brengen die anders onderbelicht blijven. Daarmee geven we de ethiek een positieve en productieve rol.” 4 Wij zien eenzelfde rol voor de ethische commissie. Het is belangrijk dat we als innovatieve stad niet alleen vooroplopen als het gaat om het aanpakken van de maatschappelijke uitdagingen, maar dat we dat ook verantwoord doen.

We willen daarom een deskundige en gezaghebbende tegenmacht organiseren die ons helpt om het ethische gesprek te voeren en te reflecteren op de keuzen die we maken.

4 Voorbeeld van een ethische commissie, https://www.binnenlandsbestuur.nl/digitaal/nieuws/inzet-

van-drone-als-ethisch-dilemma.15299384.lynkx

4

Inboeknummer 21bst00745

We willen de ethische commissie in het eerste jaar drie concrete vraagstukken voorleggen: (1) een advies over de werkwijze en de publieke waarden; (2) een advies voor het in kaart brengen van algoritmen en het voorkomen van discriminatie, conform toezeggingen 27 oktober en 23 februari jl en (3) een advies over een nader te bepalen nieuwe technologie met grote impact op de stad (bijv. toepassen van gezichtsherkenning in de publieke ruimte). Zie bijlage 1.2 voor de instellingsbeschikking van de ethische commissie. Hierin is uitdrukkelijk de mogelijkheid opengehouden dat inwoners (en anderen) door de ethische commissie kunnen worden betrokken bij de discussie. 3.1 De publieke waarden en de adviezen van de ethische commissie worden ingebed in de dagelijkse bedrijfsvoering zonder dat processen bureaucratisch complexer worden en vertragen. Complexe maatschappelijke uitdagingen vragen om innovaties waarin kennis van menselijk gedrag, maatschappelijke processen en technologie samenhangend worden ingezet. Hierbij zullen publieke waarden zoals autonomie, menselijke waardigheid, privacy, veiligheid, controle, rechtvaardigheid en duurzaamheid een belangrijke rol spelen. Maar deze waarden kunnen ook conflicteren. De uitdaging van het innovatieproces is om oplossingen te bedenken waarin aan alle relevante waarden recht wordt gedaan.

Dat maakt die oplossingen maatschappelijk gezien meer aanvaardbaar en voorkomt mislukkingen. Wij willen het ethisch gesprek meenemen in de reguliere processen. Hiervoor hebben we een werkwijze ontwikkeld met als uitgangspunt dat de expertise over ethiek op de werkvloer wordt bevorderd. Het is de verwachting dat hierdoor projecten beter kunnen worden onderbouwd en dat daarmee bepaalde stappen in projecten kunnen worden versneld (bijv. het uitvoeren van een Data protection impact assessment (DPIA) door de ambtelijke organisatie). We denken dat door meer vragen aan de voorkant te beantwoorden er minder vragen achteraf hoeven te worden uitgezocht of gecorrigeerd. De beschrijving van de publieke waarden, de ethische commissie en de werkwijze dragen bij aan het ontwikkelen en borgen van expertise. Zie bijlage 1.3 voor de samenvatting van de werkwijze toepassing waardenkader. 3.2 Met de werkwijze dragen we tevens bij aan de uitvoering van de Algemene Verordening Gegevensbescherming (AVG) en het versterken van de integriteit. Conceptueel zijn ethiek en digitalisering nauw verbonden met het beschermen van privacy als publieke waarde en ook met de methode van het ethisch gesprek dat de adviseur integriteit voert bij het afwegen van een moreel dilemma. Het waardenkader is een belangrijke manier om de publieke waarden te borgen en het ethisch bewustzijn te versterken.

Het waardenkader is ontwikkeld om toe te passen binnen digitaliseringstrajecten, maar sluit nauw aan op de publieke waarde privacy. Hier heeft de Functionaris Gegevensbescherming een sleutelrol omdat deze toeziet op de bescherming van persoonsgegevens binnen de gemeente. Het waardenkader kan ons

5

Inboeknummer 21bst00745

helpen om de AVG-compliance te versterken. Bijvoorbeeld door de relevante bevindingen uit het waardenkader te betrekken bij het verwerkingsregister van de gemeente en bij de voorbereiding van een DPIA. Ethiek is ook iets wat vorm krijgt in het zogenoemde moreel beraad. Het maken van afwegingen om iets wel of niet te doen. Morele vraagstukken spelen namelijk ook bij vragen rond integriteit. Ambtenaren en bestuurders mogen bij de afweging van publieke waarden zich niet laten beïnvloeden door oneigenlijke belangen. Daarom is bij de ontwikkeling van de werkwijze samen opgetrokken met de adviseur integriteit: ook die heeft het belang om expertise op het terrein van ethiek in de organisatie te bevorderen. Kanttekeningen 1.1 Het zal nog enige tijd vergen om de ethisch teams samen te stellen, op te leiden en de ethische commissie te installeren. Uiteraard is ethiek een belangrijk aandachtspunt bij alle activiteiten die we ontplooien, maar we zien dat de ontwikkelingen aangaande het borgen van digitale grondrechten snel gaan.5 Voortdurend zijn er technische vindingen die nieuwe ethische vragen opwerpen en worden er aanbevelingen vanuit commissies, raden, departementen en EU gedaan om ethiek (nog) beter in de publieke organisaties te borgen. Er is een pilot van een jaar voorzien waarvoor de capaciteit reeds is gereserveerd.

We willen op basis van de ervaringen in het eerste jaar de beschrijving van de publieke waarden en de werkwijze toepassing waardenkader optimaliseren. Dit kan betekenen dat gaandeweg nieuwe inzichten ertoe kunnen leiden dat de voorgestelde aanpak wordt verbeterd. Kosten Het inrichten en coördineren van de werkwijze maakt onderdeel uit van de reguliere formatie. De onkostenvergoeding en werkbudget voor de ethische commissie zijn gebudgetteerd voor de duur van de pilot in de jaren 2021/2022. Communicatie Het college heeft een agenderingsverzoek ingediend voor een presentatie tijdens de aavond, voorafgaand aan de behandeling van dit raadsvoorstel, waarin de raad zal worden meegenomen met enkele aansprekende voorbeelden. Na uw raadsbesluit wordt de ethische commissie samengesteld en een publieke website daarvoor ingericht. De agenda en de rapporten van de ethische commissie zullen daarop beschikbaar komen. Onze werkwijze (toepassing waardenkader) en de beschrijving van publieke waarden wordt breed uitgedragen bij onze partners in en buiten de stad en we zullen voortdurend

5

VNG. Trends Informatiesamenleving 2020. November 2020, zie: vng.nl/trends-informatiesamenleving-2020

6

Inboeknummer 21bst00745

het gesprek erover blijven voeren om het verder aan te scherpen en voortdurend te actualiseren.

Planning en uitvoering We starten met een pilot van 1 jaar waarin we met de ethische commissie en werkwijze aan de slag gaan. Na 1 jaar evalueren we de resultaten en kunnen we een onderbouwde inschatting maken wat er nodig is voor een eventuele voortzetting. Evaluatie Na 1 jaar blikken we samen met de ethische commissie terug en reflecteren we op de bijdrage van het werkwijze toepassing waardenkader aan het debat en kijken we vooruit hoe de aandacht voor ethiek kan worden versterkt. Ook zullen we dan in overleg met u de beschrijving van publieke waarden tegen het licht houden. Hierover wordt uw raad geïnformeerd. Bijlage(n) Als bijlagen bij dit voorstel behoren: Bijlage 1.1 Beschrijving van zeven publieke waarden Bijlage 1.2 Instellingsbesluit ethische commissie Bijlage 1.3 Samenvatting werkwijze toepassing waardenkader ◼ 

De bijlagen worden meegestuurd De bijlagen liggen ter inzage in de leeskamer

Een ontwerpraadsbesluit bieden wij u hierbij ter vaststelling aan. Burgemeester en wethouders van Eindhoven,

, secretaris.

7

Inboeknummer 21bst00745

Raadsbesluit De raad van de gemeente Eindhoven; gezien het voorstel van burgemeester en wethouders van 18 mei 2021; gelet op de nadere toelichting van 7 september 2021; gelet op de behandeling in de meningsvormende vergadering van 14 september 2021; besluit: 1.

2.

3.

Het vaststellen van zeven publieke waarden (autonomie, mens centraal, privacy, veiligheid, controle over technologie, rechtvaardigheid, duurzaamheid) inclusief de beschrijving van de publieke waarden. Kennisnemen van het besluit van het college om onder voorbehoud van het raadsbesluit onder 1. te besluiten tot het instellen van een ethische commissie. Kennisnemen van de samenvatting werkwijze toepassing waardenkader.

Aldus vastgesteld in de openbare vergadering van 22 september 2021.

J. Verbruggen, griffier.

8