Bijlage Nota Waardengedreven digitaliseren

WAARDENGEDREVEN DIGITALISERING ETHISCHE VISIE OP HET GEBRUIK VAN DATA EN TECHNOLOGIE DOOR DE GEMEENTE ENSCHEDE November 2023

1

INHOUDSOPGAVE INLEIDING

3

Aanleiding en resultaat

3

1.ETHISCHE VISIE ENSCHEDE

5

Wat is ethiek? Hoe wil de gemeente Enschede om gaan met ethiek? Wat is ons ethisch waardenkader?

5 6 6

2. ETHISCH HANDELEN DOOR DE GEMEENTE ENSCHEDE

8

Wat zijn de uitgangspunten voor ons ethisch handelen? Hoe wegen wij zorgvuldig alle waarden?

8 8

3. ETHIEK IN ONZE GEMEENTELIJKE ORGANISATIE

11

Hoe krijgt ethiek een plek in onze organisatiestructuur? Hoe krijgt ethiek een plek in onze processen? Hoe organiseren we ethische kennis en ondersteuning? Financiële consequenties

11 13 13 14

4. PARTICIPATIE EN EVALUATIE

15

Participatie Evaluatie

15 15

BIJLAGE 1: HANDVATTEN VOOR(AFGAAND AAN) EEN ETHISCHE CHECK

16

Moet je een ethische check doen? Meerdere methoden om uit te kiezen

16 16

BIJLAGE 2: STAPPEN OP WEG NAAR EEN HELDERE ETHISCHE PROCEDURE Tot slot

17 18

2

INLEIDING In deze ethische visie staat beschreven hoe de gemeente Enschede op een ethisch verantwoorde manier om wil gaan met data en technologie. Hoe wij gaan bepalen wat wij acceptabel vinden en onder welke voorwaarden. Deze nota is gebaseerd op de kennis en ervaring die de gemeente afgelopen jaren heeft opgedaan samen met de leden van de Ethische Commissie en bevat naast onze ethische visie ook een handelingskader en een concrete werkwijze. De Ethische Commissie hebben wij regelmatig gevraagd om hun deskundige input bij het beschrijven hiervan. College en gemeenteraad worden beiden gevraagd om deze visie voortaan te gebruiken bij het nemen van besluiten over de inzet van data en technologie.

AANLEIDING EN RESULTAAT Digitale ontwikkelingen gaan heel snel en de impact daarvan wordt steeds lastiger te overzien. Wetten en regels veranderen niet in hetzelfde tempo mee en daardoor lopen we als stad en samenleving nu het risico dat het gebruik van data en technologie

Overal in Enschede hangen camera’s aan lantarenpalen, maar waar zijn ze voor? © Lars Smook

ongewenste gevolgen heeft. Om die negatieve gevolgen te beperken is deze ethische visie opgesteld. Deze visie helpt ons om weloverwogen keuzes te maken, helpt ons waardengedreven digitaliseren.

Dagelijks wordt de gemeente Enschede geconfronteerd met ethische vragen over wat wij wenselijk vinden. Die vragen stellen wij ons zelf, maar ook inwoners van Enschede stellen ons vragen. Als we camera’s aan de openbare weg

ENSCHEDE - Op sociale media is het menigeen

hangen zodat inwoners zich veiliger voelen, krijgen we

opgevallen: langs de singels hangen sinds deze

bijvoorbeeld vragen over de gevolgen die dit heeft voor de

week camera’s aan lantaarnpalen. Wat doen ze

privacy van mensen. En de digitalisering van onze

daar?

dienstverlening leidt tot vragen over de toegankelijkheid van

Jeanique Koedijk 05-09-22, 17:06

onze diensten voor mensen die geen computer hebben of

Big brother is watching you”, luidt de reactie van een

onvoldoende digitaal vaardig zijn. Maar ook tot de vraag of

paar verontwaardigde mensen op Facebook. Maar is

de gemeentelijke dienstverlening nog wel mensgericht

dat wel zo? „Met de camera’s doen we onderzoek naar

verloopt.

verkeersstromen op de singel. Deze beelden worden alleen voor onderzoek gebruikt en daarna verwijderd”, laat Ilse Hoeksta, woordvoerder van de gemeente Enschede weten.

3

Als gemeente Enschede zijn wij van mening dat wij niet kunnen afwachten tot er Europese en nationale ethische kaders zijn geformuleerd, of passende wetten en regels1. Het aantal vragen blijft namelijk groeien door de toename van digitalisering en datagebruik, zoals het aantal vragen over de inzet van sensoren en algoritmes illustreert. Daarom formuleren we zelf onze visie op hoe wij data en technologie op een ethisch verantwoorde manier inzetten2. Deze visie vertalen wij naar een concrete werkwijze voor bestuur en organisatie: een manier van werken voor onze organisatie, die we inpassen in onze gemeentelijke processen, met bijpassende hulpmiddelen, rollen en vaardigheden. Zodra Europese en nationale kaders gereed zijn, bijvoorbeeld de Europese wetgeving die in de maak is rondom de inzet van A.I., passen wij natuurlijk ook onze visie en werkwijze daarop aan.

Deze ethische visie staat als actie genoemd in het begrotingsprogramma Samenleving en bestuur als onderdeel van de strategische opgave Open Enschede, maar draagt ook bij aan de andere strategische opgaven. Omdat ook binnen die andere opgaven veel data en digitale mogelijkheden worden gebruikt, bijvoorbeeld bij het verstrekken van uitkeringen of vergunningen. Gedeeltelijk geeft deze ethische visie ook invulling aan de opdracht van de raad om deze raadsperiode te komen tot integraal beleid Digitaal Enschede op basis van publieke waarden (Document enschede - motie 16 Volt e.a. Grip op Digitale Zaken - integraal beleid digitaal enschede op basis van publieke waarden Zomernota 2023_aangenomen - iBabs RIS (bestuurlijkeinformatie.nl).

Door regio: Twente 19 juli 2023

Nederlandse primeur: Automatische drone van Brandweer Twente vliegt boven Enschede Brandweer Twente vliegt als eerste korps in Nederland met een automatische drone boven Enschede. Dit is een belangrijke stap in de innovatie van het brandweervak. Met deze ontwikkeling laat Brandweer Twente zien dat ze vooroplopen in Nederland en Europa op het gebied van drone-inzet. Als Europese dronehoofdstad heeft Enschede de primeur voor Nederland. ‘Ik ben natuurlijk ontzettend trots op deze ontwikkeling’, licht Stephan Wevers, commandant van Brandweer Twente toe. ‘Nadat we als eerste korps in Nederland met drone Argus gingen vliegen doen we dat nu dus ook als eerste met een automatische drone vanaf Glanerbrug. Met onze ogen in de lucht ondersteunen we de brandweermensen op de grond bij de incidentbestrijding. Hierdoor kunnen we gerichter en veiliger werken en kan schade worden beperkt. Dit met als doel om Twente (nog) veiliger te maken’.

In de Werkagenda ‘Waardengedreven digitaliseren’ van Ministerie van BZK staat onder meer de ambitie van het kabinet beschreven om een interbestuurlijk gedeeld normen- en begrippenkader te ontwikkelen voor publieke waarden en digitalisering. 2 De Vereniging Nederlandse Gemeenten constateerde in 2022 dat ‘… digitalisering politiek van aard is, met ruimte voor lokale afwegingen. ’ ‘Bestaande kaders bieden zogeheten discretionaire of beleidsruimte, die op basis van cases nog moet worden ingevuld door bestuur, politiek en maatschappij.’ ‘Digitalisering vraagt democratische besluitvorming.’ Principes voor de Digitale Samenleving VNG (2022). 1

4

1.ETHISCHE VISIE ENSCHEDE De gemeente Enschede wil ethisch

Ethiek gaat over het wegen van waarden. Stel, de

verantwoord om gaan met data en

gemeente Enschede wil camera’s ophangen om het

technologie op basis van gewogen waarden.

veiligheidsgevoel van inwoners te bevorderen, dan

Daarom handelt zij op basis van een

heeft dit gevolgen voor de privacy en autonomie van

ethische visie en werkwijze.

inwoners. Want inwoners kunnen zich bespied voelen door de camera’s, maar tegelijk ook veiliger en vrijer om s ‘avonds de straat op te gaan. Hoe

WAT IS ETHIEK?

doen we recht aan zowel de privacy als de vrijheid

Ethiek is bepalen wat we wenselijk vinden door het

van mensen? Wat weegt zwaarder? Die vraag

wegen van waarden.

beantwoordt niet iedereen hetzelfde. Ook veranderen de normen en waarden die we zelf

Veel kan en mag, maar ethiek helpt ons om te

stellen aan gebruik van technologie. Technologie

bepalen of we iets ook wenselijk vinden om te doen.

beïnvloedt de samenleving en de samenleving

Willen we echt alle digitale mogelijkheden benutten

beïnvloed de technologische ontwikkelingen3.

of trekken we ergens een grens? Wat de meeste mensen belangrijk vinden wordt uitgedrukt in

Waarden wegen is geen wiskundige methode die

zogenaamde publieke waarden, zoals

altijd leidt tot dezelfde uitkomst. Door te wegen

rechtvaardigheid en autonomie. Daarnaast bestaan

zoeken we naar een balans tussen alle relevante

ook andere waarden, zoals individuele waarden of

waarden, een balans die goed voelt voor een

waarden die iets zeggen over wat belangrijk is voor

meerderheid van alle betrokken mensen. Die balans

een (gemeentelijke) organisatie, zoals doelmatigheid

is niet absoluut en voor altijd bepaald en moet

en efficiëntie.

regelmatig herijkt worden, omdat de werkelijkheid waarin we leven continu verandert, dus ook de

“Vorm geven aan nieuwe techniek is dus

werkelijkheid waarin wij als gemeente data en

tegelijkertijd vorm geven aan een veranderende

technologie toepassen. De Ethische Commissie

moraal. En dat roept ingewikkelde vragen op. De

Enschede benadrukte tijdens haar vergadering van 8

meest voor de hand liggende — en ook vaakst

december 2022: ‘ethiek is een werkwoord, je moet

gestelde — ethische vraag ten aanzien van

het continu blijven doen’. In deze visie is vastgelegd

nieuwe technologieën is: mag dit wel? En: is deze

hoe we als gemeente voortaan ethiek gaan inzetten

technologie wel wenselijk? Maar om deze vraag

bij het gebruik van data en technologie.

te kunnen beantwoorden, zullen we tegelijkertijd moeten onderzoeken hoe technologie vorm geeft aan onze morele kaders, en hoe we daar bij het beoordelen en ontwerpen verantwoord mee kunnen omgaan.”

Ethiek van Binnenuit, Peter Paul Verbeek

3

Ethiek van Binnenuit, Peter Paul Verbeek

5

HOE WIL DE GEMEENTE ENSCHEDE OM GAAN MET ETHIEK? Wij vinden dat ethisch handelen een verantwoordelijkheid is van iedereen die gebruik maakt van data en technologie binnen het gemeentebestuur van Enschede en de ambtelijke organisatie.

Publieke waarden zijn verankerd in internationale verdragen, Europese wetgeving, onze Nederlandse grondwet en in de wet op het openbaar bestuur. Iedereen die voor de gemeente Enschede werkt, moet handelen volgens deze afspraken en wetten. Daarnaast ontstaan in Nederland en Europa steeds meer wetten en regels rondom digitalisering, zoals de Algemene Verordening Gegevensbescherming (AVG) uit 2016 , de Data Governance Verordening, de Europese Data Verordening en de A.I Verordening (2023). Deze ethische visie legt uit wat dat betekent bij de dagelijkse toepassing van data en technologie, omdat dergelijke wet- en regelgeving

“De Ethische Commissie heeft geconstateerd dat de volgende kernwaarden een centrale plaats moeten hebben bij het inzetten van sensoren in de openbare ruimte: •

Privacy

•

Autonomie

•

Menselijke waardigheid

•

Rechtvaardigheid, legitimiteit (van het doel)

•

Inclusiviteit

•

Legitimiteit

Het doel waarvoor de sensoren worden ingezet heeft invloed op de onderlinge weging van deze waarden. Indien sensoren worden ingezet ten behoeve van veiligheid laat dat meer ruimte om deze af te wegen tegen bijvoorbeeld privacy en autonomie, dan wanneer het louter om economische doeleinden gaat. Ook is het van belang om telkens de vraag te stellen hoe de inzet van sensoren zich verhoudt tot een situatie waarin het werk van sensoren zou worden gedaan door een mens in plaats van techniek. Wat is het verschil tussen de inzet van beide, en wat verandert de sensor aan het proces van monitoring?”

daar nog onvoldoende duidelijk over is. Ethische analyse van sensoren in de buitenruimte van Enschede

Wij vinden het belangrijk dat iedereen inzicht heeft in wat wij verstaan onder ethisch om gaan met data en

Ethische Commissie Enschede, 31 maart 2021

gemeentebestuur en de ambtelijke organisatie als

WAT IS ONS ETHISCH WAARDENKADER?

ook iedereen die te maken krijgt met de gemeente

De gemeente Enschede maakt haar ethische

Enschede. Daarom leggen wij dat expliciet vast en

afwegingen op basis van de Code Goed Digitaal

zijn we daar transparant over. Het helpt ons bij het

Openbaar Bestuur.

technologie. Iedereen, dus zowel het

voeren van een open gesprek. Zowel college van BenW als gemeenteraad zien erop toe dat

De gemeente Enschede kiest ervoor om als

gehandeld wordt op basis van deze visie.

waardenkader de Code Goed Digitaal Openbaar Bestuur (CODIO) te hanteren. Deze is in opdracht van het ministerie van BZK ontwikkeld door de Utrecht Data School. Wij kiezen voor deze code omdat deze gebaseerd is op een veelheid aan wetenschappelijke literatuur en bestaande (inter)nationale codes. De code is veelomvattend, met zowel fundamentele publieke waarden (waarden die een meerderheid binnen onze samenleving

6

belangrijk vindt), als ook individuele waarden en waarden die van belang zijn voor een overheidsorganisatie als de gemeente Enschede.

Tot slot is ook belangrijk dat de code komende periode in Nederland verder wordt ontwikkeld, uitgewerkt en getest in de praktijk. De gemeente Enschede kan profiteren van die ontwikkeling en sluit daarmee aan bij wat landelijk gangbaar lijkt te worden in de komende jaren. We lopen dus wel voorop met het formuleren van deze ethische visie, maar niet uit de pas! Code Goed Digitaal Openbaar Bestuur (CODIO)4

4

Meer informatie over de CODIO is te vinden op:

https://www.rijksoverheid.nl/documenten/ra pporten/2021/04/30/code-goed-digitaalopenbaar-bestuur

7

2. ETHISCH HANDELEN DOOR DE GEMEENTE ENSCHEDE WAT ZIJN DE UITGANGSPUNTEN VOOR ONS ETHISCH HANDELEN?

individuen en samenleving, bijvoorbeeld bij het gebruik van big data en kunstmatige intelligentie6.

Wij streven naar een verantwoorde waardenbalans.

Dit heet gevolgenethiek. Daar hoort bij dat we ons

Kansen en risico’s van data en technologie wegen

ook beseffen dat er altijd een zeker risico bestaat dat

we zorgvuldig af met behulp van normatieve

we niet vooraf kunnen voorspellen.

begeleiding en gevolgenethiek.

benutten wij de kansen die data en technologie ons

HOE WEGEN WIJ ZORGVULDIG ALLE WAARDEN?

bieden. Wij blijven continu innoveren en leren. Wij

De gemeente Enschede weegt waarden zorgvuldig,

geven samen met partners in de regio Twente

transparant en in een open gesprek.

Bij het werken aan de opgaven van onze stad

uitvoering aan een innovatieagenda, de Agenda van Twente. Vanuit de Agenda voor Twente werken we

Transparant: Belangrijk is dat wij als gemeente

aan het vergroten van het Bruto Twents Geluk, door

transparant en duidelijk zijn over de afweging die wij

te investeren in een economie die draait om brede

maken tussen de waarden die een rol spelen bij een

welvaart en welzijnsbloei.

project en het besluit dat daarop volgt. Wij hopen dat inwoners en andere belanghebbenden daardoor ons

Ethiek helpt ons vooral om te bepalen hoe we data

besluit beter begrijpen en kunnen accepteren.

en technologie verantwoord kunnen inzetten, bij de

Daarom communiceren wij actief over de ethische

start van een traject en ook gaandeweg. Dit heet

afwegingen die wij maken.

normatief begeleiden. Als tijdens een traject uit een ethische analyse blijkt dat een verantwoorde inzet

Open: Ethiek is geen wiskunde. Bij het maken van

van data of technologie lastiger wordt, kan dit leiden

een ethische afweging gaat het niet om de keuze

tot stopzetting van een traject.

tussen goed of fout. Belangrijk is dat binnen bestuur en organisatie een open gesprek plaats vindt. In de

Wij proberen de kansen van data en technologie te

gesprekken is ruimte en respect voor verschillende

benutten, maar ook de risico’s te beperken. Als

invalshoeken en spreken we ook over de waarden

overheid hebben wij de verantwoordelijkheid om de

die bepalend zijn voor iemands invalshoek of

samenleving te beschermen, daar richten wij onze

overtuiging. Dat doen we nu ook al op enkele

organisatie zo goed mogelijk op in. Want wij zijn niet

plekken binnen de gemeente Enschede,

doof voor de woorden van Tristan Harris: ‘Our brains

bijvoorbeeld via het moreel beraad, een

are no match for our technology. ’

gespreksvorm waarin deelnemers samen een

5

ethische kwestie in hun werk bespreken7. Voor een Het beperken van risico’s betekent dat wij goed

ethische analyse van digitalisering en datagebruik is

kijken naar de bedoelde of onbedoelde gevolgen op

deze gespreksvorm nog te globaal.

5

Enschede organiseert daartoe trainingen en groepsgesprekken. Ook bij het zoeken naar de menselijke maat staat integriteit hoog op onze agenda en hanteren we het moreel beraad als ethische gesprekvorm.

https://www.nytimes.com/2019/12/05/opini on/digital-technology-brain.html 6 “We moeten het meest op onze hoede zijn voor onze vrijheden als de bedoelingen van de overheid goed zijn”. Louis Brandeis (Amerikaanse opperrechter)- 1928 7 De nieuwe Ambtenarenwet 2017 verplicht de gemeente Enschede als werkgever om jaarlijks gesprekken te voeren met alle medewerkers over integriteit. De gemeente

8

Daarvoor zijn andere methoden beschikbaar.

bij een casus. In de tussentijd blijven we nauw

Dergelijke methoden kunnen ook ingezet worden bij

betrokken bij de verdere ontwikkeling van kennis en

gesprekken met de stad. Meer daarover in

methoden in Nederland.

hoofdstuk 4. Cyclisch: Ethiek is een werkwoord en dat betekent Zorgvuldig: Een ethische analyse van digitalisering

dat ethiek onderdeel moet zijn van een cyclus. Een

en datagebruik moet zorgvuldig en systematisch

ethische analyse moet op meerdere momenten

gebeuren. Twee methodes worden vanuit het rijk

tijdens de levenscyclus van een project of proces

verplicht opgelegd aan de gemeente om in bepaalde

worden uitgevoerd met het oog op tussentijdse

gevallen uit te voeren, namelijk een Data Protection

veranderingen en voortschrijdend inzicht. Idealiter

Impact Assessment (DPIA) en een Impact

zou je een ethische check moeten doen bij aanvang

Assessment Mensenrechten en Algoritmes (IAMA).

van een traject, tussentijds en na afloop. Dat wil niet

Er zijn daarnaast in Nederland nog diverse ethische

zeggen dat die check telkens heel uitvoerig moet

methoden ontwikkeld en in ontwikkeling, zoals

zijn, dat is ondoenlijk en onnodig.

beschreven in de bijlage. De Ethische Commissie Enschede heeft op basis van haar ervaringen met concrete casussen geconstateerd dat er nog geen methode bestaat die op alle soorten casussen toepasbaar is. Die conclusie is in 2022 bevestigd door de landelijke werkgroep Ethiek, die onderdeel uitmaakte van de City Deal Slimme steden.

De verklaring hiervoor ligt in de grote en steeds verder toenemende diversiteit van data- en technologieprojecten: ▪ de doelen verschillen (zoals het bevorderen van veiligheid, economie of welzijn) ▪ de vormen van data en technologie verschillen (persoonsgegevens, geografische data, big data, blockchain, kunstmatige intelligentie, algoritmen etcetera) ▪ de gebruikers, betrokkenen en algehele context verschillen (iedereen in de samenleving maakt gebruik van data en technologie, maar ieder met een eigen rol, belang en verantwoordelijkheid).

De gemeente Enschede kiest daarom per geval van datagebruik of inzet van technologie of een ethische analyse nodig is: dat zal lang niet altijd het geval zijn. Vervolgens bepalen we welke methode het best past

9

Vooral aan het begin van een project of proces is het zinvol om een uitvoerige analyse te doen, omdat ethische randvoorwaarden dan al vroeg kunnen worden meegenomen. Tussentijds en na afloop kan met een eenvoudige analyse worden nagegaan of er veranderingen zijn ontstaan binnen een project waardoor de ethische analyse tot een andere afweging leidt. De ethische weging hoeft dus niet volledig overnieuw gedaan te worden.

Selectief: Een ethische toetsing is zeker niet bij alle vormen van datagebruik en digitalisering nodig. In bepaalde gevallen is het uitvoeren van een DPIA verplicht of een IAMA. Daarnaast is het vooral zinvol om een ethische check te doen bij nieuwe vormen van datagebruik en digitalisering en bij toepassingen met potentieel grote impact op de veiligheid of vrijheden van inwoners of gevolgen voor kwetsbare inwoners. We verwachten dat binnen de organisatie voldoende ethisch bewustzijn gaat ontstaan om in te schatten wanneer een ethische check nodig is. Als hulpmiddel voor medewerkers staat in de bijlage een korte lijst met aandachtspunten.

10

3. ETHIEK IN ONZE GEMEENTELIJKE ORGANISATIE Wij vinden dat ethisch verantwoord om gaan

bestuurlijke afspraken met partners, over datadeling

met data en technologie een

op dossiers als de jeugdzorg en veiligheid. Zo’n

verantwoordelijkheid is van iedereen bij de

collegebesluit wordt mede gebaseerd op een

gemeente Enschede. Daarom zorgen wij

inventarisatie van de ethische impact en dilemma’s

voor goede afspraken over die

en een beargumenteerde politieke afweging.

verantwoordelijkheden, over procedures en over de benodigde kennis en vaardigheden8.

Management: Directie, clustermanagers, afdelingshoofden en teamleiders committeren zich

HOE KRIJGT ETHIEK EEN PLEK IN ONZE ORGANISATIESTRUCTUUR?

aan een ethisch verantwoorde inzet van data en technologie. Zij zien erop toe dat medewerkers de

Wij zorgen dat binnen de gemeente Enschede de

juiste ethische werkwijze hanteren, als onderdeel

verantwoordelijkheid voor de ethische toepassing

van ‘integraalmanagement’. Zij zijn dus

van data en technologie goed is geregeld. Iedereen

verantwoordelijk voor het toe zien op een ethische

weet waar hij of zij verantwoordelijk voor is.

omgang met data en technologie door medewerkers. Zelf geven zij daarvoor het goede voorbeeld.

Gemeenteraad: De raad bespreekt de Ethische visie en werkwijze in haar Commissie Bestuur en

Ethisch Netwerk: Ondersteuning op deze

Middelen. De raad committeert zich aan een ethisch

verantwoordelijkheid organiseren wij binnen de Data

verantwoorde inzet van data en technologie, zoals

Inzicht Teams en het Data Architectuur en Distributie

beschreven in de visie. De raad ziet er op toe dat

Team die komende periode binnen de gemeentelijke

college en organisatie handelen volgens de

organisatie worden ingericht, zoals beschreven staat

vastgestelde visie en werkwijze (democratische

in het Koersdocument data-organisatie (vastgesteld

controle). De raad kan op de website en van de

in de CIO-raad september 2022). Samen met de

Ethische Commissie continu volgen wat aan

Functionaris Gegevensbescherming, de Chief

reflecties verschijnt en wordt via de IPC cyclus

Information Security Officer (CISO), de privacy-

jaarlijks actief geïnformeerd.

officers en de beiden secretarissen van de Ethische Commissie vormen zij binnen de organisatie de kern

College van BenW: Het college stelt de ethische

van een Ethisch Netwerk.

visie en werkwijze vast en committeert zich daarmee aan een ethisch verantwoorde inzet van data en technologie, zoals beschreven in de visie. Zij geeft de organisatie de opdracht om de vastgestelde werkwijze te volgen en de verantwoordelijk wethouder ziet daarop toe namens het college. In sommige gevallen wordt het college expliciet gevraagd om een besluit te nemen, bijvoorbeeld over 8

Data Governance: A conceptual framework, structured review, and research Agenda, Abraham, Schneider, vom Brocke, juli 2019. Een professionele datagedreven organisatie moet afspraken vastleggen over: ▪ structurele mechanismen: rollen, verantwoordelijkheden en beslissingsbevoegdheden;

▪ procedurele mechanismen: procedures, contracten en voorwaarden, standaarden, strategieën, etc; ▪ relationele mechanismen: communicatie, trainingen en coördinatie van besluitvorming.

11

Medewerkers: Van medewerkers verwachten wij ethisch bewustzijn en de benodigde basiskennis. Zij

Publieke waarden hangen nauw samen met politieke

moeten in ieder geval weten wanneer een ethische

(beleids)keuzes:

afweging nodig is en zorgen dat deze afweging goed gedaan wordt. Medewerkers zien erop toe dat de

1. Rechtvaardigheid bij de toedeling en verdeling van

benodigde ethische afwegingen daadwerkelijk

welzijn: hoeveel welzijn voor welke inwoners? Dit

plaatsvinden en spreken elkaar daar ook op aan. Het

geeft inzicht in fundamentele keuzes binnen het

Ethisch Netwerk kan om kennis en advies gevraagd

sociaal domein, omdat de politiek bijvoorbeeld kan

worden.

kiezen voor een gelijke verdeling van middelen onder alle inwoners, maar ook voor bijvoorbeeld een

CIO: Gemeente brede sturing op het ethisch

minimumniveau aan middelen dat net genoeg is voor

bewustzijn van de gemeentelijke organisatie ligt in

het levensonderhoud van iedere inwoner. Als de

handen van het CIO-office, als onderdeel van de

gemeente Enschede streeft naar een inclusief

sturing op SPIDER (zie Koersdocument data-

Enschede, met gelijke kansen voor iedereen, wat

organisatie).

betekent dit vervolgens voor het rechtvaardigheidsbeginsel en waar botst dat mogelijk

Ethische Commissie Enschede: De commissie

met het rechtmatig of doelmatig handelen van de

blijft net als voorgaande jaren fungeren als extern

gemeente?

ethisch klankbord voor de gemeente Enschede. Zij

2. Rechtvaardigheid bij interregionale verdeling van

draagt met haar diepgaande expertise bij aan de

welvaart: de afweging tussen structuurversterking en

kennisontwikkeling van de gemeente Enschede.

regionale transitie ‘hier en ‘elders’. Dit geeft inzicht in

Gevraagd en ongevraagd kan zij reflecteren op

fundamentele keuzes binnen het economisch beleid,

vooral complexe, ethische casussen. Met die

omdat de politiek kan kiezen het belang van de eigen

reflecties geeft de commissie inzicht in de waarden

stad en regio voorop te zetten ongeacht de gevolgen

die een rol spelen binnen een casus en legt zij

voor buurgemeenten, maar dat ook gekozen kan

ethische dilemma’s bloot waarover het

worden voor regionale solidariteit.

gemeentebestuur uiteindelijk een politieke afweging

3. Rechtvaardigheid bij de intertemporele effecten: de

moet maken en beslissen. De reflecties van de

afweging tussen het bevorderen van de kwaliteit van

Ethische Commissie worden openbaar gemaakt op

leven en leefomgeving ‘nu’ en ‘later’. Dit geeft inzicht

www.enschede.nl/ethische-commissie.

in fundamentele keuzes bij de duurzaamheidsopgave, omdat de politiek kan kiezen voor een focus op het adagium: ‘wie dan leeft, wie dan zorgt’, hetgeen nadelig kan zijn voor toekomstige generaties. De politiek kan ook er ook voor kiezen om rekening te houden met de impact op toekomstige generaties.

Planbureau voor de leefomgeving, Bevorderen van brede welvaart in de regio: keuzes voor beleid, 2020

12

HOE KRIJGT ETHIEK EEN PLEK IN ONZE PROCESSEN?

en technologie. Door het verzamelen en leren van praktijkervaringen, bijvoorbeeld in het bestaand

Wij zorgen voor een goede inbedding van ethiek in

landelijk netwerk en City Deals. En daarnaast door

onze interne processen.

actieve betrokkenheid bij onderzoek door kennisinstellingen in de regio. Ethiek is een

Aan de hand van een lijst met aandachtspunten kan

vakgebied waar Saxion en UT in ieder geval veel

iedereen die data en digitale middelen gebruikt

aandacht aan besteden in hun onderwijs en

beoordelen of een DPIA, IAMA en/of ethische check

onderzoek. In de gemeentelijke onderzoeksagenda,

gedaan moet worden (zie bijlagen).

waarin sinds 2022 de kennisbehoefte van alle

Als zo’n check inderdaad nodig is, moet duidelijk zijn

domeinen wordt beschreven, gaan wij ook onze

hoe en wanneer iemand in actie moet komen.

kennisbehoefte formuleren ten aanzien van ethiek

Daartoe gaan wij het proces beschrijven dat een

van data en technologie, als basis voor verdere

project normaal gesproken doorloopt. Bij iedere stap

kennisontwikkeling.

beschrijven wij de benodigde acties en actoren. De IAMA biedt hiervoor al de nodige input. Deze

Er komen inspiratiesessies en workshops om bij zo

vertalen wij naar onze organisatie. Meer daarover in

veel mogelijk mensen bewustwording te creëren over

de bijlagen.

de ethiek van data en technologie. Mensen die regelmatig een ethische analyse zullen uitvoeren en

Bij het inkopen van producten en diensten moeten

mensen die affiniteit hebben met ethiek krijgen via

we heldere afspraken maken over ontwerpprincipes

de Enschede School een basistraining aangeboden.

van (nieuwe) technologieën, zoals bijvoorbeeld

Daarin leren zij om een zorgvuldige ethische analyse

algoritmes. Contracten worden centraal afgesloten

te doen met ook mogelijkheid om te leren werken

via de contractmanagers bij het IT Bedrijf. Als

met een bepaalde ethische methode, zodat zij

opdrachtgever zijn wij verantwoordelijk voor de data

ethische sessies kunnen begeleiden voor concrete

die wij gebruiken en dus ook voor de toepassing van

casussen. Met omringende gemeenten zijn

het algoritme als dat in een dienst zit die wij

gesprekken gaande om dergelijke trainingen

9

inkopen .

gezamenlijk aan te bieden via de Twentse School en daarmee ook kennisuitwisseling tussen de Twentse

HOE ORGANISEREN WE ETHISCHE KENNIS EN ONDERSTEUNING?

gemeenten te bevorderen. Waar gewenst kan ook worden gekozen om externe begeleiding te vragen of

Wij zorgen dat iedereen die binnen het

de casus zelf zonder bovengenoemde methodiek

gemeentebestuur van Enschede en de ambtelijke

door te nemen met elkaar.

organisatie gebruikt maakt van data en technologie beschikt over voldoende ethisch bewustzijn en dat

Op de Intens Kennisbank is de ethische visie en

meer specialistische kennis en ondersteuning

werkwijze te lezen, aangevuld met actuele kennis

voorhanden is.

over ethiek en ethische casuïstiek.

Het Ethisch Netwerk zorgt, naast ondersteuning, ook voor de ontwikkeling van kennis over ethiek van data 9

De GIBIT met de overeenkomstengenerator helpt ons om de juiste voorwaarden mee te geven richting leverancier, al zal dit ook regelmatig nog worden bijgewerkt (op landelijk

niveau) en moeten we zelf ook goed nadenken wat wij in aanvulling daarop zelf nog aan voorwaarden willen.

13

FINANCIËLE CONSEQUENTIES Op dit moment is de aandacht voor een ethische benadering van data en technologie expliciet georganiseerd via de Ethische Commissie. De leden vergaderen drie tot vier keer per jaar en ontvangen daarvoor een onkostenvergoeding. Jaarlijks kost dit ongeveer 1000 euro. De commissie wordt ondersteund door twee ambtelijk secretarissen, die samen 16 uur per week beschikbaar hebben. Deze adviseurs zorgen ook voor kennisontwikkeling, landelijke afstemming en voorbereiding van casussen. De ambtelijk secretarissen vormen samen met enkele collegae het intern Ethisch Netwerk, zoals eerder is beschreven.

Als de ethische visie en werkwijze worden vastgesteld beschikken bestuur en organisatie voortaan over een gemeenschappelijk (handelings)kader, aanvullend op de zojuist beschreven Ethische Commissie en ambtelijke ondersteuning. Van bestuur en organisatie verwachten we dat zij leren om te handelen volgens deze visie en werkwijze op het moment dat zij gebruik maken van data en technologie. Zij worden daarbij ondersteunt door het bestaande interne Ethisch Netwerk en kunnen trainingen volgen bekostigd via het opleidingsbudget. Om dit leerproces te versnellen, kan overwogen worden om (tijdelijk) budget vrij te maken om extra trainingen in te kopen en medewerkers en managers (tijdelijk) te ondersteunen bij het opstellen van hun DPIA’s en ethische analyses.

14

4. PARTICIPATIE EN EVALUATIE PARTICIPATIE

algoritmes we willen registreren. De wet die naar

Wij informeren de stad en vragen de stad om mee te

verwachting vanaf 1 januari 2024 ingaat (AI act)

denken.

verplicht publicatie van ‘hoogrisico algoritmes’, maar organisaties zijn vrij om ook andere type algoritmes

Ontwikkelingen op het gebied van data en

te registreren en publiceren.

technologie gaan razend snel. Ze bieden kansen, maar kunnen ook bedreigend zijn en een gevoel van

Wij willen mensen in onze stad ook actiever

onveiligheid geven. Daarom vinden wij het belangrijk

betrekken bij onze ethische afwegingen, afgestemd

om in gesprek te gaan over de impact van data en

op de casus en de gehanteerde ethische methode.

technologie, via een open, ethisch gesprek. Wij

Wij horen graag van onze inwoners en organisaties

horen dus graag de mening en standpunten van

hoe zij betrokken willen worden. Hoe wij dat doen

mensen in Enschede, zodat wij beter inzicht krijgen

bespreken wij graag met de raad. Ook het

in de impact van data en technologie. Daarnaast

participatieteam denkt mee hierover.

informeren wij de stad en onze inwoners zo goed mogelijk.

EVALUATIE Al doende leren wij.

Via de gemeentelijke website bieden wij informatie aan over de manier waarop de gemeente Enschede

Omdat ontwikkelingen rondom data en technologie

probeert ethisch verantwoord om te gaan met data

snel gaan, evalueren wij regelmatig onze visie en

en technologie. Dat sluit aan bij onze communicatie

werkwijze en passen deze aan als dat nodig blijkt.

over privacy en risicobeheer.

De evaluaties zorgen dat het een terugkerend onderwerp blijft.

De Ethische Commissie publiceert haar reflecties op

Al doende leren wij, samen met partners, waaronder

concrete casussen op www.enschede.nl/ethische-

de kennisinstellingen, die ook vertegenwoordigd zijn

commissie. Per project/casus beoordelen ze of en

in de Ethische Commissie.

hoe actief inwoners worden betrokken. Dit hangt af

Als er nieuwe wet- en regelgeving komt toetsen wij of

van de casus en belanghebbenden.

dit aanleiding is voor aanpassing van onze visie en werkwijze.

Om als organisatie transparant te zijn over welke algoritmes, sensoren en AI toepassingen wij gebruiken en welke normen en waarden wij daarbij meenemen, zorgen wij voor een sensorregister10 en een algoritmeregister11. Vanuit deze registraties kunnen we transparant zijn over welke sensoren waar staan in onze stad. En we kunnen deze sensoren uitrusten met een QR code die vervolgens informatie over die sensor vanuit het sensorregister toont. Met elkaar moeten we dan nog bepalen welke 10

https://labs.kadaster.nl/demonstrators/sen srnet/index.html

11

https://www.digitaleoverheid.nl/overzichtvan-alleonderwerpen/algoritmes/algoritmeregister/

15

BIJLAGE 1: HANDVATTEN VOOR(AFGAAND AAN) EEN ETHISCHE CHECK MOET JE EEN ETHISCHE CHECK DOEN?

MEERDERE METHODEN OM UIT TE KIEZEN:

Handvatten om te bepalen of en hoe je een ethische check moet doen:

1. DPIA: Data Protection Impact Assessment kijkt naar de

1. Fase van je project:

risico’s van gegevensgebruik op de privacy van

Startend, lopend of in de afrondende fase.

mensen. Andere publieke waarden komen in deze

2. Complexiteit:

methode weinig aan bod. In landelijke wetten en

Eenvoudig gebruik van data of technologie of een

regels is vastgelegd wanneer het in ieder geval

project met grote complexiteit?

verplicht is om een DPIA uit te voeren. Meer

3. Wijze waarop data worden verzameld:

informatie hierover is te vinden in de AVG groep op

Worden op grote schaal en systematisch mensen

Intens en in LOIS. De gemeentelijke privacy officers

gevolgd in een publiek toegankelijk gebied

kunnen helpen bij het bepalen of een DPIA nodig is.

(bijvoorbeeld met cameratoezicht)?

2. DEDA-model:

4. Invloed van technologie:

De Ethische Commissie heeft geconstateerd dat

Worden bijvoorbeeld besluiten gebaseerd op basis

DEDA bij aanvang van een project kan helpen bij de

van geautomatiseerde verwerking van data? En

analyse van ethische aspecten van data(gebruik) en

hebben die besluiten gevolgen voor kleine of grote

alles wat daarom heen georganiseerd moet zijn.

groepen mensen?

Daarbij komen meerdere publieke waarden aan bod,

5. Intern of extern project:

maar ligt een sterk accent op de betrouwbaarheid

Zijn externe partijen betrokken? Gaat het om interne

van data en de wijze waarop de betrouwbaarheid

verwerking van eigen data of ook om externe data?

wordt geborgd. Een systematische analyse van de

6. Aard van de data:

impact van het werken met die data ontbreekt echter.

Worden op grote schaal bijzondere

3. IAMA:

persoonsgegevens of strafrechtelijke gegevens

De Impact Assessment Mensenrechten en

verwerkt? Of gaat het vooral om fysieke data uit de

Algoritmes. Deze methode richt zich specifiek op het

openbare ruimte?

gebruik van kunstmatige intelligentie (AI).

7. Gevolgen voor de stad:

4. Methode Begeleidingsethiek:

Hoe groot zijn de gevolgen en de risico’s van het

Deze methode is veelomvattend: technologie,

handelen door de gemeente of haar partners? En

gebruiker en context worden meegenomen.

hebben deze betrekking op gezondheid of veiligheid

Deze methode kan vooral aan het begin van een

van mensen?

traject een goed inzicht geven in ethisch relevante factoren en dilemma’s.

Als er komende tijd nog andere aandachtspunten op

5. ELSA-model

tafel komen, dan voegen we deze toe. Al doende

Het Ethical, Legal, Social Aspects-model kijkt naar

leren wij!

uiteenlopende aspecten van een project. Dit model wordt komende tijd verder ontwikkeld op basis van het gebruik ervan. Saxion is daar ook bij betrokken.

16

BIJLAGE 2: STAPPEN OP WEG NAAR EEN HELDERE ETHISCHE PROCEDURE De gemeente Enschede verkent of in het

Hoe we het cyclische karakter van een ethische

demandsupplyproces (procedure afspraak tussen

reflectie goed in kunnen bedden is nog even zoeken.

business en IT bedrijf voor totstandkoming en

Mogelijk dat we dat vorm kunnen geven aan de hand

verdere behandeling van projecten) een korte

van registraties in het algoritme- en sensorregister

ethische check geïntegreerd kan worden. Door

en op basis van uitgevoerde ethische reflecties die

bijvoorbeeld in het ‘intake formulier’ al stil te staan bij

we dan jaarlijks doornemen om ze actueel te

de impact op publieke waarden. Als blijkt dat een

houden.

ethische reflectie nodig is zal deze worden uitgevoerd via het ethische netwerk. Resultaat van deze analyse kan worden gedeeld met de Ethische Commissie om ook vanuit die expertise nog mee te kijken.

17

TOT SLOT De gemeente Enschede bedankt de leden van de Ethische Commissie Enschede voor haar inzet en het delen van haar kennis.

Teksten Cluster CIO Datum november 2023 Aan dit document kunnen geen rechten worden ontleend 18