CONCEPT Plan van aanpak Leeuwarden (ambtelijke versie)

CONCEPT /AMBTELIJKE VERSIE Plan van aanpak invoering verantwoorde data-ethiek V0.7 september 2022

1. Visie Bij maatschappelijke opgaven zetten we steeds vaker innovatieve technologieën in. Data en technologieën zoals kunstmatige intelligentie, blockchain en sensoren moeten de leefbaarheid van onze stad en dorpen verbeteren: schonere straten, veiligere buurten, een beter vestigingsklimaat, betere zorg, minder schulden en meer werkgelegenheid staan centraal in wat we doen. Tegelijkertijd kan de inzet van data en nieuwe technologieën grote invloed hebben op belangrijke publieke waarden zoals rechtvaardigheid, menselijkheid en autonomie. We willen alle burgers en ondernemers én hun rechten beschermen als die door nieuwe ontwikkelingen onder druk komen te staan. De roep om regulering van online dataverzameling wordt steeds luider. De discussie hierover is ingewikkeld, omdat veel belangen moeten worden afgewogen. Data-ethiek biedt een kader waarmee data en technologie verantwoord gebruikt kunnen worden. Hiermee sturen we actief op waarden en hebben we een visie op wat we wenselijk vinden. Daarmee zetten we publieke doelen en waarden centraal en vormen we naast een data-gedreven organisatie ook een waarden-gedreven organisatie.

1

Wat is het? Ethiek is het geheel van gedachten over de gedragsregels die mensen tegenover elkaar in acht moeten nemen. Intuïtie en gevoelens zijn vaak de grootste drijfveren voor het herkennen van ethische vraagstukken. Het is dan dus goed om deze te onderzoeken, omdat ze mogelijk op belangrijke waarden en normen terugvallen. Dit plan van aanpak spitst zich toe op ethiek in relatie tot data en technologie, hier verder data-ethiek genoemd. Data-ethische reflectie gaat verder dan voldoen aan de eisen van de Algemene Verordening Gegevensbescherming (AVG) en dat de data zoveel mogelijk geanonimiseerd wordt. Er wordt nagedacht over de ethische verantwoording van hoe we met (persoons)gegevens en technologie omgaan. Dat wil zeggen dat naast de juridische kaders, ook de wenselijkheid van gebruik van data en technologieën bevraagd wordt: Mag het (juridisch)? Kan het (technisch)? Willen we het ook (ethisch)? Wetgeving We leggen veel zaken vast in wetgeving, maar vooral nieuwe ontwikkelingen functioneren eerst zonder dit soort kaders. Ethiek ligt in verschillende rechtsgebieden vast voor zover ze fundamentele rechten en strafrechtelijke feiten betreft, zoals dat je niet mag stelen, frauderen of contracten verbreken. Er is ook een tendens om ethische regels in wetten vast te leggen ten aanzien van bijvoorbeeld genetische manipulatie of de regels van medische behandeling.

Verder bestaat er al EU-wetgeving rondom geautomatiseerde besluitvorming, bijvoorbeeld in de AVG. Ook zijn er sectorspecifieke regels rondom automatisering. Er is nu ook wetgeving in de maak rond Kunstmatige Intelligentie (AI). Het doel van al deze regels is de burger beter te beschermen tegen mogelijke negatieve gevolgen.

2. Gewenste situatie Dit plan komt voort uit de visie en strategie die met de Leeuwarder digitale agenda in gang is gezet. Het maakt deel uit van de gemeentebrede i-Strategie SLIM Leeuwarden aanpak en gaat over de invoering van verantwoorde data-ethiek in onze organisatie. In de gewenste situatie sturen we op de publieke kernwaarden (Rechtvaardigheid, Menselijkheid en Autonomie) en handelen we ethisch bewust op basis van principes naar wat we wenselijk vinden. Daarmee wordt gemeente Leeuwarden zowel een waardengedreven als een datagedreven organisatie. Waarden zitten datagebruik namelijk niet in de weg. Het zorgt juist voor een zorgvuldig proces (vanaf de ontwikkel- en experimentfase) vanaf de start. Daarmee zetten we onze inwoners, onze ondernemers en de betrokkenen centraal. We zijn ons bewust van de risico’s die een (data)project met zich meebrengt voor de rechten en vrijheden van natuurlijke personen. Daarom wordt een verwerking voorafgegaan door bewuste keuzes op basis van juridische, praktische en

ethische overwegingen. Naast doelbinding (een heldere koppeling met een concreet maatschappelijk doel), staat verantwoording centraal. Daarbij maken we gebruik van een ingebouwd systeem van checks en balances. Binnen dat systeem is ruimte om te reflecteren en te leren van fouten. Zo kunnen we ontsporing waar mogelijk voorkomen en fouten tijdig corrigeren. Als goedbedoelde maatregelen in het tegengaan van fraude prioriteit hebben, maar je beseft dat het ook ongewenste gevolgen heeft, zoals ongelijke behandeling of discriminatie, dan volgt een ethische afweging: wat is belangrijk? Meestal betekent het handelen in strijd met waarden, dat de belangen van individuen geschaad worden. Welke waarden en belangen hebben prioriteit en hoe beperk je de risico’s? Verantwoorde data-ethiek omvat ook maatregelen die het risico op schade beperken en bijvoorbeeld tot transparantie leiden. Uiteindelijk is ethische reflectie een vast onderdeel van ieder (data)project.

2

3. Kader en leidende principes Een kader met principes is de eerste stap om verantwoorde data-ethiek in te voeren in onze organisatie. We stellen voor aan te sluiten bij de publieke waarden, zoals die genoemd zijn in het document “Waardevol digitaliseren” van het Rathenau Instituut (2018). Gemeenten als Utrecht en Amsterdam gaan ons voor in het gebruiken en toepassen van deze waarden. Daarnaast hebben we ons gericht op de Handreiking digitale ethiek van de VNG (2022: handreiking_digitale_ethiek.pdf (vng.nl)), het universeel toepasbaar waarden en normenkader, waarop de Global Goals (SDG’s) gegrondvest zijn en bij vastgestelde principes vanuit de VNG (zie bijlage 1 en 2). De principes van de VNG vormen een gemeenschappelijk kader voor gemeenten en voegen daar nog een nadere specificering aan toe met betrekking tot de digitale samenleving. Hiervan afgeleid en toegepast op data en technologie stellen we de volgende kernwaarden voor: Rechtvaardigheid, Menselijkheid en Autonomie. De voorgestelde kernwaarden zijn verder uitgewerkt in onderstaande onderdelen: •

Rechtvaardigheid: we dragen bij aan rechtvaardigheid, gelijke kansen en inclusiviteit. Onze digitale oplossingen zijn laagdrempelig en waardevol voor iedereen. We zijn alert op het voorkomen van ongewenste vooringenomenheid bij de selectie van data. Ook letten we erop dat er geen discriminatie, stereotypering of vooroordelen in algoritmes zit (bias).

•

Menselijke waardigheid: we behandelen bewoners, ondernemers en bezoekers als mensen, niet als ‘nummer’. Onze digitaliseringstrajecten sluiten aan bij de leefwereld en behoeften van de mensen in onze gemeente. De mens is altijd leidend , niet de techniek/data.

•

Privacy: we beschermen de privacy van bewoners en ondernemers. Data van inwoners worden geanonimiseerd gebruikt en zijn niet herleidbaar tot een persoon. We gebruiken ‘Privacy by design’ en doen onderzoek naar de impact van digitaliseringstrajecten op de privacy.

•

Veiligheid: we waarborgen de openbare orde en veiligheid, zodat iedereen zich veilig voelt in onze gemeente. We beveiligen onze data. Via cybersecurity bereiden we ons voor op digitale aanvallen.

•

Autonomie: we respecteren menselijke autonomie (vrijheid). We vermijden onbewuste beïnvloeding, manipulatie en stimulering van dwangmatig gedrag of overheidstoezicht (‘Big Brother’). We zijn terughoudend met het gebruik van data waarmee we gebruikers kunnen volgen, hun reputatie schaden of hun toekomst negatief kunnen beïnvloeden.

•

Controle over technologie: we controleren op natuurlijke momenten of onze digitaliseringstrajecten nog goed werken. We toetsen of digitale oplossingen echt meerwaarde hebben voor de gemeente. We letten op datastromen en -opslag. Door open en transparant om te gaan met data en informatie, kan iedereen deelnemen op basis van dezelfde kennis en inzichten.

•

Kwaliteit van leven/duurzaamheid: we vinden gezond en duurzaam leven belangrijk in Leeuwarden. We zoeken naar duurzame oplossingen waarbij de gezondheid van bewoners, ondernemers en bezoekers voorop staat. Dat geldt ook voor onze digitaliseringstrajecten.

3

4. Structuur en werkwijze Werkwijze Verantwoorde data-ethiek moet een systeem van checks en balances worden dat is ingebed in de organisatie en in alle fasen van een (data)project aan de orde is. Al te vaak wordt ethiek

geassocieerd met een soort externe beoordeling. Maar ethiek moet zich juist met de techniek verbinden. Het gaat erom het samenspel tussen data, mens en samenleving op een goede manier te begeleiden, en in een participatief proces te zoeken naar zinvolle en verantwoorde toepassingen. Door te identificeren welke impact data kunnen hebben op mens en maatschappij, en de waarden die daarbij in het geding zijn een plek te geven in het ontwerp, de maatschappelijke inbedding en het gebruik van die systemen. Op deze manier blijft het ontwikkelen van mensgerichte en maatschappelijk verantwoorde processen op basis van eerlijke data niet bij het formuleren van algemene principes, maar wordt ethiek concreet verbonden met de technologische praktijk: het leidt tot een ethiek ‘van binnenuit’ en niet alleen ‘van buitenaf’. Bovendien krijgt ethiek hierdoor niet alleen een negatieve, maar ook een positieve rol: naast het formuleren van de grenzen van wat we niet willen, richt ze zich op het formuleren van de voorwaarden/handelingsopties om te bereiken wat we wél willen. (Manifest Mensgerichte AI, november 2020) Naast de afgesproken principes, bevat dit plan ook een voorstel voor sturing daarop met onderstaand beschreven werkwijze, organisatie en bemensing. Het bestaat uit de volgende onderdelen:

Pre-startfase van een (data)project: 1. Ethics by design: In de startfase van een (data)project moet de eerste ethische afweging plaats vinden. In die fase kun je namelijk nog besluiten een project niet uit te voeren of aan te passen als uit de ethische afweging (willen we het?) blijkt dat grenzen aan waarden en normen overschreden worden. Er is o.a. een Data Ethics Canvas (ODI, bijlage 3) beschikbaar om het ethisch bewustzijn binnen een project te bevorderen en het gesprek over ethiek te faciliteren. Ook andere tools kunnen ingezet worden. 2. Advies van de interne experttafel (IM-ICT): Voor de eerst verantwoordelijken (opdrachtgever en projectleider) is bovengenoemde ethische afweging misschien moeilijk te maken. Een deel van de experttafel wordt aangevuld met een ethisch adviseur, zodat dat deze ook om advies in ethische vraagstukken gevraagd kan worden. Dat leidt tot een advies aan de projectleider.

4

Startfase van een (data)project: 3. Data en Ethische Privacy Impact Analyse (DEPIA): als besloten is tot uitvoering van een (data)project, wordt onder verantwoordelijkheid van de projectleider samen met de Functionaris Gegevensbescherming (FG) eerst een pre-DPIA uitgevoerd. Als daaruit blijkt dat er risico’s zijn op het gebied van privacy en ethiek, wordt een data en ethische privacy impact analyse (DEPIA) uitgevoerd. Deze is beschikbaar op intranet. Met de DEPIA breng je de ethische en privacyrisico’s in kaart en benoem je randvoorwaarden en de te nemen beheersmaatregelen. Een aantal leden van de interne experttafel en privacy-deskundigen per domein zijn beschikbaar om bij de invulling van de DEPIA te adviseren. De FG en ISO toetsen vanuit hun rol de DEPIA om te bepalen of de voorgestelde maatregelen om risico’s te beperken afdoende zijn. 4. Afdekken risico’s in inkoopcontracten met leveranciers. Betrokkenheid daarbij van 2e lijnscontrole in de verschillende domeinen. Bij deze inkoopcontracten moet al duidelijk zijn vanuit de adviezen van de interne experttafel en de FG en CISO (via de DEPIA) waar de aandachtspunten liggen voor het sluiten van een contract.

Tijdens en na de uitvoering van een (data)project: 5. Tijdens de uitvoering van een project is de projectleider verantwoordelijk voor monitoring en evaluatie van getroffen maatregelen en eventuele bijstelling ervan. 6. Meer in de toezichthoudende rol kan ook het expertteam ingezet worden of besloten worden tot uitvoering van audits, bijvoorbeeld op de werking van algoritmes. 7. Het doel is om het ethisch bewust handelen in de organisatie in te bedden. Veel afwegingen kunnen binnen een (data)project, met behulp van de betrokken deskundigen worden gemaakt. Om allereerst het bewustzijn te vergroten, wordt ingezet op met elkaar in gesprek gaan over dit onderwerp. Hiervoor kunnen de ethisch adviseur en een aantal leden van de experttafel worden ingezet. Daarna zal via bewustzijnsprogramma’s het bewust handelen moeten worden vergroot en geborgd. De financiele middelen hiervoor moeten nog gevonden/geregeld worden. 8. Wanneer na de uitvoering van het moreel beraad een advies volgt, waaruit blijkt dat verschillende waarden en belangen afgewogen moeten worden, of als grenzen moeten worden opgezocht van wat fatsoenlijk, moreel en ethisch toelaatbaar is, kan het advies zijn om de Ethische Commissie in te schakelen. Deze onafhankelijke commissie kan als adviseur van het bestuur gevraagd, maar ook ongevraagd, voor advies ingeschakeld worden.

Deze kan ook periodiek over de interne ethische afwegingen worden geinformeerd en gevraagd worden om deze te evalueren. Op die manier ontstaat er een totaal proces van ethische afwegingen en transparantie daarin. Ook voor deze commissie zijn nog geen financiën beschikbaar. Hiermee kan intern gestart worden, waarna deze extern uitgebreid gaat worden, zodra de kosten gedekt zijn.

Genoemde functies en gremia worden nader toegelicht in de volgende paragraaf.

5

Structuur Het voorstel is om voor de uitvoering zoveel mogelijk aan te haken bij de bestaande structuur rondom ICT, privacy, informatieveiligheid, kwaliteit en interne controle. We benutten de bestaande three lines of defence als het gaat om interne controle en toezicht. Maar tegelijkertijd organiseren we verantwoorde data-ethiek ook aan de voorkant van projecten. Ondermeer door de introductie van data-ethische advisering binnen de bestaande experttafel, die vooral aan het begin van data-projecten adviseert. We willen klein beginnen met verantwoorde data-ethiek en dit langzaam opbouwen. Eerste verantwoordelijke voor data-ethiek is de CIO (Jeroen Kremer). Samen met CISO (Freddy Dijkstra), FG (Michel Boot), VIC (Sander Penninga) en IT-auditor (Sietske Coster) vormt hij de 3e controlelijn. De 2e lijns controle is georganiseerd binnen de domeinen bij privacy officer (vacature), Information security officers (Alexander Blom en Isa de Ruiter) en juristen JVZ (Suzanne Scholten), Griffie, Concern, Sociaal Domein en Publieke Dienstverlening (vacture) en Fysiek (Harmen Jonker). De 1e lijns verantwoordelijken voor verantwoorde data-ethiek zijn altijd de opdrachtgever en projectleider. Aan de interne experttafel nemen nu deel: de adviseurs op het gebied van ICT Infra (Paul Stege),

Informatiearchitectuur en Gegevensmanagement (Susanne Spaan en Edwin Kuipers), Security/ISO (Alexander Blom en Isa de Ruiter), Record Management (Myra Schot), Portfolio Management (Kenny Zwiers) en Privacy (Sandra van Riet). Voorgesteld wordt de opdracht aan de interne experttafel uit te breiden met de ethische adviesfunctie. De experttafel wordt in een vroeg stadium betrokken bij ethische afwegingen in data-projecten. Een deel van de teamleden krijgen een training in moreel beraad en hebben tools ter beschikking om tot adviezen te komen. Voorgesteld wordt ook om een Adviseur data-ethiek aan te stellen en deze rol onder te brengen bij de Adviseur gegevensbescherming, voorlopig ca. 0,5 fte. • Hij of zij vult de 2e controlelijn aan; • neemt zitting in de lokale experttafel t.b.v. integrale afwegingen binnen projecten met een ICT component; • stemt regelmatig af met de FG over privacy-toezicht overstijgende zaken; • bouwt met betrokken mensen, gremia en beschikbare tools verantwoorde data-ethiek verder op in onze organisatie. Op termijn kan een ethische commissie (met onafhankelijke status) ingesteld worden om, op aandragen vanuit het moreel beraad, voorafgaand aan een project een ethisch advies te geven. Daarnaast kan de commissie gevraagd worden om na projectuitvoering ethisch te reflecteren en het bestuur (niet bindend) te adviseren.

Gemeente Enschede en Hilversum hebben als eerste gemeenten in Nederland dit inmiddels goed ingeregeld. Daarbij heeft de ethische commissie ook een duidelijke plek binnen de gemeentelijke organisatie (De ethische commissie voor de slimme stad rukt op: ‘duidelijke rol in de organisatie

nodig’ - Stadszaken.nl)

6

Vanuit die voorbeelden stellen we de volgende uitgangspunten voor rondom de ethische commissie:

De ethische commissie: helpt het bestuur met het bepalen van wat zij ethisch toelaatbaar vindt. geeft het bestuur hierover periodiek gevraagd en ongevraagd advies, dat niet bindend is. legt mores prudentie vast, hetgeen het geweten wordt van de organisatie. heeft een onafhankelijke status. is samengesteld uit deskundigen: een mix van in- en extern t.b.v. diversiteit aan perspectieven. Eventueel kan ook een burgerpanel ingezet worden. legt eigen werkwijzes vast in procedures van wat uitingsvormen zijn, of de adviezen openbaar (om het bewustzijn te bevorderen) of niet openbaar zijn etc. betrekt de FG als vaste adviseur voor juridisch advies.

Het advies is een externe vacature voor het voorzitterschap van een dergelijke commissie uit te schrijven.

5. Korte termijn acties • Plan van aanpak afstemmen met wethouder Jacobse (29-8 afgerond) • Bespreking in DO, B&W, ter info naar de Raad (volgt 5 oktober) • Bij experimenten LDA (o.a. Matching the skills, Leeuwarden van boven) beschikbare tooling • •

uitproberen t.b.v. ethische reflectie (september 2022 afgerond) Bemensing ethisch adviesteam invullen. Daarbij vanuit ervaring opdoen, bepalen hoe dit adviesteam verder te organiseren. Trainingen/presentaties in moreel beraad organiseren (start eind 2022/begin 2023)

7

Bijlage 1: Ethische principes social development goals De ethische principes die de besluitvorming in het kader van te behalen SDG’s begeleiden zijn:

8

Bijlage 2: principes voor de digitale samenleving - VNG I.

Van maatschappelijke waarde Dataverzameling in de openbare ruimte en het gebruik van die data mag publieke waarden niet schaden. Initiatieven staan zoveel mogelijk ten dienste van het maatschappelijk belang en dragen bij aan de leefbaarheid. Gemeenten stimuleren andere partijen om dit voorop te stellen.

II.

Rechten over data geregeld Data is open, inzichtelijk en gedeeld, tenzij wet- en regelgeving, veiligheidsrisico’s of beschikkingsrechten op de data dit beperken. Een individu heeft beschikkingsrecht op data over hem of haar en beslist of dit gedeeld mag worden met anderen en wat er verder mee gebeurt, tenzij wet- en regelgeving dit beperken.

III.

Toegankelijke en veilige digitale infrastructuur De digitale infrastructuur voor dataverzameling en -(her)gebruik is voor iedereen goed beschikbaar en toegankelijk. De gebruikte technologie is veilig, inzichtelijk, koppelbaar en kent "open interfaces", "open protocollen”. Zij is ingericht conform wet- en regelgeving rond privacy en security en maakt gebruik van (open) standaarden.

IV.

Partijen verbonden Marktpartijen, instellingen, overheden en inwoners werken samen waar dat voor hen wenselijk, respectievelijk nodig is. Zij zijn allen leveranciers en/of gebruikers van netwerkvoorzieningen, de apparatuur, de connectiviteit en de ‘slimme’ diensten. Gemeenten regisseren en reguleren waar nodig en mogelijk, het gebruik, de toegang, de inrichting, beschikbaarheid en de veiligheid van de digitale infrastructuur.

V.

Transparantie centraal Marktpartijen, instellingen, overheden en inwoners zijn zoveel mogelijk transparant over apparatuur en technologie in de openbare ruimte. Gemeenten stimuleren hen om dit te doen.

Bijlage 3- Voorbeeld moreel beraad

9

Bijlage 4- Ethisch Canvas – ODI ( Data-Ethics-Dutch-Canvas-colour.pdf (theodi.org))

10