Handreiking-Digitale-Ethiek---VNG (toegevoegd 9 februari 2022)
Tekst van het document
in ook het waardenkader mee. De projectleider legt verantwoording af aan het sectorhoofd. De projectlei-
Daarnaast, als een gemeente zelf digitale technologie
der kan contact opnemen met de coördinator ethiek
ontwikkelt, vindt deze ontwikkeling plaats onder zijn
indien een ethisch advies is gewenst.
of haar verantwoordelijkheid plaats. Wanneer de digi-
Coördinator
De coördinator ethiek zorgt dat een ethisch team
Ethiek
wordt samengesteld dat op verzoek van de project-
tale technologie wordt ingezet in het reguliere proces,
leider een ethisch advies kan formuleren. De sector strategie zal in afstemming met de andere sectoren zorgen voor deskundigheidsbevordering. De coördinator ethiek is tevens secretaris ethische commissie. Ethisch team
Het ethisch team bestaat uit mensen die speciaal
verschuift de verantwoordelijkheid naar de inhoudelijke portefeuillehouder. In de gemeenten waar de raad een waardenkader heeft vastgesteld, is dit in het college verder uitgewerkt door
zijn toegerust om een (technologie)ethisch gesprek
het vaststellen van een werkwijze (Eindhoven) en een vast
te voeren en een advies te schrijven. Het ethisch
onderdeel in de reguliere begrotings- en verantwoordings
team helpt de projectleiders bij het gebruik van het waardenkader. De ethische teams worden ondersteund met intervisie, cursussen, workshops, etc. Het werk wordt verricht als neventaak en met instemming van het sectormanagement.
21
• Degene die inhoudelijke verantwoordelijk is, is in de
cyclus (Utrecht).
BIJLAGE 1
Verdieping & naslag: kaders, instrumenten en hulpmiddelen Leeswijzer bijlage 1 Deze bijlage bevat een overzicht van beschikbare kaders, instrumenten en hulpmiddelen voor verdieping en naslag. Dit overzicht is gecategoriseerd naar: •
een overzicht van documenten gericht op toepassing van waarden en fundamenten
•
een overzicht van praktische toepassingen en organisatie inrichting
•
overig
Van ieder document wordt een korte samenvatting gegeven, er wordt aangegeven voor wie het relevant is en waar het te vinden is.
Inhoudsopgave
A.
Documenten gericht op waarden en fundamenten.................................................................................. 24
Principes voor de Digitale Samenleving (VNG)...........................................................................................................................................24 Ethics Guidelines For Trustworthy AI (Europese Commissie).........................................................................................................24 Richtlijnen voor het toepassen van algoritmen door overheden en publieksvoorlichting over data-analyses (Min JenV, 2021)..................................................................................................................................................................... 25 Beschrijving zeven publieke waarden (Eindhoven, 2021)................................................................................................................... 25 Code Goed Digitaal Openbaar Bestuur (CODIO) (Universiteit Utrecht, 2021)....................................................................26 Manifest (TADA)....................................................................................................................................................................................................................26 Manifest (Cities Coalition for Digital Rights)..................................................................................................................................................
27 Vijf dataprincipes (Gemeente Hilversum)....................................................................................................................................................... 27 Agenda Digitale Grondrechten en Ethiek 2022-2026 (concept, VNG 2021).........................................................................28 Waardevol digitaliseren (Rathenau Instituut, 2018).................................................................................................................................28 B.
Documenten gericht op praktische toepassing en organisatie inrichting....................................... 29
Samenvatting werkwijze toepassing waardenkader (Eindhoven, 2021).................................................................................30 Handleiding Moreel Beraad (Overlegorgaan Fysieke Leefomgeving).....................................................................................30 De Ethische Data Assistent: DEDA (UU)...........................................................................................................................................................30 Impact Assessment Mensenrechten en Algoritmes (IAMA)............................................................................................................30 Toolbox Ethisch Verantwoorde Innovatie (Ministerie Binnenlandse Zaken).......................................................................30 Data Ethics Canvas (Open Data Institute)........................................................................................................................................................ 31 Value-Sensitive Design (Friedman, 1996).......................................................................................................................................................... 31 Aanpak begeleidingsethiek (Peter-Paul Verbeek et al.).......................................................................................................................
31 Sturen of gestuurd worden? (Raad voor Openbaar Bestuur)......................................................................................................... 32 Raad weten met digitalisering (Rathenau Instituut)............................................................................................................................. 32 Ethiekgids (Stichtse Vecht)......................................................................................................................................................................................... 33 C.
Overig.......................................................................................................................................................................... 34
Handleiding Algemene verordening gegevensbescherming (Ministerie van J&V)......................................................34 Mediation Theory (Peter-Paul Verbeek)............................................................................................................................................................34 Opgave AI (Wetenschappelijke Raad voor Regeringsbeleid)..........................................................................................................34 Doelgericht digitaliseren (Rathenau Instituut, 2018).............................................................................................................................. 35 Ongevraagd advies over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen (Raad van State)............................................................................................................................................................................... 35 Kabinetsreactie op drietal onderzoeken naar algoritmen (Min JenV, 2020).......................................................................36 Opwaarderen: Borgen van publieke waarden in de digitale samenleving (Rathenau Instituut, 2017)..........36
Handreiking Digitale Ethiek
A.
Documenten gericht op waarden en fundamenten
Principes voor de Digitale Samenleving (VNG) Samenvatting
Ethics Guidelines For Trustworthy AI (Europese Commissie)
De VNG heeft samen met gemeenten de ‘Principes voor
Samenvatting
de digitale samenleving’ ontwikkeld. De eerste tranche
De High Level Expert Group on Artifical intelligence van de
principes die zijn ontwikkeld richt zich op dataverzameling
EU heeft de ethische richtlijnen voor Kunstmatige Intelligentie
en datagebruik in de openbare ruimte. De principes zijn
ontwikkeld. Betrouwbare kunstmatige intelligentie bestaat
fundamentele kaders om publieke waarden zoals autonomie,
volgens de auteurs uit drie componenten, zij moet wettig,
privacy en controle op technologie te realiseren. Dit betekent
ethisch en robuust zijn. Binnen het ethische component
niet dat gemeenten deze principes reeds verwezenlijkt hebben.
beschrijven de auteurs vier beginselen:
Het zijn ambities waar gemeenten naar toe werken. De
1. Respect voor menselijke autonomie
principes voor de digitale samenleving betreffen:
2. Preventie van schade
•
Datagebruik moet ten dienste zijn van het maatschappelijk
3. Rechtvaardigheid
belang
4. Verantwoording
•
Data is open, inzichtelijk en gedeeld – rechten over data zijn geregeld
Bijzondere aandacht verdienen situaties waarbij kwetsbare
•
Toegankelijke en veilige infrastructuur
groepen, zoals kinderen, zijn betrokken of waarbij er sprake
•
Samenwerking tussen marktpartijen, overheden,
is van een machtsrelatie, zoals op de werkvloer. De genoemde
instellingen en inwoners
beginselen worden door de Expert Group vertaald naar zeven
Transparantie over technologie in de openbare ruimte
vereisten, die in onderstaande afbeelding zijn weergegeven.
•
Met dit document ga je aan de slag als je… •
Op zoek bent naar bouwstenen voor goed ICT-beleid, een kader, met ambities en doelstellingen, om publieke waarden zo goed mogelijk te borgen.
•
Bijvoorbeeld wanneer je met je gemeente bezig bent met het formuleren van een digitale visie of strategie.
Vindplaats https://vng.nl/sites/default/files/2019-11/09a-bijlage-principesvoor-de-digitale-samenleving.pdf
Met dit document ga je aan de slag als je… •
Op zoek bent naar bouwstenen voor goed ICT-beleid, specifiek gericht op kunstmatige intelligentie.
•
Op zoek bent naar een breed toetsingskader om de inzet van kunstmatige intelligentie aan te toetsen.
Vindplaats https://op.europa.eu/en/publication-detail/-/publication/ d3988569-0434-11ea-8c1f-01aa75ed71a1
25
Handreiking Digitale Ethiek
Richtlijnen voor het toepassen van algoritmen door overheden en publieksvoorlichting over dataanalyses (Min JenV, 2021)
•
Behoefte hebt aan een richtlijn die vereisten biedt met betrekking tot het ontwikkelen en gebruik van algoritmen door de overheid, en ten behoeve van de bijbehorende
Samenvatting
publieksvoorlichting. Deze richtlijnen zijn niet gericht op de
Het ministerie van Justitie en Veiligheid heeft richtlijnen
vereisten rond het proces en de organisatie-inrichting.
opgesteld ten behoeve van het ontwikkelen en het gebruiken van algoritmen door de overheid en de daarbij horende
Vindplaats
publieksvoorlichting. Deze richtlijnen zijn vooral gericht op
https://www.rijksoverheid.nl/documenten/
transparantie. De richtlijnen bevatten hiertoe vereisten met
richtlijnen/2021/09/24/richtlijnen-voor-het-toepassen-van-
betrekking tot:
algoritmen-door-overheden-en-publieksvoorlichting-over-data-
•
analyses
Bewustzijn en inperking van risico’s: Iedereen die met algoritmen werkt, of ze ontwerpt, moet zich bewust zijn van risico’s op fouten en ongewenste bias te beperken.
Beschrijving zeven publieke waarden (Eindhoven, 2021)
Transparantie en uitlegbaarheid: Overheden moeten
Samenvatting
in begrijpelijke taal uitleg kunnen geven aan inwoners
De gemeenteraad van Eindhoven heeft zeven waarden
over de uitkomsten van algoritmische data-analyse met
vastgesteld die van toepassing zijn bij digitalisering. Per waarde
aanmerkelijke impact voor inwoners
staan er in het document enkele hulpvragen geformuleerd.
Gegevensherkenning: Indien van toepassing, moet de
Dit overzicht van waarden is eveneens een toetssteen die
wijze waarop de parameterisering en de keuze voor
wordt gebruikt door de ethische commissie van de gemeente
trainingsgegevens tot stand is gekomen beschreven
Eindhoven.
worden, gepaard met een verkenning van de potentiële
•
de risico’s van algoritmen, en maatregelen treffen om de •
•
onbevangen zijn leven invulling geven.
discriminerende factoren. •
Auditeerbaarheid: Modellen, algoritmen, data en
•
•
Verantwoording: Overheden dragen verantwoordelijkheid
gegevens van de Eindhovenaar in bruikleen. •
Veiligheid: de Eindhovenaar voelt zich veilig in de stad en
daarover verantwoording af.
veilig bij de gemeente. In hoeverre is het project direct of
Validatie: Overheden moet hun modellen valideren, het
indirect van invloed op het gevoel van veiligheid van de
wordt aangemoedigd de resultaten hiervan openbaar te
Eindhovenaar? •
Controle over technologie: de Eindhovenaar mag erop
Toetsbaarheid: Data-analyse dient zo ingericht te zijn dat
vertrouwen dat de gemeente grip heeft op de gebruikte
het goed kan worden getoetst, bijvoorbeeld door een rechter
technologie en krijgt zelf grip waar mogelijk.
of toezichthouder. •
Privacy: de Eindhovenaar wordt niet aangetast in zijn persoonlijke levenssfeer; de Gemeente heeft de digitale
maken. •
•
zodat ze achteraf geverifieerd kunnen worden. voor de ontwikkeling en inzet van hun algoritmen en leggen •
Mens centraal: de Eindhovenaar staat bij de gemeente als mens centraal.
beslissingen met aanmerkelijk effect voor individuele inwoners moeten gedocumenteerd en vastgelegd worden,
Autonomie: de Eindhovenaar kan vrij van invloed en
•
Duurzaamheid: de gemeente kiest voor een oplossing die gunstig is voor leefomgeving en het klimaat.
Publieksvoorlichting: De algemene informatie over dataanalyses die door de overheid bekend wordt gemaakt dient aan een aantal voorwaarden te voldoen, zo moet zij
Met dit document ga je aan de slag als je…
beknopt, transparant en begrijpelijk zijn.
•
Op zoek bent naar bouwstenen voor goed ICT-beleid
•
Bijvoorbeeld wanneer je bezig bent een waardenkader
Voor elk van deze punten staan in deel twee een lijst met taken die moeten worden vervuld om de bovengenoemde onderdelen
op te stellen voor jouw organisatie en op zoek bent naar
te borgen.
inspiratie.
Met dit document ga je aan de slag als je…
Vindplaats
•
Op zoek bent naar bouwstenen voor goed ICT-beleid
https://raadsinformatie.eindhoven.nl/user/agenda/action=view/
•
Behoefte hebt aan richtlijnen voor het ontwikkelen
id=1389
en gebruiken van algoritmes door de overheid en de bijbehorende publiekscommunicatie. 26
Handreiking Digitale Ethiek
Code Goed Digitaal Openbaar Bestuur (CODIO) (Universiteit Utrecht, 2021)
Manifest (TADA)
Samenvatting
Het TADA manifest heeft als centraal uitgangspunt dat
De Code Goed Digitaal Openbaar Bestuur (CODIO) is een
mensen zeggenschap moeten behouden over hun eigen data.
aanvulling op de reeds bestaande Code goed openbaar bestuur.
Het TADA manifest geeft een overzicht van waarden voor een
Zij omvat een overzicht van drie fundamenten, zes principes
verantwoorde digitale stad. Het manifest is geïnitieerd door de
en dertig waarden. De code brengt de waarden in kaart waar
gemeente Amsterdam, en is ook ondertekend door bedrijven,
overheidsorganisaties zich aan committeren om goed digitaal
onderwijsinstellingen, maatschappelijke organisaties en
bestuur te verwezenlijken. De waarden zijn gebaseerd op een
individuele inwoners. De zes waarden luiden:
onderzoek, waarbij onder andere is gekeken naar (inter)
1. Inclusief: rekening houden met verschillen, zonder
Samenvatting
nationale digitale codes.
gelijkwaardigheid uit het oog te verliezen. 2. Zeggenschap: Data en technologie moeten bijdragen aan de vrijheid van inwoners. Data zijn dienend. 3. Menselijke maat: Data en algoritmen hebben niet het laatste woord. menselijkheid gaat altijd voor. Mensen hebben het recht vergeten te worden. 4. Legitiem en gecontroleerd: Bewoners en gebruikers hebben zeggenschap over de vormgeving van onze digitale stad. 5. Open en transparant: Welke data worden verzameld? Waarvoor? En met welke uitkomsten en resultaten? Daarover zijn we altijd transparant. 6. Van iedereen – voor iedereen: Data die overheden, bedrijven en andere organisaties uit de stad genereren en over de stad verzamelen zijn gemeenschappelijk bezit. Iedereen kan ze
Met dit document ga je aan de slag als je… • •
gebruiken.
Op zoek bent naar bouwstenen voor goed ICT-beleid, in de vorm van een breed waardenkader.
Met dit document ga je aan de slag als je…
Bijvoorbeeld wanneer je een visie, agenda of strategie voor
•
Op zoek bent naar bouwstenen voor goed ICT-beleid
de digitalisering van jouw organisatie aan het schrijven
•
Bijvoorbeeld wanneer je bezig bent een waardenkader op te
bent. •
Wanneer je een kader zoekt om discussies over digitalisering mee te voeren.
•
Je jouw organisatie graag wilt aansluiten bij een reeds bestaand waardenkader.
Vindplaats
Vindplaats
https://www.uu.nl/sites/default/files/CODIO%20-%20
https://tada.city/
Definitief%20-%20Opgemaakt%20-%20210416.pdf
27
stellen voor jouw organisatie en op zoek bent naar inspiratie
Handreiking Digitale Ethiek
Manifest (Cities Coalition for Digital Rights)
Vijf dataprincipes (Gemeente Hilversum)
Samenvatting
Samenvatting
De Cities Coaliton for Digital Rights, geïnitieerd door de
De gemeente Hilversum heeft vijf dataprincipes geformuleerd.
steden Amsterdam, Barcelona en New York in 2018 kent
Hiermee moet duidelijk worden op welke wijze data verzameld
ongeveer vijftig aangesloten steden. Achterliggende gedachte
mag worden. Elk principe is uitgewerkt in nadere doelstellingen
was dat steden doorgaans het democratische instituut zijn
voor hoe de gemeente omgaat met data. Hieronder staan de vijf
dat het dichtstbij de inwoner staan. Daarnaast krijgen steden
principes vermeld, met een korte samenvatting van de nadere
in toenemende mate te maken met de consequenties van
doelstellingen.
de schendingen van digitale rechten. Deze coalitie heeft een
•
Data zijn toegankelijk. Data verkregen uit de openbare
verklaring opgesteld, waarin enkele belangrijke waarden naar
ruimte in opdracht van de gemeente zijn openbaar en
voren komen:
er zijn duidelijke afspraken met private partijen over het
•
verzamelen van data.
Iedereen moet universele en gelijke toegang hebben tot het internet en digitale vaardigheden
• •
en inzicht over wat er gebeurt met hun data.
de in de openbare ruimte verzamelde data, en informeert
Iedereen heeft het recht op begrijpelijke informatie over
daarover. •
Data zijn veilig. Er is een recht op de bescherming van
hebben op hun leven en de mogelijkheid de eerlijkheid of
persoonsgegevens, waarbij ‘privacy by design’ de norm is
bias van systemen te bevragen.
en data is geanonimiseerd. Alle onderdelen voldoen aan
Iedereen heeft het recht te participeren in het vormgeven
normen en wetgeving voor gegevensbeveiliging en de AVG.
van lokale digitale infrastructuur en stedelijk digitaal beleid. •
Data zijn transparant. Er is openbare toegang tot informatie over de datasystemen en de gemeente heeft de regie over
technologische, algoritmische en KI-systemen die impact
•
•
Iedereen heeft recht op privacy, dataveiligheid en controle
•
Data zijn open toegankelijk. Iedereen heeft op gelijkwaardige
Iedereen heeft het recht te kiezen welke technologie ze
wijze en onder zelfde voorwaarden toegang en iedereen
gebruiken; Steden moeten gebruik maken van open en
moet eigen technologie kunnen gebruiken om de data te
ethische digitale dienstverleningsstandaarden.
benaderen. •
Kwaliteit van Data. De kwaliteit van de data is
Met dit document ga je aan de slag als je…
vastgelegd en kan ingezien of opgevraagd worden. De
•
Op zoek bent naar bouwstenen voor goed ICT-beleid
informatiebeveiliging voldoet aan de eisen die gesteld
•
Bijvoorbeeld wanneer je bezig bent een waardenkader op te
worden aan de overheid
stellen voor jouw organisatie en op zoek bent naar inspiratie •
Je jouw organisatie graag wilt aansluiten bij een reeds
Met dit document ga je aan de slag als je…
bestaand waardenkader.
•
Op zoek bent naar bouwstenen voor goed ICT-beleid
•
Bijvoorbeeld wanneer je bezig bent een waardenkader
Vindplaats
op te stellen voor jouw organisatie en op zoek bent naar
https://citiesfordigitalrights.org/about-declaration
inspiratie. Vindplaats https://open-hilversum.hub.arcgis.com/pages/121-data-principes
28
Handreiking Digitale Ethiek
Agenda Digitale Grondrechten en Ethiek 20222026 (concept, VNG 2021)
Waardevol digitaliseren (Rathenau Instituut, 2018)
Samenvatting
In Opdracht van de VNG schreef het Rathenau Instituut een
De VNG stelt een Agenda Digitale Grondrechten en Ethiek
essay met als ondertitel ‘Hoe lokale bestuurders vanuit publiek
op. Deze kent twee voornaamste doelstellingen, namelijk het
perspectief mee kunnen doen aan het ‘technologiespel’ Ze
versterken van de kennis en kunde van ethische reflecties
beschrijven de noodzaak voor maatschappelijk verantwoorde
binnen de gemeentelijke organisaties en een impuls geven aan
digitalisering, de (on)mogelijkheden van digitale technologie
inspanning die worden verricht om (digitale) grondrechten
bij het versterken van de lokale democratie, hoe gemeenten zich
en publieke waarden te borgen bij het gebruik van digitale
steeds vaker presenteren als een platform voor innovatie en
technologieën. De VNG signaleert een disbalans in de
hoe digitale technologie kan bijdragen aan betere gemeentelijke
democratische rechtstaat, die ten dele is veroorzaakt door
dienstverlening.
Samenvatting
digitale ontwikkelingen. Zij signaleert die disbalans in de verhouding tussen:
De inzichten van het essay zijn – aldus de auteurs –
•
Inwoner-overheid
terug te brengen tot vijf cruciale processen binnen het
•
Overheid-overheid
‘technologiespel.’ `Vanuit deze vijf processen destilleren de
•
Markt-overheid
auteurs tien zichtlijnen. Deze tien zichtlijnen bieden een handelingsperspectief; het zijn adviezen aan lokale bestuurders
De VNG suggereert drie methoden waarmee lokale overheden
hoe zij digitale innovatie in hun gemeente richting kunnen
kunnen helpen deze disbalans herstellen:
geven.
Het In de praktijk brengen van waarden en principes
•
Het versterken van de relaties met andere overheidspartners
8.
Bescherm publieke waarden via debat, beleid, technologie en organisatie
Op zoek bent naar bouwstenen voor goed ICT-beleid, bijvoorbeeld omdat je een digitale agenda, visie of strategie
te
voor jouw organisatie aan het schrijven bent.
n
Je op zoek bent naar best practices van andere overheidsorganisaties.
Vindplaats
9.
erimenteren Exp
4.
Regel de ethiek van het living lab
3.
Innoveer samen en trek lessen uit de ervaringen rondom ICT
Experimenteer lokaal in de publieke ruimte
2.
Geef richting vanuit publieke waarden aan technologische en sociale innovatie
Exp
e rime nt ere n
5.
Heb oog voor de mogelijkheden van digitalisering
1.
6.
Verhelder nut en grenzen digitalisering vanuit publieke waarden
W aar
ken pak
VNG (2021). Concept Agenda Digitale Grondrechten & Ethiek.
wees helder over wat burgerparticipatie vermag
en ns Ka
e rime nt eren
•
Heb oog voor de risico’s van digitalisering in gehele datawaardeketen
Exp
ch za er sv
•
7.
o’ Risic
Met dit document ga je aan de slag als je…
n
en n ler ne 10. e k r Betrek burgers bij digitalisering en we
e rime nt eren
•
Exp
Het interne bewustzijn over technologieën vergroten
Sa m e
•
d er
en
Innoveer vanuit maatschappelijk transitieperspectief
Met dit document ga je aan de slag als je… •
Op zoek bent naar bouwstenen voor goed ICT-beleid
•
In het bijzonder als je een lokale bestuurder bent.
Vindplaats https://www.rathenau.nl/nl/digitale-samenleving/waardevoldigitaliseren
29
Handreiking Digitale Ethiek
B.
Documenten gericht op praktische toepassing en organisatie inrichting
Samenvatting werkwijze toepassing waardenkader (Eindhoven, 2021) Samenvatting De gemeente Eindhoven heeft beschreven hoe het waardenkader dat zij hebben opgesteld moet worden toegepast. Dit waardenkader wordt toegepast door het ethisch team, wat Raad
•
Ethische Commissie (extern)
Eindhoven. Er worden vijf stappen onderscheidde: Wat is de casus? Bij de eerste stap wordt de casus scherp in beeld gekregen en een stakeholder-analyse uitgevoerd. •
Kan het? Bij de tweede stap wordt er gekeken naar de
(on)gevraagd advies
onderdeel is van de ambtelijke organisatie van de gemeente
technische haalbaarheid van een voorstel. •
Mag het? Bij de derde stap wordt er gekeken naar de juridische haalbaarheid van een voorstel.
•
College
Moresprudentie
Is het wenselijk? Bij de vierde stap wordt er gekeken naar de Ethisch team (intern)
ethische wenselijkheid van het voorstel. Hierbij wordt er geredeneerd vanuit het waardenkader. De beschrijvingen
Ambtelijke organisatie
Ethisch advies
van de publieke waarden staat centraal. Het gaat eveneens over noodzaak, middel en doel. •
Hoe is het te verantwoorden en wat moeten we doen? Als
Met dit document ga je aan de slag als je…
slotvraag wordt er een concreet advies gegeven over of en
•
Op zoek bent naar hulpmiddelen om samen gestructureerd na te denken over verantwoorde digitalisering
hoe het project doorgang kan vinden. •
Als je op zoek bent naar inspiratie voor het inrichten van
Daarnaast heeft is de organisatie-inrichting erop aangepast
verantwoorde digitalisering binnen je organisatie, in het
digitale ethiek te borgen:
bijzonder via een ethische commissie.
•
•
De gemeente Eindhoven stelt een coördinator ethiek aan, die er voor zorg draagt dat er een ethisch team wordt
Vindplaats
vastgesteld. Dit ethisch team helpt de projectleider bij het
https://raadsinformatie.eindhoven.nl/user/agenda/action=view/
gebruik van het waardenkader.
id=1389
Daarnaast is er een onafhankelijk ethische commissie, die gevraagd en ongevraagd advies kan geven over nieuwe technologie.
Projectleider digitaliseringsproject vraagt ethisch advies
Ethisch team heeft gesprek met projectleider
Ethisch team stelt advies op
ethisch team samen looptijd 3 weken
30
Advies gaat naar projectleider en sectorhoofd
(moresprudentie)
Handreiking Digitale Ethiek
Handleiding Moreel Beraad (Overlegorgaan Fysieke Leefomgeving)
Impact Assessment Mensenrechten en Algoritmes (IAMA)
Samenvatting
Samenvatting
Het Overlegorgaan Fysieke Leefomgeving (onderdeel ministerie
Het Impact Assessment Mensenrechten en Algoritmes is een
I&W) heeft een eigen gespreksmethode ontwikkeld om ethische
instrument waarmee een afgewogen discussie over de inzet
vraagstukken die opkomen bij digitalisering te bespreken. Het
van algoritmen kan worden gevoerd. Deze discussies vinden
moreel beraad is ook toepasbaar bij andere morele kwesties dan
op verschillende momenten met verschillende actoren plaats.
digitalisering, zoals bijvoorbeeld bij de gezondheidszorg, waar
Dit Impact Assesment is namelijk opgedeeld in vier delen. De
het al langer gebruikt wordt.
vragen in de eerste drie delen hebben elk betrekking op een andere fase van voorbereiding tot monitoring. Het vierde deel
Deze handleiding bestaat uit een korte uitleg over wat een
omvat vragen die dieper ingaan op de grondrechtendiscussies
moreel beraad is, op welke momenten het bruikbaar is en een
die eventueel gepaard gaan met de inzet van een algoritme.
stappenplan voor de voorbereiding en uitvoering. Met dit document ga je aan de slag als je… Met dit document ga je aan de slag als je… •
Op zoek bent naar hulpmiddelen om samen gestructureerd na te denken over verantwoorde digitalisering.
•
•
Op zoek bent naar hulpmiddelen voor de duurzame legitimering van digitalisering.
•
In het bijzonder wanneer je een algoritme wilt gaan
Wanneer je een binnen jouw organisatie een ethisch
ontwikkelen of aan het ontwikkelen bent en je
dilemma tegenkomt, en je hierover binnen de organisatie
aandachtspunten in kaart wilt brengen.
op een gestructureerde manier het gesprek wilt voeren.
•
Een instrument zoekt dat inzetbaar is voor alle algoritmen, en in het bijzonder als het algoritme invloed kan hebben op
Vindplaats
grondrechten.
https://www.overlegorgaanfysiekeleefomgeving.nl/ publicaties/1962327.aspx
Vindplaats https://www.rijksoverheid.nl/documenten/
De Ethische Data Assistent: DEDA (UU)
rapporten/2021/02/25/impact-assessment-mensenrechten-en-
Samenvatting
algoritmes
De DEDA is een instrument waarmee ethische vraagstukken worden. De DEDA bestaat uit een interactieve vragenlijst,
Toolbox Ethisch Verantwoorde Innovatie (Ministerie Binnenlandse Zaken)
waarvan de vragen zijn gekoppeld aan verschillende fasen
Samenvatting
in het ontwikkelproces. Met de DEDA kunnen ethische
De toolbox voor ethisch verantwoorde innovatie is een website
vraagstukken expliciet worden gemaakt een de overwegingen
met verschillende handvatten voor ontwikkelaars en bestuurders
gedocumenteerd. Dit bevordert de verantwoording naar
en helpt overheidsorganisaties om op een ethisch verantwoorde
stakeholders en het publiek.
manier te innoveren. Het ministerie van BZK heeft zeven
bij datagerelateerde projecten geïdentificeerd kunnen
kernprincipes opgesteld. Bij elk principe geven zij enkele adviezen De DEDA is beschikbaar als poster met een toelichtende
en tools, bijvoorbeeld modellen, methodieken en leidraden.
handleiding. Er is ook een digitale versie beschikbaar. De adviezen en bijbehorende tools zijn niet uitputtend, maar Met dit document ga je aan de slag als je…
kunnen een mooi beginpunt en checklist vormen voor iedereen
•
die nieuwe technologieën toepast in de publieke sector.
Op zoek bent naar hulpmiddelen voor de duurzame legitimering van digitalisering.
•
Samen ethische problemen in dataprojecten,
Met dit document ga je aan de slag als je…
datamanagement en databeleid wilt herkennen en hiervoor
•
een structuur zoekt.
Op zoek bent naar een overzicht met hulpmiddelen voor de duurzame legitimering van digitalisering.
Vindplaats
Vindplaats
https://dataschool.nl/deda/
https://www.digitaleoverheid.nl/dossiers/toolbox-ethischverantwoorde-innovatie/
31
Handreiking Digitale Ethiek
Data Ethics Canvas (Open Data Institute) Samenvatting
Aanpak begeleidingsethiek (Peter-Paul Verbeek et al.)
•
Het Data Ethics Canvas is een instrument voor iedereen die
Samenvatting
data verzamelt, deelt en gebruikt. Het is een vragenlijst die
De aanpak begeleidingsethiek legt geen focus op de ‘ja of
gebruikers stimuleert belangrijke ethische vragen te stellen
nee?’-vraag maar op de vraag ’met welke waarden zou deze
en op de antwoorden hierop te reflecteren. Voorbeelden
technologie ethisch kunnen worden toegepast? Zij kan worden
van vragen zijn 'Wat is het primaire doel van het gebruik
gebruikt binnen een organisatie of maatschappelijk speelveld.
van data in dit project?' en 'Op wie zou dit project een
•
Biedt een methode om het morele gesprek te voeren
negatieve invloed kunnen hebben?'
•
Focus op participatie, effecten en waarden
Het Data Ethics Canvas kan gebruikt worden voor ieder
•
Een dialoog kan worden gegeven in de vorm van een
•
datageralateerd project, onafhankelijk van de omvang of
workshop, bestaande uit drie fasen. Eerst wordt er gekeken
focus van het project.
of de deelnemers over de juiste kennis beschikken, vervolgens vindt er een dialoog plaats en op het einde
Met dit document ga je aan de slag als je… • •
worden handelingsopties geformuleerd.
Op zoek bent naar hulpmiddelen voor de duurzame legitimering van digitalisering.
In dit document worden de concepten van begeleidingsethiek
Samen ethische problemen in dataprojecten,
toegelicht en wordt de werking daarvan aan de hand van
datamanagement en databeleid wilt herkennen en hiervoor
voorbeeldcases geïllustreerd. Er wordt ook weergegeven hoe
een hulpmiddel zoekt.
begeleidingsethiek concreet in de praktijk kan worden gebracht binnen een organisatie.
Vindplaats https://theodi.org/article/the-data-ethics-canvas-2021
Met dit document ga je aan de slag als je… •
Value-Sensitive Design (Friedman, 1996) Samenvatting
Op zoek bent naar hulpmiddelen om samen gestructureerd na te denken over verantwoorde digitalisering .
•
Behoefte hebt aan een praktijkgerichte methode om over de
In dit essay wordt de verhouding tussen ontwerpkeuzes in
ethiek van een concreet digitaliseringsproject te praten, met
technologie en de impact die die keuzes hebben op waarden
voorbeelden en een methodiek.
weergegeven. Dit artikel helpt lezers begrijpen waarom Value Sensitive Design van belang is. Friedman gaat in op:
Vindplaats
•
Tijink & P. Verbeek (2019). Aanpak Begeleidingsethiek.
Hoe technische keuzes invloed hebben op menselijke autonomie
•
Hoe technische keuzes kunnen leiden tot bias
•
Hoe bias pas zichtbaar/significant kan worden wanneer de omstandigheden veranderen
Friedman gaat in dit artikel vooral in op de mogelijke problemen die kunnen ontstaan, en slechts beperkt op de manieren waarop deze kunnen worden verholpen. Met dit document ga je aan de slag als je… •
Op zoek bent naar wetenschappelijke literatuur over verantwoorde digitalisering.
•
Bezig bent met het inrichten van het ontwikkelproces van digitale oplossingen.
Vindplaats Friedman (1996), Value Sensitive-design in Interactions vol. 3 (6). Pp. 16 – 23.
32
Handreiking Digitale Ethiek
Sturen of gestuurd worden? (Raad voor Openbaar Bestuur)
Raad weten met digitalisering (Rathenau Instituut)
Samenvatting
Het Rathenau Instituut constateert dat digitalisering maar
In het advies 'Sturen of gestuurd worden?' wijst de ROB op
zelden op de politieke agenda staat. Hiermee zijn keuzes over de
de dringende noodzaak de legitimiteit van sturen met data te
inzet van technologie niet altijd onderhevig aan democratische
waarborgen. Volgens de Raad moet sturing met data niet alleen
controle, terwijl dit wel belangrijk is. Het Rathenau instituut
efficiënt en effectief zijn, maar ook legitiem. Dat houdt in dat:
heeft een denkraam ontwikkeld dat gemeenteraadsleden kan
•
partijen die sturen met data democratisch kunnen worden
helpen de complexiteit van digitalisering te ontrafelen. Daarbij
gecontroleerd.
horen vijf stappen:
machtsmisbruik en corruptie van deze partijen kan worden
1. Het expliciteren van beleidsdoelen: waar het allemaal mee is
•
Samenvatting
tegengegaan. •
het leervermogen van het openbaar bestuur kan worden
begonnen. 2. Het onderscheiden van interventiemogelijkheden:
versterkt.
instrumenten waarmee de gemeente kan sturen. 3. Het inventariseren van de mogelijke effecten van
Onderdeel van dit rapport is het datadebatdenkkader; hierin
digitalisering: voordelen, nadelen, onzekerheden, etc.
identificeert de Raad per fase enkele vragen die beantwoord
4. Het nagaan van de sturingsopties: waarmee verschillende
moeten worden, evenals belangrijke ontwikkelingen en uitdagingen. De vragen gaan elk in op verschillende aspecten
resultaten te realiseren en beleidsdoelen te dienen. 5. Het maken van een politieke keuze: hoe te sturen op een
van datasturing.
wenselijke uitkomst
Met dit document ga je aan de slag als je…
Met dit document ga je aan de slag als je…
•
•
•
•
Op zoek bent naar bouwstenen voor goed ICT-beleid en/of
Een gemeenteraadslid bent dat op zoek is naar
hulpmiddelen om samen gestructureerd na te denken over
hulpmiddelen om samen gestructureerd na te denken over
verantwoorde digitalisering.
verantwoorde digitalisering.
Inzicht wilt krijgen in de uitdagingen en
•
Je een debat over digitalisering aan het voorbereiden bent,
oplossingsrichtingen die horen bij legitieme sturing met
om zo een weloverwogen politieke en ethische afweging
data
over het onderwerp te kunnen maken.
Een praktische vragenlijst zoekt om datatoepassingen te toetsen.
Vindplaats https://www.rathenau.nl/nl/kennisgedreven-democratie/raad-
Vindplaats https://www.raadopenbaarbestuur.nl/documenten/ publicaties/2021/05/25/advies-sturen-of-gestuurd-worden
33
weten-met-digitalisering
Handreiking Digitale Ethiek
Ethiekgids (Stichtse Vecht) Samenvatting De Ethiekgids van de gemeente Stichtse Vecht richt zich op digitale ethiek. Zij biedt informatie over het belang van digitale ethiek, een overzicht van de relevantie een overzicht van relevante publieke waarden (afkomstig uit Opwaarderen van het Rathenau Instituut, voorbeelden van ethische dillema’s en een beschrijving van twee instrumenten: de DEDA en begeleidingsethiek. Samen met de publieke waarden en de drie ‘cultuurwaarden’ van de gemeente (respectvol, open en lef), is de gemeente tot zeven uitgangspunten gekomen: 1. Wij waarderen kritische vragen en beantwoorden deze serieus 2. We leggen uit welke gegevens we van je hebben en wat we er mee doen, als je ernaar vraagt. 3. Wij waken voor het behoud van autonomie en keuzevrijheid van onze inwoners en ondernemers bij de inzet van data 4. We zijn ons ervan bewust dat we met publieke data werken en zijn alert op hacks en privacy risico’s en voldoen aan de AVG. 5. We zoeken ruimte voor innovatie en nieuwe toepassingen van het gebruik van data, met behoud van het goede en menselijke. 6. We realiseren ons dat de inwoner/ondernemer meer is dan de data die over hem/haar bekend is. 7. We streven naar een gelijke informatiepositie voor inwoners, ondernemers en ambtenaren. Met dit document ga je aan de slag als je… •
Op zoek bent naar bouwstenen voor goed ICT-beleid en/of Hulpmiddelen om samen gestructureerd na te denken over verantwoorde digitalisering.
•
Inspiratie zoekt voor een breed document over ethisch digitaliseren.
Vindplaats Gemeente Stichtse Vecht (d.d., concept) Ethiekgids.
34
Handreiking Digitale Ethiek
C.
Overig
Handleiding Algemene verordening gegevensbescherming (Ministerie van J&V)
Opgave AI (Wetenschappelijke Raad voor Regeringsbeleid)
Samenvatting
Samenvatting
Het Ministerie van Justitie en Veiligheid heeft een handleiding
De Wetenschappelijke Raad voor het Regeringsbeleid heeft een
geschreven voor wanneer de AVG van toepassing is en hoe
advies geschreven over kunstmatige intelligentie. De Raad stelt
ermee in overeenstemming kan worden gehandeld. De
dat kunstmatige intelligentie niet zomaar een technologie is,
handleiding behandelt van tal van vraagstukken op het gebied
maar een systeemtechnologie die de samenleving fundamenteel
van de AVG, zoals:
zal veranderen. De overheid moet kunstmatige intelligentie
•
Wanneer is er sprake van persoonsgegevens
tot een integraal onderdeel maken van haar functioneren.
•
Wat zijn mijn plichten als verwerker?
Hiertoe geeft zij tien aanbevelingen, die hieronder verkort zijn
•
Wanneer mag ik gegevens naar het buitenland sturen?
weergegeven: 1. Maak leren over ai en de toepassing daarvan tot een
Met dit document ga je aan de slag als je… • •
Persoonsgegevens voor een bepaald doel wilt gaan
expliciet doel 2. Stimuleer als overheid de ontwikkeling van ai-wijsheid
verwerken.
bij het brede publiek, waarbij gebruik wordt gemaakt van
Al enige juridische kennis hebt op het vlak van
algoritmeregisters
gegevensbescherming, en je vooral op zoek bent naar
3. Kies expliciet voor een Nederlandse ai-identiteit; onderzoek
verdere verdieping. •
Een beroep hebt dat behoort tot de voornaamste
waar aanpassingen aan de technische omgeving nodig zijn. 4. Versterk de vaardigheden en het kritische vermogen van
doelgroepen van dit document, te weten: functionarissen voor gegevensbescherming, privacy officers, bedrijfsjuristen,
individuen die met ai-systemen werken 5. Versterk de capaciteit van maatschappelijke organisaties om
compliance managers, risk managers en security officers.
hun werk te verbreden naar het digitale domein 6. Draag zorg voor een goede terugkoppeling tussen de
Vindplaats
ontwikkelaar van ai, de gebruiker ervan en de personen die
https://www.rijksoverheid.nl/documenten/
er consequenties van ondervinden
rapporten/2018/01/22/handleiding-algemene-verordening-
7. Koppel de regulering van ai aan een discussie over de
gegevensbescherming.
inrichting van de digitale leefomgeving en stel een brede wetgevingsagenda op.
Mediation Theory (Peter-Paul Verbeek)
8. Stuur via wetgeving actief op ontwikkelingen rondom
Samenvatting
surveillance en dataverzameling, de scheve verhouding
Mediation Theory is ontwikkeld door prof. Dr. Ir. Peter-Paul
tussen publiek en privaat in het digitale domein
Verbeek en biedt een raamwerk om na te denken over de rol
en machtsconcentratie.
van technologie in de samenleving. Centraal in deze theorie
9. Versterk het Nederlandse verdienvermogen met
staat het idee dat technologieën de relatie tussen de mens en de
een ‘ai-diplomatie’ die gericht is op internationale
wereld mede-vormgeven. Dit uitgangspunt heeft consequenties voor filosofische subvelden, zoals epistemologie, ethiek en
samenwerkingsverbanden 10. Weet je als land ook in het ai-tijdperk te verdedigen;
metafysica.
versterk daarom de Nederlandse capaciteiten tegen de groeiende ‘informatieoorlog’ en de export van digitale
Met dit document ga je aan de slag als je… • •
dictatuur.
Op zoek bent naar wetenschappelijke literatuur over verantwoorde digitalisering.
Met dit document ga je aan de slag als je…
Behoefte hebt aan een conceptueel kader om over
•
technologie te kunnen denken.
Op zoek bent naar bouwstenen voor goed ICT-beleid gericht op kunstmatige intelligentie
Vindplaats
Vindplaats
https://ppverbeek.org/mediation-theory/
https://www.wrr.nl/publicaties/rapporten/2021/11/11/opgaveai-de-nieuwe-systeemtechnologie
35
Handreiking Digitale Ethiek
Doelgericht digitaliseren (Rathenau Instituut, 2018) Het Rathenau Instituut schreef een vervolg op het eerdere
Ongevraagd advies over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen (Raad van State)
rapport genaamd ‘Opwaarderen’. Het Rathenau Instituut
Samenvatting
constateert dat digitalisering publieke waarden onder druk
De Raad van State gaf een ongevraagd advies over de effecten
kan zetten. Dit betekent dat er een integrale innovatie-aanpak
van digitalisering. De Raad van State onderschrijft dat
nodig is. Het Rathenau Instituut stelt vijf acties voor waarmee
digitalisering kansen biedt, maar ook risico’s, met name voor
onder andere beleidsmakers het governancesysteem kunnen
de verhouding tussen inwoner en overheid. In haar advies richt
versterken:
de Raad van State zich op het functioneren van de wetgever en
1. Investeer in een waardengedreven benadering van innovatie
bestuursrechter. De kern van het advies omvat dat:
2. Kom tot een proactieve, overkoepelende agenda en
•
Samenvatting
centraal moeten staan
activiteitenplan voor maatschappelijke en ethische aspecten van digitalisering
• •
contact met de overheid
5. Stimuleer technologisch burgerschap (participatie) • Met dit document ga je aan de slag als je… Op zoek bent naar bouwstenen voor goed ICT-beleid.
•
Je bijvoorbeeld bezig bent met het opstellen van een digitale agenda, visie of strategie.
Een nieuw algemeen beginsel van behoorlijk bestuur moet worden geïntroduceerd: het recht op toegang tot en zinvol
digitaliseren
•
Bij bezwaar op automatische besluiten er sprake moet zijn van menselijke controle en maatwerk
3. Investeer in een sterke positie van toezichthouders 4. Bedrijfsleven: maak werk van maatschappelijk verantwoord
De algemene beginselen van behoorlijk bestuur (abbb’s)
Het Rijk lokale overheden moet ondersteunen in het voldoen aan de AVG
•
In algemene zin terughoudend te zijn met zogenoemd techniekonafhankelijk wetgeven
•
ICT en uitvoering vanaf het begin deel te laten zijn van het voorbereiden van wet- en regelgeving
Vindplaats https://www.rathenau.nl/nl/digitale-samenleving/doelgericht-
Met dit document ga je aan de slag als je…
digitaliseren
•
Inzicht wilt krijgen in hoe digitalisering de verhoudingen binnen de rechtsstaat verandert
•
Op zoek bent naar een handreiking voor de wetgever.
Vindplaats https://www.raadvanstate.nl/@112661/w04-18-0230/
36
Handreiking Digitale Ethiek
Kabinetsreactie op drietal onderzoeken naar algoritmen (Min JenV, 2020)
Opwaarderen: Borgen van publieke waarden in de digitale samenleving (Rathenau Instituut, 2017)
Samenvatting
Samenvatting
In deze brief reageert het kabinet op een drietal onderzoeken
Het Rathenau Instituut kwam in 2017 met het rapport
die zijn gedaan naar de maatschappelijke impact van de
Opwaarderen. Zij signaleerde dat de overheid, het bedrijfsleven
toepassing van algoritmen. Zij constateert dat ongewenste
en het maatschappelijk middenveld over moesten gaan tot
neveneffecten van algoritmen zich voordoen in drie situaties:
actie om het governancelandschap te versterken en via die weg
1. Er is een onvolledig of verkeerd beeld van het
publieke waarden in de digitale samenleving te blijven borgen.
probleemgebied, dat wil zeggen: de omgeving waarin een
Deze aanbevelingen waren vooral op de landelijke politiek
algoritme wordt ingezet en waarbinnen het bepaalde
gericht:
resultaten moet behalen
•
2. Het (zelflerend) algoritme is niet goed toegerust op de
een kabinetsvisie op de omgang met de maatschappelijke en
complexe omgeving waarin ze wordt ingezet
ethische betekenis van digitalisering, en zorgt voor politiek-
3. Het (zelflerend) algoritme wordt niet goed ingepast in een bredere (socio-technische) context.
Stel een interdepartementale werkgroep in die toewerkt naar
bestuurlijke coördinatie. •
Versterk de rol en positie van toezichthouders.
•
Stel een 'Digitaliseringsakkoord' op om commitment
Verder gaat de brief vooral in op juridische knelpunten in
en verantwoordelijkheden van bedrijven, overheid, en
huidige wet- en regelgeving.
maatschappelijke actoren omtrent de borging van publieke waarden in de digitale samenleving vast te leggen.
Met dit document ga je aan de slag als je… •
Op zoek bent naar bouwstenen voor goed ICT-beleid.
•
Je meer wilt weten over de omstandigheden waarin
•
Organiseer een nationale dialoog over de betekenis van digitalisering voor de borging van publieke waarden
•
algoritmen ongewenste neveneffecten veroorzaken.
Zorg voor periodieke politieke discussie in Eerste en Tweede Kamer over de governance van maatschappelijke en ethische digitaliseringsvraagstukken.
Vindplaats https://www.rijksoverheid.nl/documenten/
Met dit document ga je aan de slag als je…
kamerstukken/2020/11/20/tk-kabinetsreactie-op-drietal-
•
Op zoek bent naar Bouwstenen voor goed ICT-beleid.
onderzoeken-naar-algoritmen
•
Je behoefte hebt meer te weten over de digitaliseringsuitdagingen voor de samenleving, breder dan veiligheid- en privacyoverwegingen.
•
Je meer wilt weten over wat de Rijksoverheid kan doen om digitalisering in goede banen te leiden.
Vindplaats https://www.rathenau.nl/nl/digitale-samenleving/opwaarderen
37
Handreiking Digitale Ethiek
Colofon Auteurs Rosa-May Postma, Wubbo Wierenga, Laurens Vellekoop
Vormgeving Harrie Wilkens
Aan de totstandkoming van deze handreiking werkten mee: Marieke Beekers (Gemeente Breda), Theo Buijtenweg (Gemeente Hilversum), Alex Corra (SVB), Rian van Dam (Gemeente Hollands Kroon), Yannick God (Gemeente Utrecht), Ran Haase (Gemeente Eindhoven), Donovan Karamat Ali (Gemeente Utrecht), Thomas Kruse (Gemeente Utrecht), Peter Kok (Stadspanel gemeente Hilversum), René Pauw (Gemeente Hilversum), Victor Plat (Gemeente Den Haag), Angela Rijnhart (Gemeente Enschede), Simone Rodenburg (Gemeente Enschede), Rudolf Simons (Data Friesland), Selma Tiems (Gemeente Stichtse Vecht), Maarten van Veen (Gemeente Eindhoven), Marijke Visschedijk (Gemeente Hilversum), Nadja Wiss (Gemeente Stichtse Vecht).
38