Onderzoeksrapport_Ethische commissie voor de slimme stad
Tekst van het document
Ethische Commissie voor de Slimme Stad Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
1
Ethische Commissie voor de Slimme Stad Van morele ambitie naar morele impact Erna Ruijer, Bart Wernaart & Albert Meijer 29 januari 20251
1 Dit onderzoeksrapport maakt deel uit van het Moral Smart Cities-project en betreft een RAAK-PRO-traject gesubsidieerd door Regieorgaan SIA (2024-2027). Samen met het symposium ‘Ethische Commissies, van morele ambitie naar morele impact’ (21 januari 2025) markeert de publicatie van dit rapport de afronding van het eerste werkpakket binnen dit onderzoekstraject.
Erna Ruijer, Bart Wernaart & Albert Meijer
3
INLEIDING In Nederland, maar ook in andere landen, zien we de opkomst van ethische commissies voor de slimme stad. In 2020 pionierde de gemeente Enschede met de eerste officiële ‘ethische commissie’. Inmiddels hebben ten minste elf Nederlandse gemeenten een georganiseerd orgaan voor ethiek rondom data en technologie. Het instellen van een ethische commissie komt voort uit een groeiende urgentie om de kwaliteit van techno-ethische besluitvorming te verbeteren. De aanleiding is vaak een onethisch ontwerp of een toepassing van technologie met grote maatschappelijke impact. Denk aan het beruchte toeslagenschandaal (Peeters & Widlak, 2023; Oldenhof et al., 2014), maar ook aan camerasystemen in binnensteden die vragen oproepen over mensenrechten (bijv. Amnesty International, 2020, 2024) of het koppelen van datasystemen met mogelijke discriminerende effecten (bijv. Oosterloo & Van Schie, 2018). Ook in andere publieke sectoren en bestuurslagen zien we ethische commissies opkomen, zoals bij provincies, waterschappen en grote uitvoeringsorganisaties (Sattlegger, 2024). De oprichting van specifieke ethische commissies voor techno-ethische dilemma’s in de slimme stad is een recent fenomeen. Er is daarom nog weinig wetenschappelijk onderzoek verricht naar de inrichting van ethische commissies, dat wil zeggen de vorm, werkwijze, inbedding en doorwerking.
In andere vakgebieden is het concept ‘ethische commissie’ meer ingeburgerd. Zo bestaan ethische commissies vooral in de medische sector (bijv. Aulisio, 2008; Bhatt, 2016; Voljč, 2017), het bedrijfsleven (bijv. Zyung et al., 2020; Greenwood, 2016; Wernaart, 2021) en bij onderzoeksinstituten (bijv. Koepsell et al., 2014; Ayoub et al., 2019). Gemeentelijke ethische commissies kunnen inzichten uit deze sectoren benutten, maar staan voor unieke uitdagingen en werken in een geheel andere context. Daarom verdient de inrichting van ethische commissies voor slimme steden aparte aandacht. Uit de literatuur blijkt dat verschillende ontwerpkeuzes bepalend zijn voor de effectiviteit van ethische commissies (zie figuur 1). Deze keuzes zien wij als antwoorden op de vier ontwerpvragen:
1. Samenstelling van de commissie: Bestaat de ethische commissie uit externe deskundigen, uit burgers of professionals uit de eigen organisatie? 2. Organisatorische inbedding: Hoe wordt de ethische commissie gepositioneerd binnen de gemeentelijke organisatie en welke bevoegdheden heeft zij? 3. Werkwijze: Hoe ethische functioneert de commissie in termen van werkproces, mandaat, casuïstiek, gebruikte ethische kaders én output? 4. Doorwerking van adviezen: Op welke wijzen en in welke mate leiden adviezen van de ethische commissie tot daad-werkelijke veranderingen binnen de organisatie?
4
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
5
ONTWERPVRAAG I: Samenstelling van de ethische commissie
Figuur 1: Inrichting ethische commissie in slimme steden
Ontwerpvraag 2 Inbedding
De eerste ontwerpvraag betreft de samenstelling van de ethische commissie (Schuett et al., 2024). Dit kan bijvoorbeeld
Ethische Commissie
Ontwerpvraag 3 Werkwijze
een onafhankelijke externe commissie zijn, bestaande uit deskundigen met specifieke kennis, of een interne commissie met medewerkers die gemakkelijker toegang hebben tot casuïstiek en een beter begrip hebben van de organisatie (Schuett et al., 2024).
Ontwerpvraag 1 Samenstelling
Ontwerpvraag 4 Doorwerking Passend bij lokale context
CENTRALE ONDERZOEKSVRAAG
In ons onderzoek hebben we vier typen ethische commissies geïdentificeerd: expertcommissies, ambtelijke commissies, burgercommissies en netwerkcommissies (zie Tabel 1).2 Tabel 1. Typen van ethische commissies Perspectief op ethiek
Voorbeelden van gemeenten3
Expertcommissies
Ethiek als advies van experts
Amsterdam, Enschede en Eindhoven, Zwolle
Interne ambtelijke commissies
Ethiek als ambtelijke reflectie
Amersfoort, Den Bosch, Groningen, Utrecht
Burgercommissies
Ethiek als burgerparticipatie
Amersfoort
Netwerkcommissies
Ethiek als netwerkleerproces
Breda
De centrale onderzoeksvraag van dit onderzoeksrapport is: ‘Hoe kunnen ethische commissies in slimme steden bijdragen aan techno-morele besluitvorming?’
Praktijken in gemeenten Expertcommissies bestaan uit een groep externe experts die de gemeentelijke organisaties begeleiden bij techno-ethische
Deze vraag beantwoorden we op basis van onderzoek naar vier ontwerpvragen rondom ethische commissies:
besluitvorming.4 De nadruk ligt op ethische expertise en een externe review van ethische kwesties in de gemeente.
1.
Hoe kan de samenstelling van een ethische commissie eruitzien?
Voorbeelden zijn de commissies van Enschede, Eindhoven, Zwolle en Groningen. Ook Amsterdam, Rotterdam en Nijmegen
2.
Op welke wijze kan een ethische commissie worden ingebed?
hebben vergelijkbare commissies met een benaming (respectievelijk Commissie Persoonsgegevens Amsterdam, Algoritme
3.
Hoe kan de ethische commissie haar werkwijze inrichten?
Advies Raad en Adviescommissie Digitale Ethiek).
4.
Hoe kan het advies van de ethische commissie doorwerken? De experts zijn afkomstig uit kennisinstellingen, andere overheden, bedrijfsleven en adviesraden. Zij hebben overwegend
De inzichten in dit rapport zijn gebaseerd op uitgebreid empirisch onderzoek, waaronder een analyse van moresprudentie
kennis van technologie, juridische zaken, AI, ethische afwegingen of cybersecurity. Respondenten benadrukken het belang
van elf gemeenten, 25 interviews met direct of indirect betrokkenen bij ethische commissies bij negen gemeenten en een
van diversiteit en verschillende perspectieven in de commissie. Zo heeft de gemeente Groningen ook specifiek gekozen om
designsessie met 33 deelnemers (gemeenteambtenaren, raadsleden en experts van kennisinstellingen en bedrijven) (zie
experts op het gebied van laaggeletterdheid aan de commissie te laten deelnemen.
bijlage 1). Het doel van dit onderzoek is inzicht krijgen in de verschillende invullingen en implicaties van ontwerpkeuzes bij de lokale vormgeving van een ethische commissie. Natuurlijk hebben de onderzochte gemeenten de inrichting van hun ethische commissies niet altijd bewust als ontwerpproces benaderd. Sommige keuzes zijn uitgebreid bediscussieerd, terwijl andere impliciet of gaandeweg tot stand zijn gekomen. Wij presenteren deze praktijken als ontwerpkeuzes om de inzichten bruikbaar te maken voor gemeenten. De ontwerpvragen bieden houvast voor gemeenten die een ethische commissie willen instellen. Daarnaast helpt het bestaande commissies te reflecteren op hun inrichting, wat mogelijke kan leiden tot ‘redesign’ van de commissie. In dit rapport bespreken we voor elk van de ontwerpvragen de verschillende keuzes die we in de praktijk zijn tegengekomen en trekken we (voorzichtig) enkele lessen. We bieden geen pasklare antwoorden, maar helpen gemeenten inzicht te krijgen in diverse mogelijkheden en de overwegingen die daarbij komen kijken. Zo kunnen gemeenten zelf bepalen welke invulling het beste past bij hun situatie.
6
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
2 We gebruiken in dit rapport gemakshalve structureel de term ‘ethische commissie’ als aanduiding van een georganiseerd, ingesteld orgaan dat zich bezighoudt met ethiek rondom data en technologie in een gemeente. We denken dat dit in het algemeen de beste term is, maar beseffen ook dat dit soms niet helemaal de lading dekt (zie bijvoorbeeld definitie in Sattlegger (2024), of juist een lading kan suggereren die het niet heeft. 3 We geven in elke tabel voorbeelden van gemeenten. We proberen hierbij niet volledig te zijn. Gemeenten kunnen bovendien in meerdere categorieën vallen. 4 Over het algemeen zien we samenstellingen met oneven aantallen. Enschede heeft vijf leden, Eindhoven zeven en Amsterdam negen (hoewel formeel vijf tot tien). Rotterdam heeft vijf of zeven leden, Nijmegen drie of vijf. Uitzondering op de ‘oneven aantal’ regel is Zwolle met vier leden (maar kan er volgens haar eigen reglement vijf hebben).
Erna Ruijer, Bart Wernaart & Albert Meijer
7
Interne ethische teams bestaan uit ambtenaren met uiteenlopende functies, zoals ethics officers, privacy officers, kwartiermakers, programmamanagers, informatiemanagers, innovatiemanagers, data, functionaris gegevensbeheer. Zij zijn van een divers palet aan gemeentelijke afdelingen zoals de afdeling informatievoorziening, onderzoek en statistiek, dan wel bedrijfsvoering of afdeling strategie en opgaven in de ambtelijke organisatie. Voorbeelden hiervan zijn de gemeente Amersfoort, Enschede, Eindhoven, Groningen en Amsterdam. Den Bosch heeft nog geen externe commissie maar werkt met een intern ethisch klankbord.
ONTWERPVRAAG II. Organisatorische inbedding van de ethische commissie
Burgercommissies of -panels bevorderen democratische verankering en inspraak. Voorbeelden zijn het Hilversumse Stadspanel Data en de Amersfoortse Klankbordgroep Digitalisering & Ethiek. De Amersfoortse Klankbordgroep Digitalisering
Bij deze ontwerpvraag hebben we onderzocht hoe ethische commissies zijn ingebed binnen gemeenten. We
& Ethiek oorspronkelijk ontstaan uit een burgerinitiatief, en later overgenomen in een collegebesluit. De klankbordgroep
analyseerden de binding met één of meerdere gemeenten, de formele relatie met de gemeente, de bevoegdheden en de
biedt Amersfoort de mogelijkheid om het bewonersperspectief mee te nemen in techno-morele besluitvorming. De
toepassingsgebieden van ethische commissies (Schuett et al., 2024; Sattlegger, 2024).
gemeente kiest hier bewust voor, omdat het een uitdaging is om participatietrajecten rondom digitalisering te organiseren. Veel burgers vinden het onderwerp niet interessant. Via een klankbordgroep kan zo het bewonersperspectief toch mee worden genomen.
Ontwerpvraag IIa: Binding aan een of meerdere gemeenten
Netwerkcommissies leggen de nadruk op gezamenlijke techno-ethische reflectie met maatschappelijke partners, zoals
We onderzochten of gemeenten ervoor kiezen om een eigen ethische commissie op te richten of dat één ethische commissie
het Bredase Stedelijk Ethisch Team. Dit is een platform met onder meer vertegenwoordigers van Amphia Ziekenhuis,
meerdere gemeenten bedient (zie Tabel 2a).
Veiligheidsregio Midden- en West-Brabant, BUas, Surplus, Woningcorporatie Laurentius, Woningcorporatie Alwel, Gemeente Breda, Avans en het Urban Living Lab Breda.
Tabel 2a. Binding aan een of meerdere gemeenten
Daarnaast zijn er hybride vormen waarin meerdere elementen worden gecombineerd. Een concreet voorbeeld vinden we
Binding aan een gemeente
in de Ethische Commissie van Groningen, bestaande uit acht experts en één ervaringsdeskundige (slachtoffer van het toeslagenschandaal). Een ander voorbeeld is Team Uthiek. Dit collectief bestaat uit een intern Uthiek-team van ambtenaren
Toelichting
Voorbeelden van gemeenten
Gemeente stelt zelf ethische
Amsterdam, Rotterdam, Enschede, Groningen,
commissie in
Nijmegen, Hilversum, Amersfoort, Utrecht. Noord-Brabantse gemeenten
en experts van verschillende organisaties. Zij werken in wisselende samenstellingen samen om ethische kwesties te
Bindinga aan meerdere
Ethische commissie werkt voor
analyseren. Vervolgens wegen zij deze vraagstukken af op basis van een waardenmodel. ‘Het expert panel is onafhankelijk.
gemeenten
meerdere gemeenten
Team Uthiek is ook onafhankelijk van de business, maar is wél onderdeel van dezelfde organisatie. Een inwoner zal Uthiek vooral zien als onderdeel van de organisatie, daarom is het expertpanel zo belangrijk’. Amersfoort heeft zowel een intern ethisch team als een klankbordgroep met burgers. In Eindhoven bestaat er een nauwe werkrelatie tussen een intern ethisch
Praktijken in gemeenten
De meeste ethische commissies die wij onderzochten, zijn direct verbonden aan een specifieke gemeente. Dit heeft als
team bestaande uit ambtenaren (ethische coaches), en een extern ethisch team bestaande uit experts (Van Veen & Visser-
voordeel dat de commissie goed is afgestemd op lokale vraagstukken, de gemeentelijke organisatie en de politieke context.
Knijff, (2022).
Tegelijkertijd zien we ook een ontwikkeling richting commissies die meerdere gemeenten bedienen. Zo werken de gemeenten Eindhoven, Helmond, Breda en Den Bosch – en mogelijk ook Tilburg – aan de oprichting van een
Conclusie en aanbeveling: de samenstelling van de ethische commissie
gezamenlijke Ethische Commissie Noord-Brabant. De leden van de huidige ethische commissie van Eindhoven zouden in dit
De verschillende samenstellingen van ethische commissies – bestaande uit experts, burgers, ambtenaren en
model ook adviezen kunnen uitbrengen aan de andere deelnemende gemeenten. Deze samenwerking biedt meerdere voordelen:
maatschappelijke partners – dragen bij aan bieden een rijkere en meer afgewogen ethische besluitvorming binnen
•
Efficiëntie: Niet alle gemeenten hebben de middelen om zelfstandig een ethische commissie op te zetten.
gemeenten. De uitdaging ligt in het vinden van de juiste balans tussen diversiteit en werkbaarheid, zonder de
•
Regio-brede vraagstukken: Inwoners verplaatsen zich binnen de regio – ze wonen in de ene gemeente en werken in de
complexiteit onnodig te vergroten. Om optimaal gebruik te maken van de verschillende vormen van ethische commissies, is het waardevol om structureel kennis en ervaringen uit te wisselen tussen gemeenten. Dit kan bijdragen aan een effectievere inrichting en samenwerking, waarbij gemeenten kunnen leren van elkaars best
andere. Dit maakt een regionale aanpak logisch. •
Kennisdeling: Vooral in de opstartfase voorkomt samenwerking dat elke gemeente opnieuw het wiel moet uitvinden op het gebied van werkwijze en aanpak.
practices en valkuilen.
Conclusie en aanbeveling: binding aan een of meerdere gemeenten Voor gemeenten met veel ethische vraagstukken en een complexe organisatie kan het, vooral in de beginfase, nuttig zijn om een eigen ethische commissie te hebben die nauw verbonden is met de organisatie. Tegelijkertijd biedt samenwerking met andere gemeenten de kans om gemakkelijker toegang te krijgen tot een ethische commissie en van elkaar te leren.
8
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
9
Deze ambtelijke secretarissen hebben een belangrijke verbindende en faciliterende rol. Zij: Ervaringen met bovengemeentelijke samenwerking zijn nog beperkt, maar vormen een veelbelovende route om
•
Verrichten het voorwerk voor de commissie
verder te verkennen. Daarbij is het belangrijk om te zorgen voor een goede aansluiting met de deelnemende
•
Beheren de dossiervorming binnen de organisatie
gemeenten. Dit kan bijvoorbeeld door per gemeente een intern ethisch team op te zetten dat de brug slaat tussen
•
Stellen de agenda op
de lokale organisatie en de gezamenlijke commissie.
•
Halen actief vraagstukken op binnen de organisatie en bij bestuurders
Ontwerpvraag IIb: Formele relatie met de gemeente We onderzochten de formele relatie tussen ethische commissies en de gemeenteraad, het gemeentebestuur en de
In Utrecht is bewust gekozen om de externe expertcommissie direct te koppelen aan het interne team: ‘Er is bewust gekozen om niet een externe ethische toetsingscommissie in te stellen, maar om de ethische afweging onderdeel te laten zijn van de werkprocessen in de organisatie. Het idee is dat medewerkers zelf de afweging moeten blijven maken en niet, als het moeilijk wordt, de afweging extern te beleggen. Wel kan extern om advies worden gevraagd.’
ambtelijke organisatie (zie Tabel 2b).
Politieke betrokkenheid en bewustwording Respondenten benadrukken het belang van een sterke verbinding met het college en de gemeenteraad, vooral als het gaat
Tabel 2b. Inbedding van de ethische commissie
Advies aan ambtelijke
Voorbeelden van gemeenten
Ethische inbreng in concrete projecten
Amsterdam, Eindhoven, Utrecht
Ethische inbreng in strategische
Amsterdam, Amersfoort, Eindhoven
een respondent is het daarbij belangrijk om het onderwerp niet te abstract te maken. Maak het concreet door het te
besluitvorming
Groningen, Nijmegen en Rotterdam
koppelen aan concrete beleidsdomeinen, zoals het sociaal domein.
Ethische inbreng in democratisch debat
Amsterdam, Eindhoven
organisaties Advies aan gemeentebestuur Advies aan gemeenteraad
om de vraag welke ethische kwesties bestuurlijke aandacht verdienen: ‘Waar moet de politiek zich nog echt druk over maken?’
Toelichting
Ethische afwegingen hebben immers ook een politieke dimensie: welke waarden wegen zwaarder en wie maakt die keuze? Binnen de gemeenteraad is ethiek vaak een nicheonderwerp, waardoor actieve lobby en bewustwording nodig is. Volgens
In Eindhoven wordt hier structureel aandacht aan besteed: de commissie gaat jaarlijks in gesprek met de fracties van de gemeenteraad en de wethouder om zo te voorkomen dat de commissie een afvinkbox wordt. Daarnaast wordt gesproken
Praktijken in gemeenten
met de ambtelijk top, de CIO, de functionaris gegevensbeheer en het hoofd Onderzoek. Hoewel de commissie formeel
Ethische commissies worden doorgaans ingesteld door de gemeenteraad, het college van B&W of door ambtenaren zelf.
onafhankelijk opereert, wordt via deze gesprekken juist ook de verbinding met de organisatie versterkt.
Zo zijn de commissies van Amersfoort, Amsterdam, Enschede, Hilversum, Nijmegen, Rotterdam en Zwolle ingesteld door het college van B&W. In Eindhoven en Groningen is de gemeenteraad verantwoordelijk voor de oprichting.5 Breda vormt een
Tot slot blijkt uit de praktijk dat informele relaties tussen ambtenaren, raadsleden en wethouders cruciaal te zijn voor de
uitzondering: hier is het stedelijk ethisch team opgezet door het ambtelijke apparaat van de gemeente.
werking van ethische commissies. In Amersfoort benadrukt men bijvoorbeeld dat de effectiviteit van de commissie sterk afhankelijk is van de openheid van gemeentelijke organen voor hun werk en de contacten die worden onderhouden.
Het overgrote merendeel van de ethische commissies adviseert of denkt mee in een brede gemeentelijke context, al is dit niet altijd expliciet vastgelegd. In sommige gemeenten, zoals Amsterdam, Eindhoven en Zwolle adviseert de commissie zowel het college van B&W, de gemeenteraad als het ambtelijk apparaat.6 In andere gemeenten is de opdracht specifieker
Conclusie en aanbeveling: de formele relatie tussen de ethische commissie en de gemeente
gedefinieerd. Zo richten de ethische commissies van Groningen, Nijmegen en Rotterdam zicht uitsluitend op het college
De relatie tussen ethische commissies en gemeenten kent zowel formele als informele aspecten, die elk hun
van B&W. ‘De commissie heeft tot taak het college minimaal tweejaarlijks schriftelijk te adviseren in het kader van
eigen voor- en nadelen hebben. Positionering in de buurt van de gemeenteraad of het gemeentebestuur biedt
vraagstukken op het gebied van digitale ethiek.’
mogelijkheden tot het verbinden van ethische reflectie met politieke besluitvorming maar tegelijkertijd kan deze reflectie abstract worden. Een positionering dicht bij praktijken biedt concrete waarde maar kan verbinding missen
In de praktijk werken ethische commissies nauw samen met het ambtelijk apparaat. Externe expertcommissies onderhouden
met grotere (politieke) overwegingen. De uitdaging voor gemeenten is dan ook om een evenwicht te vinden:
vooral een nauwe relatie met ambtenaren die verantwoordelijk zijn voor de voorbereiding, zoals in Amsterdam, Enschede,
enerzijds moet de ethische commissie voldoende aansluiting hebben bij de politieke besluitvorming, anderzijds
Eindhoven, Groningen en Zwolle.
moet er een sterke verbinding zijn met de dagelijkse ambtelijke praktijk.
5 Formeel is de Ethische Commissie Eindhoven ingesteld door het college van B&W, maar de oprichting kwam voort uit initiatieven binnen de gemeenteraad. Dit blijkt uit het Raadsvoorstel Ethiek en Digitalisering van 18 mei 2021. Daarnaast bouwt de commissie voort op het ethische team dat werd opgezet in het kader van het Brainport Smart District in Helmond, een ‘smart city’-woningbouwproject tussen Eindhoven en Helmond. 6 Een vergelijkbaar voorbeeld is te vinden in Artikel 2 van het Besluit van het college van burgemeester en wethouders van de gemeente Amsterdam houdende regels over de taken en werkwijze van de Commissie Persoonsgegevens Amsterdam. Dit artikel beschrijft de taken en bevoegdheden van de commissie, waaronder: ‘Het gevraagd en ongevraagd adviseren aan het College en de organisatieonderdelen van de Gemeente met betrekking tot de kwesties genoemd in artikel 2 lid 1, waaronder het adviseren over complexe en politiek gevoelige zaken met inachtneming van de wet- en regelgeving en de maatschappelijke en technologische ontwikkelingen.’
10
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
11
Ontwerpvraag IIc: Bevoegdheid van de commissie
Ook in Amersfoort en Hilversum, waarbij burgerdeelname een centraal aandachtspunt is van het nemen van techno-
Een belangrijke vraag binnen dit onderzoek is welke bevoegdheden ethische commissies hebben. We hebben verschillende
Meedenken en kennisdeling: de ethische dialoog als uitgangspunt
vormen van formele bevoegdheden geïdentificeerd en geanalyseerd (zie Tabel 2c).
In enkele gemeenten ligt de nadruk minder op formele adviezen en meer op het voeren van een ethische dialoog. Dit is
ethische beslissingen, is gericht op gevraagd advies.
bijvoorbeeld het geval in Zwolle,9 waar de commissie vooral functioneert als klankbord en kennisplatform. De gemeente kan er gebruik van maken om ethisch beter onderbouwde keuzes te maken rondom technologische kwesties.
Tabel 2c: bevoegdheden ethische commissies Toelichting
Voorbeelden van gemeenten
Richting geven (comply or
Adviseren, signaleren en het zijn van een
Amsterdam
explain)
poortwachter
Gevraagd en ongevraagd
Adviseren ten aanzien van ethische
Eindhoven, Enschede, Groningen, Utrecht,
publieke domein en digitale ethiek: een stedelijk ethisch team. Om van elkaar te leren, te reflecteren en samen te verdiepen.
advies
besluitvorming, signaleren van ethische
Rotterdam
En als team te adviseren bij digitale ethische vraagstukken in de stad. (..) Op termijn willen we dit team uitbreiden met
Adviseren ten aanzien van ethische
inwoners, andere (publieke) organisaties en Bredase technologiebedrijven.’ Amersfoort, Hilversum
besluitvorming Meedenken
Versterken ethische dialoog, het zijn van
verbeteren. De nadruk ligt hierbij veel meer op het ethische proces, en niet zozeer op een extern formeel belegd ethisch advies. Zo stelde Breda haar ambitie: ‘Als stad willen we een lerend, stedelijk ecosysteem vormen van partners in het
vraagstukken Gevraagd advies
Een andere variant wordt ingegeven vanuit de behoefte om samen te leren en de kwaliteit van de ethische dialoog te
Zwolle, Breda
een klankbord
DEEL IId. Toepassingsgebied Ethische commissies kunnen een breed of smal toepassingsgebied hebben, afhankelijk van hun focus en mandaat (zie Tabel 2d).
Praktijken in gemeenten In Amsterdam hanteren ze als enige gemeente het ‘comply or explain’-principe, waarbij de ethische commissie een formele
Tabel 2d. Toepassingsgebied van de ethische commissie
rol speelt binnen bestuurlijke besluitvorming. Dit principe is vastgelegd in wetgevingsprocedures en verplicht ambtenaren om afwijkingen van ethische adviezen te motiveren. Een voorbeeld hiervan is de Commissie Persoonsgegevens Amsterdam
Commissies voor technologie
(CPA):7 ‘Afwijking van de adviezen van de CPA door de ambtelijk verantwoordelijke, gewoonlijk de adviesaanvrager, vindt
Toelichting
Voorbeelden van gemeenten
Digitaliseringsvraagstukken
Eindhoven, Enschede, Zwolle
Bijvoorbeeld algoritmen of privacy
Rotterdam, Amsterdam
en (digitale) ethiek
beargumenteerd plaats en wordt gerapporteerd aan het College en de CPA.’
Commissies met specifieke focus (algoritmen, privacy)
Gevraagd en ongevraagd advies: de meest voorkomende variant Commissies adviseren de organisatie over ethische vraagstukken, maar kunnen ook ethische kwesties signaleren. Dit is bijvoorbeeld het geval in Eindhoven, Enschede, Groningen, Nijmegen en Rotterdam. Deze werkwijze hangt vaak samen
Praktijken in gemeenten
met de gekozen commissieopzet, waarbij externe experts een belangrijke rol spelen. Een goed voorbeeld hiervan is het
Als het gaat om het toepassingsgebied van ethische commissies dan is de meest voorkomende vorm een ethische
Algorithm Advisory Board in Rotterdam,8 zoals vastgelegd in Artikel 2 van het instellingsbesluit: ‘De adviesraad is een
commissie die gaat over technologie en (digitale) ethiek. Dit geldt bijvoorbeeld voor de commissies van Eindhoven,
commissie als bedoeld in artikel 84 Gemeentewet en heeft tot taak het college gevraagd en ongevraagd van adviezen en
Enschede en Zwolle. Sommige gemeenten hebben overwogen om hun commissie een breder mandaat te geven, zodat ook
aanbevelingen te voorzien ten aanzien van nieuwe technologische ontwikkelingen en plannen in de stad Rotterdam en te
algemene ethische vraagstukken besproken kunnen worden. Uiteindelijk is hier vaak van afgezien, omdat dit om andere
adviseren of en hoe dit ethisch, maatschappelijk verantwoord en transparant kan worden vormgegeven. Bij het geven van
expertise vraagt.
aanbeveling en bij het adviseren ligt de focus op de ontwikkeling, inkoop en toepassing van algoritmes.’ Sommige ethische commissies hebben een breed digitaal toepassingsgebied maar een specifiekere naam, zoals de
Gevraagd advies: een beperkter mandaat
Ethische Commissie Data en Technologie van de gemeente Groningen, Team Uthiek van de gemeente Utrecht, Stedelijk
Sommige commissies beperken zich tot uitsluitend gevraagd advies. De gemeente Den Bosch heeft nog geen externe
Ethisch team van de gemeente Breda, Stadspanel Data van de gemeente Hilversum.
ethische commissie, maar de gemeente overweegt er een in te stellen die alleen op verzoek adviezen geeft. Dit komt voort uit de overweging dat de Rekenkamer al ongevraagd advies verstrekt.
Twee commissies hebben van oorsprong een specifieke focus: de Rotterdamse Algoritme Adviesraad en de Commissie Persoonsgegevens Amsterdam. Tegelijkertijd zien we een bredere opvatting over het toepassingsgebied van beide organen, zoals omschreven in het instellingsbesluit:10 ‘De adviesraad is een commissie als bedoeld in artikel 84 Gemeentewet en
12
7 Gemeente Amsterdam. (2021, 16 december). Reglement van de Commissie Persoonsgegevens Amsterdam 2021: Besluit van het college van burgemeester en wethouders van de gemeente Amsterdam houdende regels over de taken en werkwijze van de Commissie Persoonsgegevens Amsterdam, https://zoek.officielebekendmakingen.nl/gmb-2021-457829.html
heeft tot taak het college gevraagd en ongevraagd van adviezen en aanbevelingen te voorzien ten aanzien van nieuwe
8 Gemeente Amsterdam. (2022, 7 juni) Lokale Regelgeving Overheid – Commissie Persoonsgegevens Amsterdam, http://lokaleregelgeving.overheid.nl/CVDR678222
9
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Zwolle, 3 maart 2022, Ethische commissie Digitalisering in Zwolle Nieuw klankbord en kennisplatform.
10 Gemeente Amsterdam. (2022, 7 juni). Lokale Regelgeving Overheid – Commissie Persoonsgegevens Amsterdam, http://lokaleregelgeving.overheid.nl/CVDR678222
Erna Ruijer, Bart Wernaart & Albert Meijer
13
technologische ontwikkelingen en plannen in de stad Rotterdam en te adviseren of en hoe dit ethisch, maatschappelijk verantwoord en transparant kan worden vormgegeven. Bij het geven van aanbeveling en bij het adviseren ligt de focus op de ontwikkeling, inkoop en toepassing van algoritmes.’ Ook zien we bij de Commissie Persoonsgegevens Amsterdam gaandeweg een steeds ruimere materiele bevoegdheid ontstaan, waarbij sinds 2021 de materiele reikwijdte van de commissie is verbreed naar een veel algemenere opdracht, die sterk doet denken aan de andere algemeen techno-ethisch georiënteerde commissies hierboven genoemd:11 ‘Het gevraagd
ONTWERPVRAAG III. Inrichting van het werk van de ethische commissie
en ongevraagd adviseren aan het College en de organisatieonderdelen van de Gemeente met betrekking tot de kwesties genoemd in artikel 2 lid 1, waaronder het adviseren over complexe en politiek gevoelige zaken met inachtneming van de weten regelgeving en de maatschappelijke en technologische ontwikkelingen.’ Ondanks deze verbreding geven respondenten
DEEL IIIa. Werkwijzen van de ethische commissie
aan dat de Amsterdamse commissie door haar historische focus op persoonsgegevens nog altijd sterk juridisch en privacy gericht werkt.
De werkwijzen van ethische commissies wordt nader gespecificeerd in hun instellingsbesluiten. Deze procedureregels richten zicht met name op drie aspecten (zie Tabel 3a).
Conclusie en aanbeveling: toepassingsgebied
Tabel 3a: Werkwijze commissie
Bij het kiezen van het toepassingsgebied zijn er redenen om juist een brede ethische commissie te kiezen (zodat er niet allerlei verschillende ethische commissies voor deelaspecten nodig zijn) maar ook redenen om dit toepassingsgebied in te perken (omdat bij het bespreken van techno-morele dilemma’s zijn zowel technische
Benoeming voorzitter
Voorbeelden van gemeenten
Aangesteld door college B& W of
Eindhoven, Groningen
gekozen vanuit de commissie
als ethische aspecten van belang zijn). De uitdaging ligt in het vinden van een passende balans, zodat ethische commissies effectief kunnen bijdragen aan zowel beleid als praktijk.
Aandachtspunten
Stemprocedure
Consensus, meerderheid van stemmen
Groningen, Nijmegen, Eindhoven
of geen procedure Ambtelijke ondersteuning
Vorm, frequentie
Eindhoven, Groningen
Een eerste aandachtspunt is de benoeming van de voorzitter. In sommige gemeenten wordt de voorzitter door het college van B&W aangewezen, terwijl andere commissies zelf een voorzitter kiezen uit hun midden. In Eindhoven is de benoeming in handen van het college, terwijl de commissieleden in Groningen zelf een voorzitter aanwijzen. Daarnaast verschilt de manier waarop standpunten binnen de commissie worden genomen. In sommige gevallen bestaat er een stemprocedure waarin een meerderheidsstandpunt de doorslag geeft, terwijl andere werken op basis van consensus of unanieme besluitvorming. In Nijmegen adviseert de commissie bijvoorbeeld bij volstrekte meerderheid van stemmen: bij staking van stemmen geeft de stem van de voorzitter de doorslag. In Eindhoven is niets vastgelegd over de wijze van besluitvorming, maar wel over de vergaderstructuur: de commissie komt alleen bijeen als minimaal vijf leden, waaronder de voorzitter of plaatsvervangend voorzitter én de secretaris, aanwezig zijn. In Groningen worden de adviezen van de commissie met consensus vastgesteld, en als dit niet lukt met meerderheid van de stemmen. Tot slot is in sommige gevallen vastgelegd welke ambtelijke ondersteuning een ethische commissie krijgt en hoe dit gefinancierd wordt.
Ook is soms vastgelegd met welke frequentie of in welke vorm de commissie interacteert met de ambtelijke organisatie dan wel de gemeenteraad of het college, en op welke manier stukken uitgewisseld kunnen worden. Zo is onder meer in Eindhoven en Groningen een ambtelijk secretaris aangesteld die de Ethische Commissie ondersteunt in haar werkzaamheden.
11 Gemeente Amsterdam. (2023, 16 december). Besluit van het college van burgemeester en wethouders van de gemeente Amsterdam houdende regels over de taken en werkwijze van de Commissie Persoonsgegevens Amsterdam, https://zoek.officielebekendmakingen.nl/gmb-2021457829.html
14
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
15
Daarnaast zien we casuïstiek die over strategische, brede algemene thema’s gaan. Opvallend is dat ethische commissies
Conclusie en aanbeveling: formele of informele werkwijze?
vaak tot vergelijkbare inzichten komen en regelmatig naar dezelfde bronnen verwijzen. Zo schreven de commissies in
Een aantal gemeenten heeft expliciet de werkwijze en procedures van de gemeente vastgelegd zoals de benoeming
Amsterdam, Eindhoven, Groningen en Enschede over (gen)AI gebruik binnen de gemeenten. Ook waren de algemene
van de voorzitter, hoe er gestemd wordt en wat de relatie is met de ambtelijke organisatie. Dit biedt helderheid en
conclusies grotendeels overeenkomstig, waarbij aandacht gevraagd werd voor het belang van transparantie, het voorkomen
helpt verwachtingen te managen. Andere gemeenten kiezen juist voor een informele werkwijze en vertrouwen op
van discriminatie, het waarborgen van privacy én het betrekken van menselijke controle in AI-gestuurde processen. Ook
de dynamiek binnen de commissie. Ongeacht de gekozen aanpak is het essentieel dat voor alle commissieleden
werd het belang benadrukt van een balans tussen technologische innovatie en het realiseren van publieke waarden.
duidelijk is wat er van hen wordt verwacht, hoe besluiten worden genomen en welke ondersteuning beschikbaar is.
Complexiteit en schaal: kiezen voor overkoepelende ethische reflectie Met name expertcommissies, zoals bijvoorbeeld in Enschede, Eindhoven, Amsterdam en Groningen, buigen zich over complexere zaken. Het is voor hen ondoenlijk om alle digitale projecten binnen de gemeentelijke organisatie afzonderlijk
DEEL IIIb Inhoudelijke focus
te beoordelen. Zo gebruikt een gemeente dashboards in verschillende domeinen. De commissie kijkt dan niet naar de individuele dashboards maar naar ethische vraagstukken rondom het gebruik van dashboards door de gemeente in het
Ethische commissies buigen zich over uiteenlopende vraagstukken, die grofweg te onderscheiden zijn in strategische en
algemeen. Een respondent gaf bijvoorbeeld aan dat een advies over de inzet van scanauto’s door de ethische commissie
operationele casuïstiek, en in vraagstukken met een hoog of laag risicoprofiel (zie Figuur 3b).
minder noodzakelijk werd geacht, maar dat een overkoepelende discussie over camera-inzet in de stad, waarvan de scanauto een onderdeel is, wél van toegevoegde waarde zou zijn. Ook de netwerkcommissie in Breda kijkt vooral naar onderwerpen die relevant zijn voor de stad en haar inwoners zoals het inzetten van digital twins, drones, AI in de stad en
Figuur 3b: Aard van de casuïstiek voorgelegd aan commissies12
het gebruik van sociale media. In Utrecht wordt het expert panel ingeschakeld voor complexe hoog risicoprojecten zoals aangegeven in de AI Act, waarbij
Strategisch
er sprake is van grote maatschappelijke impact. Het kan bijvoorbeeld gaan om vraagstukken als bodycams, of het werken met chatbots in de gemeentelijke dienstverlening. Veelal betreffen de vraagstukken innovatieprojecten terwijl ook voor bestaande digitaliseringsprojecten een ethisch assessment relevant kan zijn. Bij diverse gemeenten vinden er ook interne assessments plaats, dit betreft minder complexe
Low Risk
High Risk
cases, waarbij gebruik wordt gemaakt van bijvoorbeeld een Moreel Beraad, Begeleidingsethiek of IAMA.
Balans tussen strategie, praktijk en lange termijn Tijdens de designsessie werd benadrukt dat ethische commissies in staat moeten zijn om strategische en operationele techno-morele vraagstukken met elkaar te verbinden. Dit vraagt tijdsaspecten mee te nemen – wat betekent deze
Operationeel
technologie voor de toekomst – en zowel het perspectief van het individu als het collectief (stad, ecologie) mee te nemen in de casuïstiek.
Conclusie en aanbeveling: de inhoudelijke focus van de ethische commissie
Praktijken in gemeenten
De inhoudelijke focus van ethische commissies betreft veelal complexe, hoog risicoprojecten met een impact op
Uit de geanalyseerde uiteenlopende moresprudentie van de verschillende gemeenten kunnen enkele voorzichtige
burgers. Een belangrijke uitdaging is dat organisaties de ethische vraagstukken binnen een casus scherp moeten
conclusies getrokken worden over de inhoudelijke focus van de ethische commissies. Enerzijds richten commissies
formuleren, zodat deze goed te behandelen zijn door de commissie. De vraag moet niet te breed of abstract zijn, maar
zich op operationele en contextspecifieke vraagstukken die vaak sterk verbonden zijn met de lokale situatie. Zo heeft
een behapbare en doelgerichte reflectie mogelijk maken. De gemeente Enschede biedt een mooie best practice.
het Hilversumse Stadspanel Data advies uitgebracht over een specifieke IT-oplossing voor een verkeerssituatie, terwijl
Deze gemeente heeft een casusformat ontwikkeld waarin de vraag aan de ethische commissie geformuleerd is, de
de Adviescommissie Digitale Ethiek Nijmegen een advies gaf over de inrichting van een Nijmeegs Datahouse. Dit type
context van de vraag, het doel en de fase waarin het project zich bevindt, de betrokken stakeholders en rol van de
vraagstukken is doorgaans geïsoleerd en vraagt om een afweging van met name lokale belangen.
gemeente en dilemma’s die zich voordoen.
12 We geven hier voorbeelden van gemeenten. Dat wil niet zeggen dat commissies zich alleen met deze vraagstukken bezighouden.
16
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
17
DEEL IIIc. Criteria voor ethische afwegingen
Het stadspanel wordt expliciet gevraagd de volgende elementen van techno-ethische kwesties te toetsen: privacy, inclusiviteit, discriminatie, communicatie en governance (nut/noodzaak).19
Ethische commissies baseren hun moreel-technische afwegingen op een waardenkader dat richting geeft aan hun oordelen en adviezen (Prem, 2023). Maar welke kaders hanteren zij precies? Uit het onderzoek blijkt dat er een variëteit aan kaders
Landelijke en netwerkbrede ethische kaders
wordt gebruikt, die kunnen verschillen per gemeente en per type casus (zie Tabel 3c).
Enschede en Amersfoort gebruiken de Code Goed Digitaal Openbaar Bestuur (CODIO), die in opdracht van het ministerie van BZK geschreven is door de Universiteit Utrecht (Meijer & Ruijer, 2021). Dit kader is opgebouwd rond drie fundamentele principes: democratie, rechtsstaat en bestuurskracht, die verder zijn uitgewerkt in zes kernwaarden, waaronder participatie,
Tabel 3c. Criteria voor ethische afwegingen
Eigen waardenkader
Toelichting
Voorbeelden van gemeenten
Veelal gebaseerd op rapport Rathenau
Eindhoven, Groningen en Utrecht
Opwaarderen (7 waarden) CODIO
De Gemeente Amsterdam en Den Bosch hanteren het TADA manifest,20 waarin de volgende waarden centraal staan bij verantwoord digitaliseren: legitiem en gecontroleerd, open en transparant, van en voor iedereen, inclusief, zeggenschap
Breed waardenkader (32 waarden)
Enschede, Amersfoort
ontwikkeld door BZK/UU/Berenschot TADA
procedurele rechtvaardigheid en bestuurskwaliteit.
en menselijke maat. De Commissie Persoonsgegevens heeft dit waardenkader ook meegekregen als inspiratiebron in haar hernieuwde taakomschrijving.21 De Commissie adviseerde in haar advies Grip op technologie (26 januari 2023) deze
Bottom-up vanuit netwerkorganisatie
Amsterdam, Den Bosch
waarden te heroverwegen en concreter te maken, onder andere om te voorkomen dat ze uitgaan van een te rooskleurig beeld van mondige burgers.
(6 waarden)
Ons onderzoek schetst een diversiteit aan ethische kaders (voor een overzicht van ethische waardenkaders zie ook de
Praktijken in gemeenten
Interprovinciale Gids Digitale Ethiek). We zien dat in verschillende gremia gewerkt wordt aan waardenkaders en dat deze
Respondenten hechten belang aan een deliberatieve ethische afweging van publieke waarden en benadrukken dat ethiek
vaak ook als doel hebben om niet alleen decentraal, maar ook nationaal toegepast te worden. Het TADA-manifest vindt zijn
geen checklist is of zou moeten worden. Vanuit de vakliteratuur bestaan er echter ook twijfels over de toegevoegde
herkomst in een netwerkorganisatie (Amsterdam Economic Board), terwijl CODIO voortkomt uit academisch onderzoek.
waarde en impact van ethische kaders, met name omdat de vertaalslag naar concrete toepassing en betekenisvolle morele
Binnen de VNG wordt eveneens gewerkt aan een landelijk ethisch kader, waarbij gemeenten zoals Amsterdam en Eindhoven
besluitvorming vaak een uitdaging blijkt te zijn (Hagendorff, 2020). In het onderzoek zijn drie veelvoorkomende typen
hebben bijgedragen aan de VGN-principes voor de digitale samenleving.22 Tegelijkertijd zien we dat de ethische commissies
ethische kaders geïdentificeerd.
van beide steden niet deze principes toepassen als afwegingskader.
13
Gemeentelijke ethische kaders: maatwerk per stad Ten eerste zien we dat sommige ethische commissies hun eigen waardenkader ontwikkeld hebben. Een aantal gemeentelijke
Conclusie en aanbeveling: criteria voor ethische afweging
ethische commissies hebben hierbij het raamwerk van het Rathenau instituut (2017 en 2020) gebruikt. De gemeenten (Eindhoven,
De waardenkaders die gebruikt worden door ethische commissies hebben verschillende herkomsten en
Utrecht, Groningen) die het kader gebruiken, hebben dit vaak wat gefinetuned op de specifieke context en behoefte van de
zwaartepunten. Op basis van het onderzoek is geen reden om aan te nemen dat een van de kaders beter werkt
gemeente. Zo werkt de ethische commissie van de gemeente Eindhoven met de zeven publieke waarden: autonomie, mens centraal,
dan een ander kader. Wel zien we dat het van belang is dát er een waardenkader is en dat ethische commissies
privacy, veiligheid, controle over technologie, rechtvaardigheid, duurzaamheid (Van Veen & Visser-Knijff, 2022). In Groningen is
een expliciet gesprek met de verschillende betrokkenen hebben over dit waardenkader. Het hebben van een
een soortgelijk kader opgesteld, waarin naast de Rathenau-waarden ook internationale inzichten en ervaringen van Filosofie in
waardenkader is belangrijk, maar vooral ook een middel tot een doel.
14
Actie zij verwerkt. Dit kader bevat onder andere de waarden: nuchterheid, autonomie, privacy, controle op technologie, veiligheid, gelijkwaardigheid, rechtvaardigheid en duurzaamheid.15 ‘Nuchterheid, is toegevoegd als een typische Groningse waarde.16 Ook Utrecht heeft een eigen model ontwikkeld: het Utrechts Ethisch Waardenmodel, dat geïnspireerd is door het Rathenau-kader en waarin gezondheid als extra waarde is opgenomen.17 Ten slotte zien we ook dat de Klankbordgroep Digitalisering & Ethiek in Hilversum in de praktijk een afweging maakt op basis van de door het Rathenau geformuleerde zeven publieke waarden.18
13 Hagendorff, T. The Ethics of AI Ethics: An Evaluation of Guidelines. Minds & Machines 30, 99–120 (2020). https://doi.org/10.1007/s11023020-09517-8 14 Gemeente Eindhoven. (2021, 18 mei). Raadsvoorstel Ethiek en Digitalisering. 15 Gemeente Groningen. (2022, 15 november). Invulling ethische commissie en data-ethiek (wensen en bedenkingen). Bijlage raadsvoorstel – Ethisch afwegingskader. 16 Leden van de raad gemeente Groningen. (2022, 15 november). Invulling ethische commissie en data-ethiek (wensen en bedenkingen). 17 Gemeente Utrecht. (2021). Visie Digitale Stad 2021-2025. 18 Gemeente Amersfoort. (2021, 11 mei). Raadsbrief: Installeren Klankbordgroep Digitalisering & Ethiek (RIB). Collegebesluit. De gemeente maakt gebruik van de VNG Principes voor de Digitale Samenleving.
18
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
19 Gemeente Hilversum. (2021, 12 november). Basisdocument Stadspanel Data Smart City/data-gedreven werken Hilversum. 20 Innovatie. (n.d.). TADA-waarden, https://zoek.officielebekendmakingen.nl/gmb-2021-457829.html 21 Gemeente Amsterdam. (2021, 16 december). Reglement van de Commissie Persoonsgegevens Amsterdam 2021: Besluit van het college van burgemeester en wethouders van de gemeente Amsterdam houdende regels over de taken en werkwijze van de Commissie Persoonsgegevens Amsterdam, https://zoek.officielebekendmakingen.nl/gmb-2021-457829.html 22 VNG. (2022). Principes voor de Digitale Samenleving (versie 2022).
Erna Ruijer, Bart Wernaart & Albert Meijer
19
ONTWERPVRAAG IV. Doorwerking advies van de ethische commissie Bij het doorwerken van het advies van een ethische commissie gaat het om de output en outcome (Crico et al., 2021).
DEEL IVa. Output van het werk Ethische commissies komen met verschillende vormen van moresprudentie, oftewel de output van hun werk. Veelvoorkomende vormen van output zijn: •
Uitgebreide formele output (rapporten)
•
Beperkte formele output (brieven, memo’s)
•
Jaarverslaglegging
•
Verslagen van vergaderingen
•
Interactieve output (bijv. workshop in gemeenten)
Met andere woorden: welke output brengt een ethische commissie voort en welke impact heeft dit in de praktijk?
Praktijken in gemeenten
De voortbrengselen van een ethische commissie worden in vakliteratuur wel eens ‘moresprudentie’ genoemd.
Uitgebreide formele output omvat onderzoeksrapporten waarin een ethische kwestie grondig wordt geanalyseerd en van een uitgebreide reflectie en advies wordt voorzien. Een voorbeeld hiervan is de Ethische Commissie Enschede, die over de Digital Twin Bodem een zes pagina’s tellende notitie opstelde met een casusomschrijving en een ethische afweging
Moresprudentie
rondom een hoofdvraag en twee deelvragen.
Het begrip ‘moresprudentie’ is een typisch Nederlands begrip, in 2004 geïntroduceerd door Raoul Wirtz in de context van integriteit rondom audits in de zakelijke sector. Het is – niet geheel verrassend – een verbastering van
Beperkte formele output bestaat uit kortere brieven of notities, die qua stijl aansluiten bij de ambtelijke communicatiewijze.
de woorden jurisprudentie en mores (Wirtz, 2004; Wirtz & Karrsing, 2015). Het begrip drukt uit dat van een ethische
Deze documenten informeren het college of de gemeenteraad over de ethische zienswijze van de commissie. De
beslissing te leren valt en dat het belangrijk is om te kijken naar goede voorbeelden die lijken op de onderhavige
Amsterdamse Commissie Persoonsgegevens schreef bijvoorbeeld een advies over de BRP-koppeling Omnichannel
zaak. Het impliceert ook dat er een bepaalde ongeschreven autoriteit moet uitgaan van een kwalitatief goed ethisch
oplossing Dienstverlening en Communicatie (het programma Prima). Dit advies omvatte een contextomschrijving,
besluit, dat navolging verdient in soortgelijke casuïstiek die zich later voordoet. Dit onderstreept dat een ethische
vraagstelling, aanbevelingen en een verslag van de betreffende bijeenkomst van de commissie.23 De Algoritme Adviesraad
beslissing niet alleen een momentopname is voor een individuele casus, maar ook een bredere zeggingskracht
Rotterdam leverde een tweepagina’s tellend overzicht van ethische aandachtspunten bij de casus Parkeerautomaten,
heeft voor toekomstige situaties.
bedoeld als overweging voor de betreffende bestuurders.24
In buitenlandse vakliteratuur bestaat geen rechtstreekse vertaling voor dit begrip. De Vereniging van Nederlandse
Jaarverslaglegging wordt door sommige ethische commissies gebruikt om hun activiteiten en bevindingen op haar
Gemeenten (VNG) benadrukt in haar handreiking digitale ethiek nadrukkelijk het belang van moresprudentie om tot
algemene handelen van dat kalenderjaar, vast te leggen.
goede en consistente ethische besluitvorming te komen binnen de vaak complexe ethische vraagstukken rondom digitalisering bij het lokaal bestuur (Postma et al., 2021).
De commissie persoonsgegevens in Amsterdam (conform Artikel 8 van haar regelement)25 en de Algoritme Adviesraad in Rotterdam – zoals besloten tijdens de oprichtingsvergadering en tijdens de kennismaking met de gemeenteraad op 8
De manier waarop de moresprudentie van de door ons onderzochte ethische commissies tot stand komt,
december 2022 – schrijven jaarverslagen.
en de bijbehorende bronvermelding, is echter zeer uiteenlopend. Er is dan ook geen sprake van een algemene moresprudentiepraktijk waarbij ethische commissies in horizontale zin kijken naar het werk van andere commissies
Verslagen van vergaderingen bieden inzicht in de uitwisseling van verschillende ethische standpunten en de overwegingen
die zich over soortgelijke of aanverwante thema’s hebben gebogen. Er is evenmin een precedentwerking-effect van
achter de adviezen. Veel ethische commissies publiceren los van hun standpunten rondom concrete cases ook verslagen
eerdere adviezen of zienswijzen, noch sprake van onderlinge samenhang tussen deze adviezen of zienswijzen.
van de bijeenkomsten. Deze worden dan los gepubliceerd. Dit is het geval in Amsterdam, Eindhoven en Zwolle.
Met deze wetenschap indachtig gebruiken we in deze publicatie de term ‘moresprudentie’ voor de verschillende
Interactieve output omvat niet-schriftelijke vormen van kennisdeling, zoals workshops en ethische beraadslagingen
voortbrengselen van ethische commissies wanneer zij een advies geven of meedenken over een techno-ethische casus.
binnen de gemeentelijke organisatie. Eindhoven experimenteerde met een Ethisch Beraad over AI, waarbij leden van de ethische commissie samen met raadsleden een concrete AI-casus bespraken. Dit initiatief kwam voort uit een verzoek van enkele raadsleden: ‘De raad wil graag met de ethische commissie zich verder verdiepen in het ethisch perspectief van
In dit deel richten we ons eerst op de vorm en output van moresprudentie: hoe worden de adviezen van ethische
AI-toepassingen.
commissies vastgelegd en gepresenteerd? Vervolgens analyseren we de interne doorwerking van deze uitkomsten binnen de gemeentelijke organisatie en de communicatie naar externe stakeholders, zodat ook zij inzicht krijgen in de uitkomsten van de commissie (outcome, materiele inhoud). Ethische commissies kunnen hierbij de nadruk leggen op een van deze aspecten of streven naar een combinatie van beide.
23 Gemeente Amsterdam. (2024, juni). Advies BRP-koppeling Omnichannel oplossing Dienstverlening en Communicatie (het programma Prima) 24 Niet gepubliceerd, opgevraagd bij de secretaris van de raad. 25 Gemeente Amsterdam. (2021). Reglement van de Commissie Persoonsgegevens Amsterdam: Besluit van het college van burgemeester en wethouders van de gemeente Amsterdam houdende regels over de taken en werkwijze van de Commissie Persoonsgegevens Amsterdam.
20
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
21
Aan de hand van een concrete casus gaan de leden van ethische commissie met raads- en commissieleden in gesprek over
In gemeenten zoals Enschede, Eindhoven en Utrecht heeft de oprichting van een ethische commissie het bewustzijn over
de verschillende perspectieven waarmee de casus te benaderen is.’
ethiek vergroot en het eigenaarschap binnen de organisatie verbreed. Dit geeft de organisatie ook een zekere geruststelling.
26
Een respondent benoemt dat het advies van de ethische commissie wordt besproken met vakmensen, leidinggevenden en beleidsmakers, waarbij juist dat gesprek leidt tot bewustwording en leren. Een ander merkt op dat er binnen de organisatie
DEEL IVb. Interne doorwerking
een ‘mindshift’ heeft plaatsgevonden: een andere manier van denken. Tegelijkertijd geven sommige respondenten aan dat de commissie niet te dicht op de bestuurlijke sturing van de organisatie moet zitten. De rol van de commissie is vooral
Het werk van de ethische commissies is er uiteindelijk op gericht om besluitvorming in gemeenten te beïnvloeden. Dat is
om handreikingen te bieden, waarmee de organisatie vervolgens zelf aan de slag kan. Dit moet uiteindelijk leiden tot een
de interne doorwerking van de moresprudentie. Uit het onderzoek blijkt dat de mate waarin dit zichtbaar en meetbaar is,
spin-off binnen de ambtelijke organisatie.
sterk varieert. Bij de interne impact is het belangrijk om een kanttekening te plaatsen bij de formele terugkoppeling en de strategische lijnen waarin een ethische commissie werkt, zoals uit de designsessie naar voren kwam. De informele lijn is hierin namelijk
Tabel 4b. Interne doorwerking
Zicht op interne doorwerking
Toelichting
Voorbeelden van gemeenten
Terugkoppeling vanuit ambtelijke
Eindhoven, Groningen en Utrecht
organisatie Doorwerking via strategische lijn
Adviezen aan gemeentebestuur
Utrecht
Doorwerking via ambtelijke
Opvolging maar ook bredere
Enschede, Eindhoven en Utrecht
organisatie
doorwerking (agenderen, internaliseren, bewustwording)
niet meegenomen. Bij commissies die dichtbij het gemeentebestuur staan, is de doorwerking soms veel zichtbaarder via informele feedbackloops. Dit kan een positief effect hebben, maar is tegelijkertijd afhankelijk van toevallige samenwerkingen tussen individuen. Zo’n dynamiek kan met een nieuw bestuur ook snel weer verdwijnen.
Conclusie en aanbeveling: interne doorwerking van de ethisch commissie Binnen veel gemeenten met een ethische commissie is er beperkt aandacht voor de interne impact van adviezen. Het verdient daarom aanbeveling om bij de oprichting van een ethische commissie een expliciet monitoringmechanisme te organiseren. De ‘eigenaar’ van het ethische dilemma – dit kan zowel een raadslid als iemand uit de ambtelijke organisatie zijn – kan hierin samen met de ethische commissie nadenken over hoe de interne
Praktijken in gemeenten
doorwerking van adviezen gewaarborgd wordt.
Ten eerste zien we dat gemeenten niet altijd zicht hebben op de doorwerking van hun moresprudentie, omdat de verantwoordelijkheid hiervoor ligt bij de projectleider binnen de organisatie. Vooral gemeenten die nog maar kort een ethische commissie hebben, ervaren het als een uitdaging om adviezen goed te laten landen. Een respondent merkt op dat het makkelijker is om een advies aan te vragen dan om het daadwerkelijk te ontvangen en er iets mee te doen.
DEEL IVc. Externe communicatie
Strategische doorwerking: van advies naar beleid
Techno-morele besluitvorming is een onderwerp dat niet alleen de gemeentelijke organisatie raakt maar ook de hele stad.
Ten tweede zien we voorbeelden van een interne strategische doorwerking zoals in de gemeente Utrecht. Volgens
Toch zien we dat er duidelijke verschillen zijn in externe communicatie.
respondenten luistert de organisatie naar de adviezen van de commissie en neemt deze serieus. ‘Het is een advies aan de business, maar als ze het niet opvolgen, is er een directe escalatielijn naar de gemeenteraad.’ (...) ‘Het verslag gaat naar
Tabel 4c. Externe communicatie
de projectleider, diens manager en wordt meegestuurd naar de wethouder. Dan zorg je er als projectleider wel voor dat er iets mee gebeurt. Er wordt ook monitoring gedaan om te kijken wat er binnen een kwartaal met het advies is gebeurd.’ Enkele respondenten benoemen expliciet dat adviezen van de commissie hebben geleid tot aanpassingen in beleid of
Actieve communicatie
Toelichting
Voorbeelden van gemeenten
Moresprudentie is openbaar en vindbaar
Amsterdam, Amersfoort, Enschede, Groningen, Zwolle, Eindhoven
projecten, zoals wijzigingen in contracten met externe aanbieders. Tegelijkertijd kan de opvolging van adviezen door zowel de politiek als de organisatie sterker. Daarbij moet er volgens een respondent ruimte blijven voor eigen afwegingen binnen
Passieve communicatie
Moresprudentie is op aanvraag
Nijmegen, Hilversum
de organisatie; niet elk advies hoeft direct te worden overgenomen.
Geen communicatie
Moresprudentie is besloten
Rotterdam, Utrecht,
Ten derde kost doorwerking in de ambtelijke organisatie tijd. Commissies die langer bestaan, geven aan dat hun impact
Nog geen moresprudentie
Breda
vooral zichtbaar is in het proces: bewustwording, het internaliseren van ethiek, het agenderen van ethische vraagstukken en het stimuleren van leren. ‘De ethische commissie heeft geholpen om ethiek en ethische gesprekken meer in de organisatie
Praktijken in gemeenten
te voeren. Het is een motor voor ethische gesprekken in de organisatie.’
Er is een groot verschil in de toegankelijkheid van moresprudentie van ethische commissies. In sommige gevallen is er sprake van actieve communicatie via een goed gestructureerde website waar alle stukken openbaar zijn gemaakt. In andere gevallen is er wel een website, maar is de informatievoorziening onvolledig. Daarnaast zijn er ook gemeenten waar nauwelijks openbare informatie beschikbaar is en de moresprudentie alleen op aanvraag te verkrijgen is, zoals in Nijmegen en Hilversum.
26 Gemeenteraad Amsterdam. (2024, 19 november). Agenderingsverzoek PvdD, GL, Volt.
22
Ethische Commissie voor de Slimme Stad
Van morele ambitie naar morele impact
Erna Ruijer, Bart Wernaart & Albert Meijer
23
Daarnaast bestaat er ook besloten moresprudentie. Zoals eerder opgemerkt, kan het een bewuste keuze zijn om stukken niet direct openbaar te maken. Dit is bijvoorbeeld vastgelegd in Artikel 9 van het reglement van het Rotterdamse Algorithm
CONCLUSIES
Advisory Board. Dit gebrek aan transparantie maakt het lastig om een volledig beeld te krijgen van de casuïstiek die binnen ethische commissies wordt behandeld.
Ons onderzoek laat zien dat gemeenten op uiteenlopende manieren invulling geven aan ethische commissies. Er bestaat een brede variëteit aan praktijken, waarbij verschillende keuzes worden gemaakt en waarin steeds een balans moet
Tegelijkertijd benadrukken gemeenten het belang van actieve openbaarmaking en hechten zij veel waarde aan een up-to-
worden gevonden tussen uiteenlopende overwegingen. Daarbij is het zaak dat gemeenten een invulling aan de ethische
date website van de commissie. Dit wordt gezien als essentieel voor kennisuitwisseling en leren tussen gemeenten. Wel
commissies geven die aansluit bij wat men in die gemeente belangrijk vindt. Er valt dus te kiezen. Op basis van dit
geven zij aan dat hier nog een professionaliseringsslag nodig is: ‘Er zit nog niet echt een systeem achter, maar dit willen we
onderzoek hebben we mogelijke antwoorden op ontwerpvragen in kaart gebracht (zie Tabel 5.1).
wel beter gaan doen. Het afgelopen jaar stond in het teken van leren.’ Tabel 5.1: Overzicht ontwerpkeuzes
Een suggestie die werd aangedragen, is om een jaarlijkse rapportage van de externe ethische commissie op te stellen, waarin de behandelde casussen en bijbehorende adviezen worden samengevat. Tegelijkertijd hechten gemeenten ook waarde aan het voeren van een vrij gesprek dat niet direct openbaar wordt gemaakt.
Ontwerpvraag
Dimensie
1. Wat moet de samenstelling zijn van
• Expertcommissies
een ethische commissie?
• Interne ambtelijke commissie • Burgercommissie
Hier zien zij verschillende mogelijkheden voor. Zo hoeven persoonlijke beleidsopvattingen niet expliciet in verslagen te
• Netwerkcommissies
worden opgenomen, maar kan wel worden aangegeven welke spanningen tussen waarden zijn besproken en hoe daarin keuzes zijn gemaakt.
Opties
• Hybride vormen 2. Op welke wijze moeten de ethische commissies worden ingebed?
Conclusie en aanbeveling: externe communicatie
Binding aan een of meerdere
• Commissie per gemeente
Er zijn goede redenen om terughoudend te zijn met de openbaarheid van het werk van ethische commissies.
gemeenten
• Commissie voor meerdere gemeenten
Formele relatie met de gemeente
• Advies aan ambtelijke organisatie
Vertrouwelijkheid geldt namelijk als voorwaarde voor een open gesprek waarin verschillende aspecten van technomorele besluitvorming goed en zonder terughoudendheid kunnen worden verkend. Tegelijkertijd raakt techno-
• Advies aan gemeentebestuur
morele besluitvorming de hele stad, waardoor een te sterke focus op alleen de gemeentelijke organisatie te beperkt
• Advies aan gemeenteraad
kan zijn. Het verdient daarom aanbeveling om deze keuze expliciet te maken en een vorm te kiezen die passende
Bevoegdheid
vertrouwelijkheid maar ook passende openbaarheid biedt.
• Richting geven • Gevraagd en ongevadvies • Gevraagd advies • Meedenken
Toepassingsgebied
• Commissies voor digitale ethiek • Commissies met specifieke focus
3. H oe kan de ethische commissie haar werk inrichten? Werkwijze van de ethische
• Benoeming voorzitter
commissie
• Stemprocedure • Ambtelijke ondersteuning
Inhoudelijke focus
• Strategisch versus operationeel • Hoog versus laag risico
Criteria voor ethische afwegingen
• Waardenkader Rathenau • CODIO • TADA • VNG Principes voor de Digitale Samenleving