Onderzoeksrapport_Ethische commissie voor de slimme stad

24

Ethische Commissie voor de Slimme Stad

Van morele ambitie naar morele impact

Erna Ruijer, Bart Wernaart & Albert Meijer

25

Ontwerpvraag

Dimensie

Opties

4. Hoe kan het advies van de ethische

Aandacht voor informele en indirecte impact Het is belangrijk om bij dit alles steeds oog te hebben voor de informele en indirecte aspecten van de aanwezigheid van een ethische commissie. De aanwezigheid van zo’n commissie kan besluitvormers bewuster maken van ethische

commissie doorwerken?

vraagstukken en ambtenaren ondersteunen in hun ethische afwegingen. Met name bij ethische commissies die dichtbij Output van het werk

Uitgebreide formele output

de gemeentelijke organisaties staan, spelen informele relaties een belangrijke rol. Laagdrempelige ethische gesprekken

Beperkte formele output

binnen de organisatie kunnen zo de kwaliteit van besluitvorming verstrekken.

Jaarverslaglegging Verslagen van vergaderingen Interactieve output Interne impact

Zicht op interne doorwerking Doorwerking via strategische lijn Doorwerking via ambtelijke organisatie

Externe communicatie

Actieve communicatie richting burgers

Van experiment naar bestendiging Afsluitend hebben we laten zien dat de aandacht voor techno-morele besluitvorming in slimme steden op allerlei manieren vorm heeft gekregen. De diversiteit aan praktijken biedt vele inzichten. Een volgende stap is nu om deze inzichten te verbinden, te ijken en te consolideren, en de aanwezigheid van een ethische commissie te bestendigen. Daarmee wordt dan de noodzakelijke stap gezet van allerlei interessante experimenten en ervaringen met ethische commissies naar volwassen praktijken zodat techno-morele besluitvorming goed verankerd raakt in gemeenten.

Passieve communicatie richting burgers Geen communicatie richting burgers

Dit onderzoek laat zien dat gemeenten verschillende keuzes maken bij de inrichting van ethische commissies. Per ontwerpvraag hebben we argumenten benoemd die daarbij een rol spelen. Tabel 5.1 fungeert als een ‘routekaart’ waarmee gemeenten een passende invulling kunnen geven aan hun ethische commissie. Deze routekaart helpt bij het instellen of versterken van een commissie en biedt handvatten voor doordachte keuzes. Naast deze routekaart, waarmee gemeenten aan de slag kunnen voor het design of re-design van (gezamenlijke) ethische commissies, willen we ten slotte enkele algemene aanbevelingen doen die op bovengemeentelijk niveau kunnen worden opgepakt, bijvoorbeeld door de VNG of wellicht het ministerie van BZK.

Maak moresprudentie centraal toegankelijk Maak de openbare moresprudentie van alle gemeenten centraal beschikbaar. In het onderzoek hebben we gemerkt hoe lastig het is om de moresprudentie, ook als deze openbaar was, te vinden. Een centrale database met moresprudentie zou gemeenten helpen om van elkaar te leren en op elkaars ethische reflecties voort te bouwen. Dit voorkomt dubbel werk en vergroot de onderlinge kennisdeling. 1. Bevorder kennisontwikkeling tussen ethische commissies. Kennisuitwisseling tussen commissies kan gezamenlijk leren bevorderen en leiden tot een efficiëntere werkwijze. Dit zou gefaciliteerd kunnen worden door een platform of ‘’ community of practice’ waarin kennis van verschillende ethische commissies actief gedeeld wordt. Op regionaal en of landelijk niveau kunnen bijvoorbeeld casussen worden verzameld. Tegelijkertijd is casuïstiek contextafhankelijk. Daarnaast zouden voorzitters van ethische commissies jaarlijks bij elkaar kunnen komen om ervaringen te delen. 2. Verken de mogelijkheden van ethische commissies voor meerdere gemeenten. Het lijkt onwaarschijnlijk – en wellicht ook onwenselijk – dat alle gemeenten een eigen ethische commissie zullen opzetten. Daarom willen we aanbevelen dat gemeenten gaan experimenten met verschillende vormen van samenwerking. Hieruit kunnen belangrijke lessen worden getrokken die andere gemeenten kunnen benutten. 3.

Onderzoek de effectiviteit van ethische commissies. We hebben in kaart gebracht hoe ethische commissies werken, maar niet of ze daadwerkelijk hun doel bereiken. Onderzoek is nodig om vast te stellen of en hoe deze commissies de kwaliteit van techno-morele besluitvorming versterken. Zonder een heldere doorwerking in de gemeentelijke organisatie dreigt het risico dat een ethische commissie slechts een symbolische functie krijgt.

26

Ethische Commissie voor de Slimme Stad

Van morele ambitie naar morele impact

Erna Ruijer, Bart Wernaart & Albert Meijer

27

Referenties Amnesty International. (2020). We sense trouble – Automated discrimination and mass surveillance in predictive policing

Peters, F. (2021). Het juiste doen wanneer niemand kijkt: lessen uit de ethiek en filosofie voor integer leiderschap. Amster-

in the Netherlands. https://www.amnesty.nl/content/uploads/2020/09/Report-Predictive-Policing-RM-7.0-FINAL-TEXT_CK-2.

dam, Boom Uitgevers.

pdf?x62320 Postma, R.M., Wieringa, W. & Vellekoop, L. (2022, 17 januari). Handreiking digitale ethiek. VNG. Amnesty International. (2024). Recording dissident: camera surveillance at peaceful protest in the Netherlands. Amnesty International. The Netherlands: Recording dissent: Camera surveillance at peaceful protests in the Netherlands - Amnesty

Peeters, R., & Widlak, A. C. (2023). Administrative exclusion in the infrastructure‐level bureaucracy: The case of the Dutch

International

daycare benefit scandal. Public Administration Review, 83(4), 863-877.

Aulisio, M. P., & Arnold, R. M. (2008). Role of the ethics committee: helping to address value conflicts or uncertain-

Prem, E. (2023). From ethical AI frameworks to tools: a review of approaches. AI and Ethics, 3(3), 699-716.

ties. Chest, 134(2), 417-424. Rathenau Instituut (2017). Opwaarderen - Borgen van publieke waarden in de digitale samenleving. Den Haag (auteurs: Kool, Bhatt, A. (2016). Ethics committee minutes: Heart of ethics committee quality. Perspectives in Clinical Research, 7(1)

L., J. Timmer, L. Royakkers en Van Est, R).

doi:https://doi.org/10.4103/2229-3485.173774 Rathenau Instituut (2020). Raad weten met digitalisering – Hoe de gemeenteraad kan sturen op de maatschappelijke impact Buitink, J.A., Ebskamp, J. & Groothoff, R. (2012). Moresprudentie: ethiek en beroepscode in het sociaal werk. Amersfoort,

van digitale technologie (auteurs: Das D., P. Faasse, B. Karstens en P. Diederen).

ThiemeMeulenhoff. Sattlegger, A. (2024). Ethical Governance of Emerging Digital Technologies in the Public Sector. In: Johannessen, M.R., et Crico, C., Sanchini, V., Casali, P. G., & Pravettoni, G. (2021). Evaluating the effectiveness of clinical ethics committees: a sys-

al. Electronic Participation. ePart 2024. Lecture Notes in Computer Science, vol 14891. Springer, Cham. https://doi.

tematic review. Medicine, Health Care and Philosophy, 24(1), 135-151.

org/10.1007/978-3-031-70804-6_9

Greenwood, M. (2016). Approving or Improving Research Ethics in Management Journals. Journal of Business Ethics, 137(3),

Van der Meulen, B., & Wernaart, B. (2023). Comparative food law. In Research Handbook on International Food Law (pp. 199-

507–520. http://www.jstor.org/stable/24755762

224). Edward Elgar Publishing.

Hagendorff, T. The Ethics of AI Ethics: An Evaluation of Guidelines. Minds & Machines 30, 99–120 (2020). https://doi.

Van Veen, M. & Visser-Knijff, P. (2022). Ethics in local politics: a case study of the city of Eindhoven. In: Wernaart, B. (Ed.)

org/10.1007/s11023-020-09517-8

Moral Design and Technology. Wageningen, Wageningen Academic Publishers. https://doi.org/10.3920/978-90-8686-922-0

Kiel, J. (2021, 20 oktober). De ethische commissie voor de slimme stad rukt op: ‘duidelijke rol in de organisatie nodig’.

Van Veen, M. & Wernaart, B. (2022). Building a techno-moral city – Reconciling public values, the ethical city committee and

Stadszaken.https://stadszaken.nl/artikel/3792/de-ethischecommissie-voor-de-slimme-stad-rukt-op-duidelijke-rol-in-de-

citizens’ moral gut feeling in techno-moral decision making by local governments. Open Living Lab Days, 21-23 September

organisatie-nodig

2022, Turin, Italy

Meijer, A. & Ruijer, E. (2021). Code Goed Digitaal Openbaar Bestuur (CODIO) Borgen van waarden bij de digitalisering van

Voljč, B. (2017). Jurisdiction of the medical ethics committees. Zdravstveno Varstvo, 56(4), 193-195. doi:https://doi.

openbaar bestuur. USBO advies.

org/10.1515/sjph-2017-0026

Michaels, Ralf. (2019). The Functional Method of Comparative Law’, in Mathias Reimann, and Reinhard Zimmermann

Wirtz, R. (2004). De moresprudentie van de auditor, Audit Magazine, 3-2004 Wirtz, R. & Karrsing, E. (2015). Moresprudentie,

(Eds.), The Oxford Handbook of Comparative Law, 2nd ed., Oxford Handbooks (2019; online ed., Oxford Academic, 9 May

10 jaar later. Audit Magazine, 1-2015.

2019), https://doi.org/10.1093/oxfordhb/9780198810230.013.11. Wernaart, B. (2021). Ethics and business, a global introduction. Palgrave. Morley, J., Elhalal, A., Garcia, F., Kinsey, L., Mökander, J., & Floridi, L. (2021). Ethics as a service: a pragmatic operationalisation of AI ethics. Minds and Machines, 31(2), 239-256.

Wernaart, B. (2022). Moral authority. In Moral design and technology (pp. 29-46). Wageningen Academic Publishers.

Oldenhof, L., Kersing, M., & van Zoonen, L. (2024). Sphere transgressions in the Dutch digital welfare state: causing harm to

Zyung, J. D., Mittal, V., Kekre, S., Hegde, G. G., Shang, J., Marcus, B. S., & Venkat, A. (2020). Service Providers’ Decision to

citizens when legal rules, ethical norms and quality procedures are lacking. Information, Communication & Society, 1-17.

Use Ethics Committees and Consultation in Complex Services. Journal of Marketing Research, 57(2), 278– 297. https://doi. org/10.1177/0022243719898495

28

Ethische Commissie voor de Slimme Stad

Van morele ambitie naar morele impact

Erna Ruijer, Bart Wernaart & Albert Meijer

29

Bijlage 1. Aanpak van het onderzoek

De deelnemers werden in zeven groepen verdeeld waarbij elk groepje van vier/vijf deelnemers werkte aan een van deze vier ontwerpvragen. De groepen werd gevraagd gezamenlijk oplossingen te bedenken voor het vraagstuk en deze op te schrijven op een flip over en hun resultaten te presenteren. Deze ideeën en suggesties zijn meegenomen in de bevindingen

Rechtsvergelijkende analyse De analyse van normvorming vindt bij uitstek plaats binnen de juridische en sociologische disciplines. Met name bij formele

van dit onderzoek. Figuur 3. Vier voorbeelden van uitgewerkte flip overs

structuren biedt functionele (rechts)vergelijking een toepasbare methode (Michaels, 2006; Van der Meulen & Wernaart, 2023). Deze methodologische benadering kent elementen van sociologie in een meer juridisch formele toepassing. Uitgegaan wordt van een zogeheten tertium comparationis waarbij een maatschappelijk probleem (bijvoorbeeld een techno-ethisch dilemma) een Archimedisch punt vormt waar de procedurele aspecten en ook het werk van een ethische commissie een oplossing moet bieden. Door de verbinding en afbakening van de gekozen tertium comparationis voorkomen we een brede, ongenuanceerde vergelijking, of een vergelijking op louter overeenkomsten en verschillen zonder contextuele toepassing. Ook voorkomen we een zogeheten ‘dogmatische rechtsvergelijking’ waarbij louter juridische of procedurele teksten (law in the books) vergeleken worden, en richten we ons nadrukkelijk op de praktische aspecten rondom een ethische commissie. De verschillende oplossingen uit de analyse zijn dan functioneel gelijkwaardig en dus vergelijkbaar ten opzichte van het maatschappelijke probleem. Op deze manier voerden we een analyse uit rondom de vier ontwerpvragen.

De formulering van de tertium comparationis vloeit voort uit een analyse van de ambtelijke stukken die gevonden zijn rondom de ethische commissies in de volgende steden (genoemd in volgorde van oprichting): Amsterdam (2011), Enschede (2018), Hilversum (2019), Amersfoort (2019), Utrecht (2021), Eindhoven, Zwolle, Breda, Nijmegen, Rotterdam (2022) en Groningen (2023). Op het moment van schrijven waren dit de Nederlandse gemeenten met een actief orgaan dat zich richt op ethiek en data/technologie.

Kwalitatief onderzoek Daarnaast zijn er semigestructureerde diepte-interviews. Er zijn in de periode juni-december 2024 zijn negentien interviews afgenomen waarin met 25 respondenten is gesproken van de ethische commissies Amsterdam, Amersfoort, Breda, Den Bosch, Enschede, Eindhoven, Groningen, Utrecht en Zwolle. In de selectie van ethische commissies is rekening gehouden met deelname aan het consortium, diversiteit van commissies en met een geografische spreiding over Nederland. De respondenten betreffen zowel direct betrokkenen, dat wil zeggen externe leden van ethische commissies (acht van de 25) als indirect betrokkenen (zeventien van de 25) zoals ambtelijk secretarissen van de ethische commissies, evenals ambtelijke, bestuurlijke en politieke opdrachtgevers. De interviews duurden gemiddeld een uur en zijn opgenomen en getranscribeerd.

Design research Tot slot heeft er op 21 januari een design sessieplaats gevonden tijdens een symposium over ethische commissies. Er waren 33 aanwezigen. Dit betrof zowel leden van ethische commissies, gemeenteambtenaren, raadsleden, deskundigen van kennisinstellingen en bedrijven. Eerst werden de bevindingen van het onderzoek gepresenteerd. De presentatie eindigde met de volgende ontwerpvragen op basis van het onderzoek. Figuur 2. Ontwerpvragen waaraan de deelnemers hebben gewerkt.

30

Ethische Commissie voor de Slimme Stad

Van morele ambitie naar morele impact

Erna Ruijer, Bart Wernaart & Albert Meijer

31

De digitale transformatie van gemeenten brengt uiteenlopende ethische vraagstukken met zich mee. Hoe waarborgen we transparantie? Welke risico’s op discriminatie bestaan er? En hoe voorkomen we ongelijkheid in de behandeling van burgers? Om goed om te gaan met deze vragen rondom de ‘Slimme Stad’ hebben veel gemeenten een ethische commissie opgericht. Maar wat is precies de rol van zo’n ethische commissie? En wie zouden er deel van uit moeten maken? Hoe verhoudt de commissie zich tot de gemeente? En welke voorwaarden zijn nodig voor een effectieve werkwijze? In dit rapport analyseren we gemeentelijke praktijken om lessen te trekken over de optimale inrichting van ethische commissies. We hebben elf gemeenten onderzocht op vier kernaspecten: het type ethische commissie, de inbedding in de organisatie, de werkwijze en de impact. Op basis van onze analyse presenteren we inzichten aan de hand van vier ontwerpvragen. Deze vragen helpen gemeenten bij het opzetten van een ethische commissie of het herzien van een bestaande commissie. Daarnaast signaleren we enkele bredere aandachtspunten, zoals het belang van kennisuitwisseling tussen gemeenten, het experimenteren met bovengemeentelijke ethische commissies en de impact van de moresprudentie die een ethische commissie genereert. Het voornaamste doel is dat -vanzelfsprekendeen ethische commissie verder moet gaan dan morele esthetiek.

Hoe kan een ethische commissie bijdragen aan de vertaling van morele ambitie naar daadwerkelijke morele impact?

32

Ethische Commissie voor de Slimme Stad

Van morele ambitie naar morele impact