Bijlage 2 - Verordening Ethische Richtlijnen voor Kunstmatige Intelligentie (Hart voor Emmen) 6-11-2024

Verordening Ethische Richtlijnen voor Kunstmatige Intelligentie (AI) Gemeente Emmen

Verordening Ethische Richtlijnen voor Kunstmatige Intelligentie (AI) Gemeente Emmen

INHOUDSOPGAVE VERORDENING ETHISCHE RICHTLIJNEN VOOR KUNSTMATIGE INTELLIGENTIE (AI) GEMEENTE EMMEN .................................... 1 HOOFDSTUK 1: ALGEMENE BEPALINGEN......................................................................................................... 3 ARTIKEL 1 - BEGRIPSBEPALINGEN ............................................................................................................................... 3 ARTIKEL 2 - DOELSTELLINGEN .................................................................................................................................... 3 ARTIKEL 3 - JURIDISCHE VERHOUDING TOT BESTAANDE WETGEVING ............................................................................... 3 HOOFDSTUK 2: ETHISCHE COMMISSIE VOOR AI .............................................................................................. 4 ARTIKEL 4 - OPRICHTING EN SAMENSTELLING .............................................................................................................. 4 ARTIKEL 5 - AANMELD- EN SELECTIEPROCEDURE........................................................................................................... 4 ARTIKEL 6 - VOORZITTERSCHAP EN INTERNE STRUCTUUR ...............................................................................................

4 ARTIKEL 7 - TUSSENTIJDS AFTREDEN EN ONTSLAG VAN LEDEN ........................................................................................ 4 ARTIKEL 8 - OPENBARE BENOEMINGS- EN ONTSLAGRAPPORTAGE ................................................................................... 4 HOOFDSTUK 3: TAKEN, BEVOEGDHEDEN EN OPENBAARHEID VAN DE ETHISCHE COMMISSIE ......................... 6 ARTIKEL 9 - TAKEN VAN DE COMMISSIE ...................................................................................................................... 6 ARTIKEL 10 - BEVOEGDHEDEN VAN DE COMMISSIE ....................................................................................................... 6 ARTIKEL 11 - AANSPRAKELIJKHEID EN BEVOEGDHEDEN VAN DE GEMEENTE ....................................................................... 6 HOOFDSTUK 4: WERKWIJZE, OPENBARE VERGADERINGEN EN BIJEENKOMSTEN ............................................. 7 ARTIKEL 12 - OPENBARE VERGADERINGEN EN VERSLAGLEGGING .................................................................................... 7 ARTIKEL 14 - BIJEENKOMSTEN MET INWONERS EN OPENBARE INFORMATIEAVONDEN ........................................................ 7 HOOFDSTUK 5: ETHISCHE RICHTLIJNEN VOOR AI-GEBRUIK ..............................................................................

8 ARTIKEL 15 - TRANSPARANTIE EN VERANTWOORDING .................................................................................................. 8 ARTIKEL 16 - FAIRNESS EN GELIJKE BEHANDELING ........................................................................................................ 8 ARTIKEL 17 - PRIVACY EN VEILIGHEID ......................................................................................................................... 8 HOOFDSTUK 6: TOEZICHT, KLACHTEN EN HANDHAVING ................................................................................. 9 ARTIKEL 18 - JAARLIJKSE EVALUATIE .......................................................................................................................... 9 ARTIKEL 19 - OPENBARE KLACHTENREGELING .............................................................................................................. 9 ARTIKEL 20 - GEHEIMHOUDINGSPLICHT EN SANCTIES .................................................................................................... 9 HOOFDSTUK 7: SLOTBEPALINGEN ................................................................................................................. 10 ARTIKEL 21 - HERZIENING VAN DE VERORDENING.......................................................................................................

10 ARTIKEL 22 - INWERKINGTREDING ........................................................................................................................... 10 ARTIKEL 23 - CITEERTITEL ....................................................................................................................................... 10

2

HOOFDSTUK 1: ALGEMENE BEPALINGEN ARTIKEL 1 - BEGRIPSBEPALINGEN In deze verordening wordt verstaan onder: 1. 2. 3. 4. 5. 6. 7.

AI: Kunstmatige Intelligentie, technologieën die gebruikmaken van algoritmen en geautomatiseerde besluitvorming om voorspellingen of analyses uit te voeren op basis van gegevens. AI-toepassingen: Systemen waarin AI wordt gebruikt voor processen die significante gevolgen kunnen hebben voor gemeentelijke besluitvorming of directe invloed kunnen uitoefenen op inwoners en hun rechten, plichten of toegang tot gemeentelijke voorzieningen. Ethische Commissie voor AI: Een onafhankelijke commissie die ethische toetsing, toezicht en transparantie waarborgt bij AI-gebruik binnen de gemeente Emmen. Transparantie: De verplichting om inzicht te geven in de werking, gegevensverwerking, en uitkomsten van AI-toepassingen voor inwoners. Privacy en Veiligheid: Het waarborgen van bescherming van persoonsgegevens in AI-processen en veilige verwerking van data. Fairness: Gelijke behandeling in AI-besluitvorming, zonder onrechtmatige discriminatie of vooringenomenheid. Gemeentelijk aanspreekpunt voor AI: De aangewezen contactpersoon binnen de gemeente voor vragen van inwoners over AI-gebruik.

ARTIKEL 2 - DOELSTELLINGEN Deze verordening heeft tot doel: • • • •

Een juridisch en ethisch kader te bieden voor verantwoord, transparant en gelijkwaardig gebruik van AI binnen gemeentelijke processen. De privacy, veiligheid, en gelijkheid van inwoners te waarborgen in elk AI-gebruik door de gemeente. Onafhankelijk toezicht op AI-toepassingen te waarborgen door de oprichting van een transparante Ethische Commissie voor AI. Aanvullende bepalingen te bieden in overeenstemming met geldende nationale en Europese wetgeving, waaronder de AVG en de Wet open overheid.

ARTIKEL 3 - JURIDISCHE VERHOUDING TOT BESTAANDE WETGEVING 1. 2.

Deze verordening stelt aanvullende regels voor AI-gebruik die in lijn zijn met, maar geen afbreuk doen aan, bestaande nationale en Europese wetgeving, waaronder de AVG en de WOO. Bij eventuele tegenstrijdigheid tussen deze verordening en hogere wetgeving prevaleert de hogere wetgeving.

3

HOOFDSTUK 2: ETHISCHE COMMISSIE VOOR AI ARTIKEL 4 - OPRICHTING EN SAMENSTELLING 1. 2.

3.

Oprichting: Er wordt een onafhankelijke Ethische Commissie voor AI opgericht die toezicht houdt op de ethische aspecten van AI-gebruik binnen de gemeente Emmen. Samenstelling en Leden: o De commissie bestaat uit vijf leden, waaronder ten minste: § Eén ethisch specialist met kennis van AI-technologie, § Eén jurist met kennis van privacy- en bestuursrecht, § Eén vertegenwoordiger van maatschappelijke organisaties, § Eén data-analyse expert met ervaring in ethische toepassingen, § Eén burgervertegenwoordiger die de belangen van de gemeenschap behartigt. o De commissieleden mogen geen directe belangen hebben bij gemeentelijke AI-toepassingen om onafhankelijkheid te waarborgen. Benoemingsperiode: Leden worden benoemd voor een periode van vier jaar en kunnen één keer worden herbenoemd.

ARTIKEL 5 - AANMELD- EN SELECTIEPROCEDURE 1. 2.

3. 4.

Openbare Vacaturemelding: Vacatures worden openbaar bekendgemaakt via gemeentelijke kanalen, sociale media en andere relevante platforms. Aanmelding en Selectie: o Geïnteresseerden dienen zich aan te melden met een motivatiebrief, CV en referenties. o Kandidaten worden geselecteerd op basis van hun expertise, onafhankelijkheid en affiniteit met ethische vraagstukken en AI. Selectiecommissie: Een selectiecommissie, bestaande uit twee raadsleden, de griffier en een externe ethiekadviseur, beoordeelt de kandidaten en stelt een shortlist op. Verklaring Omtrent Gedrag (VOG): Alle geselecteerde kandidaten dienen een geldige VOG te overleggen vóór hun benoeming.

ARTIKEL 6 - VOORZITTERSCHAP EN INTERNE STRUCTUUR 1.

2.

Voorzitter en Vicevoorzitter: o De commissie kiest jaarlijks een voorzitter en vicevoorzitter uit haar midden. De voorzitter leidt vergaderingen, beheert de agenda en handhaaft de naleving van procedures. o Bij afwezigheid van de voorzitter neemt de vicevoorzitter deze taken over. Secretaris: De griffier wijst een gemeentelijke ambtenaar aan die optreedt als secretaris van de commissie, verantwoordelijk voor notulen en verslaglegging.

ARTIKEL 7 - TUSSENTIJDS AFTREDEN EN ONTSLAG VAN LEDEN 1. 2.

Vrijwillig Aftreden: Leden kunnen vrijwillig aftreden door schriftelijke kennisgeving aan de voorzitter. Ontslagprocedure: o De gemeenteraad kan een lid ontslaan bij nalatigheid, belangenverstrengeling, of onvoldoende uitvoering van taken. o Ontslag wordt verleend na een hoorzitting waarin het lid de kans krijgt om zich te verdedigen. o Een tweederdemeerderheid binnen de commissie is vereist om een ontslagadvies aan de raad voor te leggen.

ARTIKEL 8 - OPENBARE BENOEMINGS- EN ONTSLAGRAPPORTAGE

4

1. 2.

Alle benoemingen en ontslagen worden openbaar gerapporteerd en gepubliceerd op de gemeentelijke website, met vermelding van redenen en benoemings-/ontslagdata. In gevallen van ontslag op basis van nalatigheid of belangenverstrengeling zal een schriftelijk rapport met aanbevelingen openbaar worden gemaakt.

5

HOOFDSTUK 3: TAKEN, BEVOEGDHEDEN EN OPENBAARHEID VAN DE ETHISCHE COMMISSIE ARTIKEL 9 - TAKEN VAN DE COMMISSIE 1.

2.

3.

Beoordeling van AI-projecten: o De commissie beoordeelt alle AI-toepassingen voorafgaand aan implementatie op basis van ethische criteria, waaronder transparantie, fairness, privacy en veiligheid. o Na beoordeling wordt een openbaar advies gepubliceerd over de geschiktheid en mogelijke verbeterpunten van AI-projecten. Advisering en Aanbevelingen: o De commissie brengt advies uit aan het college en de raad over AI-projecten en mogelijke verbeteringen. o Indien AI-toepassingen niet voldoen aan ethische normen, kan de commissie aanbevelen om het gebruik te beperken, aan te passen of stop te zetten. Jaarverslag en Rapportage: o De commissie brengt jaarlijks een openbaar rapport uit aan de gemeenteraad, inclusief bevindingen, aanbevelingen, en de naleving van ethische normen door AI-toepassingen.

ARTIKEL 10 - BEVOEGDHEDEN VAN DE COMMISSIE 1. 2. 3.

Toegang tot Informatie: De commissie heeft toegang tot alle documenten die nodig zijn om AIprojecten ethisch te beoordelen. Inschakelen van Externe Deskundigen: o De commissie kan externe deskundigen raadplegen en hun rapporten openbaar maken. o Het budget voor externe consultatie wordt jaarlijks vastgesteld en openbaar gemaakt. Aanbevelingen voor Opschorting of Stopzetting: o De commissie kan het college adviseren om een AI-toepassing tijdelijk op te schorten of definitief stop te zetten. Dit advies wordt openbaar gemaakt, met een gedetailleerde onderbouwing.

ARTIKEL 11 - AANSPRAKELIJKHEID EN BEVOEGDHEDEN VAN DE GEMEENTE 1. 2. 3.

De gemeente en betrokken afdelingen zijn eindverantwoordelijk en aansprakelijk voor alle door AI genomen beslissingen. De Ethische Commissie heeft een uitsluitend adviserende rol; definitieve beslissingen worden genomen door het college van burgemeester en wethouders, met inachtneming van het advies van de commissie. Indien het college afwijkt van de aanbevelingen van de commissie, wordt een gemotiveerd verslag opgesteld en openbaar gemaakt. Dit verslag moet een gedetailleerde uitleg bevatten over de redenen om af te wijken van het advies en de overwegingen die hieraan ten grondslag liggen.

6

HOOFDSTUK 4: WERKWIJZE, OPENBARE VERGADERINGEN EN BIJEENKOMSTEN ARTIKEL 12 - OPENBARE VERGADERINGEN EN VERSLAGLEGGING 1.

2.

Vergaderfrequentie en Openbaarheid: o De commissie vergadert ten minste vier keer per jaar en verder wanneer noodzakelijk. De vergaderingen zijn in beginsel openbaar, tenzij de commissie specifieke onderwerpen als vertrouwelijk aanmerkt. o Vertrouwelijke onderdelen worden expliciet benoemd en gedocumenteerd met een vertrouwelijk agendapunt en notulen, enkel toegankelijk voor commissieleden en het college. Verslaglegging en Openbare Publicaties: o De secretaris verzorgt notulen van elke vergadering. Deze notulen worden binnen drie weken openbaar gemaakt op de gemeentelijke website, met uitzondering van vertrouwelijke onderdelen. o De notulen bevatten een samenvatting van besproken onderwerpen, genomen beslissingen en stemmingsuitslagen.

Artikel 13 - Openbare Agenda en Vergaderstukken 1. 2.

Voorafgaande Publicatie: De volledige agenda en alle niet-vertrouwelijke vergaderstukken worden minimaal één week voor de vergadering openbaar gepubliceerd. Toegankelijkheid van Besluiten: o Na elke vergadering wordt een openbare besluitenlijst gepubliceerd met een samenvatting van de genomen besluiten en adviezen.

ARTIKEL 14 - BIJEENKOMSTEN MET INWONERS EN OPENBARE INFORMATIEAVONDEN 1.

2.

Jaarlijkse Openbare Informatieavonden: o De commissie organiseert ten minste één openbare bijeenkomst per jaar om de stand van zaken rond AI-gebruik en ethische aspecten toe te lichten. o Inwoners worden uitgenodigd om vragen te stellen, suggesties te geven en feedback te delen over AI-toepassingen binnen de gemeente. Publieke Consultatie en Feedback: o De commissie verzamelt feedback van inwoners over specifieke AI-toepassingen en gebruikt deze om ethische normen en aanbevelingen te evalueren en, indien nodig, aan te scherpen. o De uitkomsten van deze bijeenkomst worden gepubliceerd in een openbaar verslag.

7

HOOFDSTUK 5: ETHISCHE RICHTLIJNEN VOOR AI-GEBRUIK ARTIKEL 15 - TRANSPARANTIE EN VERANTWOORDING 1. 2.

Openbare Informatie over AI-toepassingen: AI-systemen die de besluitvorming beïnvloeden moeten openbaar worden vermeld, inclusief details over de werking, data en doeleinden. Verantwoordelijkheidsketen: Elke afdeling die AI gebruikt, wijst een aanspreekpunt aan voor publieke vragen en verantwoording over AI-systemen. Dit aanspreekpunt wordt jaarlijks openbaar bekendgemaakt.

ARTIKEL 16 - FAIRNESS EN GELIJKE BEHANDELING 1. 2.

Gelijkheid van Besluitvorming: AI-modellen moeten gelijk behandelen en mogen geen discriminerende effecten veroorzaken. Externe Bias-toets: Bij twijfel over fairness voert de commissie een externe toets uit. Deze toets wordt openbaar gemaakt om transparantie te bevorderen.

ARTIKEL 17 - PRIVACY EN VEILIGHEID 1. 2.

Naleving AVG en Privacy-by-Design: Alle AI-systemen voldoen aan de AVG, maken gebruik van dataminimalisatie en worden ontworpen volgens privacy-by-design en -by-default principes. Openbare Veiligheidsrichtlijnen: Jaarlijks worden veiligheidsrichtlijnen vastgesteld en openbaar gemaakt om te waarborgen dat data in AI-systemen voldoende beveiligd is.

8

HOOFDSTUK 6: TOEZICHT, KLACHTEN EN HANDHAVING ARTIKEL 18 - JAARLIJKSE EVALUATIE 1. 2.

De commissie voert jaarlijks een evaluatie uit van AI-toepassingen en hun ethische naleving. De resultaten van de evaluatie worden openbaar gerapporteerd. Evaluaties worden uitgevoerd in samenwerking met het college van burgemeester en wethouders en worden opgenomen in een openbaar jaarverslag.

ARTIKEL 19 - OPENBARE KLACHTENREGELING 1. 2.

3.

Klachtindiening: Inwoners kunnen klachten indienen bij de commissie over AI-gebruik. Deze klachtenprocedure wordt gepubliceerd op de gemeentelijke website. Behandeling en Openbare Afhandeling van Klachten: o De commissie behandelt klachten binnen vier weken. o Na afhandeling wordt een openbare samenvatting van de klacht en het advies van de commissie gepubliceerd. Rechtsmiddelen: Indien een inwoner het niet eens is met de afhandeling van zijn of haar klacht door de commissie, kan de inwoner in beroep gaan bij de gemeentelijke ombudsman of, indien van toepassing, een juridische procedure starten bij de bestuursrechter. De commissie is verplicht inwoners te informeren over deze mogelijkheden bij afhandeling van een klacht.

ARTIKEL 20 - GEHEIMHOUDINGSPLICHT EN SANCTIES 1. 2.

Geheimhoudingsplicht: Leden van de Ethische Commissie hebben een geheimhoudingsplicht ten aanzien van alle vertrouwelijke informatie die zij in hun rol ontvangen, zoals bepaald in artikel 2:5 van de Algemene wet bestuursrecht (Awb). Sancties bij Overtreding: o Overtreding van de geheimhoudingsplicht door een commissielid kan leiden tot ontslag uit de commissie door de gemeenteraad. o Indien er schade ontstaat door een overtreding van de geheimhoudingsplicht, kan de gemeente de kosten verhalen op het betreffende lid.

9

HOOFDSTUK 7: SLOTBEPALINGEN ARTIKEL 21 - HERZIENING VAN DE VERORDENING 1. 2. 3.

Deze verordening wordt elke vier jaar geëvalueerd door de gemeenteraad, waarbij input van de Ethische Commissie en feedback van inwoners wordt meegenomen. Op basis van technologische, juridische of maatschappelijke ontwikkelingen kan de verordening worden aangepast om relevantie en effectiviteit te waarborgen. Wijzigingen worden gepubliceerd en openbaar bekendgemaakt aan de inwoners van Emmen.

ARTIKEL 22 - INWERKINGTREDING Deze verordening treedt in werking op [datum van inwerkingtreding].

ARTIKEL 23 - CITEERTITEL Deze verordening wordt aangehaald als "Verordening Ethische Richtlijnen voor AI Gemeente Emmen".

Toelichting: Deze verordening biedt een juridisch en ethisch kader voor AI-gebruik binnen de gemeente Emmen, met specifieke bepalingen voor klachtenafhandeling, geheimhouding, motivering bij afwijking van adviezen, en periodieke herziening. De verordening voorziet in duidelijke procedures en maximale transparantie, met behoud van rechtszekerheid voor inwoners.

10