Memo CDO inz Werkbespreking Datastrategie

Aan

Rekeningencommissie Ter attentie van

de voorzitter

MEMO Afzender

secretariaat CDO Dienst Afdeling Doorkiesnummer

Datum

5 april 2023 Onderwerp

Werkbespreking met de Chief Data Officer

Geachte leden, Tijdens een werkbespreking met de Chief Information Officer (CIO) op 25 januari 2023 in de Rekeningencommissie zijn vragen gesteld over de wijze waarop de gemeente Den Haag waarborgen heeft ingebouwd voor het respecteren van menselijke waarden bij het gebruik van data en algoritmes. In deze nota worden deze maatregelen kort toegelicht. Op 13 april vindt een technische werkbespreking plaats met de Rekeningencommissie.

1. De basis voor ethische waarborgen in algoritmegebruik In april 2020 werd de Haagse Datastrategie 2020-2022 “Datagedreven werken voor onze stad” vastgesteld door de gemeenteraad en het college. Hierin staat: Een van de belangrijkste innovatieve toepassingen in datagedreven werken is het gebruik van artificial intelligence (AI). De toepassing van AI bij (big) data-analyses bieden veel kansen om maatschappelijke opgaven op te lossen. De gemeente wil dit wel op verantwoorde wijze doen met bescherming van fundamentele rechten als privacy, nondiscriminatie en autonomie.

1.1

Wat verstaan we onder een algoritme?

Er zijn verschillende definities in omloop die beschrijven wat een algoritme is. Van belang is te vermelden dat voor algoritmes en AI vergelijkbare definities gebruikt en nauwelijks tot geen onderscheid wordt gemaakt. De definitie van de Rekenkamer is als volgt: Algoritmes zijn sets van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.

1.2

Algoritmeregister

Gemeente Den Haag heeft in januari 2021 de eerste versie van het algoritmeregister gepubliceerd op het open data platform van Den Haag Dataplatform Denhaag en op het open data portaal van de landelijke overheid: Zoeken | Data overheid. In december 2022 heeft het ministerie van Buitenlandse Zaken (BZK) een landelijk algoritmeregister gepubliceerd, dit is een beta versie. https://algoritmes.overheid.nl/. De algoritmen van Den Haag zijn hierin opgenomen. In 2023 zal BZK met richtlijnen komen. Den Haag beoogt met het algoritmeregister transparant te zijn over de toepassing van algoritmen in de gemeente en de impact daarvan op inwoners. Daarnaast past het openbare karakter van het algoritmeregister bij de behoefte om actief bij te dragen aan een open overheid. Het algoritmeregister is verder een monitoringsinstrument voor algoritmen in de gemeente. De belangrijkste

Gemeente Den Haag Ons kenmerk

GAD/

verantwoordelijkheid voor het verantwoord gebruik van algoritmes ligt natuurlijk bij de publieke organisatie zelf. In het algoritmeregister van de gemeente Den Haag zijn algoritmes opgenomen die impact kunnen hebben op de burger (inclusief bedrijven en groepen). Het kan gaan om algoritmes die actief zijn of gestopt. Algoritmes kunnen zelf zijn ontwikkeld of ingekocht bij derde partijen. Ook leveranciers van algoritmes zullen worden gehouden aan de uitgangspunten in de datastrategie voor wat betreft het verantwoord gebruik van data en AI. Op dit moment zijn 30 algoritmes met impact geïdentificeerd en beschreven aan de hand van meerdere metadatavelden in Excel. Deze metadatavelden zijn landelijk afgesproken. Een metadataveld bevat een omschrijving van een inhoudelijk aspect van het algoritme zoals de beschrijving, de impact, het dienstonderdeel waar het algoritme wordt gebruikt, etc. De algoritmes zullen in Q1 2023 geclassificeerd worden op risiconiveau, in lijn met de AI Act. Daarnaast wordt gewerkt aan een toegankelijker versie van de algoritmen. Algoritmebeschrijvingen zijn namelijk niet voor iedereen makkelijk leesbaar. Den Haag zal komend jaar op de website een plek inrichten voor de uitleg van het algoritmebeleid en de wijze waarop Den Haag investeert in de uitlegbaarheid van algoritmes aan de hand van aansprekende voorbeelden.

1.3

Maatregelen voor hoog risico algoritmes

Den Haag heeft geen verboden algoritmes, wel algoritmes die in de groep “hoog risico” vallen. In Europa en NL zullen instrumenten komen, richtlijnen of een kader, waarmee deze risico’s beheerst zullen moeten worden. Vrijwel zeker zal voor hoog risico’s een IAMA moeten worden uitgevoerd. Het IAMA is het Impact Assessment Mensenrechten en Algoritmes (IAMA). De Tweede Kamer heeft in maart 2022 ingestemd met een motie om het IAMA verplicht te stellen voor hoog risico algoritmes en gemeengoed te laten worden in Nederland. De uitwerking daarvan is nog niet vormgegeven. Met het IAMA kan een afgewogen discussie gevoerd worden tussen de relevante partijen bij de afweging om wel of niet een algoritmische toepassing te gaan ontwikkelen. Vervolgens helpt het IAMA om de gekozen ontwikkeling en implementatie op een verantwoorde manier te doen. Het IAMA is multidisciplinair: aspecten als doelstelling, stakeholders, publieke waarden, wettelijke grondslag, impact, ethiek, bias, fair, privacy, typen algoritmen, accuraatheid, transparantie en uitlegbaarheid van het algoritme, datakwaliteit, beveiliging en archivering, implementatie, de rol van de mens en evaluatie komen allemaal aan de orde. Het instrument is beoordeeld door relevante belanghebbenden, zoals Amnesty International en positief ontvangen vanwege de waarborgen rond mensenrechten.

Den Haag kiest ervoor om vanaf 2023 bij ontwikkeling of inkoop van hoog risico algoritmes standaard de IAMA te doorlopen, in ieder geval totdat er vanuit Nederlandse wetgeving andere eisen komen. Het IAMA zorgt voor de vastlegging en documentatie van de waarborgen die de gemeente heeft ingebouwd om schending van mensenrechten te voorkomen. De aannames, plannen en feiten worden geregistreerd, gedocumenteerd en volgens de richtlijnen van informatiebeheer gearchiveerd. Den Haag maakt alleen gebruik van algoritmes waarbij een menselijke beoordeling plaatsvindt voordat een beslissing wordt genomen. Dit is een belangrijk uitgangspunt. Daarnaast wordt zoveel mogelijk gekozen voor simpele algoritmes, bijvoorbeeld een beslisboom, die daardoor goed uitlegbaar zijn (explainable AI).

2 Privacy Binnen de gemeente Den Haag wordt voor privacy-gevoelige projecten een DPIA doorlopen waarbij de risico’s in kaart worden gebracht en maatregelen worden genomen. Ook kan op grond van de DPIA besloten worden dat een project niet doorgaat.

2/4

Gemeente Den Haag Ons kenmerk

GAD/

Het recht op menselijke tussenkomst bij het gebruik van algoritmes is vastgelegd in de AVG. Algoritmes waarbij persoonsgegevens worden verwerkt worden niet alleen in het algoritmeregister opgenomen maar ook in het gemeentelijke register van verwerkingen. De FG houdt toezicht op naleving van de AVG en heeft vanuit die rol ook een toezichthoudende rol op algoritmes waarin persoonsgegevens worden gebruikt. In de concept AI Act van de EU is een van de belangrijkste aspecten die van invloed is op de privacy de nadruk op “verklaarbare AI”. Dit betekent dat AI-systemen zo moeten worden ontworpen dat individuen kunnen begrijpen hoe beslissingen die hen aangaan worden genomen. De voorgestelde wet vereist ook dat organisaties informatie verstrekken aan individuen over hoe hun persoonlijke gegevens worden verwerkt door AI-systemen en dat individuen controle hebben over hun eigen gegevens. De wet legt een omvattend reguleringskader voor AI vast. Daarnaast stelt de AI Act maatregelen voor om te zorgen dat individuen controle hebben over hun persoonlijke gegevens, waaronder het recht op toegang, correctie en verwijdering van persoonlijke gegevens, evenals het recht om zich te verzetten tegen geautomatiseerde besluitvorming en profilering. Deze aspecten worden bij de ontwikkeling van algoritmes zo veel mogelijk al meegenomen.

2.1

Ethiek

Binnen een DPIA is een ethische check. Voor algoritmes zijn extra maatregelen nodig om te zorgen dat deze eerlijk zijn. We baseren ons op de eerdergenoemde risicoclassificatie. Vervolgens zijn er de volgende acties: • Project met laag risico: geen ethisch assessment; • Project met medium ethische impact: DEDA. Utrecht Data School | De Ethische Data Assistent (DEDA) De DEDA is ontwikkeld door de Utrecht Data School voor de overheid. De Deda is in Den Haag al een paar keer toegepast, bijvoorbeeld bij de algoritmes Van Bijstand naar Werk en het Wmo-voorspelmodel; • Project met hoge ethische impact: IAMA. Ethiek komt uitgebreid aan de orde in het IAMA. De meeste gemeentes zien het IAMA dan ook als hét instrument om in te zetten. Voor de Digitale Spiegelstad (fysiek domein) wordt een separaat ethisch kader ontwikkeld; • Project met hoge ethische impact en spannend: ethische commissie. De gemeente beschikt op dit moment nog niet over een ethische commissie. Wel zijn er gesprekken gaande over een dergelijke commissie, het belang ervan, de randvoorwaarden en de samenstelling.

2.2

Inkoop

Veel algoritmes worden voor gemeenten ontwikkeld door leveranciers, deels voor de G4 samen. De AI Act stelt strenge transparantie-eisen aan de aannames die in een systeem gemaakt worden. Zo weet een gemeente wat ze inkoopt en kan ze haar besluitvorming uitleggen. Leveranciers zijn niet altijd bereid mee te werken aan transparantie. De gemeente zal steeds meer duidelijk maken dat dit echt een eis is. Uitwisselbaarheid van leveranciers is van belang. Vanuit de AI Act worden richtlijnen en eisen gegeven voor inkoop van AI. Gemeenten delen inkoopvoorwaarden en contractuele bepalingen die hierop aansluiten.

3 Kunstmatige Intelligentie (Artificial Intelligence, AI) 3.1

Europese schaalsprong met de AI Act

In het voorjaar van 2021 presenteerde de Europese Commissie concept wetgeving: de AI Act oftewel AI-verordening. Over dit voorstel en de implementatie wordt volop gediscussieerd in Europa en Nederland. De wetgeving heeft gevolgen voor de eisen die aan publieke organisaties worden gesteld.

3/4

Gemeente Den Haag Ons kenmerk

GAD/

Zo wordt gevraagd om een overzicht van algoritmes. Ook komen er eisen voor het beheersen van de risico’s, bijvoorbeeld op het gebied van ethiek en mensenrechten. Leveranciers zullen moeten voldoen aan een uitgebreide set van eisen. Naarmate algoritmes meer risico brengen voor burgers, zijn meer maatregelen nodig. De Europese Commissie maakt hierbij een onderscheid tussen verboden algoritmes (risico is onaanvaardbaar), hoog risico algoritmes en andere algoritmes. In Nederland wordt deze regelgeving tussen 2023 en 2025 uitgewerkt. Den Haag volgt de ontwikkelingen op de voet en anticipeert waar mogelijk op de nieuwe Europese wet- en regelgeving.

3.2 AI beleid gemeente Den Haag Wachtend op de landelijke richtlijnen gemeente Den Haag vast voor de volgende inrichting. Deze zijn gebaseerd op de volgende principes:

3.2.1

Principes

De AI Act is gebaseerd op de waarden en grondrechten van de EU (menselijke waardigheid, vrijheid, democratie, gelijkheid, de rechtstaat, mensenrechten). De verordening heeft tot doel mensen en andere gebruikers het vertrouwen te geven om op AI gebaseerde oplossingen te omarmen en bedrijven aan te moedigen deze te ontwikkelen. AI moet een instrument zijn voor mensen en een positieve kracht in de samenleving, met als uiteindelijk doel het menselijk welbevinden te vergroten. In de Datastrategie van de Gemeente Den Haag “Datagedreven werken voor onze stad” https://denhaag.raadsinformatie.nl/document/8817239/1/RIS305091_Bijlage_1_Bestuurlijke_Datas trategie_2020-2022_def worden de waarden beschreven rond het gebruik van data. • Rechtvaardigheid. Voorkomen van bias • Op ethisch verantwoorde wijze toepassen van algoritmes • Transparantie over wat er met de data van inwoners gebeurt • Vertrouwen, bijvoorbeeld als het gaat om de privacy en veiligheid van inwoners bij het gebruik van persoonsgegevens • Autonomie en controle over technologie • Menselijke waardigheid. In het licht van de klimaatveranderingen wordt een extra waarde toegevoegd: Green AI. Dit betekent dat de gemeente bij de ontwikkeling van modellen waarin AI wordt gebruikt, rekening houdt met de ecologische voetafdruk in datacenters.

Een groot en complex model vraagt meer data center capaciteit en is een grotere belasting voor het milieu dan kleine modellen of het hergebruik van reeds ontwikkelde modellen.

4/4