25. Memo Reactie technische vragen overzicht algoritmen en AI-vervolg; Bijlage

Memo aan

van

Raad

Wethouder Hottentot

datum

pagina

vrijdag 31 mei 2024

1 van 4

Geachte Raad, Op 12 april zijn vanuit de Raad technische vragen gesteld. […] Onze technische vraag: • Kunnen wij inzicht krijgen in het aantal algoritmes (incl. AI) dat door de gemeente wordt ingezet? • Kan daarbij het doel van het gebruik worden aangegeven? • […] Voorbehoud: • Het is niet noodzakelijk om binnen de afgesproken termijn te reageren • Mocht dit verzoek leiden tot een forse ambtelijke inzet, dan kunnen we zo mogelijk afspraken maken over een top 10 inzet Allereerst wil ik de Raad bedanken voor het stellen van deze technische vragen. Het laat zien dat de Raad zich bewust is van de risico’s als het gaat om de inzet van algoritmen en AI en dat er zorgvuldig en doordacht omgegaan dient te worden bij het gebruik van dergelijke technische hulpmiddelen. Dit helpt ons om het eeuwige dilemma techniek versus ethiek beter onder aandacht te krijgen. Op 13 mei jl. is geantwoord dat een top 10 inzet zal worden samengesteld en deze in week 22 wordt opgeleverd. Het opstellen van het overzicht inzet algoritmen en kunstmatige intelligentie heeft de nodige vragen opgeworpen.

De belangrijkste vragen zijn: • Wat is de definitie van algoritmen en kunstmatige intelligentie? • Wat is de achterliggende vraag van de Raad waarop de top 10 een onderdeel is van het antwoord dat gegeven dient te worden? Dient de top 10 gerangschikt te zijn op hoe vaak een algoritme of AI wordt gebruikt of op gevoeligheid van informatie? De aanname is dat de Raad vooral is geïnteresseerd in de gevoeligheid van informatie. Om daar een goed antwoord te kunnen geven, is een zorgvuldige inventarisatie nodig. Daarom is voor nu gekozen om als reactie op de technische vragen het volgende aan te geven: • Uitleg over de definitie algoritme en kunstmatige intelligentie; • Een overzicht van categorieën c.q. doelen waarin algoritmen en kunstmatige intelligentie op dit moment wordt onderverdeeld waarmee één van uw technische vragen wordt beantwoord; • Welke stappen worden ondernomen om inzicht te krijgen en te houden over het gebruik en de inzet van algoritmen en kunstmatige intelligentie (AI);

Postadres Postbus 25, 3200 AA Spijkenisse Bezoekadres Raadhuislaan 106, 3201 EL Spijkenisse Telefoon 14 0181 E-mail gemeente@nissewaard.nl www nissewaard.nl

datum

pagina

betreft

31 mei 2024

2 van 4

Reactie technische vragen overzicht algoritmen en AI

Definitie algoritme en kunstmatige intelligentie Om de Raad van een antwoord te voorzien is het noodzakelijk aan te geven welke definitie voor algoritmen en kunstmatige intelligentie is gebruikt bij het opstellen van dit overzicht inzet algoritmen en kunstmatige intelligentie. Daarbij dient te worden meegegeven dat deze definities niet door de gemeente Nissewaard zijn vastgesteld. Er is gebruikgemaakt van de definities die door het Rijk worden gegeven. Het begrip “algoritme” wordt als volgt gedefinieerd: Een algoritme is een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. [bron: https://algoritmes.overheid.nl/nl] Het begrip “kunstmatige intelligentie (AI)” wordt als volgt gedefinieerd: AI is een verzamelnaam voor algoritmes en methoden die taken uitvoeren waarvan werd gedacht dat daar menselijke intelligentie voor nodig is. [bron: https://www.rdi.nl/onderwerpen/kunstmatige-intelligentie/wat-is-kunstmatigeintelligentie] Om een beeld te geven hoe de vraag “Kunnen wij inzicht krijgen in het aantal algoritmes (incl.

AI) dat door de gemeente wordt ingezet?” op verschillende manieren kan worden geïnterpreteerd en waarom een vastgestelde definitie van belang is, volgt de definitie als opgegeven door het Europees Parlement: AI is de mogelijkheid van een machine om mensachtige vaardigheden te vertonen – zoals redeneren, leren, plannen en creativiteit. De definitie van het Europees Parlement geeft ruimte om ook de inzet van robots als AI te kenmerken waar de definitie van het Rijk deze (ogenschijnlijk) uitsluit. Omdat een vastgestelde definitie binnen de gemeente Nissewaard op dit moment ontbreekt, is het noodzakelijk aan te geven dat er bij het opstellen van het overzicht inzet algoritmen en kunstmatige intelligentie de definitie van het Rijk is gehanteerd.

Overzicht categorieën inzet algoritmen en kunstmatige intelligentie Hier volgt een overzicht van de categorieën met een aantal voorbeelden van algoritmen en kunstmatige intelligentie. Op deze manier wordt uitgelegd met welk doel algoritmen en kunstmatige intelligentie wordt gebruikt. 1. Rapportages, overzichten en dashboards In de operationele applicaties die binnen de gemeente worden gebruikt, maar bijvoorbeeld ook met een softwarepakket dat specifiek gebouwd is voor het bouwen van rapportages en overzichten (Cognos). Hier zijn veel voorbeelden van te noemen, die allemaal binnen de categorie “managementrapportages en dashboards” zijn te vatten en die medewerkers van de gemeente ondersteunen in de uitvoering van diens (wettelijke) taken. Deze rapportages zijn er in diverse vormen, al dan niet met persoonsgegevens. Heel veel overzichten bevatten geen persoonsgegevens, maar zijn juist gericht op het bieden van inzicht in ontwikkelingen. 2. Kunstmatige intelligentie of algoritmen voor het herkennen van patronen of risico’s Hierbij is van belang te vermelden dat, àls dit al wordt toegepast binnen de gemeente, voor zover op dit moment bekend beperkt sprake is van geautomatiseerde besluitvorming.

datum

pagina

betreft

31 mei 2024

3 van 4

Reactie technische vragen overzicht algoritmen en AI

Voorbeelden van geautomatiseerd besluiten zijn bijvoorbeeld automatische ontheffing van milieuheffing en hondenbelasting. In het sociaal domein is op dit moment één geval bekend van algoritmische risicoanalyse, namelijk in een applicatie die het risico op WMO- en Jeugdfraude analyseert bij rechtspersoonlijke aanbieders. Let wel: mocht dit een rol spelen, op rechtspersoonlijke organisaties is de AVG niet van toepassing. Ook is bij ruimtelijk beheer een toepassing bekend, van een verkeersanalyse door kunstmatige intelligentie met camerabeelden. De camerabeelden zijn echter van zodanig lage resolutie dat de risico’s voor betrokkenen zonder meer aanvaardbaar zijn en ook heeft de gemeente geen toegang tot de beelden en wordt uitsluitend geïnformeerd over de analyseresultaten en die zijn anoniem. 3. Kunstmatige intelligentie ter ondersteuning van dagelijkse werkzaamheden Er wordt steeds meer gebruikgemaakt van kunstmatige intelligentie om het dagelijks werk van de medewerker makkelijker te maken en daarmee tijd te winnen. Dit gebeurt niet alleen bij de gemeente Nissewaard, maar wordt steeds meer een gemeengoed. Als voorbeeld kan worden gegeven anonimiseringssoftware en de evolutie van de spellingschecker binnen Word.

Wat begon als eerst een simpele spellingschecker, kon de spellingschecker ook de grammatica controleren en op een gegeven moment ook voorstellen doen om je schrijfwijze aan te passen. Tegenwoordig bestaat er kunstmatige intelligentie die ook nog voorstellen doet om bepaalde zinnen soepeler te laten lopen of om te voldoen aan een bepaalde richtlijn (bijvoorbeeld B1 schrijven volgens de WCAG). 4. Signaleringen binnen softwarepakketten Als bijvoorbeeld binnen een softwarepakket een dossier aan bepaalde vooraf aangegeven kenmerken voldoet, wordt daarover een signaal gegeven naar een aantal gebruikers dat daarop dan passende actie kan ondernemen. Denk aan: a. Verstreken (wettelijke) reactie- of afhandeltijd; b. Bepaalde inhoudelijke kenmerken, zoals een bedrag of een bepaalde afwijking van vooraf gedefinieerde inhoudelijke kenmerken. 5. Workflows in operationele pakketten Binnen softwarepakketten wordt in een aantal gevallen voorzien in hulpmiddelen die geautomatiseerd een dossier een bepaald pad laten lopen, nadat een medewerker bepaalde handelingen heeft verricht of kenmerken aan vooraf gedefinieerde waarden voldoen. Denk bij wijze van voorbeeld aan een dossier waarin medewerker 1 een datum invult, waarna het softwarepakket automatisch dat dossier aanbiedt aan medewerker 2 voor het uitvoeren van de dan van toepassing zijnde taken of acties.

Hier zijn legio voorbeelden van te noemen, waarbij het te ver zou voeren om deze individueel te benoemen.

Registratie inzet algoritmen en kunstmatige intelligentie Het opstellen van een overzicht van aanwezige algoritmen en kunstmatige intelligentie is op dit moment op vrijwillige basis en kan bij de aanschaf van een applicatie en/of aanbesteding van systeem (systemen) niet worden verplicht – ondersteund door wet- en regelgeving. Ondanks het ontbreken van deze verplichting is team Informatievoorziening voornemens om – naast het laten vaststellen van definities – aanwezige en gebruikte algoritmen nu en in de toekomst op te laten

datum

pagina

betreft

31 mei 2024

4 van 4

Reactie technische vragen overzicht algoritmen en AI

nemen in het algoritmeregister van Overheid.nl. Daarin wordt de naam, het thema, het verantwoord gebruik (waarbij doel, impact, afweging en risicobeheer o.a. een onderdeel van zijn) en de werking van het algoritme geregistreerd. Wetende dat vooruit wordt gelopen op de verplichtstelling zoals aangegeven in de Kamerbrief over het algoritmeregister van 21 december 2022, past een dergelijk beleid bij een transparante en open overheid. Het feit dat de Raad nu vragen stelt over de inzet van algoritmen en kunstmatige intelligentie en hierbij een opdracht meegeeft, helpt om dit voornemen te kunnen uitvoeren. Er wordt nagedacht hoe een dergelijke registratie voor kunstmatige intelligentie te organiseren – al dan niet gecombineerd met de algoritmeregistratie. Op dit moment werkt de Europese Unie aan wetgeving specifiek voor AI: de AI Verordening. Dit weerhoudt ons niet om tegelijkertijd beide registraties vorm te geven. Om een zo volledig mogelijk overzicht (en uiteindelijk registratie) te kunnen komen, is een inventarisatie binnen alle vakafdelingen van de gemeente nodig. De verwachting is dat binnen drie maanden (eind augustus, begin september) duidelijkheid kan worden gegeven over hoe deze registratie zal worden vormgegeven en geïmplementeerd.

Ook kan er een eerste inzicht worden gegeven over de inzet van algoritmen en kunstmatige intelligentie waarop een top 10 zal worden gedestilleerd.