2023-0095179 Raadsinformatiebrief raadsvragen PvdA gemeentelijk gebruik Artificial Intelligence (AI).pdf

Raadsinformatiebrief Onderwerp

: Beantwoording raadsvragen gemeentelijk gebruik Artificial Intelligence (AI)

Aanleiding

: Raadsvragen PvdA d.d. 26 mei 2023

Datum

: 10 juli 2023

Portefeuillehouder

: J.R. Pardo Kruidenier

Schrijver

: C. Korevaar

Geachte leden van de gemeenteraad, Op 26 mei 2023 ontvingen wij de vragen van de PvdA omtrent de inzet van Artificial Intelligence (AI) ten behoeve van de gemeente Alblasserdam, waarvoor dank. Voordat ingegaan wordt op de vragen, is het goed om stil te staan bij wat wij bedoelen met AI en de definitie van een “AI-systeem” die (vooralsnog) door de aankomende Europese AI Act wordt gebruikt.

Artificiële Intelligentie Artificiële Intelligentie (AI) is de tak van de informatica die zich richt op het trainen van machines, zoals computers, om beslissingen te nemen en rond 1956 is opgekomen als discipline. Het betreft het door een computer laten uitvoeren van taken die wij als intelligent beschouwen, zoals leren, problemen oplossen, redeneren, etc. Bij AI schrijven wij computers niet voor wat ze moeten doen, maar laten we ze oplossingen ontdekken uit data en/of een set regels. Het doel is dat machines in staat zijn problemen op te lossen zonder dat we ze een expliciete oplossing bieden. In de op 14 juni jl. door het Europees Parlement aangenomen tekst (amendement 165) wordt de volgende generieke definitie gehanteerd: Artikel 3, lid 1: “artificiële-intelligentiesysteem” (AI-systeem): een machinaal systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat voor expliciete of impliciete doelstellingen output kan genereren, zoals voorspellingen, aanbevelingen of beslissingen die van invloed zijn op de fysieke of virtuele omgeving. Deze definitie dekt een groot aantal soorten oplossingen. Niet elk AI-systeem werkt volledig autonoom en in veel gevallen is menselijke tussenkomst voorwaardelijk.

Veel “AI” die wordt ingezet binnen overheden betreft meer traditionele regel gebaseerde vormen, hoewel steeds vaker modernere zelflerende algoritmes worden ingezet. De aankomende AI Act gaat op basis van een risicoclassificatie eisen stellen aan een aantal vormen van AI-systeem en organisaties die ze inzetten. Met name voor de AI-systemen die een hoge mate van impact op mensen hebben. Door de Rijksoverheid, VNG en binnen de Drechtsteden wordt deze ontwikkeling gevolgd en nagedacht over implementatie van de AI Act en in bredere zin het verantwoord gebruik van data en algoritmes. AI kan technologisch worden besproken, maar heeft ook consequenties voor de samenleving en hoe mensen met technologie omgaan. De verwachting dat automatische keuzes en het trainen van machines efficiëntie kan opleveren bij het maken van keuzes zelf, heeft impact op hoe mensen omgaan met hun vermogen om keuzes te maken en het proces hiertoe. Daarnaast heeft dit impact op de beleving van zichzelf, elkaar en hun beleving van de werkelijkheid. Tot slot is een diepe verwevenheid van technologie en menselijk gedrag aan het ontstaan, waarbij onduidelijk is wat wordt beïnvloed en hoe deze nieuwe vormen van bepalende invloed zijn op verantwoordelijkheden. Pagina 1 van 3

De verantwoordelijkheid voor ons eigen vermogen om met werkelijkheden om te gaan en hiervoor maatschappelijk verantwoordelijkheid te kunnen nemen, is een besef dat aan het ontstaan is en wordt verkend. Hierin speelt niet zozeer de technologie zelf en het maken van regels voor de inbedding een rol, maar ook de reflectie op ons eigen handelen, de politieke consequenties en de relatie tot onze verdere ontwikkeling een rol. Dit betekent dat mogelijk niet alleen inbeddingsregels, registratie van AI en het aanleggen van spelregels de manier zijn om ‘grip' op AI en de veiligheid hiervan te krijgen. Maar dat er een bredere maatschappelijke discussie plaatsvindt, waaraan wij (raadsleden, bestuurders, inwoners) kunnen bijdragen.

Raadsvragen en antwoorden Zoals aangegeven in de raadsvragen werkt de Europese Unie aan de AI-Act (Wet op kunstmatige intelligentie). Daarbij worden bepaalde vormen van AI verboden, zoals systemen die het gedrag van mensen beoordelen en het gebruik van realtime biometrische identificatie. Technologie is levend en de ontwikkelingen op het gebied gaan razendsnel. Wat betekent dit op lokaal niveau voor de gemeente Alblasserdam? Om de beantwoording overzichtelijk te houden, herhalen wij de door u gestelde vragen en geven daaronder antwoord: 1. Met welke AI-toepassing/ systeem werkt onze gemeente kijkend naar veiligheid, zorg, onderwijs en of mobiliteit bijvoorbeeld? Bij controle bijvoorbeeld op fraude bij uitkering, verstrekken en controle van WMO-diensten of hulpmiddelen. De AI toepassing waar u op doelt zijn de zogenaamde ‘Hoog-risico’. In de AI-Act is een bijlage opgenomen met een lijst om te bepalen of een algoritme valt in de categorie ‘Hoog-risico’. Deze lijst is uitgebreid, hieronder een selectie van de belangrijkste onderdelen: • Inzet van biometrie, behalve bij toegangscontrole en authenticatie op individueel niveau. • Beheer van kritieke infrastructuur zoals publieke netwerken, telecom-infrastructuur, domeinnamen, clouddiensten of openbaar vervoer. • Recruitment, screening van sollicitanten of beoordeling van werknemers.

• Toegang tot essentiële diensten zoals woonruimte, gezondheidsdiensten, of het bepalen van kredietwaardigheid. • AI inzet bij rechtshandhaving onder andere bij gemeentelijke diensten en juridische procedures zoals bestuursrechtelijke besluiten. Op dit moment maakt de gemeente Alblasserdam direct en indirect beperkt gebruik van toepassingen die AI inzetten. Bijvoorbeeld Centric applicaties die bepaalde algoritmes toepassen die door gemeente Alblasserdam, Gemeentebelastingen, Basisinformatie Drechtsteden (GBD) en de GR Sociaal gebruikt worden. Voor de regionale Kernregistratie Medewerkers worden regels toegepast ten behoeve van kwaliteitscontrole en het semiautomatisch aanmaken van gebruikersaccounts voor nieuwe medewerkers. Geen van deze gevallen betreft de inzet van zelflerende algoritmes. Er is momenteel geen algemeen overzicht beschikbaar. In het kader van verantwoorde inzet van data en AI is het voornemen om in 2024 een regionaal overzicht van direct (door ons) en indirect (via onze ketenpartners) toegepaste algoritmes op te stellen. Ook wordt onderzocht in hoeverre wij kunnen aansluiten op het landelijke algoritmeregister. In het kader van innovatie wordt op dit moment gebruik gemaakt van software robots die op basis van regels bepaalde taken automatiseert.

Verder wordt onderzoek gedaan naar de kansen en risico’s van de inzet van ChatGPT binnen Servicegemeente Dordrecht (hierna SGD). 2. Wordt er gewerkt met een AI-toets bij het ontwikkelen van (beleid)stukken en beoordelen digitale specialisten (als menselijke factor) deze dan vervolgens ook? • Zo nee, waarom wordt er nu niet gewerkt met een AI-toets? • Zijn we van plan om dit in de toekomst wel in te zetten? Op dit moment wordt de regionale datastrategie uitgewerkt. Deze gaat in op verantwoord gebruik van data en algoritmes. Een verwacht onderdeel van de uitvoering wordt het komen tot een

Pagina 2 van 3

proces(aanpassing) om een AI-toets zoals IAMA (Impact Assessment Mensenrechten en Algoritmes) als Drechtsteden-gemeenten te kunnen inbedden. In het beleid en de besluitvorming moet aandacht zijn voor en in overeenstemming zijn met mensenrechten en ethische richtlijnen om mogelijke negatieve gevolgen van algoritmes en AIsystemen te identificeren en te beperken. Naar verwachting zullen wij in de toekomst werken met een AI-toets conform het opgestelde beleid. 3. Zijn er sowieso afspraken gemaakt of regelgeving geformuleerd voor het gebruik van AI? (Inter)Nationaal is momenteel geen specifieke regelgeving. Op 14 juni 2023 stemde het Europees Parlement in met nieuwe regels die de inzet van AI en autonome algoritmes moeten gaan reguleren. Formeel moet de Raad van Ministers nog akkoord geven. Een invoeringsdatum van 1 januari 2024 wordt veel genoemd. Daarna volgt twee jaar overgangsrecht. Vanwege de actuele aandacht voor generatieve AI, zoals het welbekende ChatGPT, zijn regionaal een aantal hoofdkaders in ontwikkeling door strategisch adviseurs van de SGD. Nadere uitwerking en verbreding (regionaal en lokaal) staan hoog op de agenda. Publieke waarden staan hierbij centraal. Op dit moment inventariseren wij het gebruik van AI toepassingen binnen de Drechtsteden en of deze al dan niet de categorie ‘Hoog-risico’ vallen om daarmee transparant naar u en de inwoners te zijn.

Deze inventarisatie zullen wij ook publiceren op het Algoritmeregister van de overheid. Verder onderzoek zal zich richten op de huidige contracten met aandacht voor: ethische transparantie, procedurele transparantie en uitlegbaarheid. Dit zal vervolg krijgen in contractvoorwaarden, beleid en afspraken rondom gebruik en gedrag. Gelet op het feit dat de ontwikkelingen rondom AI snel gaan en wij ons kunnen voorstellen dat er behoefte is om het gesprek hierover aan te gaan, staan wij (gemeente Alblasserdam en SGD) hiervoor open. Met vriendelijke groet, burgemeester en wethouders,

de secretaris S. van Heeren

de burgemeester J.W. Boersma

Bijlage 20230526 schriftelijke vragen PvdA over AI

Pagina 3 van 3