Vragen - CU - Gebruik ChatGPT of andere kunstmatige intelligentie (AI) binnen de gemeentelijke organisatie

Vragen art 34 RvO inzake gebruik ChatGPT of andere kunstmatige intelligentie (AI) binnen de gemeentelijke organisatie

Op 11 december jl publiceerde de Tweede Kamer het voorlopig standpunt van de Nederlandse overheid over het gebruik van AI in de publieke sector. Dit beleid richt zich op de kansen en gevaren van Generatieve AI en benoemd strengere privacy- en dataveiligheidsnormen. ChatGPT wordt (ook) door ambtenaren steeds vaker gebruikt als informatiebron, sparringpartner of voor het verbeteren van openbaar te publiceren teksten. Dat hebben verschillende gemeenten laten weten in een onderzoek van EenVandaag onder 137 gemeenten. Tegelijkertijd bleek volgens dit onderzoek 39 procent van deze gemeenten niet te weten op welke manier hun werknemers het AIprogramma gebruiken. Volgens de onderzoekster voldoet het gebruik van ChatGPT niet aan de Nederlandse wet- en regelgeving. Het programma is getraind op illegaal verkregen data. Omdat de burger het recht heeft om te weten hoe een overheid handelt is onder meer het algoritme-register aangelegd. Als bijvoorbeeld een brief van de gemeente is gegenereerd door ChatGPT dient de ontvanger daarvan in kennis gesteld te worden. Rijksambtenaren zijn vanwege de bovenbedoelde risico’s ontraden om programma’s als ChatGPT te gebruiken.

Duidelijke regels ontbreken echter waardoor -aldus het onderzoek- gemeenten soms geen andere interne regels hanteren als “gebruik je gezond verstand” of uitsluitend het verbod om persoonsgegevens of gevoelige (bedrijfs)informatie in het programma in te voeren. Tegelijkertijd zien we dat de Vereniging van Nederlandse Gemeenten potentie ziet in zogenoemde generatieve AI zoals ChatGPT om de dienstverlening te verbeteren of bepaalde bezwaarprocedures sneller te laten verlopen. Tenslotte zien we dat SafeGPT stelt vooruit te lopen op de Europese regelgeving met een platform dat “AI-Act Proof” zou zijn. Via dit platform kan in Word of Outlook gewerkt worden met een directe koppeling naar SafeGPT, kunnen brieven in duidelijke taal geschreven worden en is er ook een AIgedreven chatbox ontworpen om efficiënte en accurate ondersteuning te bieden aan inwoners en ondernemers. Wij hebben daarover de volgende vragen aan het college: 1. Wordt ChatGPT, SafeGPT of andere AI binnen de gemeente Vlissingen gebruik, en/of zijn er ontwikkelingen gaande om deze toepassingen in 2024 in te voeren? a. Zo ja voor welke processen? b. Zo nee, is dit door u te controleren? 2. Zijn er concrete regels voor het gebruik van AI zoals ChatGPT ? a. Zo ja, welke? b. Zo nee, wordt hieraan door u gewerkt? 3.

Bent u het met ons eens dat de vaststelling van regels voor het gebruik van AI door de gemeenteraad dienst plaats te vinden en dat daar het maatschappelijk debat over de wenselijkheid daarvan dienst plaats te vinden?

ChristenUnie Vlissingen: Pieter Jan Mersie

2 januari 2024