Raadsinformatiebrief afdoening toezegging LLMs ChatAmsterdam def

Raadsinformatiebrief Afdoening toezegging

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 30 januari 2026 ICT en Digitale Stad Alexander Scholtes Digitale Voorzieningen (bestuurszaken.dii@amsterdam.nl) Afdoening toezegging TA 2025-001009 over ChatAmsterdam uit de commissievergadering van 3 juli 2025

Geachte leden van de gemeenteraad, In uw vergadering van 3 juli 2025 heb ik, op een vraag van raadslid IJmker (GroenLinks) toegezegd u nader te informeren over het gebruik van OpenAI-modellen binnen ChatAmsterdam en mogelijke alternatieven hiervoor. Met deze brief informeren wij u over het huidige gebruik van ChatAmsterdam en taalmodellen (in het Engels: Large Language Models (LLMs)) binnen de gemeentelijke organisatie en onze aanpak voor het maken van verantwoorde keuzes hierin. Huidig gebruik van ChatAmsterdam Op dit moment hebben meer dan 8000 collega-ambtenaren zich aangemeld voor het gebruik van ChatAmsterdam. Ongeveer 3000 medewerkers gebruiken ChatAmsterdam actief, waarvan 1000 meer dan 2 dagen per week. We zien een stijgende lijn in de aantallen van deze meest betrokken groep, van 10-15% per maand. Medewerkers gebruiken ChatAmsterdam voornamelijk als hulp bij het schrijven van stukken, het samenvatten van teksten en om te brainstormen. Wat is een taalmodel? Een taalmodel is een algoritme dat menselijke taal kan verwerken en produceren. Een product zoals ChatGPT maakt op de achtergrond gebruik van verschillende versies van zo'n taalmodel, bijvoorbeeld GPT-4o of GPT-5. Deze taalmodellen worden voornamelijk ontwikkeld door technologiebedrijven en kunnen door organisaties worden ingezet voor uiteenlopende taken.

Er zijn tegenwoordig duizenden taalmodellen beschikbaar, de meeste zijn van Amerikaanse of Chinese bedrijven. Binnen de gemeente maken medewerkers gebruik van de applicatie ChatAmsterdam, ons interne alternatief voor deze commerciële diensten. Het verschil tussen ChatAmsterdam en alternatieven van grote tech bedrijven als ChatGPT is dat gemeentelijke gegevens die ambtenaren invoeren binnen de gemeentelijke omgeving blijven. Daarmee wordt voorkomen dat gevoelige informatie zoals persoonsgegevens of interne documenten buiten de gemeentelijke context terechtkomt. Daarnaast zijn er afdelingen, waaronder het Stadsarchief en het Juridisch Bureau, die pilots uitvoeren met het taalmodel GPT-4o van OpenAI om historische teksten te analyseren en

Gemeente Amsterdam, raadsinformatiebrief

Datum 30 januari2026 Pagina 2 van 3

juridische casussen te categoriseren. ChatAmsterdam en alle pilots maken momenteel gebruik van het taalmodel GPT-4o van OpenAI. Voor al deze toepassingen blijven de gegevens binnen de gemeentelijke omgeving. Onderzoek naar verantwoorde keuze voor taalmodellen Binnen het project Grip op LLMs is er onderzoek gedaan naar de prestaties, het energieverbruik en de aansluiting op maatschappelijke waarden van verschillende taalmodellen. Onderdeel van dit project is dat is geïnventariseerd wat de belangrijkste aspecten zijn die meewegen bij de keuze voor een taalmodel: • Bias: wij willen geen structureel onderscheid in hoe een taalmodel verschillende groepen mensen behandelt; • Duurzaamheid: wij willen de milieu-impact tot een minimum beperken; • Feitelijkheid: taalmodellen kunnen objectieve vragen over feiten nauwkeurig beantwoorden; • Eerlijkheid: taalmodellen kunnen het duidelijk toegeven wanneer ze iets niet weten of een verzoek niet kunnen uitvoeren; • Training data: modelontwikkelaars geven actief informatie over de bron en aard van de trainingsdata; • Kosten: wij willen inzicht hebben in de financiële kosten die samenhangen met bepaalde modelprestaties. Op basis van deze criteria is een overzicht opgesteld van verschillende taalmodellen en hun prestaties, specifiek voor de Nederlandse taal en gebruik binnen de overheid.

Dit overzicht is voor iedereen in te zien via LLM Overzicht in de Nederlandse Taal en zal als leidraad dienen bij het adviseren van gemeentelijke teams over welk model zij het beste kunnen inzetten. Het onderzoek van Grip op LLMs laat zien dat geen enkel taalmodel op alle vlakken het beste scoort. De optimale keuze hangt af van de specifieke toepassing. Afwegingen maken De keuze voor taalmodellen is complex. Vaak is het zo dat bijvoorbeeld een duurzamer model minder goed presteert. Over het algemeen presteren grotere taalmodellen beter, maar gebruiken deze ook meer energie. Per AI-toepassingsverzoek zal er een afweging gemaakt moeten worden in de waarden die belangrijk zijn. We zullen in toekomst kijken of we Europese taalmodellen kunnen gebruiken als deze voldoen aan onze eisen en behoeften van de AI-toepassingen. We sluiten voor nu geen taalmodellen uit op basis van herkomst. Voor het streven naar digitale autonomie is de modelkeuze echter minder belangrijk dan hoe je het model beschikbaar stelt. Op dit moment kunnen we deze taalmodellen alleen binnen onze eigen Microsoft Cloud omgeving gebruiken. Voor het gebruik van taalmodellen zijn speciale computers nodig, deze hebben wij alleen tot onze beschikking via Microsoft.

In de toekomst en wanneer gepast geven we de voorkeur aan taalmodellen die transparant zijn over bijvoorbeeld de data waarmee het getraind is en hoeveel rekenkracht het kost om het model te gebruiken. Daarnaast onderzoeken we voor AI-toepassingen naar alternatieve cloudoplossingen.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 30 januari2026 Pagina 3 van 3

Voor elke toepassing brengen we de belangrijkste aspecten in kaart. Bijvoorbeeld: voor een casus waar veel gebruikt wordt gemaakt van het taalmodel is duurzaamheid het meest relevant. En binnen het sociale domein is bias erg belangrijk. Op basis van deze aspecten kiezen we het beste model voor de specifieke toepassing. Toekomst Voor alle toepassingen binnen de organisatie, zoals bij ChatAmsterdam, het Juridisch Bureau en het Stadsarchief, wordt een advies op maat opgesteld over de meest geschikte taalmodellen aan de hand van het overzicht dat is ontwikkeld door het project Grip op LLMs. Voor ChatAmsterdam is een advies opgesteld met een lijst met vijf mogelijk alternatieve taalmodellen, die op bepaalde aspecten beter presteren dan GPT-4o van OpenAI. Wij zijn voornemens om binnen afzienbare tijd, en in ieder geval in 2026, over te stappen op een alternatief dat transparant is, beter aansluit bij onze waarden en idealiter Europees is. Daarnaast blijven we de nieuwste versies van taalmodellen evalueren en passen we de modellen aan wanneer er meer geschikte alternatieven beschikbaar komen. Ik hoop u hiermee voldoende te hebben geïnformeerd. Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Alexander Scholtes Wethouder ICT en Digitale Stad

Een routebeschrijving vindt u op amsterdam.nl