0. Raadsinformatiebrief Amsterdamse Visie op AI.pdf

Raadsinformatiebrief

Aan:

Behandeld door

De leden van de gemeenteraad van Amsterdam 5 november 2024 ICT & Digitale Stad Alexander Scholtes Digitalisering, Innovatie & Informatie (bestuurszaken.dii@amsterdam.nl)

Onderwerp

Amsterdamse Visie op AI

Datum Portefeuille(s) Portefeuillehouder(s):

Geachte leden van de gemeenteraad, In de Agenda Digitale Stad 2023-2026 heb ik de Amsterdamse visie op AI (artificiële intelligentie, ook bekend als kunstmatige intelligentie) aangekondigd. In deze raadsinformatiebrief informeer ik u over deze visie, die u als bijlage aantreft, en over de manier waarop de gemeentelijke organisatie nu en in de toekomst met AI om wil gaan. Daarnaast ga ik in op het vervolg op deze visie in de vorm van een AI Agenda. Hierin concretiseren we de visie in de vorm van actielijnen, acties en maatregelen. Waarom een Amsterdamse Visie op AI Op dit moment worden Amsterdammers al dagelijks geconfronteerd met AI. Bij het online winkelen, navigeren door het verkeer of tijdens het praten met vrienden op social media. Kunstmatige intelligentie raakt Amsterdammers op vele vlakken en dat zal vermoedelijk alleen maar toenemen. Het college ziet in AI voor de gemeente kansen liggen in de dienstverlening, bij de aanpak van maatschappelijke opgaven - zoals stedelijke ontwikkeling en beheer - en bij het efficiënter maken van repetitieve taken - zoals het gemakkelijker doorzoekbaar maken van grote aantallen documenten. Het college vindt het daarbij belangrijk dat de gemeente menselijk blijft en dat burgers erop moeten kunnen vertrouwen dat hun grondrechten beschermd worden. AI is een decennia oud onderzoeksgebied naar het automatiseren van menselijke vaardigheden.

Dankzij recente doorbraken in beschikbaarheid van data, opslag, modellen en computersnelheid zijn er nu nieuwe toepassingen die verder gaan dan het automatiseren van beslisregels. Voorbeelden hiervan zijn voorspellingen maken, classificeren en zelfs genereren van geheel nieuwe content zoals tekst, audio en video. Dat creëert nieuwe risico’s en vraagstukken: wie maakt deze toepassingen en hoe doen ze dat? Hoe intelligent, betrouwbaar, neutraal, toegankelijk of rechtvaardig is AI? Van wie is het? En voor wie? Wat is de impact op ons samen leven? Zo kunnen we met AI vrachtvervoer door de stad optimaliseren en uitstoot verminderen, maar hoeveel energie vergt de training en het gebruik van

Gemeente Amsterdam, raadsinformatiebrief

Datum 5 november 2024 Pagina 2 van 7

zo’n model? Of we kunnen op basis van data over de stad besluiten nemen die goed zijn voor de gemiddelde Amsterdammer. Maar wat doen we met de paradijsvogels die in dit soort modellen niet meetellen? Om die vragen te beantwoorden, vindt het college het belangrijk om een visie op AI en een AI Agenda op te stellen om te schetsen waar de dilemma’s liggen en een aanzet te geven voor verantwoord gebruik van deze technologie in onze stad. De visie is richtinggevend voor keuzes die we met betrekking tot dit onderwerp maken in de gemeentelijke organisatie. Deze visie geeft richting aan hoe we AI zowel binnen als buiten de gemeente zien, begrijpen en gebruiken. En het is een gespreksstarter voor continue dialoog met partners in de samenleving over de impact van AI op Amsterdam. Dit alles is bovenop wetgeving waar we als gemeente verplicht zijn om aan te voldoen. Met deze visie denken we dus niet alleen na over wat we mogen, maar ook over wat we willen met AI. Totstandkoming van de visie De visie is tot stand gekomen door intensieve gesprekken met Amsterdammers, experts en collega's. Er is een tiental dialogen gehouden van november 2023 tot juni 2024 met basisschoolleerlingen, inwoners in diverse stadsdelen, creatieve ondernemers, op technologie festival Mozfest en met onze kennispartners op het gebied van AI.

In de gesprekken stond de vraag centraal: "Wat betekent AI voor het leven in de stad – en daarbuiten?". Het visietraject is daarmee meteen ook een toepassing van de Participatieverordening en onze ambitie om de mens centraal te stellen in onze verhouding tot AI. De complexiteit van technologie maakt het voor veel Amsterdammers intimiderend en lastig om mee te praten. Maar iedereen is expert in menselijke ervaring en over wat een goed bestaan in de stad is. De gekozen methode van dialoogvoering helpt om gemeenschappelijk tot diepere reflectie te komen en om menselijke ervaringen als uitgangspunt te nemen boven abstracte discussies. De rode draad is dat Amsterdammers de technologie niet als doel op zich zien, maar als dienend voor hoe we willen leven. De dialogen zijn de basis voor de vraagstukken zoals geschetst in de visie. Uitspraken van Amsterdammers zijn als citaten verweven door de visie heen. Ook heeft de Commissie Persoonsgegevens Amsterdam (CPA) advies uitgebracht. De CPA raadt onder andere aan de relatie tot het bestaande beleid en geldende wet- en regelgeving explicieter in het visiedocument te verduidelijken. De opmerkingen en aanbevelingen van de CPA zijn verwerkt in de laatste versie van de Amsterdamse AI visie. De Amsterdamse visie op AI AI heeft een enorme potentie voor Amsterdam. Het is goed in taken die grote hoeveelheden data en patroonherkenning vereisen.

Het kan routinetaken automatiseren, analyses uitvoeren, voorspellingen doen en processen optimaliseren. Dat biedt een aantal nuttige toepassingen voor de stad, vandaag en in de nabije toekomst.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 5 november 2024 Pagina 3 van 7

We ontsluiten ons verleden door oude archieven leesbaar te maken met AI, we detecteren eerder zware voorwerpen op kwetsbare kademuren en we plegen preventief onderhoud aan machines en gebouwen op basis van modellen, in plaats van dure of gevaarlijke observaties. Maar deze potentie kunnen we alleen verwezenlijken als we het op de juiste manier aanpakken. Daarbij willen we scherp blijven op risico’s van AI die de menselijkheid aantasten; zo bestaat er het risico dat we menselijke intelligentie gaan verwarren met kunstmatige intelligentie en creativiteit tot statistiek verwordt. Ook de schaal en de kracht van deze technologie brengen risico’s met zich mee. Zo zien we al een enorme toename aan nep-content, oplichtingspraktijken, maar ook de aanslag op natuurlijke hulpbronnen om deze technologie mogelijk te maken. Deze constateringen staan haaks op de doelen die Amsterdam zich gesteld heeft in het maken van een veilige en duurzame stad. We zien ook de risico's van meer uitsluiting van al gemarginaliseerde groepen, omdat keuzes op basis van data niet iedereen evenredig vertegenwoordigen.

Vraagstukken Vanuit de dialogen met verschillende Amsterdammers hebben we een aantal vraagstukken geformuleerd die worden uitgelicht en geanalyseerd: Wat is het goede leven? Wat is intelligentie? Hoe betrouwbaar, neutraal, toegankelijk en rechtvaardig is AI? Wat is de invloed van Big Tech op onze samenleving? Denkkader Vanuit deze vraagstukken gaan we in op het denkkader dat aan de grondslag ligt van onze richtinggevende principes. Voor de vraagstukken zijn vele verschillende oplossingen denkbaar. Het zijn met name morele vraagstukken die vragen om zorgvuldige besluitvorming. Hoe we kijken naar het wat het goede leven is, wat onze belangrijke waarden zijn, bepaalt wat we gaan doen. We hebben dus een bewuste manier van denken nodig, om ons te verhouden tot een impactvolle technologie als AI. We kiezen hiermee een ander perspectief dan de verlossings- en doemverhalen over AI die het nieuws en het publieke gesprek vaak bepalen. Liever hanteren we een realistische blik en demystificeren we deze verhalen over AI. Richtinggevende principes We zien de volgende waarden als leidend in het vormgeven en toepassen van AI in Amsterdam; de mens centraal, betrouwbaar en toekomstbestendig. Dit zijn ook de waarden die gebruikt worden in de Agenda Digitale Stad omdat die bijdragen aan een zorgvuldige inzet van digitalisering.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 5 november 2024 Pagina 4 van 7

Deze waarden hebben we in de visie uitgewerkt in richtinggevende principes rondom AI. Denk hierbij aan principes als: ▪ We maken bij het toepassen van technologie de afweging tussen wat we ermee winnen en wat met automatisering aan menselijkheid verloren gaat. ▪ We voeren doorlopend onderzoek naar de effecten van AI op de stad. Dit doen we onder andere met behulp van Amsterdammers en partners in de stad. ▪ Tada-waarden voor verantwoorde omgang met data zijn ook leidend bij toepassingen van AI. ▪ We gebruiken AI in een context waarbij een expert de resultaten op waarde kan schatten als de context hierom vraagt. We willen niet alleen een human in the loop, maar ook een expert in the loop. ▪ We zien AI als intensieve automatisering. Het is intensief omdat het een grote inzet van arbeid, kapitaal, grondstoffen en energie vraagt om dit te doen. Het benodigde materiaal- en energiegebruik en effecten daarvan op mens en planeet is onderdeel van de afweging wanneer we AI al of niet inzetten. ▪ We versterken het kennisecosysteem rondom verantwoorde technologie. ▪ Het gebruik van AI is een vaardigheid die je moet leren en daarom moeten we aan de slag met onderwijs en training voor zowel Amsterdammers als medewerkers van de gemeente. Naast datageletterdheid wordt AI-geletterdheid een aandachtsgebied.

▪ We willen digitale ongelijkheid verkleinen en zorgen dat Amsterdammers de kennis en vaardigheden hebben om kunstmatige intelligentie bewust te gebruiken. Voor de volledige lijst met principes verwijzen we u naar de AI Visie. Betekenis van de visie voor de gemeentelijke organisatie We bouwen de toekomst van deze stad op een realistische inzet van deze technologie waarbij we inzetten op een stad voor iedereen. We erkennen dat AI een grote impact heeft op onze samenleving. Deze technologie is al onderdeel van ons leven en de impact zal naar verwachting alleen maar groter worden. We zien AI als intensieve automatisering en niet als (boven)menselijke intelligentie. Intensief omdat het een grote inzet van arbeid, kapitaal, grondstoffen en energie vraagt. Automatisering omdat het snel complexe handelingen kan uitvoeren die mensen veel tijd en inzet zouden vergen. Dat is geen neutrale positie. We moeten zelf kunnen bepalen hoe deze technologie ons bepaalt. Dat geldt voor de inzet ervan, maar ook met betrekking tot de menselijke inzet, middelen en natuurlijke bronnen die nodig zijn om deze vorm van automatisering mogelijk te maken. Binnen de gemeente Amsterdam willen we ruimte maken voor het zorgvuldig leren, experimenteren en toepassen van kunstmatige intelligentie.

De visie geeft vanuit de maatschappelijke dialoog richting om op elke maatschappelijke domein strategie te bepalen hoe we op een verantwoorde en veilige manier kansen kunnen creëren. Er moet een constante afstemming plaatsvinden tussen wat de mens en de stad wil en wat een AI-systeem doet en kan

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 5 november 2024 Pagina 5 van 7

doen. Daar ligt een spanningsveld, waarbij een zorgvuldige aanpak vereist is om mensgerichte AI te ontwikkelen. We gaan hierbij verder dan wetgeving van ons vraagt en maken bewuste keuzes waar de technologie goed past bij het probleem en waar niet. Of de stad beter wordt van verregaande automatisering bekijken we per geval en wordt voortdurend getoetst. Door niet mee te gaan in het sprookje van bovenmenselijke intelligentie, maar door intensieve automatisering als uitgangspunt te nemen wordt dat mogelijk. We zetten deze technologie in waar ze hoort: dienstbaar aan de mens en de gemeenschap. Daar kunnen we nu gelijk mee beginnen. We leggen vandaag het fundament voor onze toekomst en pakken de regie. Die toekomst is onzeker, maar hoopvol. Amsterdammers bepalen zelf de toekomst waarin zij willen wonen, onze kinderen laten opgroeien en nieuwe Amsterdammers verwelkomen. En soms kan AI daar goed bij helpen. AI binnen de gemeentelijke organisatie tot nu toe Als gemeente Amsterdam zijn we al geruime tijd actief op het gebied van kunstmatige intelligentie (AI). Dat is onder meer zichtbaar in de algoritmes die zijn opgenomen in het Algoritmeregister. We passen bijvoorbeeld AI toe voor beeldherkenning in de openbare ruimte en maken gebruik van de AI voicebot bij 14 020. Ook zijn we het afgelopen jaar aan de slag gegaan met generatieve AI-toepassingen.

Doordat deze technologie nog relatief nieuw is en we er daardoor minder ervaring mee hebben, kiezen we ervoor te experimenteren op een zeer zorgvuldige manier. Naast bestaande kaders en beleid, gebruiken we een specifiek afwegingskader dat ondersteunt bij het evalueren, prioriteren en goedkeuren van producten die gebruik maken van generatieve AI (zie bijlage). Dit kader beoordeelt toepassingen op basis van vijf dimensies: Waardenafweging, Duurzaamheid, Technologie, Data en model, en Juridisch & privacy. Ook is het voortbrengingsproces voor generatieve AI uitgewerkt (zie bijlage). Dit document beschrijft het voortbrengingsproces om van een idee naar een met generatieve AI gedreven product te komen. Hierin wordt ook het afwegingskader generatieve AI benoemd. Met dit gestandaardiseerde proces kan de organisatie efficiënt en uniform te werk gaan met de nieuwe techniek generatieve AI en tegelijkertijd veiligheid en kwaliteit waarborgen. Een geactualiseerde AI governance is in uitwerking, waarin ook de AI-Verordening is verwerkt. De AI governance wordt uiteindelijk onderdeel van de algemene IT governance. We zijn actief bezig met het doorontwikkelen van de AI-infrastructuur, datakwaliteit en de organisatie van het informatiedomein. Hierbij speelt een robuust governance-beleid een cruciale rol. De werkgroep AI, met daarin o.a.

de afdeling Personeel & Organisatie (P&O), verkent manieren om de AI-kennis van medewerkers te vergroten.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 5 november 2024 Pagina 6 van 7

De Amsterdamse AI visie en bovenstaande ontwikkelingen helpen onze organisatie een stap verder in de volwassenheid op het gebied van AI. Vervolg We werken aan een AI Agenda. Hierin stellen we een lerende aanpak voor, waarmee we nu al gestart zijn. We beschrijven met welke activiteiten we AI op verantwoorde manier in gaan zetten binnen de gemeentelijke organisatie. Daarbij nemen we de principes uit de Amsterdamse Visie op AI in acht en beschrijven we ook hoe we dit organiseren binnen de bestuursopdracht van het Idomein. De AI Agenda geeft richting en voorziet de organisatie van de juiste kennis en middelen voor verantwoorde inzet van AI. We gebruiken daarbij de kennis die we tot nu hebben opgedaan in de dialogen en met de verschillende experimenten. Met deze gecombineerde inspanningen streven we ernaar de volwassenheid van de organisatie op het gebied van AI te verhogen, om op een verantwoorde en veilige manier waarde te blijven creëren die aansluit bij de ambities van Amsterdam. Daarnaast werken we in de AI Agenda uit hoe we de AI-vaardigheden bij de medewerkers van de gemeente en Amsterdammers gaan vergroten zodat iedereen de kennis en vaardigheden kan aanleren om AI bewust te gebruiken en oog te hebben voor de consequenties. We werken uit hoe we Amsterdammers blijven betrekken bij de ontwikkelingen rondom AI in Amsterdam.

Uitnodiging De geest van het visietraject is dat we constant bewust blijven van de rol die AI speelt bij een goed bestaan in de stad. Het college nodigt u als gemeenteraad uit om over deze vraag met elkaar in gesprek te gaan. AI kent immers potentiële toepassingen op zeer diverse maatschappelijke opgaven. Uw inbreng nemen we graag mee in het opstellen van de AI Agenda. We gaan ook door met dialogen in de stad en in de organisatie. We werken hiervoor onder andere samen met kennisinstellingen.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 5 november 2024 Pagina 7 van 7

Ik verwacht u de AI Agenda in het tweede kwartaal van 2025 aan te kunnen bieden. Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Alexander Scholtes Wethouder ICT & Digitale Stad Bijlagen 1. Amsterdamse Visie op AI 2. 2024 10 01 Voorloping voortbrengingsproces generatieve AI - 0.95 3. 2024 03 14 Voorlopig afwegingskader generatieve AI - v0.93

Een routebeschrijving vindt u op amsterdam.nl