Amsterdamse Visie op AI.pdf

AI

Amsterdamse Visie op

2

Inhoudsopgave Voorwoord van de wethouder

3

1. Een visie op AI

4 5 6 6

1.1. Waarom een visie op AI 1.2 Voor en met Amsterdammers 1.3. Een menselijke visie voor de stad

2. Vraagstukken 2.1. Het goede leven 2.2. Wat is intelligentie? 2.3. Betrouwbaarheid 2.4. Neutraliteit 2.5. Toegankelijkheid 2.6. Rechtvaardigheid 2.7. Klimaatimpact 2.8. Onafhankelijkheid van Big Tech

3. Denkkader 3.1. Ons denken over de mens 3.2. Ons denken over kunstmatige intelligentie

4. Richtinggevende principes 4.1. De mens centraal 4.2. Betrouwbaar 4.3 Toekomstbestendig en duurzaam

5. Conclusie

8 9 10 10 11 12 12 13 13

14 15 15 16 17 17 18

19

2024 visie op AI

3

Voorwoord van de wethouder Voor u ligt de Amsterdamse Visie op AI. Een visie die tot stand gekomen is door intensieve gesprekken met Amsterdammers, experts en collega’s van de gemeente Amsterdam. Kunstmatige intelligentie (AI) is niet nieuw. De toegankelijk- en toepasbaarheid is wel enorm vergroot de afgelopen jaren. Daarmee komt een groeiend besef dat AI naast kansen ook risico’s met zich meebrengt. Vooral de snelle opkomst van generatieve AI laat zien hoe impactvol AI kan zijn op de samenleving. Amsterdam heeft internationaal een naam opgebouwd als overheid die creatief, kritisch en progressief met technologie om gaat. Deze kritische houding helpt ons om te zoeken naar de beste manier om technologie een plek in de stad te geven. We zien de technologie niet als doel op zich, maar als dienend aan onze manier van leven. We willen de stad, samen met de Amsterdammers, maken tot een toekomstbestendige, duurzame en fijne plek om te leven. Wij zijn als Amsterdam zeker nog niet uitgeleerd, en antwoorden moeten we nog vinden op veel vragen. De technologie ontwikkelt snel door. Het gesprek voeren over AI en de wijze waarop wij hiermee omgaan is iets wat we moeten blijven doen. Dat klinkt door in de manier waarop we omgaan met digitalisering - zoals je kunt lezen in onze Agenda Digitale Stad 2023 - 2026 - en dus ook in deze visie.

Wel zijn er terechte zorgen en vraagstukken. De visie helpt de gemeente op een verantwoorde manier met de technologie om te gaan. Het dient als stevig fundament voor de keuzes die we maken om te zorgen dat Amsterdammers ondersteund worden waar nodig. En als kader voor alles dat raakt aan kunstmatige intelligentie binnen de gemeentelijke organisatie: waar zetten we AI in en waar moeten we voor oppassen? De visie laat ook zien dat we nog niet weten hoe het precies gaat lopen, we moeten scherp zijn, en met elkaar in gesprek blijven. Dit morele denkkader met richtinggevende principes helpt ons bij het verhouden tot de ontwikkelingen. Daarnaast volgen we ontwikkelingen bij andere overheden, zoals de overheidsbrede visie op generatieve artificiële intelligentie (AI) en werken we ook intensief samen met de Rijksoverheid om onze praktijk te gebruiken voor landelijke en/of Europese wet- en regelgeving. Het gesprek stopt na deze visie zeker niet. Bij het lezen ervan nodig ik u graag uit mee te denken over wat AI betekent voor het leven in de stad – en daarbuiten. Zo ontwikkelen we in de stad een gedeeld begrip op AI en kunnen we dit blijvend met elkaar verbeteren. Altijd met als focus de mens. Dat is immers waar onze stad voor staat. — Alexander Scholtes, wethouder ICT & Digitale Stad

2024 visie op AI

In de gesprekken stond daarom de vraag centraal: “Wat betekent AI voor het leven in de stad – en daarbuiten?” Door de complexiteit van technologie is het niet voor iedereen even eenvoudig om erover mee te praten. Toch zijn we allemaal ervaringsdeskundige in wat een fijne manier van leven in de stad is. Ik ben er dan ook trots op dat jong en oud, ondernemers en scholieren, inwoners uit verschillende stadsdelen, collega’s en experts, kennisinstellingen en instituties allemaal hebben bijgedragen aan deze visie op AI.

Met deze visie scheppen we een gedeelde grond, waarop we binnen de samenleving en gemeente voortdurend samen kunnen bepalen welke richting we met AI op willen gaan. In de visie demystificeren we AI, want het is geen magie, maar een intensieve vorm van automatisering. We zien het niet als een technologie die menselijke intelligentie kan vervangen en ook niet als een existentiële bedreiging.

4

O1

AI Een visie op

Dit is een visie op AI. Het resultaat van gesprekken met burgers, ambtenaren en experts over fundamentele vragen om te komen tot fundamentele principes die uiteindelijk de basis zijn voor een AI Agenda. De AI Agenda zal op de principes beschreven in deze AI visie, concrete actielijnen, acties en maatregelen definiëren.

2024 visie op AI

5 Wellicht lijkt hiermee dìt document niet concreet, maar juist de principes die gestoeld zijn op een collectief inzicht op AI, bieden handvatten om met de juiste focus en met zelfvertrouwen de AI Agenda op te stellen. Dit visiestuk is richtinggevend voor de keuzes die we met betrekking tot dit onderwerp maken in de gemeentelijke organisatie. Het is een gespreksstarter voor de voortdurende dialoog met partners en de samenleving over de impact van AI op Amsterdam. Als gemeente zijn we uiteraard niet de enige in de wereld die zich bezighoudt met dergelijke inzichten. Wel zijn de inzichten in dit document dichter bij de Amsterdamse mentaliteit en publieke waarden. Daarnaast volgen we natuurlijk de landelijke visie op AI en werken we ook intensief samen met de Rijksoverheid om vanuit onze praktijk landelijke of Europese wet- en regelgeving betekenis te geven.

“We zijn een stad waar ruimte is voor diversiteit en eigen(wijs)heid en waar we ervoor zorgen dat iedereen kan meekomen. Waar creativiteit, innovatie en ondernemerschap bijdragen aan welvaart en welzijn van ons allemaal. Zo bouwen we samen aan een sociale en duurzame stad. Jouw stad. We hopen dat je meedoet om zo samen de toekomst van Amsterdam vorm te geven.” (Coalitieakkoord 2022-2026)

1.1 Waarom een visie op AI Het gebruik van AI biedt de gemeente kansen om de dienstverlening te verbeteren. AI is een decennia oud onderzoeksgebied naar het automatiseren van menselijke vaardigheden. Dankzij recente doorbraken in beschikbaarheid van data, opslag en computersnelheid zijn er nu nieuwe toepassingen die verder gaan dan het automatiseren van beslisregels. Voorbeelden hiervan zijn voorspellingen maken, classificeren en zelfs genereren van geheel nieuwe content zoals tekst, audio en video. Ook de onderliggende modellen ontwikkelen zich razendsnel, wat terug te zien is in hoe snel AI nu op ook nieuwe gebieden en met nieuwe toepassingen ingezet kan worden. Dat creëert risico’s en nieuwe vraagstukken: wie maakt deze toepassingen en hoe doen ze dat? Hoe intelligent, betrouwbaar, neutraal, toegankelijk of rechtvaardig is AI? Van wie is het? En voor wie? Wat is de impact op ons samen leven? Om die vragen te beantwoorden is een goed begrip van AI noodzakelijk. Deze visie geeft aan wat AI is, waar de dilemma’s liggen en geeft een aanzet voor verantwoord gebruik van deze technologie in onze stad. Deze visie geeft richting aan hoe we AI zowel binnen als buiten de gemeente zien, begrijpen en gebruiken.

Dit alles is bovenop wetgeving waar we als gemeente verplicht zijn om aan te voldoen. Met deze visie denken we dus niet alleen na over wat we mogen, maar ook over wat we willen met AI. 1.1.2 Definitie AI De definitie van artificiële intelligentie (AI) of kunstmatige intelligentie is voer voor discussie. We hanteren de definitie van de Europese Unie, zoals beschreven in de AI-verordening: “AI is een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen.” (AI-Verordening) In deze definitie zijn de termen autonomie en aanpassingsvermogen belangrijke termen. Deze geven namelijk aan dat, anders dan simpele rekenregels, een AI-systeem in staat is om met verschillende niveaus van autonomie te werken.

2024 visie op AI

6 Neem als eenvoudig voorbeeld een robotstofzuiger. Het laagste niveau van autonomie zou een robot zijn die gewoon in een rechte lijn stofzuigt tot hij gestopt wordt door de gebruiker. Door de robot toe te staan in bepaalde patronen te stofzuigen of specifieke routes te volgen, neemt de autonomie iets toe. Nog meer autonomie wordt verkregen wanneer de robot zelf kan bepalen om obstakels (zoals stoelen of speelgoed op de vloer) te vermijden. De volgende stap van autonomie is wanneer de robot leert om zijn pad te optimaliseren, bijvoorbeeld door gebieden te identificeren die altijd vuiler zijn dan andere. En aan de top staat de robotstofzuiger die alle schoonmaakbeslissingen zelf kan nemen, inclusief het inroepen van menselijke hulp wanneer de vuilnisbak vol is of de borstels aan vervanging toe zijn. AI kan zijn gedrag aanpassen op basis van waarnemingen tijdens het gebruik. In het voorbeeld van de robotstofzuiger kan de robot zijn route aanpassen om meubels te vermijden, of leren om harder te stofzuigen op bepaalde plekken die vaker vuil zijn. Generatieve AI, zoals ChatGPT, genereert nieuwe teksten, beelden en geluid. Deze methodiek van AI geeft op basis van patronen in enorme hoeveelheden geanalyseerde data, content terug. Deze is moeilijk van menselijke content te onderscheiden.

1.3 Een menselijke visie voor de stad AI kan bijdragen aan de waarden zoals die zijn beschreven in de Agenda Digitale Stad: menselijk, betrouwbaar en toekomstbestendig. Maar hoe kunnen we de technologie het beste in lijn daarmee inzetten? De hiernavolgende sub-hoofdstukken geven weer hoe we middels deze waarden, gekomen zijn tot de principes die u aan het einde van deze visie kunt vinden. 1.3.1. Vraagstukken en uitdagingen AI heeft de potentie om zowel positieve als negatieve effecten te hebben op het samenleven in onze stad. Daarom is het cruciaal dat we, samen met de bewoners, streven naar de positieve effecten van AI en het beperken van de schadelijke effecten. We kijken ook naar de technologie zelf. Wat is de betrouwbaarheid van AI en hoe kunnen we die vergroten? We zoomen in op de toegankelijkheid van deze technologie en nemen daarin ook mee wie toegang heeft tot de voordelen en wie de nadelen ondervindt. Zo kan AI democratische waarden onder druk zetten. We zullen dus kritisch moeten zijn op de technologie als mogelijke oplossing.

1.2 Voor en met Amsterdammers Om de visie op AI te formuleren, zijn we in gesprek gegaan met bewoners uit alle delen van de stad. Hun kennis en wijsheid hebben we verweven met die van professionals, experts en collega’s. Het visietraject is daarmee meteen ook een toepassing van de ambitie om de mens centraal te stellen in ons beleid. Zoals het coalitieakkoord aangeeft: “...komt er meer aandacht voor bewonersparticipatie… We hopen dat je meedoet om zo samen de toekomst van Amsterdam vorm te geven.“ (Amsterdams Akkoord, 2022-2026). De dialogen met bewoners laten zien hoe sterk de impact van deze technologie door iedereen gevoeld wordt, waar de zorgen en mogelijkheden liggen. En ze laten ook zien dat er heel wat vraagstukken zijn die we in de toekomst met elkaar moeten bespreken.

2024 visie op AI

7 Maar ook de impact op ons klimaat en leefomgeving moet meegenomen worden in de afweging bij het gebruik van AI. Het gebruik van natuurlijke hulpbronnen en de fysieke leefomgeving die nodig is voor het trainen en gebruiken van grote AI-modellen trekt een grote wissel op onze planeet. En dan is er nog de afhankelijkheid van Big Tech. De concentratie van macht ligt immers bij een klein aantal bedrijven en dat betekent dat zij steeds meer invloed hebben op de Amsterdamse samenleving en het verlies van kennis en kunde in de eigen organisatie. 1.3.2. De oplossing: een nieuw denkkader Technologie wordt vaak als onvermijdelijk bestempeld zonder oog te hebben voor mogelijke negatieve gevolgen of de verstoring van bestaande structuren. Dat creëert een beperking van wat er besproken kan worden om tot een goede afweging te komen. Deze beperking willen we onszelf niet bij voorbaat opleggen. Om een zinvol gesprek over AI te voeren, moeten we begrijpen hoe het ons leven beïnvloedt binnen een historische, economische, ethische en maatschappelijke context. Daarmee wordt het ontwikkelen van een visie niet makkelijker, maar wel vollediger. Voor veel van de vraagstukken rondom AI, zijn wellicht makkelijke antwoorden te formuleren, maar dan ga je voorbij aan de morele dilemma’s die hieraan ten grondslag liggen.

Zo kunnen we met AI vrachtvervoer door de stad optimaliseren en uitstoot verminderen, maar hoeveel energie vergt de training en het gebruik van zo’n model? Of, we kunnen op basis van stads-data besluiten nemen die goed zijn voor de gemiddelde Amsterdammer. Maar wat doen we met de paradijsvogels die in dit soort modellen niet meetellen? Het zijn morele vraagstukken. Hoe we ernaar kijken, bepaalt wat we gaan doen. We hebben een andere manier van denken nodig, om ons te verhouden tot een impactvolle technologie als AI. Dan pas kunnen we de juiste beslissingen nemen in deze dilemma’s.

1.3.3. Richtinggevende principes Hoe integreren we dit nieuwe denkkader in onze organisatie en de stad? We volgen hierbij de waarden die we hebben vastgesteld in de dialogen, die in lijn zijn met de Agenda Digitale Stad: de mens centraal, betrouwbaar en toekomstbestendig. Deze waarden geven richting in hoe we op verantwoorde manier om kunnen gaan met kunstmatige intelligentie. Technologie moet dienstbaar zijn aan de mens en de gemeenschap.

“Ontwikkel AI in solidariteit; sluit niemand buiten.” (Deelnemer aan de dialoog in Amsterdam Zuidoost)

Met deze richtlijnen bieden we een houvast voor de dagelijkse grote en kleine beslissingen die we als organisatie en als stad maken om van Amsterdam een plek te maken waar het gezond en goed leven is. 1.3.4. Filosofische aanpak Om een zinvol gesprek over AI in de stad te voeren, moeten we begrijpen hoe het ons leven beïnvloedt. Niet alleen op persoonlijk vlak, maar ook in maatschappelijke context. De Socratic Design-methode is toegepast om met rust en aandacht gemeenschappelijk op onszelf en de verhalen van onze maatschappij te reflecteren. Waar komen onze overtuigingen vandaan? Welke willen we loslaten en welke willen we voortzetten in de omgang met AI? De vragen uit de gespreksgroep zijn de leidraad in de conversatie, waarbij we door goed te luisteren tot nieuwe inzichten komen. De concrete vragen en menselijke ervaringen geven praktisch filosofische inzichten over de waarde van AI en de vraagstukken die ermee ontstaan. Zo kunnen AI ondersteunend laten zijn aan een goed bestaan. In een reeks dialogen hebben we vanuit deze aanpak verkend wat goede praktijken zijn, zodat mensen en hun organisaties gezamenlijk kunnen werken aan de realisatie ervan.

2024 visie op AI

8

O2

Vraagstukken Op dit moment worden Amsterdammers al dagelijks geconfronteerd met AI. Bij het online winkelen, navigeren door het verkeer of tijdens het praten met vrienden op social media. Kunstmatige intelligentie raakt Amsterdammers op vele vlakken en dat zal vermoedelijk alleen maar toenemen.

2024 visie op AI

9

AI heeft een enorme potentie voor Amsterdam. Het is goed in taken die grote hoeveelheden data en patroonherkenning vereisen. Het kan routinetaken automatiseren, analyses uitvoeren, voorspellingen doen en processen optimaliseren. Dat biedt een aantal nuttige toepassingen voor de stad, vandaag en in de nabije toekomst. We ontsluiten ons verleden door oude archieven leesbaar te maken met AI, we detecteren eerder zware voorwerpen op kwetsbare kademuren en we plegen preventief onderhoud aan machines en gebouwen op basis van modellen, ipv dure of gevaarlijke observaties. Maar deze potentie kunnen we alleen verwezenlijken als we het op de juiste manier aanpakken. Daarbij willen we scherp blijven op risico’s van AI die de menselijkheid aantasten; zo bestaat er het risico dat we menselijke intelligentie gaan verwarren met kunstmatige intelligentie en creativiteit tot statistiek verwordt. Ook de schaal en de kracht van deze technologie brengen risico’s met zich mee. Zo zien we al een enorme toename aan nep-content, oplichtingspraktijken, maar ook de aanslag op natuurlijke hulpbronnen om deze technologie mogelijk te maken. Deze constateringen staan haaks op de doelen die Amsterdam zich gesteld heeft in het maken van een veilige en duurzame stad.

We zien ook de risico’s van meer uitsluiting van al gemarginaliseerde groepen, omdat keuzes op basis van data niet iedereen evenredig zullen vertegenwoordigen.

2.1. Het goede leven Het is de ultieme vraag: wat is het goede leven? Als we AI voor het goede in willen zetten, wat is dan ‘het goede’? Dit wordt deels afgedwongen via de AI-verordening waarin de waarden die we als Europese Unie hebben over mensenrechten worden geadresseerd. Wat goed is voor de Amsterdammer moeten we samen bepalen. Het goede leven behelst onder meer dat de mens toegang heeft tot basisvoorzieningen zoals veiligheid, autonomie, zelfbeschikking, gelijkheid en vriendschap, waarbij toegankelijkheid voor iedereen centraal staat.

“Wat mensen volgens mij fijn vinden aan het wonen in een stad heeft weinig met technologie te maken. Zinvol is dat de dingen die de stad aantrekkelijk maken voor iedereen toegankelijk zijn.” (Deelnemer aan de dialoog in Amsterdam Zuid)

Daarnaast is een goed leven voor de mens alleen mogelijk door goede verbindingen met andere mensen en de omgeving.

Gelukkig kan de Amsterdammer hier vertrouwen op Europese, nationale en lokale wetgeving aangevuld met Amsterdams beleid. Op Europees niveau is de AI-verordening van kracht, daarnaast zijn er binnen de Gemeente Amsterdam bestaande afspraken over hoe we verantwoord, eerlijk en transparant omgaan met algoritmen, waar AI een vorm van is. Alles wat beschreven wordt in deze visie is bovenop wetgeving waar we als gemeente verplicht zijn om aan te voldoen.

“Verbinding is fijn. We hebben behoefte aan authentieke plekken waar mensen samenkomen, brainstormen en zich thuis voelen, in tegenstelling tot achter een scherm met een chatbot praten.”

Vanuit de dialogen hebben we een aantal vraagstukken geformuleerd, die we in de volgende paragrafen uiteenzetten en analyseren.

Dat zijn waarden die niet vanzelf door AI bevorderd worden, en we zullen de technologie moeten begrijpen, beheersen en bewust moeten inzetten om te zorgen dat AI dat wél doet.

(Deelnemer aan de dialoog in Amsterdam Noord)

2024 visie op AI

10

2.2. Wat is intelligentie?

2.3. Betrouwbaarheid

De term intelligentie is eigenlijk te breed voor AI. Anders dan mensen en dieren, omvat AI slechts twee aspecten van intelligentie: logisch redeneren (deductie) en kansberekening (inductie). Het beschikt niet over ervaringen, fysieke en emotionele intuïtie. AI is voornamelijk algoritmes die kunnen classificeren, voorspellen, patronen herkennen en kunnen genereren met behulp van grote hoeveelheden data. De claim dat AI even intelligent is als de mens, is vooralsnog dus alleen mogelijk als we menselijke intelligentie heel beperkt opvatten.

Betrouwbaarheid is essentieel bij AI omdat het bepaalt of de uitkomsten van een AI-systeem consistent, accuraat en voorspelbaar zijn. Dit heeft een directe invloed op het vertrouwen in AI en de beslissingen die erop gebaseerd worden. Als de AI-output niet betrouwbaar is, kunnen er verkeerde beslissingen worden genomen, wat ernstige gevolgen kan hebben voor mensen.

“Intelligentie is het vermogen om met intentie te handelen in een sociale context. Hierbij onderscheidt menselijke intelligentie zich door zelfbewustzijn en het vermogen tot (zelf)reflectie. AI is alleen in staat om deze vorm van intelligentie en creativiteit te simuleren.” (Deelnemer aan de dialoog in Amsterdam Zuid)

“Intelligentie is iets doen of iets niet doen met een bepaald inzicht. Het is dus belangrijk waartoe wij iets doen, het doel. Het is dan ook extreem context bepaald. Een hond kan een truffel heel makkelijk vinden in een ruimte zoals deze waar wij in zitten, voor ons is dat veel moeilijker. In dat opzicht is de hond dus intelligent in deze context met dat doel.“ (Deelnemer aan de dialoog met experts)

We kiezen er daarom voor om de ontwikkeling van AI niet te zien als een vervanging van menselijke intelligentie, maar als een technologie die delen van menselijk kennen en kunnen kan automatiseren en simuleren.

Specifieke vraagstukken rond betrouwbaarheid van AI zijn: Afname van controle en begrip • Complexe AI-modellen, zoals die voor generatieve AI, zijn per definitie niet of in beperkte mate transparant. Het is vaak onmogelijk te weten hoe ze precies werken. De voordelen van het gebruik van deze systemen zullen dan ook altijd gepaard gaan met een beperkt begrip van hoe ze werken. Betrouwbaarheid van output • AI-systemen zijn zo betrouwbaar als de data waarop ze getraind is. Vooroordelen en fouten in de data kunnen leiden tot onvoorspelbare en ongewenste resultaten. Daarom is het belangrijk dat trainingsdata wanneer mogelijk openbaar is en mechanismen voor gegevensvalidatie geïmplementeerd worden met experts. • AI-modellen genereren overtuigende maar soms onjuiste antwoorden. Het zijn statistische modellen die geen notie van goed of fout hebben. Amsterdam experimenteert met generatieve AI, en die lijkt deels deze problemen weg te nemen maar het blijft belangrijk niet te vervallen in antropomorfisme; het toeschrijven van unieke menselijke eigenschappen aan een machine of systeem. De machines denken, reflecteren en redeneren niet. En ook het gebruik van het woord hallucineren is niet correct in deze context. Desinformatie Desinformatie vormt een aanzienlijk risico in het tijdperk van kunstmatige intelligentie.

AI-systemen kunnen onbedoeld bijdragen aan de verspreiding van onjuiste of misleidende informatie door het gebruiken en verspreiden van brongegevens die niet op waarheid gecontroleerd zijn. Deze risico’s worden versterkt door de snelheid en schaal waarop AI de informatie kan genereren en verspreiden.

2024 visie op AI

11 Noodzaak van expert-in-the-loop AI kan autonomie en zelfbeschikking in de weg staan. De rode draad in alle dialogen met bewoners is dat er iets verloren gaat wanneer technologie taken van mensen overneemt. De enige overtuigende manier waarop AI volgens hen een bijdrage levert, is zij-aan-zij met experts. Een expert dient de afweging te maken wanneer AI wenselijk is, of de uitkomsten betrouwbaar zijn en of de kosten opwegen tegen de baten.

“Je moet puppy’s niet met hyena’s laten spelen. AI gaat snel, als we invloed willen hebben, dan moeten er experts aanwezig zijn.” (Deelnemer aan de dialoog in Amsterdam Zuidoost)

2.4. Neutraliteit AI wordt gemaakt in de samenleving en geeft de samenleving ook vorm. Het is niet neutraal, evenals de manier waarop een samenleving niet neutraal is. Dit komt via biases - ofwel vooroordelen - in onze AI-modellen terecht. De vooringenomenheid van AI versterkt ongelijke behandeling, onze eigen menselijke vooroordelen en een eenzijdige visie op de wereld.

“Het is best heftig. AI is wat wij erin stoppen. Het is eigenlijk wat wij zijn. Dus als we ons niet bewust zijn van wie we zijn, dan herhalen we dat, maar dan op grote schaal.” (Deelnemer aan de dialoog in Amsterdam Noord)

Bij besluitvorming rondom AI moet betrouwbaarheid in de breedste zin van het woord onderdeel zijn. Vertrouwen, begrip en integriteit zijn daar essentieel, dat verliezen we niet uit het oog. We hebben grip op de inzet van AI; we begrijpen waar het toe dient, kunnen uitleggen waarom en hoe we het gebruiken en controleren juistheid en betrouwbaarheid met de betrokkenen.

Vooroordelen komen in AI terecht door bevooroordeelde of niet-representatieve trainingsdata, ontwerpkeuzes van ontwikkelaars, en verkeerde interpretatie van context. Daarnaast kunnen feedback loops en interacties met gebruikers bestaande vooroordelen versterken. Data worden vaak gezien als een objectieve weerspiegeling van de werkelijkheid, maar in feite is het slechts een deel van het geheel. Niet alles wat van waarde is valt in data te vatten. Beschikbare meetmethoden en instrumenten bepalen de aard en omvang van de verzamelde gegevens. Wat gemeten wordt, de gebruikte analysemethoden en de interpretatie van de resultaten zijn afhankelijk van wat onderzoekers of bedrijven belangrijk vinden, maar bijvoorbeeld ook waar funding voor beschikbaar is. Data zijn geen neutrale grondstoffen die liggen te wachten tot ze gevonden worden. Ze geven een geconstrueerde representatie van de werkelijkheid en worden beïnvloed door menselijke vooronderstellingen en beperkingen. Wij stellen bij het inzet van data en AI de vraag wie profiteert en wie buiten beeld valt. En hebben bij het ontwerpen en gebruiken van AI oog voor mogelijke vooroordelen en hoe dit tegen te gaan.

2024 visie op AI

12

2.5. Toegankelijkheid

2.6. Rechtvaardigheid

Toegankelijkheid bij AI gaat niet alleen over de technische mogelijkheid om AI te gebruiken, maar ook over wie toegang heeft tot de voordelen van AI en wie de nadelen ondervindt. Als je technologie voor iedereen gelijk toepast, zonder rekening te houden met de bestaande ongelijkheid, is de kans groot dat je bestaande ongelijkheid vergroot. Het eerlijk toepassen van technologie wordt door bewoners als cruciaal gezien.

Technologie is niet zomaar de motor van vooruitgang. Welke oplossing brengt ons ook daadwerkelijk waar we heen willen? De voorbije jaren zagen we hoe technologie tot onrechtvaardigheid heeft geleid. Denk hierbij aan de toeslagenaffaire.

“Er zijn verschillende groepen in de samenleving en die hebben verschillende omstandigheden. En als je één ding implementeert, dan gaat dat helemaal voorbij aan het feit dat die groepen verschillende omstandigheden hebben. En daarom komt wat je bedenkt niet hetzelfde aan, want elke groep heeft iets anders. AI zou je dan op een ongelijke manier moeten toepassen om meer gelijkheid te krijgen.” (Deelnemer dialoog Amsterdam Noord)

AI kan onze verborgen overwegingen en bevooroordeeldheid zichtbaar te maken. Bovendien kunnen we het inzetten om meer verhalen en inzichten te delen. De democratisering van de technologie is hierin belangrijk, zodat de diversiteit van inzichten gezien wordt.

“Als je de Bijlmer alleen door de data bekijkt, lijkt het een plek van armoede, geweld en misdaad. Dit verhaal klopt niet. Door data te hebben over samenhorigheid bijvoorbeeld, kan je dit veranderen. AI kan helpen bij het genereren van een positief beeld van de Bijlmer. Onszelf accuraat presenteren aan Nederland zal leiden tot acceptatie. Door de juiste informatie aan AI te verstrekken, zorgt AI ervoor dat de wereld het juiste verhaal te zien krijgt. Maar dan moeten we de AI wel zelf maken.” (Bewoner aan de dialoog in Amsterdam Zuidoost)

Het verplaatsen van kennis en verantwoordelijkheden naar externe bedrijven en/of niet uitlegbare AI kan ook de transparantie en aansprakelijkheid van overheidsbeslissingen beïnvloeden. Vaak is besluitvorming hierdoor niet meer uit te leggen aan burgers. Dat tast de rechtvaardigheid aan. Daarbij verandert de automatisering van taken de dynamiek van werk en samenleving, waardoor weliswaar nieuwe kansen, maar ook ethische kwesties ontstaan. We kunnen wellicht taken efficiënter en effectiever inrichten, we ontnemen mensen hiermee wel zingeving en inkomen.

“Ik denk dat er meer armoede door AI gaat komen. Dat de overheid meer aandacht gaat besteden aan heel veel andere dingen. Dat mensen minder hoeven te doen is niet goed. Want er zit geen echt leven in. Als alles door robots gemaakt wordt, dan heb je meer met robots te maken en heb je ook minder contact met andere mensen. Dat is geen goed leven.“ (Deelnemer dialoog basisschool groep 8) AI zetten we rechtvaardig in. Wat rechtvaardig is, is onderdeel van een maatschappelijk dialoog. Met en in de gemeenschap faciliteren we een fysieke en digitale infrastructuur om deze dialoog mogelijk te maken. De inwoners van de stad zijn de gevoeligste zintuigen om samen mee te bepalen wat rechtvaardig gebruik van AI is en wat niet.

2024 visie op AI

We streven naar kansengelijkheid, ook bij de inzet van AI. We gebruiken AI inclusief. We houden rekening met de verschillen tussen individuen en groepen, zonder gelijkwaardigheid uit het oog te verliezen.

Kunstmatige intelligentie kan democratische waarden onder druk zetten, omdat de output van AI-modellen kan variëren voor verschillende burgers of medewerkers, waardoor rechtszekerheid in het geding komt. Toepassing van kunstmatige intelligentie vraagt aandacht voor mogelijke gevolgen voor privacy van burgers of medewerkers.

13

2.7 Klimaatimpact AI is enorm bewerkelijk en kost dan ook veel energie. Dat geldt niet alleen voor het onttrekken van benodigde materialen aan de aarde voor het produceren van computers en datacentra. Ook voor het trainen van AI is veel energie nodig. Dat leidt tot veel CO2 uitstoot. Kunstmatige intelligentie draagt dan ook bij aan het versneld opwarmen van de aarde. De zeldzame en eindige hoeveelheid grondstoffen is inzet van internationaal conflict. Het ontginnen ervan schaadt bijvoorbeeld historische rechten van bewoners die moeten vertrekken om ontginning mogelijk te maken. Bovendien vervuilt en beschadigt de ontginning de natuurlijke omgeving en creëert het werkomstandigheden die we niet acceptabel achten.

“Voordat we met AI doorgaan, zouden we eigenlijk eerst een veel grotere, en hernieuwbare energiebron moeten ontwikkelen. Daar zou de wetenschap zich eerst op moeten richten.” (Deelnemer aan de dialoog in Amsterdam Zuid) We moeten de impact van AI op het klimaat meenemen in de afweging wanneer en hoe we AI gebruiken.

2.8 Onafhankelijkheid Big Tech De invloed en macht van Big Tech op het gebied van AI is groot en wordt steeds groter, en deze stuurt naar steeds meer afhankelijkheid. Grote technologiebedrijven domineren niet alleen de markt, maar beïnvloeden ook steeds meer aspecten van ons dagelijks leven. Deze bedrijven beheren enorme hoeveelheden data en ontwikkelen geavanceerde AI-systemen die cruciaal zijn voor sectoren zoals technologie, gezondheidszorg, financiën en transport. Door die macht van Big Tech krijgen grote technologiebedrijven steeds meer te zeggen over hoe onze maatschappij werkt.

Er is bezorgdheid over: • Wendbaarheid: kunnen we de technologie nog aanpassen aan onze context? • Vertrouwelijkheid: wie heeft er toegang tot onze data en is het ambtelijke en politieke proces nog wel vertrouwelijk? • Weerbaarheid: kunnen we snel aanpassen in het geval van een calamiteit? • Machtsconcentratie: Concentratie van economische macht bij een klein aantal technologiebedrijven. Populaire AI-modellen - waaronder generatieve AI - worden getraind op internetdata, inclusief auteursrechtelijk beschermde en persoonlijke informatie. Er lopen rechtszaken tegen organisaties als OpenAI vanwege het gebruik van dergelijke data zonder toestemming, wat juridische en ethische vragen oproept.

“Er zijn hele andere perspectieven mogelijk. Het perspectief waarin we juist de echte problemen kunnen aanpakken, namelijk met de data die wij als mens momenteel niet over onszelf, de natuur en de dingen daaromheen hebben.” (Expert van de dialoog in Amsterdam Zuid) De schaal en middelen die nodig zijn voor het trainen van een goed werkend model zijn enorm. Slechts een handvol partijen in de wereld kunnen dit. Amsterdam is niet zo’n partij en we zullen nog lang afhankelijk blijven als we deze technologieën willen gebruiken. Dat ontslaat ons niet van de mogelijkheid te werken aan alternatieven en daar actief in te investeren dan wel aan mee te bouwen. En de keuzes met betrekking tot onafhankelijkheid expliciet te blijven maken en daarin onafhankelijkheid na te streven.

Aan de ene kant biedt deze afhankelijkheid voordelen zoals efficiëntieverbeteringen, centralisatie, standaardisatie en gemakkelijke toegang tot geavanceerde diensten. Aan de andere kant brengt de afhankelijkheid van Big Tech en AI ook uitdagingen met zich mee.

2024 visie op AI

14

O3

Denkkader Vanuit de vraagstukken gaan we nu in op het denkkader dat aan de grondslag ligt van onze richtinggevende principes. Voor de vraagstukken uit het vorige hoofdstuk zijn vele verschillende oplossingen denkbaar. Het zijn met name morele vraagstukken die vragen om zorgvuldige besluitvorming. Hoe we kijken naar het wat het goede leven is, en wat de belangrijke waarden zijn, bepaalt wat we gaan doen. We hebben dus een bewuste manier van denken nodig, om ons te verhouden tot een impactvolle technologie als AI.

2024 visie op AI

15

3.1. Waarden Waarden zijn geen wetten, geen checklist en geen recept. Het volgen van waarden is iets dat voortdurend, onmeetbaar en bijna onzichtbaar plaatsvindt. Waarden sturen ons handelen voortdurend. Om de juiste keuzes te maken, moeten we weten wat onze waarden zijn. De publieke waarden van de stad zijn hierin relevant, alsook de waarden die uit de dialogen met Amsterdammers naar boven kwamen. Als stad kennen we vele publieke waarden, waaronder die in het coalitieakkoord expliciet worden genoemd. De waarden van de stad centraal stellen binnen technologie doen we bijvoorbeeld sinds 2017 met het opnemen van het Tada-manifest in het coalitieakkoord. We erkennen dat er in technologie waarden zitten en we kiezen ervoor om - ook op het vlak van AI - de Tada-waarden te omarmen: legitiem en gecontroleerd, open en transparant, van en voor iedereen, inclusief, zeggenschap en met de menselijke maat. Binnen de Agenda Digitale Stad hebben we ook waarden vastgesteld die bijdragen aan een zorgvuldige inzet van digitalisering: Menselijk, betrouwbaar en toekomstbestendig. Uit de dialogen met Amsterdammers blijkt het belang van nieuwsgierigheid naar de mens en hoe AI ten dienste kan staan aan goede menselijke interacties en ervaringen. Hierin gaan we uit van menselijke waardigheid, de waarde

Hoe willen we niet naar de ontwikkeling van AI kijken? Technologie centraal Technologie is neutraal Alles moet op een zo efficiënt mogelijke manier Technologie bepaalt jou

van menselijke interacties voor ons sociale wezen en onze harmonie met de natuur. Dit gaat uit van democratie: we kunnen samen bepalen hoe we willen leven.

3.2 Vooronderstellingen De waarden die we gebruiken zijn gebaseerd op vooronderstellingen die we als persoon en gemeenschap hebben. Deze vooronderstellingen bepalen onze werkelijkheid en daarmee wat we van belang achten en wat niet. Andere vooronderstellingen leiden zo tot een ander verhaal tot andere waarden en zo tot een ander ontwerp en gebruik van AI. Wanneer we andere vooronderstellingen als bouwstenen van ons nieuwe verhaal nemen, kunnen we onszelf en de maatschappij veranderen. Die vooronderstellingen moeten de menselijkheid versterken en passen bij de stad. Hieronder een aantal verschuivingen van vooronderstellingen die voortkomen uit de dialogen en geenszins een uitputtende lijst is van mogelijke verschuivingen. Het denkkader van de Gemeente voor deze visie beweegt en vraagt om continu nadenken over de verschuivingen van vooronderstellingen en de onderliggende waarden. Naarmate we meer zicht krijgen over hoe we wel willen kijken naar de ontwikkeling van AI, worden onze inzichten en principes steeds steviger.

Hoe kijken we wel naar de ontwikkeling van AI? Mens centraal Technologie is waardengeladen Publieke waarden staan centraal in de stad Technologie waarin jij zelf bepaalt

Met technologie kan je alles oplossen

Systeemproblemen worden door technologie versterkt

AI wordt slimmer dan de mens

AI kan menselijke intelligentie nooit vervangen

2024 visie op AI

16

O4

Richtinggevende principes De vraagstukken, waarden en vooronderstellingen beschouwend zien we de volgende principes als leidend in het vormgeven en toepassen van AI in Amsterdam; de mens centraal, betrouwbaar en toekomstbestendig. De hierna genoemde principes zijn richtinggevend in het vormgeven van de AI Agenda.

2024 visie op AI

17

4.1. De mens centraal

4.2 Betrouwbaar

Amsterdam neemt haar rol serieus als een partij die menselijke waarden in de samenleving versterkt. Zo lijkt het chatten met een machine in bepaalde opzichten op praten met een mens. Soms is het zelfs prettiger. Maar het is essentieel om niet te vergeten dat dit een simulatie is. De mens en de menselijkheid mag nooit verloren gaan bij de inzet van AI in de stad.

Bij de toepassing en inzet van AI in de stad, is essentieel oog te blijven houden voor de digitale rechten van de Amsterdammer, de integriteit van de techniek en dus de betrouwbaarheid ervan.

Principes • AI is geen doel op zich, maar een middel. • We maken bij het toepassen van technologie de afweging tussen wat we ermee winnen en wat met automatisering aan menselijkheid verloren gaat. • We zien AI niet als een vervanging van menselijke intelligentie, maar als een technologie die delen van menselijk kennen en kunnen kan automatiseren en simuleren. • De ervaringen van de bewoners vormen een belangrijke bron van kennis. Bij het ontwikkelen van AI betrekken we verschillende perspectieven. • We voeren doorlopend onderzoek naar de effecten van AI op de stad. Dit doen we onder andere met behulp van Amsterdammers en partners in de stad. • De kwaliteit van leven van mensen hangt af van de kwaliteit van hun interacties: met elkaar, met de omgeving, met hun werk. De inzet van AI moet dus bijdragen aan goede menselijke interacties en deze niet verslechteren. • In lijn met de Wet Open Overheid zijn we transparant over inzet van AI. Hierbij zijn we extra scherp op de werkelijke kosten van het gebruik van AI en maken dilemma’s expliciet. • We automatiseren waardevolle menselijke interacties niet weg, zonder de gehele werkwijze onder de loep te nemen en waar nodig menselijke handelingen en interacties toe te voegen.

AI maakt verdere digitalisering van de interactie tussen de gemeente en de Amsterdammer mogelijk. Deze andere vorm van interactie met de Amsterdammer moet altijd betrouwbaar en integer zijn. Hierom is het belangrijk dat we helder zijn waar, hoe en wanneer we AI gebruiken, en stellen duidelijke grenzen waarbij we onderstaande principes hanteren. Principes • We hanteren altijd de geldende kaders voor digitalisering, zoals privacywetgeving en kaders die van toepassing zijn op AI. Vanwege de specifieke kenmerken van AI worden daar een aantal kaders aan toegevoegd zoals de AI-verordening. • We hebben oog voor de effecten op digitale rechten door inzet van AI. Via het actieplan Grip op Technologie beschermen we de digitale rechten van burgers bij inzet van data en technologie. • Tada-waarden voor verantwoorde omgang met data zijn ook leidend bij toepassingen van AI. • We doen niks zonder te leren en te reflecteren. We willen weten hoe AI werkt en welke wereld erachter zit. • We willen AI waardevol inzetten, dus dan moet onze data van hoge kwaliteit zijn en goed ontsloten worden. • We gebruiken AI in een context waarbij een expert de resultaten op waarde kan schatten als de context hierom vraagt. We willen niet alleen een human in the loop, maar ook een expert in the loop. • We hebben bij het gebruik van AI oog voor mogelijke vooroordelen en nemen maatregelen om deze tegen te gaan.

• Elke nieuwe AI-toepassing is beargumenteerd in overeenstemming met deze AI-visie.

2024 visie op AI

18

4.3 Toekomstbestendig Als we toekomstbestendig zeggen, dan hebben we het over duurzaamheid, het toekomstbestendig maken van de stad en het oog hebben voor de noodzaak van kennis en kunde op het gebied van AI binnen de gemeente. Principes • We zien AI als intensieve automatisering. Het is intensief omdat het een grote inzet van arbeid, kapitaal, grondstoffen en energie vraagt om dit te doen. Het benodigde materiaal- en energiegebruik en effecten daarvan op mens en planeet is onderdeel van de afweging wanneer we AI al of niet inzetten. • We versterken het kennisecosysteem rondom verantwoorde technologie. • Het gebruik van AI is een vaardigheid die je moet leren en daarom moeten we aan de slag met onderwijs en training voor zowel Amsterdammers als medewerkers van de gemeente. Naast datageletterdheid wordt AI-geletterdheid een aandachtsgebied. • We willen digitale ongelijkheid verkleinen en zorgen dat Amsterdammers de kennis en vaardigheden hebben om kunstmatige intelligentie bewust te gebruiken. • We behouden onze onafhankelijkheid ten opzichte van de grote technologiebedrijven zoveel mogelijk. We werken waar het kan met flexibele contracten, een agnostische opzet en ontwerp en prefereren opensource initiatieven. • We hebben oog voor de ontwikkelingen op AI en zijn bewust van de impact van deze trends en ontwikkelingen op de stad en de Amsterdammer.

2024 visie op AI

19

O5

Conclusie Concluderend is dit de Amsterdamse visie op AI. We bouwen de toekomst van deze stad op een realistische inzet van deze technologie en dragen bij aan een hoopvol verhaal waarbij we inzetten op een stad voor iedereen. Het is daarvoor noodzakelijk dat we erkennen dat AI een grote impact heeft op onze samenleving. Deze technologie is al onderdeel van ons leven en de impact zal naar verwachting alleen maar groter worden. We zien AI als intensieve automatisering en niet als (boven)menselijke intelligentie. Intensief omdat het een grote inzet van arbeid, kapitaal, grondstoffen en energie vraagt. Automatisering omdat het snel complexe handelingen kan uitvoeren die mensen veel tijd en inzet zouden vergen. We moeten zelf kunnen bepalen hoe deze technologie ons bepaalt. Dat geldt voor de inzet ervan, maar ook met betrekking tot de menselijke inzet, middelen en natuurlijke bronnen die nodig zijn om deze vorm van automatisering mogelijk te maken. De visie geeft vanuit de maatschappelijke dialoog richting om op elke maatschappelijke domein strategie te bepalen hoe we op een verantwoorde en veilige manier kansen kunnen creëren. Binnen de gemeente Amsterdam willen we ruimte maken voor het zorgvuldig leren, experimenteren en toepassen van kunstmatige intelligentie. Er moet een constante afstemming plaatsvinden tussen wat de mens en de stad wil en wat een AI-systeem doet en kan doen.

Daar ligt een spanningsveld, waarbij een zorgvuldige aanpak vereist is om mensgerichte AI te ontwikkelen. We gaan hierbij verder dan wetgeving van ons vraagt en maken bewuste keuzes waar de technologie goed past bij het probleem en waar niet.

Of de stad beter wordt van verregaande automatisering bekijken we per geval en wordt voortdurend getoetst. Door niet mee te gaan in het sprookje van bovenmenselijke intelligentie, maar door intensieve automatisering als uitgangspunt te nemen wordt dat mogelijk. We zetten deze technologie in waar ze hoort: dienstbaar aan de mens en de gemeenschap. Daar kunnen we nu gelijk mee beginnen. We leggen vandaag het fundament voor onze toekomst en pakken de regie. Die toekomst is onzeker, maar hoopvol. Amsterdammers bepalen zelf de toekomst waarin zij willen wonen, onze kinderen laten opgroeien en nieuwe Amsterdammers verwelkomen. En soms kan AI daar goed bij helpen.

2024 visie op AI

Uitgave gemeente Amsterdam, november 2024 Contact: Gemeente Amsterdam Directie Digitalisering en Innovatie innovatie@amsterdam.nl