20250305 Verslag gemeenteraad avond

Ik denk wel dat we het hier hebben over bepaalde technieken die echt wel hele verregaande gevolgen kunnen hebben, dat het ook wel meer gaat dan over alleen maar simpele uitvoering en er ook best wel lang is gedacht van techniek is maar een middel en techniek dit is neutraal maar het gaat meer over wat we ermee doen. Ik denk dat in technologie inherent zelf ook bepaalde keuzes en ontwerpkeuzes zitten waar je best wel met elkaar een politiek debat over kan hebben en is

37

Jaar

2025

Vergaderdatum 5 maart 2025

Gemeente Amsterdam Gemeenteraad Raadsnotulen

R

mijn misschien wat stellige reactie ook omdat ik het dus heel opvallend vond dat in de stukken die zijn meegestuurd er niks staat over de rol van de raad. Dat vond ik echt wel een heel groot gemis. (Het lid ASLAMI: Voorzitter, dat ben ik dan met het lid IJmker wel eens, dat we de rol van de raad wel heel erg moeten verhelderen met elkaar. Volgens mij kunnen we dat gesprek ook met elkaar voeren. Maar is het lid IJmker het ook met mij eens dat het als het gaat om meer de fundamentele vragen die eraan ten grondslag liggen over de discussie, over digitalisering, maar ook AI, dat daar een deel van ook al beslecht is op Europa. Ook vandaag zijn er weer allerlei verboden en maatregelen ingegaan en zou dat niet wat meer ruimte moeten bieden om daar waar dan wel mogelijkheden tot kansen bestaat, om dat verder te benutten?) Ja maar dat is ook een tegenstelling die ik niet herken, want ik denk inderdaad dat we heel blij mogen zijn met de AI-wet en dat we veel werk te doen hebben om die ook goed te implementeren. Tegelijkertijd zijn wij de gemeenteraad van Amsterdam en kunnen wij het over hebben wat voor manieren wij bepaalde AI-toepassingen wenselijk vinden en ook voor welke doeleinden. De VOORZITTER geeft het woord aan het lid Belkasmi. Het lid BELKASMI: Voorzitter, bedankt voor deze waardevolle visie. Ook de PvdA ziet zowel de kansen als de risico's van AI.

En persoonlijk denk ik niet dat we om deze technologie heen kunnen maar dat we ons wel bewust moeten zijn van de risico's die daaraan kleven, zoals vooringenomenheid die kan leiden tot discriminatie, de groeiende macht van big tech, desinformatie, privacyschending en het enorme energiegebruik van AI. En tegelijkertijd moeten we ook zeker de kansen benutten die AI met zich meebrengt. En als PvdA kijk ik naar AI vanuit een sociaaldemocratische bril en dat betekent dat we moeten nadenken over hoe AI kan zorgen voor meer gelijke kansen. Denk bijvoorbeeld aan het doorbreken van taalbarrières en de manieren waarop AI concreet kan bijdragen aan een betere dienstverlening. En ik hoop dat dit aspect ook specifiek wordt meegenomen in de AI-agenda. Dan nog over het gebruik van generatieve AI zoals in dit geval bijvoorbeeld ChatGTP. En ik probeer het geheel pragmatisch te bekijken. En wat ik het belangrijkste vind is dat we zowel de kansen benutten van generatieve AI en tegelijkertijd dat het niet ten koste moet gaan van de gegevens van Amsterdammers. En dat risico kunnen we mogelijk wel lopen als ambtenaren dus gebruikmaken van ChatGTP omdat er weinig transparantie is over de opslag van gegevens.

Er zijn tegelijkertijd ook toepassingen van ChatGTP met weinig risico's als het opzoeken van openbare informatie en ik snap dat het in een grote organisatie eigenlijk vrij lastig is om zo'n genuanceerde boodschap ook echt daadwerkelijk over te brengen en dat het belang van de gegevens van Amsterdammers niet op straat belanden zwaarder weegt. En toch ben ik benieuwd naar de afwegingen van de wethouder voor dit verbod en hoe ChatAmsterdam een goed alternatief zal bieden. (Het lid IJMKER: Voorzitter, ik hoorde het lid Belkasmi als voorbeeld geven van een onschuldig gebruik van ChatGTP om iets op te zoeken vanuit openbare informatie. Is het lid Belkasmi het met mij eens dat ChatGTP geen zoekmachine is?) Voorzitter, dat ben ik met het lid IJmker eens. En tegelijkertijd zei ik dat het een toepassing is met vrij weinig risico's als je dat op die manier inzet.

38

Jaar

2025

Vergaderdatum 5 maart 2025

Gemeente Amsterdam Gemeenteraad Raadsnotulen

R

(Het lid IJMKER: Er zijn natuurlijk nogal meer waarden die op het spel staan, niet alleen maar privacy of de bescherming van persoonsgegevens. Het is natuurlijk ook zo dat één zoekopdracht van ChatGTP tien keer meer impact heeft op CO2 en watergebruik dan bijvoorbeeld Google of wat mij betreft liever DuckDuckGo, maar dat is een andere discussie. Dus ik zie ook nog wel andere argumenten om dit niet aan te moedigen. Is het lid Belkasmi dat met mij eens?) (Het lid BELKASMI: Ik begrijp het argument als het ten aanzien van het milieu gaat. Ik denk dat we daar heel zorgvuldig mee moeten omgaan en tegelijkertijd zoals ik al zei moeten we ook niet naïef zijn over als het gaat om het gebruik van geen generatieve AI, dat is gewoon op een gegeven moment de toekomst en we moeten ook in die zin kijken hoe we die kansen van generatieve AI ook kunnen benutten.) (Het lid IJMKER: Ik vind het opvallend dat het lid Belkasmi het woord naïef gebruikt. Volgens mij is dat juist de discussie, dat we niet zo naïef moeten zijn over het gebruik van dit soort tools omdat er allerlei andere waarden ook hierbij op het spel staan.) Voorzitter, helder. En tegelijkertijd wil ik ook GroenLinks meegeven dat het belangrijk is om ook de kansen te benutten van generatieve AI en dat we daar ook zorgvuldig mee moeten omgaan. De VOORZITTER geeft het woord aan het lid Garmy. Het lid GARMY: Dank, voorzitter.

Ja, wij waren heel blij met de visie. Het is ook redelijk uniek dat het op deze manier gedaan wordt, ook hoe de visie is samengesteld met behulp van Amsterdammers in dialoog en ook het vervolg in de uitvoeringsagenda. Wij kijken ook erg uit naar de uitvoeringsagenda maar in ieder geval dat we als startpunt zo'n visie hebben als gemeente, ik had gekeken en ik zag geen andere gemeente die dat op deze manier al heeft gedaan. Dus veel complimenten. Ook de houding van de wethouder in de commissie dat die eerste uitvoeringsagenda met ons wil bespreken, vinden wij ook heel waardevol. En wat ik vooral goed vind aan de visie is dat we het op basis van publieke waarden doen en dat we het met elkaar hebben over wat wenselijk is en niet alleen kijken naar wat technisch mogelijk is. En een belangrijk punt, en dat werd ook vanochtend al aangekaart in de mondelinge vragen van het lid IJmker over de afhankelijkheid van big tech, ik was ook blij dat het in de visie staat en gezien de actualiteit is dat nu belangrijker dan ooit. En ik hoop dat ook in de uitvoeringsagenda terug te zien maar ik hoorde de wethouder vanochtend al zeggen dat we het daar verder over met elkaar gaan hebben. Dus wij zijn heel positief en we kijken verder uit naar de uitvoeringsagenda. De VOORZITTER geeft het woord aan het lid Aslami.

Het lid ASLAMI: Dank voorzitter, ik houd het beknopt en ik sluit voor een groot deel aan bij de woorden van mijn collega het lid Garmy. Want heel veel lof en kudos voor de wethouder en zijn team als het gaat om de visie op AI. Dat is best uniek, inderdaad een van de weinige gemeentes die op dat niveau dit gesprek aangaan en wat mij betreft verdient dat heel veel lof. En toch ook een beetje over de discussie zonet over geen AI, ik vind dat dat we eigenlijk daar iets te vernauwd naar kijken, de discussie of je nou wel of niet ChatGTP moet inzetten. Het gaat natuurlijk over een veel fundamentelere vraag, een veel grotere vraag. En wat mij betreft moeten we ervoor zorgen dat we de kracht van generatieve

39

Jaar

2025

Vergaderdatum 5 maart 2025

Gemeente Amsterdam Gemeenteraad Raadsnotulen

R

AI inzetten zonder onze waarden en publieke waarden uit het oog te verliezen. Dus ik zie dat ook graag in de uitwerking van de agenda. En misschien ook goed om te benoemen, we organiseren ook nog een expertsessie hier in de raad en hopelijk biedt dat ook meer inzichten en komen we daarmee ook wat dichter tot de kern van de discussie. De VOORZITTER geeft het woord aan wethouder Scholtes. Wethouder SCHOLTES: Dank u wel, voorzitter. Het gaat over kunstmatige intelligentie en dan vernauwt het debat zich al snel tot ChatGTP. Gelukkig is er meer generatieve AI dan alleen ChatGTP en er is dus ook absoluut geen sprake van een algeheel verbod op de inzet van generatieve AI bij de gemeente Amsterdam. Wat we wel hebben gezegd is dat we als we generatieve AI inzetten, wat een grote impact kan hebben, willen we dat op een verantwoorde manier doen en willen we dus de stappen en de checks doorlopen om te kijken welke risico's we daar lopen en ook hoe we die risico's dan kunnen voorkomen. Dus ja, we hebben gezegd op dit moment vinden we het niet verantwoord als collega’s de openbare versie van ChatGTP gebruiken. Want inderdaad, wat gebeurt er met data die je daarin stopt? Dat weten we helemaal niet. We hebben een alternatief, ChatAmsterdam, dat alternatief zijn we aan het testen.

En daarnaast zullen er vast ook andere toepassingen zijn waar we gaan kijken als we al die checks en balances hebben doorlopen, die quality search-criteria, misschien gaan we die dan wel inzetten. Alleen ChatGTP op dit moment niet. En dat is ook vanuit het idee, ik denk dat we ook als organisatie echt nog ook even tijd nodig hebben om die kennis op te doen binnen de organisatie conform de AIverordening, maar ook gewoon wat we zelf belangrijk vinden, ook conform de visie om die kennis op te doen. Dus dat leren van elkaar, de cursussen, kennis opdoen, kennisuitwisseling, dat zetten we allemaal in en dat is denk ik ook ontzettend belangrijk voordat we verder gaan. Wat denk ik goed is om te zeggen, ChatAmsterdam ontwikkelen we dus binnen die eigen omgeving. Het voordeel van ChatAmsterdam is dus dat alles wat we daar invoeren dat dat niet gaat naar een bedrijf elders op de wereld, dat blijft binnen de omgeving. Maar we ontwikkelen het ook zo dat we uiteindelijk zelf kunnen kiezen welk large language model we uiteindelijk daaronder gaan zetten. Dus dat zou het open AI-model kunnen zijn, het kan ook een open source-model zijn, en houden we ook meer controle over welke technologie ambtenaren inzetten en maken we ons dus ook minder afhankelijk van big tech-industrie. (Het lid HAVELAAR: Voorzitter, op de norm ben ik het helemaal niet oneens met de wethouder.

Maar we zien nu al dat ook medewerkers van de gemeente Amsterdam zeggen dat ChatAmsterdam doet het zo slecht. Dus de voordelen van ChatGTP of Perplexity of noem het maar zijn zo groot dat mensen nu al zeggen dan ga ik het zelf gebruiken. Dat weten we ook van andere plekken, dat ongeveer 35 procent van de mensen het gewoon niet vertelt dat ze het op hun privé-devices gebruiken. En mijn vraag aan de wethouder is, hoe gaat hij daarmee om?) Het klopt, we hebben geen politie daarvoor ingezet, dat klopt. Dit is een normering waarmee we duidelijk willen maken dit vinden wij te risicovol. En ik ga echt niet alle ambtenaren laten controleren of ze dat verbod een keer overtreden. Maar ik wil wel een duidelijke norm neerzetten en ik zou verwachten dat het CDA ook houdt van duidelijke normen en neerzetten, ook als je niet op alles de Chat-politie inzet. (Het lid HAVELAAR: Ja, ik zit hier wat praktischer in. Op het moment dat je zoiets doet, toen de USB-sticks niet meer toegestaan werden gaan

40

Jaar

2025

Vergaderdatum 5 maart 2025

Gemeente Amsterdam Gemeenteraad Raadsnotulen

R

mensen ook hun privé-mail gebruiken waarmee je juist eigenlijk veel minder controle krijgt op plekken waar data is. En dat risico voorzie ik hier ook. Dus denk ik dat we hier ook wel de vraag moeten stellen, als je alleen maar zo'n norm hebt en je weet dat mensen het stiekem gaan doen, ben je dan verstandig bezig en hoe hou je dan grip op die informatie?) Het alternatief is dat je dan alles toestaat en dat lijkt mij geen goed idee. Nogmaals, laten we even niet doen alsof ChatGTP de enige vorm van generatieve AI is op deze wereld. Er is zoveel meer en wij willen echt hier uitstralen als gemeente, we gaan niet mee in het doemdenken maar we gaan ook niet mee in het innovatie is altijd goed en leuk dus laten we alles zo snel mogelijk uitproberen. We willen een verantwoorde inzet. We willen als organisatie leren daarvan. We willen als organisatie ook veel meer kennis opdoen. En met dit verbod stralen wij uit dat we dit op dit moment als norm hebben, dat we dit onverantwoord vinden. En daar kun je over van mening verschillen uiteraard. (Het lid HAVELAAR: Het klopt dat ChatGTP niet de enige generatieve AI is en daarom is het ook spannend dat de gemeente dat ChatAmsterdam daartegenover zet terwijl er ook heel veel anderen zijn rondom beeld, rondom videootjes.

En ik heb natuurlijk nog de vraag gesteld over die AI, gedrag en die volwassenheid, want daar zit het natuurlijk en dat zou mijn stelling zijn. Het zit veel meer in het volwassen omgaan met AI en mensen heel bewust maken wat ze aan het doen zijn dan een verbod de wereld in te slingeren wat je niet kunt handhaven.) Voorzitter, ik heb net al gezegd dat de AI- volwassenheid, de kennis opdoen, dat dat een essentieel onderdeel is. Ik vraag me ook echt af of het CDA het debat in de commissie heeft gevolgd en de agenda AI heeft gelezen. Want het is helemaal geen tegenstelling. Het leren en het kennis opdoen, het volwassen worden is een essentieel onderdeel ervan, daar zullen we ook nader verder over spreken met elkaar in de agenda die tot stand komt. Ik vind het heel fijn om dat te kunnen doen door het concept van die agenda nog voordat we het college dat gaan vaststellen met de commissie te delen zodat we ook daar met elkaar kunnen kijken, voldoet dit ook aan de wensen van de raad. Maar we hebben in deze commissie heel vaak een debat over de inzet van technologie en volgens mij is de consensus, in ieder geval bij het grootste van de commissie en van de gemeenteraad om te zeggen ja, we kunnen technologie inzetten daar waar het de Amsterdammer of de samenleving ten goede komt.

We willen dat op een verantwoorde maar niet doen, dus niet als een kip zonder kop gewoon blind gaan uitproberen maar met een aantal checks en balances zodat we risico's goed in beeld hebben en ook op die risico's kunnen acteren. In deze visie hebben we echt geprobeerd te zeggen nee, we willen niet doemdenken, we zijn ook niet van de J.D. Vance-lijn, we het niet over risico's gaan hebben, we moeten het gewoon ruim baan geven want het is innovatie. Nee, we hebben een beetje een nuchtere blik en ik denk dat we daar echt een stuk verder komen als gemeente dan met een andere houding. En ik kijk uit naar het debat over de AI-agenda waarin we ook verder dat gaan concretiseren. Richting het lid IJmker, ik heb u inderdaad al eerder beloofd, en ook het lid Garmy, om u op de hoogte te houden van alle nieuwe hoog-risico-algoritmen. Daar zullen we ook bij de stand van zaken van het Plan van Aanpak Algoritmen in mei op terugkomen en het lijkt mij goed om ook daar de nieuwe hoog-risico-AI-toepassingen in mee te nemen. Dus dat zeg ik graag bij deze ook aan u toe. (Het lid IJMKER: Gewoon even heel concreet, want die motie was van juni en daar stond letterlijk in periodiek, of regelmatig. Dat kun je natuurlijk op

41

Jaar

2025

Vergaderdatum 5 maart 2025

Gemeente Amsterdam Gemeenteraad Raadsnotulen

R

verschillend manieren interpreteren. Ik had het een beetje geïnterpreteerd als halfjaarlijks maar nu krijgen we iets in mei, dat is wel al een jaar sinds dat we erom vroegen. Dus ik was wel benieuwd of dat ook de intentie is om alleen maar één keer per jaar ons te informeren of ook hopelijk wel vaker dan dat.) Mijn intentie was inderdaad halfjaarlijks, maar dat hangt er ook een beetje van af van welke hoge risico-algoritmen er zijn gedefinieerd en ook dus in gebruik zijn genomen of niet. En als dat aantal nul is, dan is het tempo misschien ietsje lager. Wat natuurlijk een klein beetje meespeelt is dat nu ook weer de discussie valt over de classificatie van algoritmen, maar mijn intentie was in principe wel om dat halfjaarlijks te doen alleen dat is nu een iets lager tempo. Maar in mei kom ik hier zeker op terug als we de stand van zaken van het plan van aanpak algoritmen bespreken. Voorzitter, volgens mij heb ik de vraag van de Partij van de Arbeid wel benoemd. Er is dus geen algeheel verbod op generatieve AI. Bij tools zoals ChatGTP maar ook Deep Seek hebben we te grote zorgen. Dat zijn overigens ook zorgen die bij de rijksoverheid leven, dus ook de rijksoverheid heeft eigenlijk dezelfde normen, heeft volgens mij ook geen politie daarop ingezet. En zodra generatieve toepassingen gewoon door onze checks en balances heen komen dan kunnen we best kijken of we dat wel inzetten.

Er loopt bijvoorbeeld wel een pilot met de AI-tool van GitHub waar programmeurs mee kunnen worden geholpen bij het schrijven van code. Dat moet natuurlijk uiteindelijk ook nog worden gecheckt. Maar daar loopt wel een pilot om te kijken nadat er een aantal checks zijn geweest. Dus ik sluit het zeker niet uit maar we moeten daar gewoon op een verantwoorde manier mee omgaan. En richting D66, ik denk, ik hoop dat onze houding en onze visie u enigszins geruststelt, zeg ik via de voorzitter, maar daar gaan we uiteraard verder het debat over aan bij de agenda. De discussie wordt gesloten. De VOORZITTER schorst de vergadering.

Index 027 Motie-Havelaar, Burgers en Bakker over jaarlijkse dag voor de deelnemingen en deelnemingen beschouwing ...........................................................................................34 028 Motie-Havelaar, Krom, Garmy, Koyuncu, Van Schijndel en Kabamba inzake uitspreken van treurnis over de gang van zaken rondom de implementatie van het AFIS-computersysteem ..................................................................................................10 031 Motie-Havelaar, Garmy en Bakker inzake duurzaamheid en dividendbeleid gemeentelijke deelnemingen ....................................................................................34, 35 032 Motie-Schmit, Norbruis, Van Pijpen, Burgers en Garmy inzake oprichting innovatiehub energietransitie in de Amsterdamse haven ....................................................................16 034 Motie-Burgers inzake de handelingswijze van wethouder Van Buren af te keuren 4, 10 035 Motie-Van Pijpen en Bakker inzake duurzaam in en buiten Amsterdam voor foodbedrijven in de haven; geen ontbossing voor palmolie en soja ...............................16 036 Motie van wantrouwen van het lid Van Berkel tegen wethouder Van Buren...........6, 10 037 Motie-Krom inzake zorg dat kleinere lokale ondernemers kunnen meedoen met Amsterdamse aanbestedingen

.......................................................................................25

42

Jaar

2025

Vergaderdatum 5 maart 2025

Gemeente Amsterdam Gemeenteraad Raadsnotulen

R

038 Motie-Bakker en Van Pijpen inzake een rol voor de haven in de duurzame voedseltransitie ...............................................................................................................16 039 Motie-Bakker en Van Pijpen inzake Amsterdam komt op tegen mensenrechtenschendingen Cesar ..........................................................................17, 23 040 Motie-Bakker inzake de afbouw van aardolie in de haven versnellen .........................17 041 Motie-Bakker inzake biobrandstoffen uit organisch materiaal beperken .....................17 042 Motie-Burgers inzake strategische autonomie scheepswerf Amsterdam ....................19 043 Motie-Havelaar inzake verantwoord AI-gebruik binnen de gemeente Amsterdam .....37 VN2024-011121 Instemmen met het gewijzigde initiatiefvoorstel ‘Gastvrije Openbare Ruimte’ van het lid Moeskops en kennisnemen van de bestuurlijke reactie op het oorspronkelijke initiatiefvoorstel ......................................................................................30 VN2025-000683 Vaststellen van het uitvoerings- & kredietbesluit van de mobiliteitshub Zuidoost als onderdeel van het DNKgebouw in De Nieuwe Kern ..................................29 VN2025-000690Instemmen met het gewijzigde initiatiefvoorstel ‘Jongeren een stevige plek aan tafel’ van de leden Belkasmi, Asruf en Bouhassani en kennisnemen van de bestuurlijke

reactie op het oorspronkelijke initiatiefvoorstel ............................................11 VN2025-001244 Kennisnemen van de afhandeling van moties over het inkoopbeleid (moties 420, 422 en 425) ................................................................................................24 VN2025-001369 Kennisnemen van de raadsinformatiebrief over de Amsterdamse visie op AI .....................................................................................................................................36 VN2025-001378 Instemmen met het initiatiefvoorstel ‘Ruimte voor waardevol ondernemerschap’ van de leden Minderhoud en Namane en kennisnemen van de bestuurlijke reactie op het initiatiefvoorstel .....................................................................15 VN2025-001381 Kennisnemen van de bespreeknota Leegstand en Leegstandbeheer ....15 VN2025-001441 Uiten van wensen en bedenkingen over de Strategische Bedrijfsvisie 2040 en het Strategisch Plan 2025 -2028 van het Havenbedrijf Amsterdam .................16 VN2025-001825 Vaststellen van de wijziging van de Verordening op lokaal onderwijsbeleid Amsterdam 2019 ten behoeve van schooljaar 2025-2026 ...................14 VN2025-002077 Kennisnemen van het Jaarverslag Deelnemingen 2023 .........................34 VN2025-002412Instemmen met het gewijzigd initiatiefvoorstel ‘Amsterdams geld voor Amsterdam: inkopen met

waarde(n)’ van het lid IJmker en kennisnemen van de bestuurlijke reactie op het oorspronkelijke initiatiefvoorstel ............................................24

43