Gewijzigde verslag FKD 14-12-2023

Bovendien is het lid Bobeldijk van mening dat zijn bijdrage wel terzake zinnig is. Lid ASRUF stelt dat de discussie over de dikke salarissen van directeuren niet aan de orde is. Lid BOBELDIJK bestrijdt dit, aangezien de gemeente geen invloed heeft op de salarissen in een commercieel bedrijf en dit uiteindelijk wordt doorberekend in de afvalstoffenheffing. Lid MEERBURG vindt de tegenstelling tussen SP en PvdA in deze kwestie teleurstellend en gaat proberen een gulden middenweg te vinden.

19

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

De PvdD spreekt zich uit voor behoud van AEB in publieke handen om te kunnen sturen op betaalbaarheid en duurzaamheid. Amsterdam is voor warmtelevering volledig afhankelijk van het AEB en het is maar hopen dat het AEB niet failliet gaat. De verkoop wordt gepresenteerd als onvermijdelijk, ondanks dat er fracties zijn die pleiten voor een publiek scenario. Echter in het onderliggende stuk zijn er veel openingen om het duurzamer, socialer en beter te doen. Er bestaat een kans dat er geen geschikte marktpartij wordt gevonden en dat er sprake is van een terugvalscenario. PvdD zou in dat geval pleiten om in samenwerking met andere overheden het AEB te onderhouden om zo te komen tot een consortium van publieke partijen die er belang bij hebben om gezamenlijk financieel en organisatorisch het AEB kunnen dragen. Hij vraagt de wethouder of deze bereid is om het gesprek hierover te voeren met andere publieke partijen en te schetsen wat hij dan voornemens is te bespreken? Lid LOCHTENBERG vraagt waarom de gemeente aandeelhouder zou willen blijven in een markt waar overcapaciteit heerst. Lid MEERBURG voorspelt dat er voorlopig de komende jaren, en misschien wel tot 2040, afval zal blijven om te verbranden. Hij stelt voor om in gesprek te gaan met andere afvalverwerkers die strategieën hebben ontwikkeld om de afbouw van afvalverbranding te bewerkstelligen en over te gaan op meer recyclen.

Lid BURGERS verklaart dat de VVD hecht aan een zorgvuldig proces bij de verkoop van de AEB. De VVD heeft een aantal vragen die betrekking hebben op het mee verkopen van de afvalscheidingsinstallatie: • Waarom is de wethouder sinds mei 2023 van mening veranderd als het gaat om de verkoop van de scheidingsinstallatie? • Hoe kijkt de wethouder terug op het proces en de keuze om destijds niet meteen te onderzoeken of het verstandig was om de scheidingsinstallatie te verkopen? De VVD had dit onderzoek voorgesteld. • Zijn alle onderzoeken, zoals dit in de brief staat vermeld, met de raad gedeeld? Indien niet, kan dit alsnog worden uitgevoerd? • Zijn er toch nog externe adviseurs geraadpleegd? De volgende vragen gaan over het zeker stellen van de overslaglocatie, waarvoor in de brief een aantal eisen worden opgesomd: • Waar loopt de gemeente tegenaan bij het vinden van een juiste locatie? • Is het niet op tijd vinden van deze locatie een belemmering bij de aanvang van het verkoopproces? Lid Burgers verzoekt de wethouder de raad hierover op de hoogte te houden. Lid LOCHTENBERG vraagt waarom het jaarverslag van de AEB zo laat is gepubliceerd. Lid Lochtenberg heeft hierin gelezen dat de winst is gedaald met 40 procent. Heeft dit invloed op de verkoopprijs? (dit is onderdeel van het geheime deel van de besprekingen en er zal door de wethouder niet op ingegaan worden).

Lid Lochtenberg las in de media dat de emissietoets inzake de Kaderrichtlijn Water bij het AEB niet is uitgevoerd. Welke risico’s brengt dit met zich mee voor de bedrijfsvoering van AEB? Lid ERNSTING geeft aan dat GroenLinks het teleurstellend vindt dat het college uiteindelijk heeft besloten de afvalscheidingsinstallatie mee te verkopen. Lid Ernstig vraagt zich af of in een eerder stadium niet al kon worden ingeschat dat dit een probleem zou vormen in verband met de stikstofruimte. GroenLinks meent dat voor de aankoop van een overslaglocatie een natuurvergunning is vereist. Wat wordt er bedoeld met een locatie met de juiste vergunningsruimte, zoals dat in de brief wordt geformuleerd? Lid Ernsting vraagt de wethouder meer informatie te geven over de terugvaloptie. Zijn nu wel alle afwegingen van een half jaar geleden overeind gebleven?

20

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Er wordt niet beschreven of er nog afvalstoffen overblijven na nascheiding en verbranding, die dan eventueel geëxporteerd kunnen worden. Maar dit zou ook niet kunnen in de huidige nationale wet- en regelgeving, heeft lid Ernsting gelezen. Bovendien zal dit bij de inkoopvoorwaarden te zijner tijd kunnen worden geregeld. Tenslotte verwijst lid Ernsting naar de motie inzake de overcapaciteit en hij uit zijn teleurstelling over het feit dat het de staatssecretaris niet is gelukt om daar concreet afspraken over te maken met de sector. Wethouder VAN DANTZIG geeft aan dat de scheidingsinstallatie niet levert wat de gemeente wil en het AEB werkt aan verbetering hiervan. De scheidingsinstallatie kan in de toekomst een oplossing zijn voor de gemeente, maar dat hoeft niet. De komende jaren zal het Amsterdamse afval nog worden verwerkt bij het AEB. In de tussentijd wordt er een inkoopprocedure gevolgd, die voor de periode daarna een oplossing oplevert, pas dan is er eventuele ruimte nodig voor toekomstige aanvullende circulaire activiteiten. Het streven is deze ruimte te vinden voor de start van de inkoopprocedure te weten de tweede helft van 2024. De tijdelijke locatie van op- en overslag kan eerder, de wethouder verwacht dat deze ruim op tijd zal worden veilig gesteld. De wethouder verklaart dat er op verschillende niveaus contact is geweest.

Hoewel het Rijk niet tot afspraken is gekomen, blijft het college in navolging van de motie Nadif hierover in gesprek. Er is ook een gesprek geweest met EZK en het ministerie heeft aangegeven dat het AEB niet past in de infrastructuur. De verkoopvoorwaarden maken duidelijk dat het college bijzondere aandacht heeft op het tijdig en voortdurend kunnen uitsluiten van partijen die niet voldoen aan sanctiewetgeving. Na het besluit om AEB te verkopen heeft het college contact gehad met de buurgemeenten, maar dat heeft niet een tweede keer plaatsgevonden, omdat het proces enige snelheid vereiste. Het meegeven van een contract voor langere duur heeft op zich geen financiële meerwaarde. Bovendien moet dit kunnen volgens de aanbestedingsregels. Mocht de inkoop procedure binnen de termijn van drie jaar niet op orde kunnen komen, is er verlenging mogelijk. De wethouder deelt mee dat er een marktconforme prijs is afgesproken tussen de gemeente en het AEB. Bij de inkoopprocedure zal er een afweging plaats moeten vinden tussen betaalbaarheid, verduurzaming en andere factoren die dan gewogen moeten worden. Bij zo’n verkoop is een bepaalde mate van uitruil onvermijdelijk, maar in het algemeen zijn AEB en de gemeente tot dezelfde afwegingen gekomen.

Uiteindelijk maakt het AEB een economische afweging voor wat betreft het zelf sluiten van verbrandingscapaciteit of het niet langer importeren van afval. Het heeft dusdanige financiële implicaties dat dit niet economisch uit eigener beweging gedaan kan worden. In de visie wordt beschreven dat het AEB sterk afhankelijk is van de wetgeving en actiever lobbyt. Zij ziet zichzelf in de toekomst als onderdeel van de circulaire economie, maar zij heeft wel regelgeving van de overheid nodig. De wethouder geeft aan dat het college in het voortraject er alles aan heeft gedaan om het publieke belang te borgen. Er is lang gepoogd om tot een overeenstemming te komen om de afvalscheidingsinstallatie in publieke handen te houden. Dat het niet is gelukt heeft ook te maken met de natuurvergunning die op dat kavel rust, want de gemeente is voornemens om terreinen aan te kopen waar vergunningsruimte aanwezig is. Echter de stikstofproblemen waren niet voorzien. De wethouder laat zich in de verkoopprocessen zowel juridisch bijstaan als door een merchant acquisition-bureau. De wethouder zegt toe dat hij gaat onderzoeken of het mogelijk is om de geheime rapporten te delen met de commissie. Vanuit aanbestedingsrechtelijk perspectief kunnen er geen verkoopcriteria worden gehanteerd die de koper zouden kunnen verplichten om prestaties ten behoeve van de gemeente te verrichten.

Maar in Nederland geldt een stortverbod en voor export moet een vergunning worden verkregen. En daarbij moet partij aantonen dat het afval niet alsnog elders wordt gestort.

21

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Lid MEERBURG interrumpeert met een punt van orde, aangezien hij vreest dat de tijd voor een tweede termijn ontbreekt. Hij stelt voor of zijn vraag bij het presidium neergelegd kan worden. De VOORZITTER reageert op dit punt van orde en stelt voor om voort te gaan, zoals afgesproken, met de beantwoording van de wethouder plus interrupties en daarna te inventariseren welke mogelijkheden er zijn voor verdere bespreking. Lid MEERBURG blijft bij zijn ordepunt om bij het presidium de vraag neer te leggen om verdere bespreking in de volgende raad plaats te laten vinden. Voor de PvdD is dit onderwerp dermate urgent dat dit niet tot volgend jaar kan wachten. De VOORZITTER stelt voor om dit ordevoorstel aan het einde van de beantwoording van de wethouder te beantwoorden. Hier is lid Meerburg het mee eens. Wethouder VAN DANTZIG vervolgt zijn beantwoording. Hij beschrijft de tijdlijn in de verkoopprocedure die ongeveer zes maanden zal duren. Uiteindelijk is er dan ook nog het goedkeuringsproces door de ACM en het college is er enigszins van op de hoogte waar zij dat op toetsen. De Provincie heeft bezwaren tegen het tijdelijk gebruik van het terrein voor festivals, zoals lid Schmit voorstelt. De wethouder gaat allereerst met de Haven en de Provincie in gesprek over de inrichting van het terrein. Het is in ieder geval een voorstel dat de wethouder zal meenemen.

Het jaarverslag is zo laat gepubliceerd, omdat het AEB geen zelfstandig jaarverslag nodig had met het oog op de verkoop. Het zou worden geconsolideerd met de AVR. Na het negatieve besluit van de ACM heeft het AEB de huidige accountant bereid gevonden de controle te doen en dat kon in de planning niet op een eerder moment. In algemene zin kijken de kopers naar meer factoren en omstandigheden van het bedrijf dan de winst- of verliescijfers alleen. Hoe dit geldt voor het AEB kan in een besloten sessie besproken worden. Het AEB moet zich houden aan de wet- en regelgeving en zij spant zich tot het uiterste in om de uitstoot van CO2 en stikstof terug te brengen. In antwoord op de vragen van de PvdD geeft de wethouder aan dat er nooit is gekozen voor een andere oplossing dan verkoop en daar is ook bij de verkoop uitgebreid over gedebatteerd. De wethouder kan hier een verhandeling over houden, maar stelt voor dit schriftelijk aan de commissie te doen toekomen in verband met de tijd. Lid MEERBURG beschrijft de context van zijn vraag die gaat over het terugvalscenario. Er wordt aangegeven dat er sprake is van een terugvalscenario indien er geen geschikte marktpartij gevonden wordt, maar dit terugvalscenario is niet uitgewerkt. Wel wordt steeds aangegeven dat de gemeente te klein is om deze grote en riskante Deelneming in haar eentje aan te kunnen.

Het lijkt de PvdD zinvol om een scenario uit te werken waarbij je het risico spreidt over meerdere partijen. Daarom wil de PvdD dit bespreken in de raad van volgende week, om het college ertoe te bewegen een dergelijk scenario uit te werken, eventueel via een motie. Wethouder VAN DANTZIG geeft aan dat bij een terugvalscenario er sprake zal zijn van een behoud als Deelneming. Al de publieke belangen die in het wensen- en bedenkingenlijstje bij de verkoop zijn meegegeven, zullen dan ook van toepassing zijn. De wethouder heeft het vertrouwen dat de publieke belangen bij verkoop voldoende zijn geborgd. Mocht het college besluiten om het AEB te behouden zal zij samen met de directie en de RvC opnieuw een toekomsttraject inslaan. De wethouder zegt toe dat deze afweging serieus wordt opgepakt totdat de verkoop volledig is afgerond. Lid LOCHTENBERG vraagt of de wethouder alsnog schriftelijk of per e-mail reageren op zijn vraag inzake de Kaderrichtlijn Water die luidt:

22

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Hij las in de media dat de emissietoets inzake de Kaderrichtlijn Water bij het AEB niet is uitgevoerd. Welke risico’s brengt dit met zich mee voor de bedrijfsvoering van AEB? Lid Lochtenberg kan hierover niets terugvinden in het strategisch plan, maar zou hier graag meer duidelijkheid over krijgen. Wethouder VAN DANTZIG zal de behandelend ambtenaar vragen hierover contact op te nemen met lid Lochtenberg. Lid BOBELDIJK vraagt wat de garantie is op de afvalstoffenheffing en hoeveel vrijheid het bedrijf heeft om dat te bepalen. Ook wil hij weten of het bedrijf zelf de salarissen bepaalt van de directeuren en of de gemeente hier nog sturingsmogelijkheden heeft . Wethouder VAN DANTZIG is van mening dat zowel de salarissen en de afvalstoffenheffing redelijk binnen de grenzen zullen blijven, maar de gemeente heeft hier geen invloed op. Lid BOBELDIJK vindt het moeilijk te accepteren dat de gemeente de hoogte van de afvalstoffenheffing niet meer in eigen hand heeft. Hierbij verwijst hij naar de motie van de PvdA. Wethouder VAN DANTZIG geeft aan dat de gemeente Amsterdam de afvalstoffenheffing bepaalt. Soms wordt er vanuit de algemene middelen een dempend effect hierop toegepast. Uit de afvalstoffenheffing moeten de kosten voor afvalverwijdering worden betaald en wordt de hoogte van de afvalstoffenheffing mede bepaald door de inkoopprijs.

De VOORZITTER concludeert dat er vragen zijn gesteld die moeten worden beantwoord in het geheime deel van de vergadering. Lid Meerburg heeft de wens geuit zijn overige vragen inzake dit onderwerp in de raad van 20 en 21 december te willen behandelen. Lid GARMY ziet de noodzaak van deze haast niet in. Lid ERNSTING ziet de noodzaak van deze haast niet in. Lid MEERBURG geeft aan dat zijn fractie het onwenselijk vindt om dit verkoopproces, dat nu ineens versnelt, door te zetten en hij vindt het noodzakelijk om zo snel mogelijk een fundamentele discussie hierover te voeren. Lid BOBELDIJK steunt de oproep van lid Meerburg, want ook zijn fractie vindt zes maanden een korte termijn. Wethouder VAN DANTZIG beroept zich op de bevoegdheid van het college om volgens de ingezette procedure te blijven handelen. Hij geeft aan hierover met de raad in gesprek te willen blijven. Hij kondigt aan dat er na de kerstvakantie wordt begonnen met de voorbereiding van het verkoopproces. De VOORZITTER stelt voor om het agendaverzoek van lid Meerburg aan het presidium voor te leggen. Lid ERNSTING vraagt de wethouder of in de periode tussen de komende raad van 20 december en 24 januari 2024 in het proces stappen genomen gaan worden die onomkeerbaar zijn. Wethouder VAN DANTZIG sluit dit niet uit. De VOORZITTER concludeert dat het genoemde agendaverzoek aan het presidium wordt voorgelegd.

23

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

De VOORZITTER geeft aan dat de rest van de agenda zal worden behandeld van 15.0017.00 uur, met als voorzitter het lid Van Pijpen. Hij sluit dit deel van de vergadering om 12.50 uur. ICT en Digitale Stad De VOORZITTER leidt de vergadering in en deelt mee dat het hier gaat om het tweede deel van de vergadering die vanochtend is begonnen. 12. Kennisnemen van het onderzoeksrapport en het bestuurlijk rapport van het onderzoek “Algoritmen, hoe Amsterdam algoritmen beter kan toepassen” van de Rekenkamer en de aanbevelingen overnemen (VN2023-025251) De VOORZITTER leidt het agendapunt in en deelt mee dat bij dit agendapunt mevrouw Daalder van de Rekenkamer een korte toelichting zal geven op het rapport. Hierna kunnen de raadsleden vragen stellen aan de leden van de Rekenkamer. Lid GARMY vraagt in een punt van orde welke spreektijden er zullen gelden. De VOORZITTER geeft aan dat de spreektijden voor vanmiddag opnieuw zijn vastgesteld en in een app krijgen de leden te lezen welke spreektijden er van kracht zijn voor deze vergadering die twee uur zal duren. Mevrouw A. Daalder (Rekenkamer) licht een paar aanbevelingen toe uit het rapport. Zij geeft aan dat er sprake is van een transitiefase. Er zijn verbeteringen nodig en die zijn ook mogelijk om meer grip te krijgen op algoritmen en deze eerlijker en transparanter te maken.

• Doorontwikkelen van het beheerskader; • Bevorderen van de toepassing van het beheerskader in de praktijk; • Verbetering van de omgang met bias; • Toezien op de privacybescherming van burgers bij de algoritmen; • Toezien op het opener en transparanter zijn van algoritmen; Het college heeft een inhoudelijke en constructieve reactie geschreven op het rapport. Het onderschrijft de conclusies van de Rekenkamer en neemt de aanbevelingen over. Ook heeft het een plan van aanpak toegezegd dat in het eerste kwartaal 2024 met de raad zal worden gedeeld. Er zijn drie aandachtspunten geformuleerd door het college en het lid Garmy heeft hier raadsvragen over gesteld en die zijn ook beantwoord. Op één aandachtspunt is nog niet gereageerd en dat betreft het advies van de Rekenkamer om met de raad in gesprek te gaan over welke mate van zekerheid mogelijk en wenselijk is als het gaat over het uitsluiten van bias. Lid MEERBURG vraagt van welke situatie naar welke nieuwe situatie de transitie plaatsvindt. Ook vraagt hij op welke termijn de transitie is voltooid. Mevrouw A. Daalder (Rekenkamer) geeft aan dat in de hele wereld er transitie plaatsvindt op het gebied van kunstmatige intelligentie en nieuwe technologieën. De ontwikkelingen gaan snel en als overheid loop je hier, volgens mevrouw Daalder, altijd een beetje achteraan. Het is niet te zeggen waar de transitie eindigt.

Omdat er steeds ontwikkelingen zijn, bestaat de kans dat zelfs wet- en regelgeving alweer achterlopen als ze in werking treden. Mevrouw Daalder adviseert de raad om te kijken wat mogelijk is en dat dan uit te voeren. Lid BELKASMI vraagt welke risico’s er kleven aan het algoritme dat wordt ingezet bij geautomatiseerde besluitvorming. De heer T. Heldring (Rekenkamer) geeft aan dat er bij geautomatiseerde besluitvorming aanvullende voorwaarden gelden vanuit de AVG. Hier moet de gemeente

24

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

rekening mee houden. Daarnaast kan het voorkomen dat iemand iets toegekend krijgt waar hij geen recht op heeft. Ook kan het voorkomen dat er een besluit wordt genomen en dat de burgers niet goed worden geïnformeerd over hun rechten. Lid BELKASMI wil weten of er ook een menselijke component zit aan de geautomatiseerde besluitvorming in het geval van deze specifieke algoritme. De heer T. Heldring (Rekenkamer) heeft dit algoritme niet onderzocht, maar in principe is er bij geautomatiseerde besluitvorming geen menselijke tussenkomst. Achteraf kan worden bekeken of de besluiten wel kloppen. Lid BOBELDIJK vraagt of er alleen wordt gekeken naar de interne organisatie indien er sprake is van een publieke dienst of zijn daar ook externe marktpartijen bij betrokken die een publieke dienst leveren. De heer A. Kok (Rekenkamer) geeft aan dat er drie algoritmen zijn onderzocht: handhaving op illegale onderhuur, handhaving op illegale passagiersvaart en BBZ (uitkeringen, leningen en verstrekkingen). Dit zijn alle drie publieke taken, maar alleen bij de illegale passagiersvaart en bij de BBZ werd er gebruik gemaakt van een derde partij, een leverancier. Lid BOBELDIJK vraagt of de Rekenkamer adviezen geeft over het inzetten van externe partijen bij publieke taken. De heer A. Kok (Rekenkamer) stelt dat het beheerskader ook betrekking heeft op contractvorming met een derde partij.

Maar in dit beheerskader moet ook aandacht zijn voor privacy en dan moet er met een derde partij een verwerkersovereenkomst zijn. De aanbeveling in deze is om het beheerskader verder te ontwikkelen. Lid KROM refereert aan een uitspraak van de heer Kok in de technische sessie over de privacy. Zij vraagt de heer Kok deze uitspraak toe te lichten. De heer A. Kok (Rekenkamer) stelt dat privacy een van de vijf thema’s is waar de Rekenkamer naar heeft gekeken. Uit de onderzoeken blijkt dat privacy de minste aandacht krijgt. Dat heeft te maken met transparantie, met het vullen van een verwerkingsregister, het doorlopen van een DPIA en onderkennen dat er sprake is van profilering. Het onderzoeksteam van de Rekenkamer constateerde dat er bij alle drie de casussen sprake was van profilering en dat de ambtelijke organisatie dit niet heeft onderkend. Bovendien zijn de inwoners er niet over geïnformeerd dat er met hun gegevens sprake was van profilering. Dit leidde tot de conclusie dat de privacy het ‘ondergeschoven kindje’ is. Lid GARMY vraagt of het onderzoeksteam van de Rekenkamer ook een rol gaat vervullen bij het plan van aanpak om te kijken of het plan inderdaad de aanbevelingen opvolgt. De heer A. Kok (Rekenkamer) geeft aan dat de rol van de onderzoekers bij het plan van aanpak niet erg groot is. Het team vertrouwt op de toezegging van het college dat er een plan van aanpak komt.

Er is nog wel contact met de ambtelijke organisatie. In de Gemeentewet is per 1 januari 2023 geregeld dat het college jaarlijks moet rapporteren over de aanbevelingen van de Rekenkamer. De raad heeft hierbij een controlerende functie. De Rekenkamer gaat deze nieuwe systematiek uiteindelijk onderzoeken en de raad kan te allen tijde bij de Rekenkamer een verzoek tot onderzoek indienen. Maar de heer Kok adviseert de raad het college voldoende tijd te gunnen om de toezeggingen waar te maken. Eventuele vragen vanuit de ambtelijke organisatie zullen door de Rekenkamer altijd worden beantwoord. Lid ASLAMI vraagt of de Rekenkamer de gemeente Amsterdam zou aanbevelen om op dit moment te stoppen met het gebruik van alle algoritmen.

25

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Mevrouw A. Daalder (Rekenkamer) geeft aan dat de Rekenkamer dit niet zou adviseren, aangezien het gebruik van algoritmen ook voordelen kent, zoals efficiëntie en duidelijkheid bij besluitvorming. Een verantwoord gebruik van algoritmen is mogelijk, maar wellicht niet voor alles. Daarom is het belangrijk, zeker bij hoog-risico algoritmen om vooraf te bedenken of het algoritme inderdaad gebruikt moet gaan worden. Lid LOCHTENBERG las in het rapport dat de Rekenkamer aan het college heeft gevraagd om ook hoog-risico algoritmen met terugwerkende kracht te bekijken. Daartegenover staat een extern algoritmen register met als doelstelling dat burgers en bedrijven mee kunnen kijken welke algoritmen in gebruik zijn. Lid Lochteberg stelt voor om experts op dit gebied in te zetten om het college te helpen bij de besluitvorming. Hij vraagt de Rekenkamer of dit mogelijk is en door de Rekenkamer wordt aangeraden. De heer A. Kok (Rekenkamer) deelt mee dat de aanbeveling die lid Lochtenberg noemt, is gedaan bij het onderdeel Bias. Ook meent hij dat lid Lochtenberg eigenlijk vraagt of het algoritme in de conceptfase moet worden voorgelegd aan de burger. De heer Kok legt uit op welke wijze het algoritmen register op dit moment is opgebouwd. Het onderzoeksteam heeft geconstateerd dat er nog weinig ruimte is voor burgerparticipatie bij de ontwikkeling van algoritmen.

Lid LOCHTENBERG vraagt hoeveel hoog-risico algoritmen er zijn. De heer A. Kok (Rekenkamer) weet niet hoeveel dat er zijn en het is een van de punten in het rapport, dat het algoritmen register verre van volledig is. Lid MEERBURG vraagt hoe men erachter kan komen in welke gebieden de risico’s het hoogst zijn, De heer A. Kok (Rekenkamer) geeft aan dat één manier is om per sector te bekijken of er hoog-risico algoritmen worden ingezet. Maar eerst zou het college moeten bepalen wat er wordt verstaan onder hoog-, middel- of laag-risico, zoals de onderzoekers ook hebben geadviseerd. In plaats van sectorgericht werken, zou het college alle gegevensverwerkingen in kaart kunnen brengen en hiermee aan de slag gaan met deze criteria. De VOORZITTER concludeert dat hiermee het vragenrondje is beëindigd en dat er kan worden gestart met de eerste termijn van het debat. Lid ASLAMI is benieuwd naar de reactie van de wethouder op het rapport en de aanbevelingen. Ook wil hij weten of de wethouder al een stappenplan heeft ontwikkeld om gevolg te geven aan de aanbevelingen en in welk tijdsbestek dit stappenplan wordt uitgevoerd. Lid Aslami benadrukt namens zijn fractie dat de menselijke-waardecomponent het belangrijkste is bij het inzetten van algoritmen. Het is gebleken dat niet alle algoritmen in het register zijn opgenomen en hij vraagt de wethouder dit toe te lichten.

Hoe ziet de toekomst van het register eruit? Het doorontwikkelen van het beheerskader is een belangrijke aanbeveling van de Rekenkamer en D66 wil weten hoe het college ervoor gaat zorgen dat dit kader toekomstbestendig is. De VNG heeft laatst aangegeven in een reactie dat zij een andere kijk heeft op generatieve AI-inzet dan de landelijke opinie. Lid Aslami vraagt de wethouder hierop te reflecteren. Lid BELKASMI vraagt bij interruptie hoe D66 kijkt naar de menselijke waarde bij geautomatiseerde besluitvorming.

26

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Lid ASLAMI geeft aan dat dit voor D66 het uitgangspunt blijft bij de inzet van generatieve AI. Lid BELKASMI vraagt vervolgens of D66, net als de PvdA, het nodig vindt om aan de geautomatiseerde besluitvorming de menselijke component toe te voegen. Lid ASLAMI erkent dat dit een oplossing zou kunnen zijn. Lid IJMKER meent dat het rapport aantoont dat de gemeente nog steeds onvolledig zicht heeft op het gebruik van algoritmen, hoewel er in de afgelopen jaren vele verzoeken hiervoor uit de raad zijn gekomen. Dit brengt risico’s met zich mee. GroenLinks is ervan geschrokken dat de Rekenkamer concludeert dat het college de raad onhandig heeft geïnformeerd en dat leidt ertoe dat de raad niet alles weet, wil en kan. Wat betreft het weten is het voor lid IJmker de vraag hoeveel algoritmen er in gebruik zijn en hoeveel hiervan hoog-risico zijn. Wat betreft het kunnen gaat het om de te gebruiken capaciteit, of er voldoende mankracht is om deze taken uit te voeren. Zij vraagt de wethouder of extra financiering hiervoor een oplossing is, waarbij de raad een rol kan spelen. Lid IJmker benadrukt dat sommige domeinen extra aandacht moeten krijgen als er specifiek risico’s zijn als het gaat om privacy. Het is daarom noodzakelijk dat elke wethouder en de burgemeester de urgentie hiervan zien.

Lid IJmker hoopt in het stappenplan terug te zien dat elk lid van het college hier gevolg aan gaat geven. Lid MEERBURG geeft aan dat voor zijn fractie belangrijk is hoe het college omgaat met algoritmen in de openbare ruimte, omdat elke burger hiermee te maken krijgt wanneer hij zich in de openbare ruimte begeeft. Inzake het rapport constateert lid Meerburg dat er veel algoritmen worden gebruikt zonder dat de risico’s hiervan in kaart zijn gebracht en het aantal algoritmen neemt toe. Dit betekent dat de burger steeds meer te maken krijgt met deze algoritmen, terwijl de gemeente de risico’s nog niet voldoende in beeld heeft. Lid Meerburg illustreert met twee voorbeelden welke gevaren hierin schuilen. Hij vraagt de wethouder hoe voorkomen kan worden dat er technologieën in de openbare ruimte worden ontwikkeld die mogelijk nadelige consequenties hebben. Tenslotte benadrukt lid Meerburg dat vooraf altijd de vraag moet worden gesteld welk probleem er met de toepassing wordt opgelost.

Lid LOCHTENBERG heeft een aantal concrete vragen: • Kan de wethouder het risicoanalysemodel dat wordt genoemd in het rapport delen met de raad? • Kan de wethouder het verbeterplan delen met de raad? • Kan de wethouder reflecteren op het voorstel voor een standaardprocedure waar een soort internetconsultatie plaatsvindt op de algoritmen die het college gaat beoordelen? • Welke mogelijkheden ziet de wethouder voor burgers om te participeren in de ontwikkeling van algoritmen? Lid BELKASMI richt zich in zijn betoog op bias en geautomatiseerde besluitvorming. Hij geeft aan dat er veel bias-analyses missen, terwijl er al wel veel algoritmen in werking zijn getreden. Dit geeft een risico op vooringenomenheid. Hij vraagt de wethouder hoe snel dit kan worden opgelost. Ook bij het gebruik van algoritmen bij geautomatiseerde besluitvorming is het risico van vooringenomenheid. Enerzijds vermeldt het rapport dat het college dit gebruik niet wenst, maar toch wordt het gedaan. Hij vraagt de wethouder wat er is veranderd in die ambitie en stelt voor ermee te stoppen dan wel hier een menselijke component aan toe te voegen.

27

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Wethouder SCHOLTES vindt de conclusies in het rapport van de Rekenkamer duidelijk en hij realiseert zich dat er nog veel werk aan de winkel is. Het college ziet bij het gebruik van algoritmen kansen en risico’s. Het gaat om het verantwoord gebruik van de algoritmen met oog voor de risico’s. De ambitie van het college is om meer grip te krijgen op algoritmen en ze eerlijker en transparanter maken. Dit betekent dat het beheerskader verder moet worden ontwikkeld en dat gaat gebeuren. De governance wordt herzien en het moet duidelijk zijn wie er voor welke stap verantwoordelijk is en op welke manier moeten de stappen worden gezet. Zodoende komen algoritmen beter in beeld, worden de juiste analyses sneller gedaan en de juiste maatregelen genomen. Het college gaat veel explicieter besluitvorming toepassen bij de inzet van algoritmen met een hoger risico, ook met terugwerkende kracht om te bepalen of een bepaald hoog-risico algoritme blijft ingezet. De wethouder volgt ook het advies van de Rekenkamer op door voortaan te werken met één definitie voor algoritmen. De toepassing van het beheerskader moet worden verbeterd. Dit wordt uitgevoerd in de vernieuwde ‘quality assurance-aanpak’, zodat er beter wordt voldaan aan de landelijke en Europese wetgeving rondom informatievoorziening. En er wordt extra ingezet op bewustwording en kennisbevordering bij medewerkers.

Dat is op dit moment belangrijker dan capaciteit erbij. De omgang met bias moet eveneens worden verbeterd, al kan bias niet helemaal worden uitgesloten. Het college komt in de eerste helft van 2024 met voorstellen hiervoor. In 2024 staat er een interne privacy-audit op de agenda om in kaart te brengen welke belemmeringen medewerkers ervaren bij de uitvoering van privacy-maatregelen. Tenslotte is het belangrijk om opener en transparanter te worden over het gebruik van algoritmen naar de Amsterdammers. Het college is tevens van mening dat de raad proactiever moet worden betrokken bij de ontwikkeling van algoritmen en niet alleen geïnformeerd wordt als daar om wordt gevraagd. Het is ook van belang dat de raad en het college met elkaar de ethische discussie aangaat. De wethouder erkent dat het college niet weet hoeveel algoritmen er worden ingezet. Met het beheerskader is het wel duidelijk dat er 33 hoog-risico algoritmen zijn, waarvan er 18 in het register staan en de overige komen er in 2024 bij. De wethouder erkent de noodzaak om hoogen laag-risico nader te specificeren, alsook het grijze gebied daartussen. De wethouder vat samen dat hij de conclusies van de Rekenkamer deelt en hij neemt de aanbevelingen graag over. Hij zegt toe de rest van het college te attenderen op hun verantwoordelijkheid en bewustzijn in deze.

Het verbeterplan kan de raad in het eerste kwartaal van 2024 tegemoetzien. De wethouder vervolgt met het beantwoorden van de vragen over de onderwerpen die nog niet aan bod zijn gekomen. Het algoritmen register bevat momenteel 36 algoritmen, waarvan 33 hoog-risico. Het zijn algoritmen in verschillende stadia van ontwikkeling. Aan de participatie van Amsterdammers moet nog veel worden verbeterd. De capaciteit is het afgelopen jaar toegenomen tot 30 FTE aan privacy offices. Het doel is echter dat alle medewerkers meer kennis opdoen van de privacy regels, gecombineerd met heldere procedures leidt dit tot een betere werkwijze met algoritmen. In het plan van aanpak zal de wethouder terugkomen op de capaciteit. De wethouder zal de urgentie bij de collega-wethouders overbrengen. Het is dan belangrijk dat duidelijk wordt aangegeven waar de prioriteit ligt en waar de hoog-risico algoritmen worden ingezet. Het zou kunnen dat vanwege het beheerskader bij nieuwe inzet van algoritmen alle kwaliteitschecks die mogelijk zijn worden uitgevoerd. Daarbij wordt ook gekeken of de inzet van het algoritme ook inderdaad de oplossing voor een probleem is. De wethouder zegt toe om de dilemma’s vaker te bespreken met de raad. Het risicoanalysemodel staat op intranet. Er zijn ook andere mogelijkheden om dit te delen met de raad, hetgeen eveneens geldt voor het plan van aanpak.

Lid ASLAMI vraagt of de wethouder de betekenis van het inzetten van generatieve AI in het nieuwe beheerskader wil opnemen.

28

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Wethouder SCHOLTES vindt dat een verstandige actie. De wethouder komst sowieso met de Vierde Gemeentelijke Visie AI in de agenda Digitale Stad. Het is voor de wethouder een prioriteit om kennis van AI te bevorderen en een verantwoorde manier te vinden om hiermee om te gaan. Wethouder Scholtes geeft aan dat Impact Assessment Mensenrechten Algoritmen (IAMA) te weinig is toegepast. Dit soort analyses zijn zeer intensief, dus hierbij wordt gefocust op hoog-risico algoritmen. Er zijn ook andere instrumenten om te kijken naar bias en andere risico’s in het gebruik van algoritmen, zoals DPIA. Het beheerskader is momenteel niet voldoende ontwikkeld om de bias-analyse toe te passen. Lid IJMKER refereert aan een toezegging van de wethouder dat IAMA verplicht zou worden toegepast op alle algoritmen die de gemeente heeft ingezet en dit zou publiceren in het algoritmen register. Zij vraagt of de wethouder zijn standpunt heeft gewijzigd. Wethouder SCHOLTES maakt onderscheid tussen eenvoudige en meer complexe algoritmen en geeft aan dat alleen de laatste categorie in aanmerking zou komen voor IAMA. Lid IJMKER is van mening dat ook eenvoudige algoritmen gegevens verwerken en vindt het verwarrend dat er nu wordt afgeweken van een eerder gemaakte afspraak. Zij stelt voor dat de wethouder zijn standpunt hierover formuleert in het beheerskader, zodat de raad zich hierover kan buigen.

Wethouder SCHOLTES gaat hiermee akkoord. Lid BELKASMI vraagt of de IAMA wel wordt toegepast bij de 33 hoog-risico algoritmen. Wethouder SCHOLTES beaamt dit. In antwoord op de vragen van lid Belkasmi bevestigt de wethouder dat het wat hem betreft in principe wenselijk is dat de menselijke component aanwezig is bij de geautomatiseerde besluitvorming, zeker wanneer een burger nadeel zou kunnen ondervinden van de besluitvorming. Hij verwijst hiervoor naar het onderzoek van de Rekenkamer bij de BBZ. Lid LOCHTENBERG refereert aan zijn vraag over de burgerparticipatie. Wethouder SCHOLTES heeft hier enkele algemene uitspraken over gedaan, maar hij zal erover nadenken hoe dit tot uitvoering kan worden gebracht. Hij komt hier later op terug wanneer het beheerskader aan de orde is. De VOORZITTER stelt vast dat het punt voor nu voldoende is besproken en dat het gereed is voor bespreking in de raad van 20 en 21 december, alwaar de voordracht kort wordt besproken. 13. Vaststellen van de Wijzigingsverordening geldelijke voorzieningen externe commissieleden in verband met het toevoegen van Commissie Persoonsgegevens Amsterdam (VN2023-023064) Gevoegd behandeld met 17. Kennisnemen van de raadsinformatiebrief over het jaarverslag 2021-2022 van de Commissie Persoonsgegevens Amsterdam (VN2023-023084) De VOORZITTER leidt de agendapunten in en deelt mee dat deze zijn geagendeerd door resp.

de leden Garmy (Volt) en IJmker (GroenLinks).

29

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Lid GARMY vraagt hoe de bewonersparticipatie in dit dossier vorm krijgt. Lid IJMKER verwijst naar een conclusie van de CPA die aangeeft dat de DPIA beter ingezet kan worden. Zij heeft twee vragen voor de wethouder: • Is het budget en de capaciteit van het CPA nog passend nu de taken zijn uitgebreid naar aanleiding van het initiatiefvoorstel van GroenLinks? • Wat vindt de wethouder van het instellen van een moreel beraad? Wethouder SCHOLTES geeft aan dat hij ook contacten onderhoudt met het CPA en het werk dat zij doen erg op prijs stelt. Het CPA geeft aan dat capaciteit en budget op dit moment volstaan. Er loopt één vacature. Het college zal zoeken naar een oplossing indien het budget tekort schiet. De wethouder verwacht dat de CPA vaker geconsulteerd zal worden bij de ontwikkeling van algoritmen en bij de toepassing van kunstmatige intelligentie. De wethouder is van mening dat ethische vraagstukken niet alleen in de ambtelijke organisatie of met het college moeten worden besproken, maar ook met de raad. Dit zal vanaf heden vaker gebeuren. In ‘Grip op Technologie’ is er sprake van burgerparticipatie en dat wordt ook opgezet. Het kost alleen tijd om dit goed aan te pakken. De wethouder zegt toe de raad van de ontwikkeling op de hoogte te houden. Op dit moment heeft het de status van een ambitie, al worden de bewoners nu al bij enkele projecten betrokken.

De wethouder noemt enkele voorbeelden. Er komen ook suggesties binnen van partners waar de gemeente mee werkt in dit domein en deze worden meegenomen in de ontwikkeling. De VOORZITTER stelt vast dat de punten voor nu voldoende zijn besproken. Agendapunt 13 is een voordracht en deze is gereed voor bespreking in de raad van 20 en 21 december, alwaar de voordracht wordt gehamerd. 14. Bespreken van het initiatiefvoorstel ‘Amsterdam digitaal onafhankelijk’ van het lid IJmker (GroenLinks) en de bestuurlijke reactie (VN2023-025288) Dit punt wordt op verzoek van lid IJmker doorgeschoven naar de volgende commissievergadering. 15. Kennisnemen van de nieuwe Agenda Digitale Stad & Overheid (VN2023-022218) Gevoegd behandeld met 16. Kennisnemen van de raadsinformatiebrief over de voorbereiding op nieuwe Europese wetgeving op het gebied van digitalisering en ICT (VN2023-025252) De VOORZITTER leidt de agendapunten in en deelt mee dat deze zijn geagendeerd door resp. de leden IJmker (GroenLinks) en Garmy (Volt). Lid IJMKER refereert aan de expertmeeting die zij een jaar geleden organiseerde met betrekking tot de nieuwe agenda Digitale Stad, waar verschillende experts hun visie gaven op waar de prioriteiten moeten liggen als het gaat over digitalisering voor de komende paar jaar. Met een budget van twee miljoen per jaar vraagt lid IJmker de wethouder aan te geven wat prioriteit heeft.

Zij pleit ervoor dat toepassingen binnen een specifiek domein gefinancierd worden uit dat domein en niet uit de twee miljoen budget. Lid IJmker heeft drie prioriteiten: 1. ‘De basis op orde’ staat hoger in haar lijstje dan nieuwe toepassingen ontwikkelen. Zij vindt het bovendien vreemd dat de agenda Digitale Stad is

30

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

vormgegeven met MidJourney, een toepassing die door de staatssecretaris landelijk verboden werd voor gebruik door overheden. Zij vraagt de wethouder hierop te reflecteren. 2. Digitale ongelijkheid. Lid IJmker is van mening dat het een gezamenlijke verantwoordelijkheid is dat iedereen in de stad mee kan doen. Het wordt niet duidelijk in de agenda hoe dat wordt vormgegeven en hoeveel geld daarvoor beschikbaar is. Het is belangrijk juist voor de meest kwetsbare groepen om de kloof te dichten. 3. Inzet op publieke digitale infrastructuur. In de agenda wordt slechts vermeld dat hier een verkenning op komt. Dit sluit niet aan bij de landelijke en internationale ontwikkelingen, waar wordt gezocht naar een manier om onafhankelijk te worden van de grote techbedrijven. De gemeente kan hier een faciliterende rol in spelen. Lid IJmker mist de vermelding van een project van de Amsterdam Economic Board, Data Commons, over eigenaarschap en zeggenschap van data. Samen met deze partner kan er Europese financiering worden aangevraagd. Tot slot geeft lid IJmker aan dat zij het verbod op biometrische surveillancetechnieken mist in de agenda en hoe dit wordt uitgevoerd. Lid GARMY meent dat de agenda aantoont dat Amsterdam vooroploopt met haar ambities. Hij sluit zich aan bij het standpunt van GroenLinks dat er beter geprioriteerd moet worden.

Lid Garmy voegt graag iets toe aan de agenda, namelijk een externe ethische klankbordgroep van experts die het college kan helpen bij lastige vraagstukken en casussen over AI. De centrale vraag moet zijn wat de gemeente wil bereiken en met welk doel gaan we algoritmen toepassen. Hij vraagt de wethouder hierop te reflecteren. Lid MEERBURG stelt dat de raad de ethische commissie is en dat dit niet bij externen hoeft te worden neergelegd. Lid GARMY spreekt een voorkeur uit voor een klankbordgroep met ethici, omdat de raad dergelijke expertise niet heeft. Lid MEERBURG geeft aan dat politici zich voortdurend over ethische vraagstukken buigen. Lid GARMY beaamt dit en pleit er dan ook voor dat er vaker wordt gesproken in de raad over de ethische aspecten van digitalisering. Maar de expertise kan een goede ondersteuning zijn om die discussies te voeren. Volgens de digitale agenda trekt de gemeente veel verantwoordelijkheden naar zich toe. Het lijkt lid Garmy zinvol om hierbij te gaan samenwerken met het bedrijfsleven. Hij is blij met het overzicht van de VNG van alle wetgeving, zowel landelijk als vanuit Europa.

Hoe bereidt het college zich voor om te voldoen aan deze wet- en regelgeving en hoe valt dit te rijmen met het feit dat de gemeente de komende jaren juist minder gaat investeren in digitalisering? Ook verzoekt hij de wethouder te reflecteren op de impact van deze nieuwe wetgeving en de raad van alle nieuws hieromtrent op de hoogte te houden. Lid LOCHTENBERG heeft de website ‘mijn.amsterdam.nl’ geopend en is niet te spreken over de kwaliteit. Hij stelt voor om een gebruikersvriendelijke app te ontwikkelen die gebruikt kan worden voor alle dienstverlening van de gemeente. Dit kan de burger enorm helpen en levert veel tijdsbesparing op in de backoffice. Hij verzoekt de wethouder de wenselijkheid te onderzoeken van een ‘appsterdam’. Lid BELKASMI prijst de veelzijdigheid van de digitale agenda. Digitalisering biedt kansen en kent risico’s, ook voor jongeren. Het verheugt de PvdA dat het welzijn van jongeren als punt is opgenomen. Lid Belkasmi vraagt de wethouder hoe dit wordt geconcretiseerd in activiteiten in het licht van de agenda Digitale Stad.

31

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Ook vraagt lid Belkasmi aandacht voor anderen, zoals ouderen, die niet altijd mee kunnen komen in de digitale wereld, en zo ontstaat de digitale ongelijkheid. Hij vraagt de wethouder aan te geven welke afwegingen hierbij zijn gemaakt met betrekking tot de komende armoederegelingen. Deze regelingen worden meestal digitaal aangevraagd en zo zou het kunnen dat een deel van de doelgroep niet wordt bereikt. Vervolgens verwijst lid Belkasmi naar de komende gesprekken met sociale mediaplatforms. Hij vraagt of hier ook gesprekken met game-platforms bij betrokken worden. Tenslotte wil lid Belkasmi weten wat de rol van Amsterdam is bij de landelijke data coöperatie. De VOORZITTER geeft aan, gezien de kleine bezetting en om het debat goed te kunnen voeren, elk lid en de wethouder er anderhalve minuut spreektijd bijkrijgen. Wethouder SCHOLTES beschrijft met welke partijen hij heeft samengewerkt om te komen tot de agenda Digitale Stad. Deze agenda is niet een opsomming van acties, dus het klopt dat sommige zaken er niet expliciet in staan. Deze krijgen echter wel de aandacht. Ook is nog niet alles uitgewerkt; de agenda beschrijft waar er de komende jaren aan wordt gewerkt en hierbij wordt de raad betrokken. De wethouder benadrukt drie punten: 1. Digitale inclusie.

Dit heeft te maken met toegang tot laptops (onder andere samenwerken met Cyber Banks) en veilig internet (uitbreiding van de openbare internetlocaties); 2. Online leefwereld. Deze kent twee aspecten; de gemeente is nog niet voldoende aanwezig op de plekken waar de jongvolwassenen zijn en het is belangrijk te onderzoeken wat de impact is van de online leefwereld op de mentale gezondheid van de jongeren en wat de gemeente hierin kan betekenen in samenwerking met jongerenorganisaties, scholen en ouders. 3. Kunstmatige intelligentie. De gemeente ontkomt er niet aan om mee te gaan in de ontwikkeling van kunstmatige intelligentie en het is belangrijk dat digitalisering voor alle Amsterdammers toegankelijk is. Lid IJMKER concludeert dat deze drie punten gaan over digitalisering in de stad. Maar voor lid IJmker is het belangrijk dat de digitale agenda ook betrekking heeft op de eigen organisatie, de gemeente als overheid. Wethouder SCHOLTES beschouwt dit als een basisvoorwaarde waar ook hard aan gewerkt moet worden. Lid GARMY vraagt hoe de prioriteiten rijmen met de financiële paragraaf, waarin het budget voor de gehele agenda wordt genoemd. Wethouder SCHOLTES zegt toe om voor de raadsvergadering te komen met een nadere uitwerking van de financiën. Het grootste bedrag zal structureel toegaan naar de menselijke component en wordt ingezet voor digitale inclusie.

De wethouder verwijst naar zijn gesprekken met Cybersoek, met Cyberbank en allerlei andere partijen. Prioriteit heeft de versterking van de Cyberbank die mensen in de gelegenheid stelt een laptop te verwerven. Het is nog niet duidelijk hoe de ondersteuning wordt ingevuld, maar de wethouder zegt toe hier nader op in te gaan in de raadsbrief. Ook bij de OBA is digitale hulp beschikbaar. De wethouder meent dat de staatssecretaris en hij op dezelfde lijn zitten waar het gaat over de maatschappelijke toepassing van kunstmatige intelligentie en de zorgen over de risico’s die er zijn. Dit wordt verder uitgewerkt in de Visie op kunstmatige intelligentie die de wethouder de raad in het eerste kwartaal 2024 zal doen toekomen. De wethouder verwacht dat er op dit moment een variant van ChatGPT kan worden aangeboden aan de medewerkers van de gemeente, de Amsterdam ChatGPT. Deze voldoet aan de voorwaarden en waarbij de ingevoerde data niet kunnen worden gedeeld met andere partijen. Het lijkt de wethouder zinvol om hiermee te experimenteren.

32

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

MidJourney is als medium gebruikt door de kunstenaar die de plaatjes bij de agenda heeft gemaakt. Hij heeft dit gecombineerd met eigen werk. Een discussie hierover zou terecht komen op het terrein van intellectueel eigendom, maar dit zal terugkomen in de Visie op kunstmatige intelligentie. Het initiatiefvoorstel inzake publieke infrastructuur moet nog in behandeling komen. In de agenda staat hierover nog niet veel beschreven, alleen dat er een verkenning wordt gedaan. De wethouder noemt enkele onderdelen waar dit betrekking op zal hebben. De biometrische surveillance technieken en het sensorenregister zijn eveneens niet opgenomen in de agenda, maar deze worden wel vermeld in het coalitieakkoord, dus zij moeten aan bod komen. De juridische grondslag voor een verbod is in de AI-verordening opgenomen en zal vanaf begin 2024 van kracht zijn. Het wachten is op een definitieve tekst van de verordening. Dan kan er een impactanalyse op gedaan worden en dan zal er specifiek naar dit onderdeel worden gekeken. Lid IJMKER vindt dat dit een andere volgorde is dan aanvankelijk was afgesproken, namelijk dat er zou worden vooruitgelopen op de wetgeving, maar dat nu juist weer wordt gewacht op de komst van de wetgeving. Ook wil zij weten wanneer er een update komt over het sensorenregister.

Wethouder SCHOLTES stelt dat er in het coalitieakkoord staat geschreven dat er geen biometrische surveillance wordt toegepast. Lid IJMKER geeft aan hoe de bewuste passage luidt: er komt een verbod op de biometrische surveillance in de openbare ruimte, niet door de gemeente zelf, maar überhaupt. Wethouder SCHOLTES zegt toe hier later op terug te komen, na overleg met de burgemeester. De evaluatie van het sensorenregister zal in het tweede kwartaal van 2024 aan de raad worden voorgelegd. De wethouder vindt het een goed idee om een ethische klankbordgroep in te zetten. Er is al eerder sprake geweest van een moreel beraad met de CPA rondom gevoelige ethische vraagstukken met betrekking tot de inzet van kunstmatige intelligentie. De wethouder gaat hierover graag in gesprek met lid Garmy en de rest van de raad. Het college maakt een impactanalyse van de wetgeving en vervolgens een implementatieplan. Het ziet er naar uit dat de gemeente op tijd voorbereid is. Lid GARMY maakte uit het VNG-rapport op dat de nieuwe wetgeving een groot beslag gaat leggen op het verandervermogen van gemeentes. Hij vraagt de wethouder hierop te reflecteren. Wethouder SCHOLTES schat in dat de gemeente Amsterdam voldoende in huis heeft om hier geen problemen bij te ondervinden, al zal het wel impact hebben.

Lid GARMY herhaalt zijn suggestie om ook bedrijven te betrekken bij het ontwikkelen van kennis en vaardigheden. Wethouder SCHOLTES bevestigt dat veel acties uit de digitale agenda met partners worden uitgevoerd, zoals de wetenschap en jongerenorganisaties. Hij zegt toe ook te gaan spreken met private partijen. De website MijnAmsterdam is via de mobiel web toegankelijk en de Amsterdam App is in ontwikkeling, waarbij er meer diensten beschikbaar worden en er communicatie vanuit de gemeente mogelijk is. De exacte planning hiervan is bekend bij wethouder Van Buren, aangezien dit onderwerp in haar portefeuille zit. Lid BELKASMI herhaalt zijn vragen over het welzijn van jongeren en de rol die het jongerenwerk hierbij kan spelen.

33

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

Wethouder SCHOLTES geeft aan dat jongerenwerkers hier al mee aan de slag zijn gegaan. De gemeente kan ondersteunen door het aanreiken van de nieuwste kennis over technologie en technologische ontwikkelingen. Er kunnen ook samen met het ROC programma’s worden ontwikkeld gericht op digitale weerbaarheid. En het versterken van het netwerk dat zich hiermee bezighoudt. De wethouder zegt toe hiervoor geld te reserveren. Vanuit de portefeuille Armoedebestrijding wordt er gewerkt aan het eenvoudiger maken van de armoederegelingen, zodat het makkelijker wordt voor mensen met een minimum inkomen om een armoederegeling aan te vragen. De wethouder verleent hieraan zijn steun vanuit de digitale agenda. Lid BELKASMI vraagt of het dan ook mogelijk blijft om de regeling fysiek aan te vragen, indien iemand niet digitaal vaardig is. Wethouder SCHOLTES is van mening dat er te allen tijde een fysiek alternatief moet zijn voor het aanvragen. Maar dit benadrukt tevens de noodzaak om digitale inclusie als prioriteit te benoemen en met de bestrijding van digitale ongelijkheid verder te gaan. De gemeente was betrokken bij twee initiatieven binnen de landelijke data coöperatie, waaronder de zorginstellingen.

De wethouder heeft een gesprek gevoerd met de branchevereniging van gamingbedrijven en Microsoft in verband met de game-console die zij hebben, alsmede de vertegenwoordiging van de gaming-bedrijven. Tweede termijn Lid IJMKER spreekt de wens uit dit onderwerp op de agenda te zetten voor de raadsvergadering in januari. Zij gaat ervanuit dat de wethouder dan de financiële begroting kan voorleggen. Zij hoopt dat er meer duidelijkheid komt ten aanzien van de prioriteiten en dat de raad hiervoor nog suggesties kan doen. Lid GARMY meent dat er extra financiële middelen nodig zijn en hij biedt de hulp van de raad hierbij aan. Wethouder SCHOLTES stelt het aanbod bijzonder op prijs en zal dit meenemen in de raadsbrief. Vervolgens zegt de wethouder toe in de komende raadsvergadering te komen met de financiële onderbouwing en hij ziet de reactie van de raad daarop tegemoet. De VOORZITTER concludeert dat het onderwerp voor nu voldoende is besproken en dat de voordracht van agendapunt 15 op de agenda van de eerstkomende raadsvergadering wordt geplaatst. Sluiting De VOORZITTER dankt de aanwezigen voor hun inbreng en belangstelling en sluit de vergadering om 16.55 uur.

34

Gemeente Amsterdam Raadscommissie Financiën, Kunst en Diversiteit. Gewijzigde raadscommissieverslag, 14 december 2023

FKD

35