Conceptverslag KDD Expertmeeting 26-01-2021

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur, Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering.

KDD

Expertmeeting, 26 januari 2021

CONCEPT Vergadering Vergaderdatum Verslag vast te stellen op:

Expertmeeting Raad weten met digitalisering Dinsdag 26 januari 2021 van 18.30 uur tot 20.30 uur in de raadszaal Woensdag 17 februari 2021

Voorzitter: mevrouw Bosman Griffier: mevrouw Houtman Verslaglegging: mevrouw Van de Belt (Notuleerservice Nederland) Aanwezige commissieleden: de heer Bakker (SP), de heer Goossens (D66), de heer Huisman (CU), de heer Mangal (DENK), de heer Meerburg (PvdD), mevrouw Van Soest (PvdO) en mevrouw IJmker (GroenLinks) Aanwezige experts: de heer Crooijmans (CIO Amsterdam en stedelijk directeur Dienstverlening en Informatie, gemeente Amsterdam), de heer Das (Rathenau Instituut), de heer Diederen (Rathenau Instituut).

Voorts aanwezig: mevrouw Ter Braak (commissiegriffier) de heer Corveleijn (communicatie), de heer Van Zanen (raadsadviseur) en mevrouw Sneep.

1. Opening De VOORZITTER opent de bijeenkomst en heet iedereen welkom. De chief information officer van de gemeente Amsterdam en de griffie hebben deze meeting georganiseerd in samenwerking met het Rathenau instituut naar aanleiding van zijn rapport Raad weten met de digitalisering. Een bijzonder welkom aan de experts de heer Das, de heer Diederen. Mevrouw HOUTMAN benadrukt het belang van digitalisering voor raadsleden. Het rapport van Rathenau laat zien dat er heel wat politieke keuzes moeten worden gemaakt bij digitalisering. Aan de hand van concrete voorbeelden schetst het rapport een denkraam om de politieke keuzes niet alleen te ontdekken maar ook te beoordelen. Dat kan behulpzaam zijn voor de raadsleden om goed om te gaan met digitale vraagstukken. 2.

Bijdrage de heer Das en de heer Diederen, opstellers van het rapport Raad weten met digitalisering

De heer DAS dankt voor de mooie uitnodiging om het rapport toe te lichten, ook een mooie kans om weer iets te leren uit de Amsterdamse praktijk. Het rapport is in september uitgebracht na een klein jaar onderzoek naar de rol van de gemeenteraad op het sturen van het gebruik van data en digitale technologie. Met diverse mensen in verschillende gemeenten is gesproken. Dat liet zien dat het onderwerp wat meer aandacht verdient van gemeenteraden. Aan de hand van een presentatie laat hij middels een fictief voorbeeld zien dat een lantaarnpaal meer kan dan voor verlichting zorgen – en dan komt de keuze van een

1

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering

KDD

Expertmeeting, 26 januari 2021 gemeenteraad aan bod. Zo kan er Wifi aan bevestigd worden, er kan een oplaadpunt voor elektrische auto’s aan worden gekoppeld, een sensor die de luchtkwaliteit meet, maar ook een camera en/of een geluidssensor die bij verdachte beelden of geluiden aangaat. Dat kan ertoe leiden dat het aantal auto-inbraken afneemt of dat de overlast door jongeren in kaart wordt gebracht. Aan de andere kant kunnen bewoners zich in hun bewegingsvrijheid en privacy voelen aangetast. Daarin moeten raadsleden keuzes maken. Krantenkoppen van het afgelopen jaar laten de commotie zien. ‘Deelscooters: vrijetijdsbesteding, parkeeroverlast en alternatief voor bus, fiets en auto.’ Of: Nu winkelen, de druktemeter moet burgers helpen beslissen.’ Of: Nieuwe aanpak in Jeugdzorg: data moeten risico op problemen in gezin voorspellen.’ Of: ‘Verzet tegen de slimme lantaarnpaal.’ Die wordt namelijk al in een aantal gemeenten getest. Digitalisering is overal; ieder onderwerp heeft wel een digitaliseringscomponent.

Drie digitaliseringsvraagstukken zijn te onderscheiden: in de publieke dienstverlening en daarbij gaat het om de relatie tussen de gemeente en de burger; in de openbare ruimte – zoals de slimme lantaarnpaal of crowd control met camera’s met misschien gezichtsherkenning; en elders in de samenleving – dus daar waar private partijen digitale diensten aanbieden die in de openbare ruimte in de fysieke wereld effect hebben. Digitalisering wordt als nuttig hulpmiddel gezien om bepaalde doelen te bereiken, maar het is geen neutraal instrument. Het doet vaak meer dan alleen datgene waarvoor het aanvankelijk wordt ingezet. Als voorbeeld gelden online streamingdiensten, bedoeld voor de verspreiding van muziek maar voor de tijdsduur die een gebruiker van die streamingsdienst gebruikt, wordt betaald. Dat is ook denkbaar in de gemeentelijke praktijk. De heer Das stelt dat digitalisering in de gemeente een brede sociale en maatschappelijke impact heeft. Het is van invloed op de manier waarop mensen wonen, bewegen, met elkaar communiceren en hoe de democratie, economie en samenleving functioneren. Digitalisering kan publieke waarden onder druk zetten zoals privacy, autonomie van bijvoorbeeld zorgverleners of van ouders, veiligheid, controle over technologie bijvoorbeeld of er eisen kunnen worden gesteld aan de manier van inkopen. Digitalisering is dus in hoge mate politiek.

De VNG-principes vormen een mooi vertrekpunt: de principes van een gemeente centraal stellen. Principes zijn echter vrij abstract en maken niet altijd duidelijk wat er dan concreet moet gebeuren. En ze zijn niet absoluut, dus afwegen welke waarde zwaarder weegt, zal nodig blijven. Dat roept de vraag op wat voor gemeente je wil zijn, wat voor relatie een gemeente wil aangaan met de burger. Dat vergt een raadsdebat. Een aantal organisatorische oplossingen ligt voor de hand. De raad vraagt het college om aan raadsvoorstellen een digitaliseringsparagraaf toe te voegen waarin het college laat zien welke keuzes daar zijn gemaakt als het bijvoorbeeld gaat om het gebruik van data. De raad kan het college ook vragen een digitaliseringsvisie te formuleren. Ter ondersteuning van zowel college als raad kan een digitaliseringsraad worden ingesteld, die in zijn onafhankelijke positie een advies kan uitbrengen over bepaalde digitaliseringskwesties. En de verantwoordelijkheid voor digitalisering kan worden belegd bij één wethouder – zo is het nu in Amsterdam. Het gaat dus om dat gesprek in de raad en te bespreken welke waarden aan de orde zijn, welke waarden het zwaarst wegen en of daarin een bewuste keuze kan worden gemaakt. Beperkte technische kennis hoeft geen belemmering te vormen.

Het is zeker niet alleen een kwestie van uitvoering of technische kennis, maar het gaat erom voorwaarden te stellen aan die grote maatschappelijke impact. De raad kan digitaliseringsvraagstukken systematisch afpellen om op een gestructureerde manier met elkaar het debat aan te gaan. Daarvoor dient dat denkraam digitalisering, bedoeld als gespreksinstrument om ter voorbereiding op een bepaald vraagstuk in de raad het gesprek te voeren. Maar het kan ook worden benut op informatieavonden. Het denkraam bestaat uit vijf stappen. Gespecificeerde beleidsdoelen, kaders en sturingsmogelijkheden onderzoeken, de maatschappelijke impact, kijken hoe op die impact kan worden gestuurd en dan nog de keuze. Gespecificeerde beleidsdoelen: digitalisering is een middel maar geen doel op zich. Helder moet zijn wat men met die data wil bereken en of dat misschien ook op een minder ingrijpende manier kan. Kaders en sturingsmogelijkheden onderzoeken: wet- en

2

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering

KDD

Expertmeeting, 26 januari 2021 regelgeving is een gegeven; betrokken partijen zitten in allerlei samenwerkingsverbanden, dus het is belangrijk helder te krijgen waar mogelijk interventieruimte zit. Bij de maatschappelijke impact gaat het niet alleen om de beoogde voordelen, maar ook om de mogelijke neveneffecten. Uiteindelijk moeten de neveneffecten te tolereren zijn. De heer DIEDEREN legt de problematiek uit aan de hand van een concrete casus. Was digitalisering alleen een kwestie van automatisering, dan wordt alleen op een andere manier gedaan wat toch al gebeurde. Dat is een kwestie van uitvoering. Maar in de praktijk heeft die digitalisering nu eenmaal effect op de burgers. Het denkraam probeert dat boven tafel te krijgen. Het is een manier om te onderzoeken wat digitalisering nu eigenlijk betekent voor het leven van de burger. Het is een hulpmiddel om de algemene principes – privacy, autonomie, controle over de technologie, veiligheid – concreter te maken. Als voorbeeld noemt hij de Jeugdzorg. Die is gedecentraliseerd en sindsdien wordt er meer geld aan uitgegeven en is het beroep op de Jeugdzorg gestegen. Dan is er de vraag of er met een algoritme invloed op kan worden uitgeoefend.

Stap 1 is volgens het denkraam nog eens terug te halen wat nu eigenlijk het beleidsdoel was: decentralisatie van de Jeugdzorg beoogde de zorg dicht bij de mensen te brengen, daardoor vroeg de problemen te signaleren en preventief te werk te gaan. De aanpak is integraal. Daarvoor zijn uiteraard data nodig, maar de vraag is welke. Uiteraard de data die te maken hebben met de jongere, zijn opleiding, zijn medisch dossier, maar ook data van de gezinssituatie of nog meer, de buurt en de wijk, van de sociale dienst etc. Voorop moet de vraag staan wat toch het beleidsdoel was i.c. preventie, vroegsignalering en de aanpak van multiproblematiek. Denk na over wat een raadslid kan doen. Natuurlijk zijn er zaken waaraan een raadslid niets kan doen zoals de kaders van de Jeugdwet, de segmentatie van de Jeugdzorgwerkers en het budget. Dan is het van belang welke interventiemogelijkheden een raadslid heeft. Bij dergelijke digitaliseringsvraagstukken vallen er zes sturingsinstrumenten te onderscheiden bij de input. Ten eerste de rechten, dus het eigendomsrecht op de data, het recht op toegang tot die data en inzage wat er met die data gebeurt. En wanneer er wordt gewerkt met algoritmes, het recht om te weten waar een beslissing vandaan komt. Ten tweede de regels voor wat er met die data mag gebeuren, welke data mogen worden verzameld en waarvoor die algoritmes worden gebruikt.

Ten derde de organisatie en procedures, hoe de digitalisering is ingebed, wie waarvoor verantwoordelijkheid is en welk systeem voor kwaliteitscontrole is er – en wat er gebeurt als het mis gaat, welke procedure er is voor het herstellen van fouten. Is er een vragenloket, een ombudsman, een klachtenprocedure? Ten vierde wat doet de gemeente zelf en wat besteedt ze uit? Uitbesteding geeft afstand, onafhankelijkheid en waarschijnlijk deskundigheid, maar daarbij kunnen commerciële motieven een rol spelen. En ten vijfde toezicht en handhaving. De raad wil uiteraard weten of het beleid effectief is dus monitoring is nodig net als maatstaven om te zien of iets werkt. En ten zesde vormt ook geld een sturingsinstrument. Bij de output gaat het erom of wat de gemeente beoogt met de digitalisering er daadwerkelijk uitkomt. Bij bijvoorbeeld de Jeugdzorg is dat vroegsignalering, preventie, een integrale aanpak en uiteindelijk een hogere levenskwaliteit van de cliënten en een kostenbesparing. Risico’s zijn er ook: privacyschending, stigmatisering. Bovendien is het nog maar de vraag of je algoritmes wil inzetten in relatie tot ouders. Uiteindelijk grijpt het in op de autonomie van ouders. En wat betekent het voor professionele hulpverleners? De gemeente kan sturen met de rechten op die data en met regels om de voordelen toch te realiseren en de risico’s binnen de perken te houden.

Professionals kunnen worden betrokken bij het ontwikkelen van het systeem. Het is dus met name een kwestie van kiezen voor een systeem met interventiemogelijkheden. In feite wordt het dan digitalisering onder voorwaarde met inachtneming van mogelijkheden. In het rapport is die exercitie gedaan voor de Jeugdzorg. Bij de casus slimme lantaarnpalen, een casus waar een hele reeks van beleidsdoelen bij elkaar komt, spelen die interventiemogelijkheden een belangrijke rol. De derde casus die is bekeken is de deelen kluseconomie: deelplatforms voor spullen, woonruimte, auto’s, gereedschap, voor diensten. Daar komen veel beleidsdoelen samen en ook dat vergt een systematische

3

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering

KDD

Expertmeeting, 26 januari 2021 aanpak om te komen tot een standpunt over wat raadsleden politiek belangrijk vinden en hoe ze daarop kunnen sturen. 3. Vragen aan de heren Das en Diederen De heer N.T. BAKKER vindt de presentaties heel helder. De raad kan hier heel veel van leren. Toch is hij nog benieuwd naar een definitie van digitalisering. Dat is immers geen neutraal begrip. Het moet niet worden ingezet als ideologisch of politiek middel. Daarom is een strakke definitie nodig. In het rapport is ervoor gekozen niet een heel technische definitie van digitalisering te geven. Digitalisering is meer dan het omzetten van informatie in enen en nullen. Voor de gemeente is het verstandig te kiezen voor een brede definitie van digitalisering om de brede impact mee te wegen. Digitalisering is geen neutraal instrument. Het heeft allerlei ongewenste effecten en juist daarom is die politieke discussie nodig – vooraf, tijdens en achteraf. Het rapport wijst juist op de risico’s en ook daarom is die discussie nodig om digitalisering democratisch verantwoord te kunnen inzetten. De heer GOOSSENS bedankt voor de presentaties. Gaat het om de transparantie van de democratie en het recht op burgers om inzicht te hebben aan keuzes die ten grondslag liggen aan beslissingen, dan is de gemeente Amsterdam al bezig met het inzichtelijk maken van de keuzes die bij algoritmes worden gemaakt.

Hij is benieuwd naar de visie van het Rathenau Instituut of een denkraam daarvoor. Het Rathenau Instituut heeft geen specifiek denkraam voor het ontwikkelen van een visie, maar het denkraam kan helpen te verduidelijken dat er aan digitalisering allerlei effecten kleven waarmee wel rekening moet worden gehouden. Gemeente dienen absoluut zo’n visie te hebben omdat daarover dan het gesprek kan gaan, over welke waarden centraal staan en wat leidend is. Dat mag niet alleen een ambtelijke exercitie zijn; daarover dient een raad zich ook uit te spreken. Het betrekken van de burger is zeker vooraf maar ook tijdens het proces belangrijk. Informatieavonden over bepaalde onderwerpen moeten dan niet alleen door een bepaalde wetenschappers worden ingevuld, maar ook door anderen bijvoorbeeld kunstenaars en burgers die zich in die publieke ruimte bewegen. Voor de individuele burger moet helder zijn hoe zaken worden bepaald. Anderzijds zou de politiek burgers moeten willen betrekken bij de besluitvorming. Daarvoor zou een digitaliseringsraad een rol kunnen spelen om burgers te laten meedenken over wat voor hen belangrijk is en over wat zij onder transparantie verstaan. Amsterdam heeft net als veel gemeenten een Wmo-raad, samengesteld uit burgers die die maatschappelijke ondersteuning bekijken vanuit het burgerperspectief. Zoiets zou ook kunnen voor digitaliseringskwesties.

De heer MEERBURG begrijpt dat digitalisering een middel is en geen doel op zich en dat het een helder beleidsdoel moet dienen. Hij is benieuwd naar praktijkvoorbeelden uit de gemeente Amsterdam of uit andere gemeenten waar het juist heel goed of juist minder goed gaat. Het is altijd goed iets te leren uit het verleden of van anderen. Hij kan zich voorstellen dat steden onder het mom van innovatie voorloper in de digitalisering willen zijn zonder dat er doelmatig mee wordt omgegaan. Het is absoluut noodzakelijk digitalisering aan beleidsdoelen te relateren. Als de gemeente bij Jeugdzorg bijvoorbeeld de multiproblematiek wil aanpakken omdat daar heel veel budget heen gaat, dan is daarvoor misschien helemaal geen digitalisering nodig. Misschien kan dan dat wel beter op een analoge manier worden opgespoord. Alle data bij elkaar halen vormt echt niet altijd een oplossing. De heer Diederen heeft zo geen voorbeelden van andere gemeenten waar het niet goed ging, maar wel verzamelen veel gemeenten diverse data zonder zich de vraag te stellen of ze die data nu wel moeten verzamelen en of ze die wel moeten bewaren. Digitalisering lijkt een soort eigen dynamiek te hebben. Als men voorop wil lopen, experimenteert men en in het besef dat er meer risico

4

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering

KDD

Expertmeeting, 26 januari 2021 wordt gelopen. Er is een stad in Nederland die voorop wil lopen en dit ziet als een leerproces. Daar kwam men erachter dat samenwerking met private bedrijven extra risico’s met zich meebrengt. In het onderzoek zijn niet echt succescases naar voren gekomen van gemeenten die er eerst eens even goed over wilden nadenken en juist daarom stelt het rapport dat de visie op technologie beperkt is en dat het juist nodig is om daarover vooraf goed na te denken. In de regio Hart van Brabant experimenteert men met de data in de Jeugdzorg. Daar wordt het gesprek gevoerd over de vraag wat men bijvoorbeeld met de kennis over kwetsbare gezinnen wil doen die uit die data naar voren komt. Mevrouw IJMKER ziet dat het rapport stelt dat het belangrijk is als gemeente een duidelijke visie te formuleren. In Amsterdam is daarvoor specifiek een wethouder aangesteld. Anderzijds stelt het rapport het belang van domeinoverstijgend te werk te gaan. Ze vindt het lastig om goed zicht op de discussie te houden terwijl er dan anderen over gaan. Daar lijkt sprake te zijn van een tegenstrijdigheid. Digitalisering op het ene domein heeft waarschijnlijk ook effect op het andere domein. Als de verantwoordelijkheid wordt verdeeld over verschillende raadscommissies, dan voelt misschien niemand zich echt verantwoordelijk. Daarom is het belangrijk één persoon verantwoordelijk te maken.

Lastig is dat er dan een soort matrixstructuur komt. Als het bij één wethouder ligt, is die daarop aanspreekbaar. De heer N.T. BAKKER is het daarmee niet helemaal eens. Digitalisering kan voor gemeenten een groot probleem vormen. Bewoners in de stad kunnen voor allerlei oplossingen zorgen. Het eigenaarschap in de vorm van een datacorporatie zou bij de overheid moeten liggen. Dat aspect ontbreekt in dit rapport. Dit wordt in het rapport wel kort aangestipt. Denk na wat je waar neerlegt, wat je zelf doet, wat je uitbesteedt en in hoeverre je in zee gaat met commerciële bedrijven. Wil een gemeente alles zelf doen, dan is er nogal wat expertise nodig. En bij toch uitbesteden zijn de voorwaarden waaronder dat gebeurt, belangrijk. 4.

Bijdrage de heer Crooijmans, CIO Amsterdam en stedelijk directeur Dienstverlening en Informatie

De heer CROOIJMANS licht graag in een presentatie toe wat het Rathenau Instituut in het rapport heeft gepresenteerd. Het is van groot belang om de vraagstukken in de raad aan de orde te stellen. Het is allang geen louter technisch vraagstuk meer. Digitalisering wordt alleen maar dominanter, zit in elke portefeuille en elke inwoner wordt erdoor geraakt. Jarenlang werden de overheid en IT als een onmogelijke combinatie beschouwd en dan ging het veelal over het mislukken van grote, dure IT-projecten. De nadruk is in de loop der tijd veel minder op de systemen komen te liggen, maar veel meer op de informatie in de systemen en op de vraag of de informatie beschikbaar is in de stad. Met die informatie kunnen bepaalde doelen worden gerealiseerd bijvoorbeeld ondermijning doelmatiger aanpakken, armoedebeleid gerichter vormgeven, mobiliteit beter faciliteren. Dan gaat het om de vraag welke informatie nodig is om dat allemaal beter te doen. Wordt informatie centraal gesteld, dan gaat het dus om een heel ander type vraagstukken. Dat is de kansenkant van digitalisering. Daarbij gaat het om eigenaarschap van gegevens, de positie van bedrijven die gegevens hebben of nodig hebben om diensten te leveren en de rol van de gemeente zelf. En als de gemeente meer informatie gebruikt, moet dat wel op een zorgvuldige wijze gebeuren. En soms kan het anders dan digitaal.

Het coalitieakkoord kent een paragraaf rond de Digitale Stad, een weerspiegeling van de transitie van ICT naar de stad en de mensen. De heer Crooijmans vindt het belangrijk dat iemand ambtelijk die verantwoordelijkheid draagt. Elke portefeuille heeft te maken met digitalisering en elke raadscommissie kan daaraan aandacht besteden.

5

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering

KDD

Expertmeeting, 26 januari 2021 In de kaders binnen de gemeente Amsterdam zijn al diverse elementen geformuleerd. Dat is begonnen met de Digitale Stad die zich sterk richt op die stad waar digitale rechten een belangrijke rol spelen en waar het gaat over de inclusieve stad waar iedereen uit de voeten kan in die digitale wereld. Inwoners dienen betrokken te worden bij het onderwerp Digitale Stad. Februari vorig jaar vond een bijeenkomst in het stadhuis plaats om te praten over gezichtsherkenning als vraagstuk. Dat zou op veel meer onderwerpen kunnen. Allerlei onderwerpen, hoe gaat de gemeente om met kunstmatige intelligentie, met algoritmes en de datastrategie, vormen in feite een vertaling van de Digitale Stad waarbij met name wordt gekeken naar zorgvuldigheid en rechten en veel minder naar de techniek. Informatie speelt een belangrijke rol in het kunnen bereiken van bepaalde beleidsdoelstellingen. De overheid moet dan wel zorgen dat die informatie de inwoners overtuigt dat de gemeente dit op een zorgvuldige wijze doet. Zo werd gisteravond helder dat persoonsgegevens uit de landelijke systemen rond de GGD en corona leiden tot veel maatschappelijke onrust doordat gegevens die voor criminelen interessant zijn, op straat zijn gekomen. Dat schaadt het vertrouwen dat de overheid zorgvuldig omgaat met gegevens.

Willekeurig welk beleidsdomein heeft de heer Crooijmans twee voorbeelden van een bereikbare en leefbare stad. Mobiliteit in en rond Amsterdam is belangrijk. Mobiliteit wordt als een dienst aangeboden door verschillende partijen en daarmee is het een bij elkaar gebrachte set aan diensten waarvan inwoners gebruik kunnen maken. Dat roept vragen op over wie de gegevens bezitten, wie de gegevens kunnen inzien. De diensten moeten toegankelijk zijn voor iedereen en dan is het nodig om te weten hoe mensen zich in en door de stad bewegen om de diensten daarop te laten aansluiten. En dan ligt de vraag voor hoe ver men daarin wil gaan. Een tweede voorbeeld is het programma Amsterdammers financieel gezond waarbij wordt gekeken hoe de gemeente de mensen een goede dienstverlening kan bieden om te bewerkstelligen dat hun financiële situatie stabiel blijft. Zo hebben veel zzp’ers een aanvraag voor financiële ondersteuning gedaan en dat moet zo gemakkelijk en effectief mogelijk. Die informatie moet wel goed toegankelijk zijn voor ondernemers; het gewenste effect moet helder worden en hoeveel gegevens moeten daarvoor bij elkaar worden gebracht. Het kan geen automatisme zijn om alle beschikbare informatie zo maar bij elkaar te brengen. Amsterdam is zich er terdege van bewust dat digitalisering een maatschappelijk doel moet dienen.

Wanneer ze kleinschalige projecten start, kan de gemeente verkennen hoe ze het moet organiseren juist op die aspecten van zorgvuldigheid. Daarbij worden mensen uit de wetenschappelijk hoek betrokken. 5. Panelgesprek De VOORZITTER informeert hoe wijd verbreid het gebruik van algoritmes is in de stad. De heer CROOIJMANS legt uit dat de gemeente een algoritmeregister kent waarbij de gebruikte algoritmes worden gepubliceerd op de website van de gemeente. Het gaat om een handvol, niet heel veel. Daarbij worden ook de onderliggende codes toegankelijk gemaakt. Op verschillende plekken worden gegevens gebruikt om patronen proberen te herkennen. Dat gebeurt eigenlijk wel op elk domein. Het is niet zo dat daaruit allerlei automatische conclusies worden getrokken. Mevrouw IJMKER komt terug op haar eerdere vraag over specifiek één verantwoordelijke wethouder terwijl die digitalisering zo veel domeinen raakt. Het is voor raadsleden dan lastig daarop grip te krijgen. Ze hoort graag hoe dat in het ambtelijk apparaat verloopt en of de heer Crooijmans daarop wel voldoende grip heeft. De heer CROOIJMANS legt uit dat de stelselverantwoordelijkheid binnen het ambtelijk apparaat bij hem ligt. Hij moet zorgen voor de kaders, voor mensen op verschillende plekken in de organisatie die de kaders toepassen en hij moet kunnen

6

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering

KDD

Expertmeeting, 26 januari 2021 ophalen of daadwerkelijk gebeurt wat is afgesproken. Bij de verschillende directies en bij de verschillende onderdelen die bezig zijn met digitalisering doen bepaalde ambtenaren dat. Hij moet bewaken dat de gemeentelijke organisatie dat goed boven tafel krijgt. Hij streeft naar een totaaloverzicht – maar beseft dat dat nooit volledig zal zijn. De verschillende directeuren hebben de verantwoordelijkheid hiermee zorgvuldig om te gaan. Het is niet zo geregeld dat hij voor al die digitaliseringsvraagstukken of IT-trajecten verantwoordelijk is. Die verantwoordelijkheid zit in de lijn. De heer MEERBURG hoort niets terug over handhaving en politie en algoritmes. Tussen 2014 en 2017 is er een pilot uitgerold maar daarover hoort of leest hij nu niets terug. De heer CROOIJMANS weet daarover niets, maar kan dat wel laten nagaan. In de voorbeelden heeft hij openbare orde, veiligheid en handhaving niet genoemd, maar dat betekent niet dat de vraagstukken daar niet spelen. Er loopt op dit moment een project bij ondermijning om in beeld te krijgen waar welke vraagstukken zich voordoen. Daarvoor moet wel informatie bijeen gebracht worden om effectief iets te kunnen doen. Er is geen enkel domein uitgezonderd. Over algoritmes daar kan hij niets zeggen. De VOORZITTER informeert naar voorbeelden bij het domein Openbare Orde en Veiligheid.

Dan gaat het over het koppelen van data. Gaat het over het afwegen van waarden van de privacy ten opzichte van andere beleidsdoelen, dan speelt die discussie in het veiligheidsdomein waarschijnlijk al veel langer. Ze is benieuwd of dat ook bij andere gemeenten in de uitvoering zichtbaar is. De heer DAS kan dat niet aangeven. Het is inderdaad een domein waarin al langer gebruik wordt gemaakt van deze technologie – denk aan voetbalstadions met camera’s. En als er al gebruik wordt gemaakt van algoritmes, welke data worden daarbij dan gebruikt en welke data wil je bewust niet gebruiken? Die moeten wel specifiek worden benoemd. De heer MANGAL is benieuwd hoe kan worden voorkomen dat bepaalde partijen, commerciële partijen of opsporingsdiensten, gaat datamijnen in de data van de gemeente. De heer DIEDEREN stelt dat het begint met regels en beperkingen. Het is ook mogelijk bepaalde data niet te verzamelen of niet te bewaren. Alle afspraken moeten worden gemonitord en natuurlijk zijn er altijd risico’s dat er fouten worden gemaakt – bijvoorbeeld de GGD-data van op Covid geteste mensen die op straat kwamen te liggen. Anticiperen op mogelijke ongelukken hoort daar ook bij. Mevrouw IJMKER ziet dat de kaders in het rapport worden beschreven voor met name nieuw beleid. De gemeente heeft een visie ontwikkeld en daaraan wordt in deze collegeperiode extra aandacht besteed.

Maar in hoeverre is terugkijken op eerdere digitaliseringsstappen mogelijk? De heer CROOIJMANS ziet daarin op zich geen beperking. Het gaat uiteindelijk over toepassingen in het hier en nu. Het is wellicht minder relevant om te kijken hoe bepaalde toepassingen in 2013 gingen, maar voor de toepassingen nu gelden uiteindelijk wel de kaders. De heer DAS benadrukt dat het gespreksinstrument vooral bedoeld is om vooraf een goede denkexercitie met elkaar te doen en om alle facetten in beeld te krijgen en de waarden die daarbij spelen. Is dat gesprek gevoerd, zijn er afspraken gemaakt, dan kan de raad later de vinger aan de pols houden en monitoren waarom destijds die afspraken zijn gemaakt en of de gemeente nog steeds voldoet aan die gemaakte afspraken. De heer MANGAL stelt dat de ontwikkeling van het instrument een risico behelst want deze collegeperiode loopt natuurlijk slechts vier jaar. Hij is benieuwd hoe dat

7

Gemeente Amsterdam Raadscommissie voor Kunst en Cultuur Monumenten en Erfgoed, Diversiteit en Antidiscriminatiebeleid, Democratisering, Gemeentelijk Vastgoed, ICT en Digitale Stad, Dienstverlening, Personeel en Organisatie, Coördinatie bedrijfsvoering

KDD

Expertmeeting, 26 januari 2021 instrument van regels kan worden geborgd. En hij is benieuwd of burgers ook een opt-outkeuze kunnen maken om niet continu te worden gevolgd in allerlei systemen. De heer DIEDEREN meent dat een vierjaarstermijn de regels niet kan veranderen. Die termijn heeft niet specifiek te maken met zaken rond digitalisering. Garanties zijn er uiteraard niet want een volgend college kan een andere afweging maken. De politieke afweging ligt in handen van de raad. Het Rathenau Instituut pleit onder andere voor iets dergelijks als een opt-out, het recht op de eigen data en het recht om te worden vergeten. Dat is een instrument waarover een raad de beslissing kan nemen in die digitaliseringskwestie. Dat is een politieke keuze. Dat is een afweging enerzijds tussen de privacy van de burger, anderzijds kan het ten koste gaan van problemen in de stad, ondermijnend gedrag of criminaliteit. De heer DAS vult aan dat dit juist laat zien hoe belangrijk het is om vooraf een inventarisatie te maken van de maatschappelijke impact en daarbij burgers te betrekken. De heer CROOIJMANS voegt hier nog aan toe dat de gemeente geen trajecten heeft lopen over gezichtsherkenning. De opt-out-mogelijkheid is verwoord in de strategie die vorige week is vrijgegeven vanuit Voor Amsterdam. De precieze uitwerking moet nog gebeuren, maar het voorstel ligt er wel.

Voor sommige gegevens zal dat logischer zijn dan voor andere. Bepaalde gegevens zijn nu eenmaal nodig voor de gemeente om aan haar wettelijke taken te kunnen voldoen. De vraag hoe de raad ervoor kan zorgen dat het instrumentarium niet alleen voor de huidige collegeperiode geldt, maar ook daarna kan doorgaan, daarvoor kunnen andere instellingen rond de gemeente de raad helpen. Bijvoorbeeld de Commissie Persoonsgegevens Amsterdam. Veel meer partijen gaan over raadsperiodes heen. In het document over kunstmatige intelligentie is de uitnodiging aan de raad opgenomen met die partijen te verkennen hoe de gemeente die verschillende rollen kan invullen. 6. Afsluiting De VOORZITTER bedankt alle experts voor hun bijdragen in deze razend interessante meeting. Het was heel plezierig om op zo’n open manier te spreken. Ze bedankt iedereen voor zijn komst en ze sluit de bijeenkomst net voor half negen.

8