[25bb000969] presentatie politiek bestuurlijk algoritmekader op basis van CODIO

Technische sessie: politiek bestuurlijk kader, op basis van CODIO

13 Februari 2025

Inhoudsopgave 1. Introductie 2. Aanleiding technische sessie 3. Toelichting op CODIO 4. De Rotterdamse nuance 5. Drie cases ter toelichting: §

Geluidsoverlast in de Oude Haven

§

Crowd management

§

GenAI toepassingen

6. Afsluiting

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

2

1. Introductie Onafhankelijke moderatie:

Ambtelijke toelichting:

Prof. dr. Albert J. Meijer

Emma Versteeg LLM

Voorzitter Algoritmeadviesraad

Algoritme Expert

Initiatiefnemer CODIO

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

3

2. Aanleiding technische sessie Rekenkamer: “We hebben het de titel ‘Kleur bekennen’ gegeven, om duidelijk te maken dat ondanks alle verbeteringen die de rekenkamer heeft vastgesteld, er ook nog het nodige moet gebeuren om tot een verantwoorde ontwikkeling en inzet van algoritmes te komen. Het belangrijkste is het besef dat ethische risico’s om politieke afwegingen vragen. Als de politiek de kaders niet stelt, dan moeten ambtenaren afwegen wat goed of fout, eerlijk of oneerlijk, gewenst of ongewenst, acceptabel of een brug te ver is. Dat is niet goed en vormt een (onnodig) risico, zoals de afgelopen jaren is gebleken bij verschillende overheidsorganisaties. Ambtenaren kunnen en mogen geen politieke keuzes maken. Dat is namelijk “het primaat van de politiek”. Dat betekent dat de politiek het recht, het voorrecht, de opdracht, de taak, de macht en de plicht heeft om morele keuzes te maken. De politiek moet duidelijk maken wat goed is om te doen, welke waarden en normen leidend moeten zijn, wat in een afweging meegenomen moet worden en wat uiteindelijk het zwaarste moet wegen. Het is met andere woorden aan de politiek om kleur te bekennen.” Stel een algoritmebeleidskader op waarin is opgenomen welke waarden, normen en principes leidend zijn binnen Rotterdam bij de toepassing van algoritmes.

Uit het onderzoek blijkt dat op dit moment de ambtelijke organisatie voor keuzes wordt gesteld over de kaders voor toepassing van algoritmes. Deze keuzes dienen volgens de rekenkamer op politiek-bestuurlijk niveau te worden gemaakt. In een beleidskader kunnen leidende principes duidelijk worden gemaakt voor de organisatie. Het gaat dan bijvoorbeeld om het bepalen welke risico’s onaanvaardbaar zijn, hoe de afweging tussen prestaties en risico’s moet worden gemaakt en in welke gevallen en onder welke randvoorwaarden case-based algoritmes gezien de onvermijdelijke risico’s zijn toegestaan.

“Argumenten moet men wegen, niet tellen.” - Marcus Tullius Cicero Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

4

3. Toelichting op CODIO Het departement Bestuurs- en Organisatiewetenschap van de Universiteit Utrecht heeft op verzoek van BZK de Code Goed Digitaal Openbaar Bestuur (CODIO) ontwikkelt. Deze code richt zich op drie fundamenten van goed digitaal bestuur: democratie, rechtstaat en bestuurskracht. Deze zijn uitgewerkt in zes principes waaraan vervolgens dertig waarden onder vallen (tabel). De code werkt als een normatief kader om per digitale toepassing te toetsen aan het bestuurlijke kader en afwijkingen aan de ambtelijke en/of bestuurlijke verantwoordelijke(n) voor te leggen. De code richt zich op een breed scala aan technologieën en is ontwikkeld op basis van een academisch onderbouwde benadering van goed openbaar bestuur, daarmee is hij in de toekomst breder toepasbaar dan alleen voor het digitale deelgebied: algoritmen.

Voor goed digitaal openbaar bestuur zijn alle dertig waarden van belang, het gaat in deze sessie over de waarden waar we in Rotterdam het accent op wil leggen.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

5

Algoritme governance Werkwijze Registratie

Opname in algoritmeregister

Ja Algorithm Risk Assessment (ARA)+

Algoritmetoepassing

Registratie afronden

Hoog risico

Publicatie

IAMA

Risicoinschatting

Nee

Laag / beperkt risico Ethische dilemma's?

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

Ja

DEDA

Enkel bij algoritmetoepassing

Beheersmaatregelen

Nee

Geen extra acties

6

4. De Rotterdamse nuance (Rowaka) Onderbouwingsgronden: - Welke waarden verdienen aanvullende borging gezien de situaties die zich in de praktijk voordoen? - Welke waarden worden in de huidige situatie te weinig geborgd door bestaande procedures (bijv. voor privacy)? - Welke waarden moeten extra worden geaccentueerd vanuit de prioriteiten in het college-akkoord? - Welke waarden moeten extra worden geborgd gezien recente ervaringen en maatschappelijke gevoeligheden? Het gaat niet alleen gaat om het beschermen van waarden die in het gedrang kunnen komen. Een positievere notie is gewenst om zodoende ook de meerwaarde van technologie (of in dit geval algoritme) te onderstrepen. Welke waarden moeten juist worden gerealiseerd? Deze accentwaarden geven aan op welke waarden de gemeente Rotterdam in het bijzonder wil letten bij de AI-governance. Deze waarden sluiten aan bij prioriteit van het college. De waarden controleerbaarheid, menselijke eindverantwoordelijkheid, transparantie, en uitlegbaarheid zijn reeds stevig verankerd in de staande algoritmegovernance en behoeven daarom momenteel geen aanvullende aandacht.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

7

4. De Rotterdamse nuance (Rowaka) Deze accentwaarden geven aan op welke waarden de gemeente Rotterdam in het bijzonder wil letten bij de AI-governance. Deze waarden sluiten aan bij prioriteit van het college. De waarde ‘Uitvoeringskracht’ wordt voor de gemeente Rotterdam als waardevolle aanvulling op CODIO gezien. Er wordt veel van de overheid verwacht, dus moet het wel mogelijk blijven om zaken aan te pakken in de samenleving. Overheid moet waken zichzelf klem te zetten door een toename aan kaders of regelgeving, want dan komt de uitvoeringskracht in het geding.

Menselijke autonomie

Vrijheid van meningsuiting

De overheid of gerelateerde organisatie respecteert autonomie en zelfbeschikking van burgers, ook in relatie tot hun data. Een burger moet zelf goed om kunnen gaan met de diensten van de gemeente.

In het gebruik van digitale systemen wordt de vrijheid van meningsuiting gerespecteerd. De persoonlijke mening staat onder druk en verdient daarom extra borging.

Non – discriminatie

Privacy

Gelijke kansen en gelijke behandeling zijn kernwaarden, ook bij het implementeren van digitale techniek.

Privacy van burgers is gegarandeerd. Overheden en (markt)partijen die voor de overheid werken gaan op prudente wijze om met persoonsgegevens.

Doelmatigheid

Toelichting voorstel met een aantal Rotterdamse cases waarbij inzicht wordt gegeven in de waarden invulling en afweging.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

Bij de introductie van elk nieuw systeem wordt een financiële toets gedaan waarin ook een afweging wordt gemaakt van de beheers- en onderhoudskosten.

Uitvoeringskracht Er wordt veel van de overheid verwacht, dus moet het wel mogelijk blijven om zaken aan te pakken in de samenleving.

Risicobewustzijn Medewerkers worden getraind opdat zij zich bij inzet AI altijd bewust zijn van de mogelijke gevolgen van deze inzet en de risico’s die dat met zich meebrengt.

8

Cases

9

Pilot: Geluidsoverlast in de Oude Haven Aanleiding: Er wordt geluidsoverlast ervaren van bezoekers in uitgaansgebied Oude Haven en handhaving is lastig. Oplossing: Ophangen van sensoren die overlast meten, eventueel nudging. Doel: Inzicht in geluidsoverlast door bezoekers uitgaansgebied Oude haven en door nudging

Adviesraad is niet geconsulteerd

pieken van geluid verminderen met 30%.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

10

Wat merkt de Rotterdammer? • Bewoners Oude Haven: • • • •

Zien sensoren hangen Zijn geïnformeerd door gemeente Ervaren minder overlast dan voor inzet van de toepassing Worden geïnformeerd over effect en resultaten van pilot

• Horeca en bezoekers Oude Haven: • •

Zien sensoren hangen Worden geïnformeerd bij geluidspiek

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

11

Rowaka Non- discriminatie

Privacy

Vrijheid van meningsuiting Menselijke autonomie

Doelmatigheid

Uitvoeringskracht

Risicobewustzijn

De sensor reageert alleen op geluidsniveau, niet op wie spreekt of wat besproken. De meting is anoniem, geen opnamen. De sensor reageert alleen op geluidsniveau, niet op wie spreekt of wat besproken. Het uitgaanspubliek krijgt een signaal over het geluidsniveau en effect op bewoners. Blijft zelf vrij om te bewegen. De kosten van geluidssensor en projectie verhouden zich positief ten opzichte van het doel. Minder fysieke handhaving nodig.

Menselijke autonomie > Doelmatigheid. We accepteren dat de toepassing niet volledig het gewenste effect kan hebben, maar menselijke autonomie en grondrechten worden ondersteund.

Deze algoritmetoepassing draagt bij aan de uitvoeringkracht in de stad.

Het publiek wordt geattendeerd op sensor en wettelijke context .

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

12

Crowd Management en de doorontwikkeling met sentiment analyse Aanleiding: Bij grote evenementen en drukte in de stad is er niet genoeg inzicht in waar de drukte zich bevind. Oplossing: Een dashboard die inzicht geeft in drukte, waarna eventuele acties kunnen worden ondernomen. Doel: Beter inzicht in drukte in de stad krijgen en verbeteren van veiligheid en leefbaarheid in de stad. Eventueel vervolg: Gebruikt sentiment analyse op social media

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

Adviesraad geeft verschillende overwegingen mee.

13

Wat merkt de Rotterdammer? • Bij gebruik beschikbare bronnen • •

Veilig en geordend verloop van evenement of grote bijeenkomst Eventuele beperkingen in bewegingsvrijheid

• Bij gebruik beschikbare bronnen + social media • • •

Veilig en geordend verloop van evenement of grote bijeenkomst Eventuele beperkingen in bewegingsvrijheid Kans op schending grondrechten (bijv. demonstratierecht/vrijheid van meningsuiting)

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

14

Rowaka Non- discriminatie

Privacy

Vrijheid van meningsuiting Menselijke autonomie

Doelmatigheid

Uitvoeringskracht

Risicobewustzijn

We voorzien op basis van data risico’s op het gebied discriminatie. Mitigerende maatregelen noodzakelijk.

Uitvoeringskracht > menselijke autonomie

Onder doelbinding en wettelijke beperking. Gecombineerde data brengt hierbij risico.

We zien dat de toepassing goed kan voorspellen en dat gebaseerd daarop de drukte goed verspreid kan worden. Dat leidt ertoe dat mensen beperkt kunnen worden in hun bewegingsvrijheid.

De analyse van Social Media om bijvoorbeeld demonstratie of oproer te voorkomen vormt een bedreiging van het recht op vrijheid van meningsuiting. Vanuit veiligheidsoogpunt zijn hier mogelijk andere afwegingen te maken. Op basis van drukte meting wordt het publiek geleid in beweging door de stad om de drukte te verdelen. Verschilt per afweging: een parkeergarage sluiten of een straat / plein. Het slim analyseren voor data om het publiek vlot te laten bewegen.

Geautomatiseerde data-analyse ter voorspelling van drukte.

Vrijheid van meningsuiting > uitvoeringskracht Ondanks het feit dat met hulp van social media betere voorspellingen kunnen worden gedaan, komt de vrijheid van meningsuiting in het geding.

De medewerker is op de hoogte van op werking van Crowdmanagement en kan afwijken van advies.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

15

Generatieve AI in drie varianten De ontwikkelingen op het gebied van generatieve AI gaan snel. De gemeente Rotterdam kan er niet omheen. Verbieden is niet mogelijk. Ter illustratie drie toepassingen en achterliggende waarden afweging.

Chatbot GEM+

Lees Simpel App

Vergelijken jaarverslagen

Direct in gesprek met de burger.

Ter ondersteuning ambtenaar

Ter ondersteuning bestuurlijk advies.

of Rotterdammer.

Adviesraad: GenAI chatbot brengt significante risico's mee.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

Adviesraad: Bewuste interne inzet van GenAI kan doelmatig zijn en ervaring brengen.

Adviesraad: Bewuste interne inzet van GenAI kan doelmatig zijn en ervaring brengen.

16

Chatbot GEM+ Aanleiding: De gemeente zet nu een “domme” chatbot in. Bepaalde begrippen leiden tot bepaalde antwoorden. Hierdoor is de informatie beperkt. Oplossing: Generatieve AI inzetten om de chatbot betere antwoorden te laten geven. Doel: De Rotterdammer sneller en beter van informatie voorzien.

NonDiscriminatie Privacy

Vrijheid van meningsuiting

Menselijke Autonomie Doelmatigheid

Uitvoeringskracht

Een GenAI-bot is getraind op historische data. Daar kan bias inzitten.

Vrijheid van meningsuiting, non-discriminatie, privacy > uitvoeringskracht

Een gebruiker kan persoonsgegevens invoeren, ondanks dat het wordt afgeraden.

Het is inmiddels wel bekend dat GenAI oplossingen snel zijn, en vaak goede informatie geven. De chatbot kan signaleren op afwijkend Echter, dat is lang niet altijd zo. taalgebruik, maar wordt ook gevoed met Om te voorkomen dat onderliggende meningen. Rotterdammers verkeerd geïnformeerd worden, wordt er De Rotterdammer die praat met de chatbot kiest nu geen chatbot gebaseerd op GenAI ingezet voor directe daar zelf voor is er geïnformeerd. communicatie met de burger. Dit ligt in lijn met de adviezen van de De Rotterdammer wordt beter en sneller AAR. geïnformeerd. Een slimme chatbot draagt bij aan continue bereikbaarheid en service aan de gebruiker. De gebruiker wordt geattendeerd op werking

Risicobewustzijn chatbot en wettelijke context.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

17

Lees Simpel App (externe oplossing) Aanleiding: De gemeente verzend brieven die ingewikkeld kunnen zijn. Dat wil ze verbeteren.

NonDiscriminatie

Oplossing: Inzet van de Lees Simpel App die suggesties doet aan een schrijver om een brief makkelijker te maken.

Vrijheid van meningsuiting

Is lastig vast te stellen.

Menselijke Autonomie

De app bevorderd de autonomie van de Rotterdammer door goede informatie.

Doelmatigheid

De app kan de schrijver ondersteunen bij het komen tot een eenvoudige brief of de burger ondersteunen bij het lezen van een brief.

Uitvoeringskracht

Betere brieven leiden tot een grotere uitvoeringskracht.

Doel: Brieven leesbaarder maken, waardoor Rotterdammers beter geïnformeerd worden over rechten en plichten.

Privacy

Lees Simpel is gebaseerd op een model van OpenAI, er is geen garantie dat daar geen bias inzit. De vraag is of dat bij deze toepassing een risico is. Een gebruiker kan persoonsgegevens invoeren, ondanks dat het wordt afgeraden.

Uitvoeringskracht, menselijke autonomie > vrijheid van meningsuiting en privacy De Lees Simpel app heeft een privacyverklaring en zegt dat de brieven nooit ingezien kunnen worden door eigen medewerkers. Daarnaast wordt input niet gebruikt om het model te trainen. Omdat er nog veel onzeker over is, raadt de gemeente de app niet rechtstreeks aan richting Rotterdammers, maar kan het wel gebruikt worden om de brieven van de gemeente te verbeteren.

RisicobewustzijnDe ambtenaar wordt getraind in gebruik van de

app, de risico’s en hoe de app werkt.

18

Jaarverslagen deelnemingen (pilot) Aanleiding: De gemeente neemt deel bij veel organisaties (bijv. Havenbedrijf). De jaarverslagen dienen geanalyseerd te worden. Dat kost veel tijd. Oplossing: Inzet van een GenAI model dat de jaarverslagen leest, vragen erover kan beantwoorden en kan samenvatten.

NonDiscriminatie

Er worden geen persoonsgegevens verwerkt, het risico op discriminatie is daarmee klein. Wel goed in de gaten houden.

Doelmatigheid, uitvoeringskracht > nondiscriminatie en privacy

Privacy

Er worden geen persoonsgegevens verwerkt, zo ver bekend wordt privacy niet geraakt.

Vrijheid van meningsuiting

In principe worden geen meningen gedeeld in jaarverslagen. Als dat wel zo is zou deze waarde in het geding kunnen komen.

Zo ver bekend worden er geen persoonsgegevens verwerkt en er is ook geen risico op discriminatie bekend. Het blijft goed om dat in de gaten te houden.

Menselijke Autonomie

Doel: Sneller en beter informatie Doelmatigheid kunnen leveren over deelnemingen van de gemeente (aan o.a. de gemeenteraad). Uitvoeringskracht

Het werk van de ambtenaar verandert. Er zit minder tijd in het opzoeken van informatie, waardoor tijd vrij komt voor andere taken. Het beter en sneller informeren over deelnemingen van de gemeente, gebaseerd op jaarverslagen. Door betere en snellere informatievoorziening wordt de uitvoeringskracht vergroot.

Risicobewustzijn De ambtenaar wordt getraind in gebruik van de app, de risico’s en hoe de app werkt.

19

De Rotterdamse nuance (Rowaka) Menselijke autonomie

Vrijheid van meningsuiting

De overheid of gerelateerde organisatie respecteert autonomie en zelfbeschikking van burgers, ook in relatie tot hun data. Een burger moet zelf goed om kunnen gaan met de diensten van de gemeente.

In het gebruik van digitale systemen wordt de vrijheid van meningsuiting gerespecteerd. De persoonlijke mening staat onder druk en verdient daarom extra borging.

Non – discriminatie

Privacy

Gelijke kansen en gelijke behandeling zijn kernwaarden, ook bij het implementeren van digitale techniek.

Privacy van burgers is gegarandeerd. Overheden en (markt)partijen die voor de overheid werken gaan op prudente wijze om met persoonsgegevens.

Doelmatigheid Bij de introductie van elk nieuw systeem wordt een financiële toets gedaan waarin ook een afweging wordt gemaakt van de beheers- en onderhoudskosten.

Technische sessie | politiek bestuurlijk algoritmekader, op basis van CODIO

Uitvoeringskracht Er wordt veel van de overheid verwacht, dus moet het wel mogelijk blijven om zaken aan te pakken in de samenleving.

Risicobewustzijn Medewerkers worden getraind opdat zij zich bij inzet AI altijd bewust zijn van de mogelijke gevolgen van deze inzet en de risico’s die dat met zich meebrengt.

20

Bedankt voor uw aandacht en input