[24bb002688] Collegebrief over jaarverslag Algoritmeadviesraad 2022-2023

Gemeente Rotterdam

Bestuurs- en Concernondersteuning Financiën en Organisatie, Dienstverlening, Grote Projecten Maarten Struijvenberg Postadres: Postbus 70012 3000 KP Rotterdam Website: www.rotterdam.nl Van: Bernie Goedhart Telefoon: 14 010 E-mail: bbo@rotterdam.nl

Aan de gemeenteraad Ons kenmerk: M2404-906- 24b0004384 Onderwerp: Jaarverslag Algoritmeadviesraad 2022-2023 Datum: B&W 23 april 2024

Op welke gronden deze brief?/Waarom nu voorgelegd? De Algoritmeadviesraad·(AAR) ging in augustus 2022 van start onder de naam Algorithm Advisory Board (AAB). Bij de oprichtingsvergadering op 29 augustus 2022 en tijdens de kennismaking met een afvaardiging met uw raad op 8 december 2022 is aangegeven een jaarverslag AAR op te stellen na een jaar activiteit. Het eerste jaarverslag beslaat daarmee de periode van augustus 2022 tot en met december 2023. Dit feitelijke jaarverslag geeft inzicht in de bijeenkomsten, adviezen, vergoeding, ontwikkelingen en het vervolg. Op 12 maart 2024 heeft de Algoritmeadviesraad het jaarverslag (zie bijlage) vastgesteld en verzocht tot deling met de raad. Relatie met het coalitieakkoord/collegewerkprogramma/eerder aangenomen moties en gedane toezeggingen: Relatie met het coalitieakkoord: We lichten algoritmen van de gemeente periodiek door op discriminatie. De gemeente is open over de toepassing van algoritmen. De gemeente past geen algoritmen toe die direct of indirect beslissingen baseren op gegevens die terug te voeren zijn naar afkomst. We voorkomen daarmee situaties zoals bij de toeslagenaffaire. Toelichting: De onafhankelijke adviezen uit het jaarverslag zijn gedurende de verantwoordingsperiode afgestemd met de belanghebbende organisatieonderdelen voor de voorgelegde casus.

Daarnaast zijn ze actief gedeeld met de Functionaris Gegevensbescherming (FG), klachtencoördinator en ombudsman. Op 8 September 2023 is daarnaast in reactie op vragen vanuit de Autoriteit Persoonsgegevens de Interne Evaluatie van de algoritmegovernance: Werken aan

Blad: Datum: Ons kenmerk:

2/2 8 april 2024 M2404-906

Verantwoorde algoritmisering, als afschrift met de raad gedeeld (23bb005643). Deze evaluatie liep voor op de externe adviezen. Onderzoek Rekenkamer De Rekenkamer voert momenteel het vervolgonderzoek Algoritmes uit. Dit onderzoek zit in de eindfase, het bestuurlijk wederhoor. De adviezen van de Algoritmeadviesraad, de interne evaluatie en de conclusies en aanbevelingen van de Rekenkamer worden bij behandeling in samenhang gebracht.

Financiële en juridische consequenties/aspecten: Niet van toepassing.

Burgemeester en wethouders van Rotterdam, De secretaris,

De burgemeester,

J.H. Meijer, L.s.

A. Aboutaleb

Bijlage: Jaarverslag Algoritmeadviesraad 2022-2023

Jaarverslag Algoritmeadviesraad

Gemeente Rotterdam 2022-2023

1

Colofon Algoritmeadviesraad (AAR) Gemeente Rotterdam, directie Innovatie, Informatievoorziening, Facilitair en Onderzoek Datum: Auteur(s):

12 maart 2024 Prof. Dr. Albert Meijer voorzitter AAR) en Bernie Goedhart MBI (ambtelijk secretaris AAR)

Vragen:

_BCO_algoritmetoezicht <algoritmeexpert@rotterdam.nl>

2

Inhoudsopgave Jaarverslag 2022-2023

4

1.1

Achtergrond

4

1.2

Leden Algoritmeadviesraad

4

1.3

Bijeenkomsten

4

1.3.1

Constituerend beraad

4

1.3.2

Reguliere bijeenkomsten

5

1.3.3

Kennismakingsbijeenkomsten

6

1.4

Adviezen

1.4.1 1.5

Kosten

1.5.1 1.6

Zelfevaluatie algoritmeadviesraad

6 6 7

Aanvullende expertise

7

Ontwikkelingen en vervolg

8

Bijdrage aan leerproces

Bijlagen

9

10

Bijlage 1 Algoritmeregister Gemeente Rotterdam - 221123 – Definitief

11

Bijlage 2 Gezichtsherkenning Gemeente Rotterdam - 23032 – Definitief

13

Bijlage 3 Biascontrole Gemeente Rotterdam - 230417 – Definitief

15

Bijlage 4 Afwegingskader Sensoren en AI - Gemeente Rotterdam – 231120

17

Bijlage 5 SWOT na 1 jaar – 231120

18

3

Jaarverslag 2022-2023 1.1

Achtergrond

De Algoritmeadviesraad (AAR) ging in augustus 2022 van start onder de naam Algorithm advisory board (AAB). Bij de oprichtingsvergadering en tijdens de kennismaking met de gemeenteraad op 8 december 2022 is aangegeven een jaarverslag AAR op te stellen na een jaar activiteit. Het eerste jaarverslag beslaat daarmee de periode van augustus 2022 tot en met december 2023.Dit feitelijke jaarverslag geeft inzicht in de bijeenkomsten, adviezen, kosten en niet te vergeten de ontwikkelingen en het vervolg.

1.2

Leden Algoritmeadviesraad

De Algoritmeadviesraad wordt onder leiding van voorzitter

bij gemeenten. Ze ontving de Hermesdorf Talentprijs van de Radboud Universiteit. Marlies is een veelgevraagd spreker over effecten van data, technologie en bureaucratie. Dr. Maaike Harbers is lector Artificial Intelligence & Society bij het Kenniscentrum Creating 010 en hoofddocent bij de opleiding Creative Media and Game Technologies van de Hogeschool Rotterdam. Ze behaalde een PhD in kunstmatige intelligentie aan de Universiteit Utrecht, een MSc in kunstmatige intelligentie en een MA in filosofie aan de Rijksuniversiteit GroningenIn haar werk richt zij zich op kunstmatige intelligente, ethiek en met name het ontwerp daarvan. Daarbij is aandacht voor het ontwerpproces, het ontwerpresultaat en de ontwerpcontext

Prof. Dr. Albert Meijer gevormd door vier academische experts op het gebied van algoritmes in de stedelijke context.

Dr. Michael Klenk is docent ethiek en techniekfilosofie aan de TU Delft. Hij heeft zijn PhD behaald aan de Universiteit

Prof. dr. Albert Meijer is hoogleraar publieke innovatie aan

Utrecht. Tijdens zijn PhD was hij ook Visiting Fellow aan

de Universiteit Utrecht en leidt de afdeling Publiek Gover-

Columbia University, Harvard University en Oxford Univer-

nance en Management. Hij is een expert op het gebied van

sity. Tussentijds was hij werkzaam als managementconsul-

bestuur in de informatiesamenleving. In internationale bla-

tant bij Atos Consulting in München. Zijn onderzoek behan-

den heeft hij gepubliceerd over publieke innovatie, slimme

delt fundamentele onderwerpen over de aard van morali-

steden, ICT, data en sociale media in de publieke sector.

teit, morele verandering en morele kennis. Daarbij hanteert

Hij werkt samen in verschillende nationale en internatio-

hij een interdisciplinaire benadering van deze vragen en

nale samenwerkingsverbanden op het gebied van datafica-

gebruikt bronnen uit de meta-ethiek, epistemologie, antro-

tie van lokaal bestuur, duurzame steden en open data. Hij

pologie en morele psychologie.

is hoofdredacteur van het wetenschappelijke tijdschrift Information Polity en voorzitter van de permanente studie-

1.3

groep over e-government van de European Group for Pu-

Gezien de aanvangsfase van de Algoritmeadviesraad in

blic Administration.

Bijeenkomsten

2022, zijn er drie verschillende soorten bijeenkomsten ge-

Dr. Ir. Roel Dobbe is assistent professor en werkt op het snijvlak van engineering, ontwerp en governance van datagestuurde en algoritmische controle- en besluitvormingssystemen. Roel heeft een PhD in Control, Intelligent Systems and Energy behaald aan de afdeling Elektrotechniek en Computerwetenschappen van de University of Califor-

weest: 

de oprichtingsvergadering, oftewel het constituerend beraad,



de reguliere AAR-bijeenkomsten,



en kennismakingsgesprekken.

nia Berkeley. Zijn expertise ligt op het gebied van systeem-

In deze paragraaf wordt een overzicht van de bijeenkom-

veiligheid: wat komt erbij kijken om data, algoritmes en

sten, het karakter (doel), de invulling en het resultaat be-

kunstmatige intelligentie op een veilige en verantwoorde

schreven

manier in te zetten? Mr. Dr. Marlies van Eck (Radboud Universiteit Nijmegen/ partner Hooghiemstra & partners) onderzoekt de juridische

Het constituerend beraad vond plaats op 29-08-2022. In dit

aspecten van het gebruik van technologie. Ze houdt zich

beraad is de verantwoording en werkwijze op basis van de

bezig met onderzoek, zoals voor het College voor de

staande Algoritme Governance (2022) vastgesteld. Waar-

Rechten van de Mens over mensenrechten bij algoritmen

4

1.3.1 Constituerend beraad

Jaarverslag 2022-2023

onder de frequentie en invulling van de reguliere AAR-

bijeenkomsten en de daarop aanvullende kennismakings-

Per oktober 2023 is er weer een vaste algoritme expert in

gesprekken. De frequentie is gesteld op drie à vier per

dienst. De AAR heeft gesignaleerd dat het desondanks

(academisch) jaar. Hier staat per bijeenkomst een vastge-

een kwetsbare functie blijft die aanvullend versteviging be-

stelde vergoeding tegenover.

hoeft.

Iedere reguliere bijeenkomst wordt opgedeeld in een geza-

Inhoudsdeskundigen geven toelichting op de algoritme toe-

menlijk en besloten deel. In het gezamenlijke deel komen

passing die middels een casus geagendeerd staat en ne-

organisatorische ontwikkelingen, onderwerpen ter advies

men het mondelinge advies in ontvangst. De secretariële

en de opvolging van eerdere adviezen ter tafel. Het beslo-

ondersteuning wordt voorzien door directieadvies BCO-

ten deel biedt de AAR-leden tijd en voor hen veilige omge-

IIFO.

ving om vrij van gedachten te wisselen over geagendeerde onderwerpen. Per bijeenkomst staat een specifieke casus centraal, deze casus kan zowel door de AAR als ook de organisatie aangedragen worden. De AAR heeft inzicht in alle geïnventariseerde en onderhanden zijnde algoritmes

1.3.2 Reguliere bijeenkomsten Er hebben vier reguliere AAR-bijeenkomsten plaatsgevonden. De adviezen zijn opgenomen in de bijlage.

via een overzicht uit het interne algoritmeregister.

Datum

Bespreekpunten

Adviezen

De AAR geeft per bijeenkomst mondeling gevraagd en on-

14-11-2022

Administratieve organisatie

Algoritmeregister Gemeente Rotterdam 221123 - Definitief

gevraagd advies. Er is nadrukkelijk geen sprake van een controlerende functie. Deze adviezen zijn niet bindend,

Ontwikkeling en demo algoritmeregister Rotterdam

maar worden indien mogelijk opgevolgd. Na afloop van de bijeenkomst stelt de voorzitter de adviezen formeel op en dragen ook de leden deze uit. De ambtelijk secretaris

Te plannen kennismakingsgesprekken

neemt de schriftelijke adviezen namens Rotterdam in ontvangst en zet ze door naar de relevante stakeholders.

20-03-2023

De reguliere AAR-bijeenkomsten onder leiding van voorzitter ondersteund door ambtelijk secretaris vinden fysiek In deze periode zijn er een aantal afmeldingen geweest, de

Terugkoppeling gesprek ombudsman

meerderheid van de leden was structureel aanwezig. Er is geen quorum vastgesteld. Wel is in aanvulling op de advi-

Presentatie R. Dobbe: Veilige algoritmische systemen (een integraal perspectief)

serende agenda besloten om namens ieder AAR-lid een presentatie te agenderen over het eigen vakgebied in relatie tot de Rotterdamse organisatie. Dit ter kennisdeling en inspiratie over het vakgebied.

Case: Gezichtsherkenning niet ingezetenen

Vanuit de ambtelijke organisatie is de afvaardiging afgestemd op de agenda met structurele vertegenwoordiging gen (algoritmetoepassing) en secretariële ondersteuning. Het management draagt verantwoordelijkheid op het gebied van faciliteren en organiseren. De inhoudelijke rol van het management is bewust beperkt. Dit biedt ruimte voor de experts en medewerkers in open gesprek. De algoritme expert geeft o.a. terugkoppeling op de opvolging van eerdere adviezen. De rol van de algoritme expert is gedurende deze periode drie keer gewisseld. Deze func-

Gezichtsherkenning Gemeente Rotterdam - 23032 - Definitief

Opzet vervolgonderzoek Rekenkamer.

plaats. Bij uitzondering is een lid of gast digitaal aanwezig.

van management, algoritme expertise, inhoudsdeskundi-

Indexering vergoeding AAR

17-04-2023*

Voortgang op adviezen.

Biascontrole Gemeente Rotterdam 230417 - Definitief

Presentatie M. Harbers: Ontwerp van verantwoorde AI en Bevragen van AIpraktijken Case: Biascontrole Werk & Inkomen

tie bleek op het gewenste niveau lastig te vervullen. Als gevolg is voor de continuïteit tussentijds expertise ingehuurd.

Jaarverslag 2022-2023

5

20-11-2023

Voortgang op adviezen. Case: Afwegingskader Sensoren en AI

Afwegingskader Sensoren en AI - Gemeente Rotterdam – 231120

1.4

SWOT na 1 jaar 231120

opgeteld 42 op zichzelf staande adviezen.

Zelfevaluatie AAR

Adviezen

In de periode 2022-2023 heeft de AAR vier adviesrapporten voor Rotterdam opgesteld. Deze rapporten bevatten

De ontvangen adviezen zijn actueel, constructief van aard en grotendeels op korte termijn uitvoerbaar. Kenmerkend voor de adviezen is dat er naast het gevraagd of ongevraagde advies over de specifieke casus, ook een vertaling wordt gemaakt naar de Algoritme Governance in zijn algemeenheid.

*Gasten: afvaardiging vanuit de Rotterdamse Rekenkamer.

Het kan zijn dat de gemeente ervoor kiest om aan som-

1.3.3 Kennismakingsbijeenkomsten

mige adviezen geen opvolging te geven, omdat dat niet

De AAR heeft zowel op eigen initiatief als ook op uitnodi-

aan kan geven. Dit is tot op heden één keer voorgekomen.

ging met een afvaardiging kennismakingsgesprekken ge-

Onderstaand het desbetreffende advies en een korte moti-

voerd met belangrijke stakeholders voor de Rotterdamse

vatie.

passend is in haar beleid of omdat zij hier geen uitvoering

organisatie. Doel van deze kennismakingen was een gezicht aan de rol geven en constructief de samenwerking

Value-based design (14-11-2022, advies 5)

zoeken en vormgeven. De AAR beveelt aan bij de ontwikkeling van algoritmen niet Datum

Doel

Verslag t.b.v. AAR

Kennismaking met de Raad (Albert Meijer, Maaike Harbers en Marlies van Eck)

alleen in een later stadium te kijken naar risico’s voor inbreuk op publieke waarden (wat nu de dominante oriëntatie is), maar ook in een vroeg stadium al te kijken naar de mogelijkheid om juist publieke waarden te realiseren. Me-

08-12-2022

Kennismaking en vragen raad

Geen

zijn.

Kennismaking met de Rotterdamse Ombudsman(Albert Meijer) 07-02-2023

Signalering adviesvraag buiten de organisatie.

Gesprek AAB - Ombudsman - 230207

Voorzitter: A. Meijer Afstemmen. Perspectief op gegevens-bescherming

Het belang van een dergelijke inzet wordt onderschreven door Rotterdam. Wel is het zo dat dit inherent een politieke keuze is. Bij de ambtelijke uitvoering is het taak om de gekozen route zo goed en verantwoord mogelijk in te richten.

Kennismaking met de Rotterdamse Functionaris Gegevensbescherming (Albert Meijer) 31-05-2023

thoden van value-based design kunnen hierbij bruikbaar

Verslag Gesprek functionaris gegevensbescherming 31052023

De ex-ante richting rust echter op politieke keuzes. Alle adviezen zijn openbaar, op aanvraag beschikbaar en naar aanleiding van tussentijds verzoek aan de autoriteit persoonsgegevens (AP) verstuurd en daarmee gepubliceerd op www.gemeenteraad.rotterdam.nl. Ook de Rotterdamse Rekenkamer heeft het afgelopen jaar de adviezen

Kennismaking met de Rotterdamse klachten coördinator (Albert Meijer) 01-06-2023

Met name in het kader van eventuele klachten van kwetsbare

Verslag Gesprek klachten coördinator 01062023

Rotterdammers bij de

opgevraagd. Er is echter nog geen passend platform voor actieve publicatie gevonden.

1.4.1 Zelfevaluatie algoritmeadviesraad Tijdens de bijeenkomst van 20-11-2023 heeft de AAR ter

sociale domeinen bij

zelfevaluatie een sterkte-zwakteanalyse (SWOT) uitge-

dienstverlening

voerd. Op basis van deze SWOT-analyse heeft de AAR zes adviezen geformuleerd voor een vervolg:

6

Jaarverslag 2022-2023

Veel loopt goed in de werkwijze en doorwerking van de AAR. We moeten zorgen dat we deze sterke punten behouden.

welke manier zij kunnen waarborgen dat we hierover voldoende worden geïnformeerd

In de communicatie binnen en buiten de gemeenten moeten we helder blijven maken dat we in huidige vorm een adviesraad zijn met beperkte mogelijkheden. We moeten zorgen dat we de verwachtingen managen en dat niet het beeld ontstaat dat we een toezichtsorgaan zijn. Dit punt vergt continue aandacht.

We kunnen sterkere verbindingen maken met de andere ethische commissies in het land. We zullen hier zelf het komende jaar initiatief in nemen. Dat loopt via de vele contacten die we al hebben. Op een volgend overleg kunnen we dit nader bespreken

Er is momenteel een minimale constructie, de tijdsbesteding is beperkt tot minimale voorbereiding en opvolging van de leden. We proberen zoveel mogelijk ter plekke ons advies vorm te geven. We zijn daarin best effectief/productief, maar de vraag is of dit voldoende is (bijvoorbeeld op basis van het rapport van de Rekenkamer). Graag willen we met de gemeente bespreken of dit niet steviger moet zijn. Met meer tijd kunnen we grondiger voorbereiden en kunnen we meer mensen spreken en meer output genereren. Dit punt kunnen we agenderen voor een volgend overleg. De impact kan worden vergroot door nadrukkelijker na te denken over het advies breder in de organisatie en bij het college kan landen. Graag zouden we met de gemeente in gesprek willen gaan over de vraag hoe we bij kunnen dragen aan de strategische besluitvorming. Dit kunnen we ook agenderen voor een volgende vergadering. We willen graag nadrukkelijker meekrijgen als er grote ontwikkelingen zijn, inclusief gevoelige dossiers (bijvoorbeeld een hete discussie in de gemeenteraad, een publicatie in de media). Dit kan eventueel ook vertrouwelijk. Hierdoor houden we goed zicht op wat er speelt. Graag horen we van de gemeente op

Deze adviezen vormen de basis voor de verdere voortzetting van de samenwerking, waarin ook voor de CIO en het CIO-office een meer strategische rol wordt voorzien.

1.5

Kosten

De vergoeding van de Algoritmeadviesraad is gebaseerd op de vergoeding die de leden van een aantal vergelijkbare commissies ontvangen (zoals bijvoorbeeld de Expertcommissie aanpak radicalisering). De reden daarvoor is dat het in het geval van de AAR gaat om hooggekwalificeerde experts die relatief schaarse expertise inbrengen. De voorzitter ontvangt een opslag van 50% ten opzichte van de vergoeding voor de overige leden omdat deze een aantal extra taken heeft met betrekking tot de voorbereiding van de vergadering. Om te voorkomen dat jaarlijks allerlei administratieve lasten ontstaan doordat de hoogte van de vergoeding opnieuw vastgesteld moet worden, wordt gekozen voor een indexering. Indexering 2023 met 3,88%:

2022

2023

Vergoeding lid

358,68

372,60

Vergoeding voorzitter

538,02

558,90

Het totaal aan bijeenkomsten heeft geresulteerd in een totale vergoeding van €11.907,66. Bijeenkomsten worden voorzien van een kleine versnapering deze komen op rekening van BCO-IIFO.

1.5.1 Aanvullende expertise De juridische expert kon in 2023 in minder mate aansluiten en heeft om die reden dan ook te kennen gegeven de adviesraad te verlaten. In 2024 zal een kundige vervanger worden gezocht.

Jaarverslag 2022-2023

7

Indien expertise in de AAR ontbreekt wordt door Rotterdam aanvullende ruimte (financiën en organisatorisch ondersteuning) geboden ter invulling. Hier is tot op heden nog geen gebruik van gemaakt.

1.6

Ontwikkelingen en vervolg

Het aantal kennishouders op het gebied van algoritme in Nederland is beperkt. Rotterdam heeft een luxepositie met een eigen onafhankelijke adviesraad. De leden van onze adviesraad worden binnen Rotterdam, op landelijke en mondiaal om advies of mening gevraagd. Hieruit kan overlap ontstaan. De leden van de AAR is verzocht dergelijke belangenconflicten te melden (bij de voorzitter en secretariaat) en zich uit de discussie van het desbetreffende onderwerp te onttrekken. Rotterdam heeft profijt van het kennisnetwerk dat de AAR onderhoudt, maar waakt zelf lijdend voorwerp te zijn. Het aantal algoritme en ethisch adviesraden in het land neemt toe. We waken dat er intergemeentelijk doublures ontstaan en trekken in G4-verband gezamenlijk op. De Europese wetgeving (AI-act) en nationale vertaling is in beweging en vraagt navolging bij de lokale overheden. Rotterdam neemt hierin haar verantwoordelijkheid ondersteund door algoritmeadviesraad.

8

Jaarverslag 2022-2023

Bijdrage aan leerproces Met de Algoritmeadviesraad willen wij vanuit de wetenschap op een kritische en onafhankelijke manier bijdragen aan het leerproces van de gemeente Rotterdam bij het juist gebruiken van algoritmen. De technologische ontwikkeling gaat snel en ook wij hebben niet dé oplossingen paraat voor problemen rondom juist gebruik van algoritmen. Wel bieden wij de blik van kritische outsider en hopen daarmee de gemeente te helpen om algoritmen zo in te zetten dat dit ethisch correct gebeurt en bijdraagt aan een nog beter gemeentelijke organisaties voor de mooie stad Rotterdam. Voorzitter Algoritmeadviesraad

Prof. Dr. Albert Meijer

Jaarverslag 2022-2023

9

Bijlagen Algoritmeregister Gemeente Rotterdam - 221123 – Definitief Gezichtsherkenning Gemeente Rotterdam - 23032 - Definitief Biascontrole Gemeente Rotterdam - 230417 – Definitief Afwegingskader Sensoren en AI - Gemeente Rotterdam – 231120 SWOT na 1 jaar – 231120

10

Bijlagen

Bijlage 1 Algoritmeregister Gemeente Rotterdam - 221123 – Definitief Algoritmeregister Gemeente Rotterdam 23 november 2022 Op basis van de informatie die de gemeente voor de vergadering van 14 november aan de AAB heeft verstrekt en de toelichting hierop, geeft de AAB aan de gemeente Rotterdam de volgende punten ter overweging mee bij het verder ontwikkelen, verbeteren en gebruiken van het algoritmeregister. 1.

Heldere presentatie procedures in flowchart. De AAB beveelt de gemeente aan om een manier te zoeken om alle verschillende procedures, werkwijzen, processen, etc. duidelijker te presenteren. Een flow chart kan hiervoor een goede manier zijn. In de flowchart kan staan wat de trigger is om een algoritme mee te nemen in de governance, en op welke punten tijdens de ontwikkeling en de inzet van het algoritme welke acties moeten plaatsvinden. Ook kunnen verantwoordelijkheden helder worden vastgelegd en mogelijke gaps geïdentificeerd. Zowel in de interne als in de externe communicatie kan dit verhelderend werken. 2. Verminder afhankelijk van één expert. De AAB beveelt de gemeente aan om te zorgen dat de afhankelijkheid van de rol Algoritme-expert – nu uitgevoerd door Frank – niet te groot wordt in het ontwerp van de uiteindelijke governance-aanpak. In de huidige aanpak liggen er veel taken bij de algoritme-expert en dat creëert kwetsbaarheid. Belangrijk is om ervoor te zorgen dat de kennis die Frank heeft opgedaan wordt gecodificeerd en vertaald naar een robuuste organisatieaanpak waarbij meerdere rollen en personen de ontstane verantwoordelijkheden en taken kunnen dragen. 3. Begin bij een brede definitie van algoritmen. De AAB is van mening dat beginnen bij een technologisch brede definitie van algoritmen de voorkeur verdient.

Het risico en de maatschappelijke impact is namelijk niet gebonden aan de technologische complexiteit en wordt vaker bepaald door de context van uitvoering. De gemeente kan juist breed beginnen en dan op basis van een risico-analyse bekijken welke algoritmen verder dienen te worden onderzocht op impact en benodigde maatregelen. Daarna bekeken worden of er voor het systeem voldoende checks en balances bestaan binnen de organisatie of dat het ‘zwaardere regime’ van algoritmen moet worden gekozen. 4. Leren van modellen van risk governance. De AAB suggereert de gemeente om bij de invulling van modellen van risk governance ook goed te kijken naar modellen die voor andere praktijken zijn ontwikkeld (denk bijvoorbeeld aan de Milieu Effect Rapportage) en ook van assessments die al voor andere technologieën zijn ontwikkeld. 5. Value-based design. De AAB beveelt aan bij de ontwikkeling van algoritmen niet alleen in een later stadium te kijken naar risico’s voor inbreuk op publieke waarden (wat nu de dominante oriëntatie is), maar ook in een vroeg stadium al te kijken naar de mogelijkheid om juist publieke waarden te realiseren. Methoden van value-based design kunnen hierbij bruikbaar zijn. 6. Uitwerken notie úitlegbaarheid’. De AAB beveelt aan om de notie van uitlegbaarheid verder uit te werken.

Deze heeft namelijk verschillende functie en kan, afhankelijk van de context en de actoren die uitleg behoeven, om een verschillende uitwerking vragen. 7. Robuuste en consistente werkwijzen. De AAB benadrukt het belang van werkwijzen die robuust en consistent zijn. Nu kan de toepassing van bepaalde stappen nog, zo lijkt het, afhankelijk zijn van de persoon die deze uitvoert, bijvoorbeeld de risicoclassificatie. Belangrijk is dat heel helder is hoe alle stappen worden doorlopen. Ook dient de onderbouwing van deze stappen beschikbaar te zijn zodat willekeur in besluitvorming en ontwerp van algoritmes kunnen worden verminderd. 8. Centrale rol DUB in leerproces. De AAB onderkent dat de vormgeving van governance of algorithms een lerend proces is. Zij geeft aan dat de DUB in dit proces een centrale rol speelt. Belangrijk is dat de DUB niet alleen een dossier zorgvuldig beoordeelt maar dat ze ook uit deze beoordeling algemene lessen trekt die bijdragen aan het verder verbeteren van de huidige praktijken. 9. User-centered perspective. De AAB beveelt aan om gebruikers en doelgroepen van algoritmen – burgers – een duidelijkere rol te geven in het ontwerp van het algoritme en uitwerking van praktijken rondom algoritmen en het beheer. Methoden van user-centered design kunnen hierin een belangrijke rol spelen.

Tevens kan in de assessment van algoritmes nadrukkelijker met verschillende stakeholdergroepen worden gewerkt om risico’s en kansen tastbaarder te maken. Hier wordt ook bij andere overheidsorganisaties mee geëxperimenteerd. 10. Kijk breed naar risico’s van discriminatie. De AAB beveelt aan om breed te kijken naar risico’s van discriminatie. Nu wordt in het externe algoritmeregister sterk de band gelegd tussen persoonsgegevens en discriminatie. Echter ook systemen die geen gebruik maken van persoonsgegevens maar bijvoorbeeld gebiedsgericht werken kunnen discriminerend werken. In algemenere zin kan via het gebruik van niet-sociale proxy-variabelen (bijv. postcode) toch discriminatie ontstaan op het niveau van sociale eigenschappen (bijv. afkomst). 11. Leg de procedures rondom het interne register goed vast. Er zijn geen duidelijke procedures vastgelegd over het gebruik van het interne algoritmeregister terwijl dit een centrale rol speelt in de governance. Wie heeft welke gebruiksrechten? Wie is waarvoor verantwoordelijk? In een document dient dit helder te worden aangegeven (zie ook punt 1 en 2). De AAB raad aan hierbij een lerende aanpak te kiezen om komende jaren te verkennen hoe het register op betekenisvolle en wetenschappelijk sluitende manier kan bijdragen aan de verbeteren van transparantie en verantwoording over besluiten die met hulp van algoritmes worden genomen.

Bijlagen

11

12. Bijlegger bij toesturen stukken aan AAB. De AAB verzoekt de gemeente om bij de stukken die worden besproken in de vergadering steeds een bijlegger bij te voegen die helder aangeeft hoe deze stukken passen binnen het beleid van de gemeente, wat de status van de stukken is, hoe verdere ontwikkelingen zullen verlopen, etc. Deze contextinformatie stelt de AAB in staat de stukken beter te duiden en daarmee een beter advies te kunnen geven aan de gemeente.

12

Bijlagen

Bijlage 2 Gezichtsherkenning Gemeente Rotterdam - 23032 – Definitief Gezichtsvergelijking Gemeente Rotterdam Algorithm Advisory Board van de Gemeente Rotterdam 24 maart 2023 Op basis van de informatie die de gemeente voor de vergadering van 20 maart aan de AAB heeft verstrekt en de toelichting hierop, geeft de AAB aan de gemeente Rotterdam de volgende punten ter overweging mee bij het gebruik van gezichtsvergelijking in het proces Registratie Niet Ingeschrevenen (RNI). Daarbij gelden ook een aantal bredere overwegingen bij het gebruik van algoritmen die door het rijk aan de gemeente worden opgelegd. 1.

2.

3.

4.

5.

6.

7.

8.

Gemeente dient condities voor goed gebruik van algoritmen af te stemmen met het rijk. Dat de gemeente met algoritmen werkt bij taken voor het rijk – zoals in het geval van de gezichtsherkenning bij RNI – betekent niet dat de gemeente klakkeloos elk algoritme moet gebruiken. De gemeente behoudt een eigen verantwoordelijkheid. Om deze goed te kunnen invullen moet de gemeente een aantal principes formuleren die gelden voor goed gebruik van algoritmen zoals transparantie, helderheid in verantwoordelijkheden, etc. (zie verder hieronder). Deze principes kunnen in VNG-verband worden geformuleerd en afgestemd met het rijk (BZK). Meerwaarde algoritme moet helder zijn. Een zeer algemeen punt bij het gebruik van een algoritme is dat helder moet zijn op welke manier het gebruik van het algoritme het werk van de gemeente Rotterdam verbetert. Welk probleem lost dit gebruik op? Welke verbetering ontstaat er in het proces? Welke data laten zien dat het algoritme daadwerkelijk bijdraagt aan een verbetering? Ook dient er duidelijkheid te zijn over de vraag of en welke ongewenste effecten het algoritme met zich mee brengt. Een algoritme levert altijd ook risico’s op. Een duidelijk beeld van de beoogde voordelen van het algoritme is dus noodzakelijk voor een goed oordeel over het wel of niet invoeren van de algoritme. Transparantie over het algoritme (broncode, trainingsdata).

Wanneer met een bedrijf wordt gewerkt, moet dat bedrijf voldoen aan de vereisten van transparantie. Zo moeten de broncode en de trainingsdata van het algoritme openbaar worden gemaakt of in ieder geval kunnen worden gecontroleerd door een onafhankelijke toezichthouder. Ook moet het bedrijf helder maken welke fundamentele keuzes en calibratie het heeft toegepast in het ontwerp, o.a. wat de threshold is voor het vaststellen of een bepaalde score van het herkenningsmodel een match oplevert of niet (YES/NO). Heldere afspraken over verantwoordelijkheid van en controle op het bedrijf. Er dienen ook heldere afspraken te zijn over de rol en de verantwoordelijkheid van het bedrijf. Welke data kunnen ze inzien? Waar worden deze data opgeslagen? Dit moet vooraf worden afgesproken en worden gecontroleerd. Volgt het bedrijf ook daadwerkelijk de afgesproken procedures? Binnen de gemeente Rotterdam dient ook duidelijk te zijn wie hiervoor verantwoordelijk is en welke andere partijen (waaronder bij het Rijk) een rol spelen in toezicht en controle. Monitoren van bias. Bias in statistische modellen is onoverkomelijk, en bij een bepaalde mate of in een bepaalde context ook strikt onwenselijk. Een bias bij een systeem kan vooraf bestaan (bijv, in trainingsdata) en daar moet op worden gecheckt. Een bias kan echter ook in het ontwerpen opkomen door verkeerde ontwerpkeuzes.

Tevens kan bias tijdens gebruik ontstaan, bijvoorbeeld doordat er bepaalde gebruikspatronen ontstaan die ongewenste vooringenomenheid in de hand spelen. Daarom is het belangrijk dat er bij een dergelijk systeem wordt bijgehouden welke bias er is en dat hierover periodiek wordt gerapporteerd. Ook is het hierbij belangrijk dat er een lerende aanpak ontstaat waarbij vergelijkingen tussen gemeenten worden gemaakt zodat eventuele bias zichtbaar kan worden. Verantwoording afleggen over het gebruik van algoritmen. Informatie over het gebruik van het algoritme vormt de basis voor het afleggen van verantwoording hierover aan de gemeenteraad. Daarin laat de gemeente zien op welke manier het algoritme wordt gebruikt, welke bias er optreedt, in hoeverre die toelaatbaar is en wat wordt gedaan om bias te verminderen en goed gebruik van algoritmen te borgen. Medewerkers moeten kennis hebben over het algoritme waar ze mee werken. Wanneer medewerkers van de gemeente Rotterdam met een algoritme werken, moeten ze zich hiervan bewust zijn, moeten ze een basaal begrip hebben van de werking van het algoritme en moeten ze dit, wanneer hierover vragen komen, kunnen uitleggen aan burgers. Het is cruciaal voor gebruikers om te weten in wat voor gevallen een algoritme niet goed werkt, zodat proactief kan worden afgeweken van gebruik van het algoritme.

Medewerkers moeten algoritme kritisch kunnen beoordelen. Bij frequent gebruik van de gezichtsherkenning ontstaat het risico dat medewerkers hier te sterk op gaan leunen en niet meer in staat zijn tot eigen oordeelsvorming. Automation bias, noemen we dit. Belangrijk is om dit te voorkomen. Het proces moet namelijk zo zijn ingericht dat algoritme en medewerker onafhankelijk tot een oordeel komen. Daarvoor zijn twee punten van belang. Ten eerste is het belangrijk dat medewerkers ook regelmatig eigenstandig tot een oordeel komen door hen aan een ander proces dan RNI te laten werken, daar waar geen algoritmes worden gebruikt. Ten tweede dient het RNI proces zo te worden ingericht dat het algoritme en de medewerker onafhankelijk tot een oordeel komen en dat dit oordeel daarna pas wordt vergeleken. Dit betekent dat het algoritme nooit als start- of uitgangspunt van de beoordeling kan dienen.

Bijlagen

13

9.

Algoritmetraining van ambtenaren is belangrijk. Om de kritische rol ten aanzien van algoritmen in te kunnen nemen, dienen ambtenaren goed te worden getraind. Dit zal enerzijds gaan om een algemene gevoeligheid voor algoritmen bij het inwerkprogramma van nieuwe ambtenaren van de gemeente. Welke waarde heeft het oordeel van een algoritme? Hoe komt dit tot stand? Anderzijds gaat het om een specifieke gevoeligheid voor algoritmen waar ze mee werken in hun taak. In het geval van de gezichtsherkenning zou dit kunnen worden belegd in een specifieke training door de Nederlandse Vereniging voor Burgerzaken (NVVB). Voor het opleidingstraject voor RNI-gemeenten dienen dus ook heldere afspraken te worden gemaakt over de algoritmetraining. 10. Uitvoeren van DPIA en betrekken FG. Bij het gebruik van de gezichtsherkenning gaat het om het verwerken van persoonsgegevens. Daarom dient de geëigende procedure van een DPIA te worden gevolgd en de FG te worden betrokken. Op deze manier wordt geborgd dat de verwerking van persoonsgegevens – inclusief kortstondige opslag – correct verloopt. 11. Productbeheerder voor elk algoritme bij de gemeente. Belangrijk is dat de verantwoordelijkheid voor elk algoritme – dus ook algoritmen die van het rijk komen – helder is belegd binnen de organisatie.

Duidelijk moet zijn wie de productbeheerder is en wie dus ook enerzijds het gebruik in de gemeente Rotterdam monitort en anderzijds de afspraken met het rijk in de gaten houdt. 12. Overzicht van algoritmen binnen de gemeenten is van groot belang. Via een WOO-verzoek is duidelijk geworden dat in dit proces een algoritme werd gebruikt. Het is belangrijk dat de gemeente Rotterdam een goed overzicht heeft van alle algoritmen die worden gebruikt. Wij begrijpen dat de algoritme-experts hiermee bezig zijn en we onderstrepen het belang hiervan.

Ten slotte willen we aangeven dat de informatieverstrekking veel beter en rijker was dan bij het algoritmeregister maar dat we graag vooraf nog meer informatie zouden willen ontvangen. Ook geven we er de voorkeur aan als er zowel iemand is die iets kan vertellen vanuit gebruiksperspectief als iemand die verantwoordelijk is voor het beleid, beheer en eventuele ontwikkeling van het algoritme.

14

Bijlagen

Bijlage 3 Biascontrole Gemeente Rotterdam - 230417 – Definitief Biascontrole Gemeente Rotterdam 17 april 2023 Op basis van de informatie die de gemeente voor de vergadering van 17 april aan de AAB heeft verstrekt en de toelichting hierop, geeft de AAB aan de gemeente Rotterdam de volgende punten ter overweging mee voor de biascontrole op bijzondere persoonsgegevens. Daarbij willen we vooraf zeggen dat we ons hierin in dit advies graag bescheiden willen opstellen want het gaat niet zozeer om een operationele praktijk als wel om een grote, deels juridische, vraag. Het probleem komt neer op een waardenconflict: in hoe verre mag de gemeente mogelijke privacy nadelen in verband met het uitwisselen van data (ook al gaat het om synthetic data) accepteren om de waarden van fairness en gelijkheid te beschermen? Wij hebben niet de illusie dat we op basis van een vergadering deze vraag kunnen beantwoorden. Wel willen we op basis van de interessante toelichting door de gemeente Rotterdam en ons gesprek over het vraagstuk enkele adviezen en overwegingen meegeven aan de gemeente. 1.

2.

3.

4.

5.

6.

7.

Biascontrole is geen heilige graal. Belangrijk voor de gemeente Rotterdam is te beseffen dat biascontrole, zoals beschreven in de stukken voor deze vergadering en de toelichting daarop, mogelijk een nuttig element kan zijn in een geheel van praktijken gericht op het borgen van publieke waarden bij het gebruik van algoritmen maar ook niet meer is dan slechts een bouwsteen met ook allerlei beperkingen. Ten eerste zijn er nog andere waarden die en rol spelen, zoals privacy, en die mogelijk botsen met het doel om bias (compleet) te vermeiden. Ten tweede is er een specifieke vraag over hoe je bias goed inlicht of wel operationaliseert. Er wordt bijvoorbeeld alleen gekeken naar nationaliteit. Borgen van publieke waarden vergt een geheel aan maatregelen in verschillende stadia en op verschillende niveaus. Ook het checken op een bias zal steeds op verschillende manieren via een reflectieve benadering moeten gebeuren, zoals middels een externe controle door experts en ook participatie in het afwegingsproces door de doelgroep (‘web of evidence’). Een reflectieve benadering van bias verschilt van ‘aankruisen van vinkjes’. Een reflectieve benadering van bias betekent dat het geheel aan ‘bewijs’ wordt afgewogen en dat de gemeente op basis daarvan tot een oordeel komt over het algoritme.

Dat kan betekenen dat in bepaalde gevallen wordt geaccepteerd dat bepaalde checks afwezig zijn omdat aan kan worden gegeven dat er toch voldoende waarborgen zijn. Een ethische afweging is daarmee dus complexer dan ‘checking the boxes’. Ook speelt de context van gebruik steeds een rol in het maken van deze afweging. Bias is nooit volledig uit te sluiten. Een volgende overweging is dat bias ook niet volledig is uit te sluiten. Wanneer de gemeente Rotterdam de biascontrole zou uitvoeren met bijzondere persoonsgegevens, kan niet worden uitgesloten dat er toch weer andere vormen van bias optreden. Ook ontstaat de vraag wat de threshold is voor bias. Kortom, bij een gebruik van algoritme treedt altijd enige vorm van bias op (net zoals overigens bij menselijk handelen). De vraag is welke vormen risico’s acceptabel zijn. Accepteren van risico’s op bias is een politieke keuze. Aangezien een bias nooit volledig kan worden uitgesloten is het besluit over het ontwerp of aanschaf en gebruik van een algoritme met een bepaald risico op een bias uiteindelijk een politieke keuze. Uiteindelijk gaat het om de vraag welke vormen van discriminatie als ethisch problematisch worden gezien en ook dient de proportionaliteit te worden gewogen.

Politiek verantwoordelijken dienen dit te beantwoorden en ook aan te geven welk risico aanvaardbaar wordt geacht en welke maatregelen om dit risico in kaart te brengen en te beheersen als voldoende worden gezien. Denk out-of-the-box om op risico’s op bias te verkleinen. De vraag hoe een bias kan worden geminimaliseerd kan ook worden beantwoord door processen heel anders in te richten. Bij de ondersteunende take van Werk & Inkomen zoals het bepalen welke cursussen geschikt zijn voor een bijstandsgerechtigde, kan het algoritme ook worden ingezet door de cliënt in plaats van de consulent. Dan kunnen clienten zelf kijken welke cursussen volgens het algoritme bij hen passen. Vergelijk menselijke en algoritmische oordelen vaker om zicht te krijgen op bias. Bias kan ten dele ook zichtbaar worden door vaker te onderzoeken hoe menselijke en algoritmische oordelen van elkaar verschillen en deze verschilgevallen diepgaander te beschouwen. Dit biedt overigens geen volledige uitweg want als het algoritme is gebaseerd op menselijke bias zijn beide het steeds eens maar is dat geen garantie voor afwezigheid van bias. Begin met de vraag: waarom AI? Zoals al eerder aangegeven is de ethische beoordeling van een algoritme afhankelijk van welke probleem ermee wordt opgelost.

Dus: waarom wordt de AI ingeschakeld, welk systeem wordt daardoor vervangen, en wat is het doel van het nieuwe systeem? Deze vragen expliciet te beantwoorden is vaak nuttig om te herkennen welke assumpties achter een AI project staan, en deze kritisch te beoordelen. Daarbij lijken twee belangrijke assumpties van het besproken project dat (1) er een groot gevaar van fraude is, en (2) een AI systeem dit kan helpen oplossen. Deze assumpties moeten kritisch tegen het licht worden gehouden.

Bijlagen

15

Op de vraag over het gebruik van een synthetische dataset hebben wij geen antwoord kunnen geven omdat we hierover onvoldoende expertise hebben. We raden aan om te kijken naar het rijke debat over de privacy risico’s verbonden aan synthetic data. Ook de juridische vragen hebben wij niet besproken omdat de juridisch expert van de board door ziekte niet bij deze vergadering aanwezig kon zijn.

16

Bijlagen

Bijlage 4 Afwegingskader Sensoren en AI - Gemeente Rotterdam – 231120 Afwegingskader Sensoren en AI Gemeente Rotterdam 20 november 2023 Op basis van de informatie die de gemeente voor de vergadering van 20 november aan de AAB heeft verstrekt en de toelichting hierop, geeft de AAB aan de gemeente Rotterdam de volgende punten ter overweging mee over het afwegingskader sensoren en AI. 1.

Zorg voor een implementatie van het kader: creëer duidelijkheid over de bestuurlijke verantwoordelijkheid en zorg voor draagvlak in de organisatie. Het beleid is keurig afgestemd en geregeld. Er was een vraag van de gemeenteraad, hier is men ambtelijk mee aan de slag gegaan, en nu is de gemeente akkoord. Dus ambtelijk is het klaar, maar wat gaat er nu gebeuren? Want het is een politiek gevoelig onderwerp, het is nog niet af. Dit document is startpunt van veranderproces. Wat er moet gebeuren als de gemeente er iets mee wil? Er is draagvlak van onderop nodig om hiermee aan de slag te gaan en commitment van bovenaf (wethouder of een vd directeuren) om het af te dwingen. 2. Versterk binnen de organisatie het gevoel van urgentie over ethische afwegingen bij technologiegebruik in de openbare ruimte. Er is een gevoel van urgentie als het gaat over het sociale domein: persoonsgegevens, algoritmes, etc. (denk aan Syri, artikel Rekenkamer, artikel Vers Beton). In het fysieke domein is die urgentie minder groot, wellicht omdat er nog geen schandaal is geweest. Probleembesef moet beter (zie ook punt 1). De propositie over ethisch beleid sensoren in fysieke domein moet sterker. 3. Let op de toonzetting over ethiek: ethiek is fundamenteel en niet iets ‘wat even geregeld moet worden’. Toonzetting van het stuk straalt groot vertrouwen in technologie uit/tech-push.

Bijv., gecharcheerd: “burgers kunnen het gevoel krijgen dat ze in de gaten gehouden moeten worden, maar moeten gerustgesteld”. Wat de boodschap zou moeten zijn is dat de gemeente echt alleen met sensoren aan de slag gaat als het meerwaarde kan opleveren voor burgers, dat ethische risico’s echt serieus worden genomen. 4. Zorg voor aandacht voor het hergebruik van data. Hergebruik van data wordt wel genoemd in het stuk, maar verdient meer aandacht. Het combineren van datasets zonder persoonsgegevens kan leiden tot nieuwe data mét persoonsgegevens. Suggestie: doe sessie op hoger aggregatieniveau om risico’s van datagebruik in kaart te brengen (bijv. CODIO, DEDA of IAMA). Dus niet per casus, maar breder. 5. Let goed op mogelijke persoonlijke data ook bij algemene systemen. Bij gebruik van data en sensoren kunnen door combinaties inzichten in personen worden verkregen. De afzonderlijke datasets – bijvoorbeeld van afvalsensoren – zijn dan niet individueel maar in combinatie met andere sets worden ze dat wel. Daar liggen grote gevoeligheden die goed moeten worden onderkend. 6. Draag bij aan een landelijk sensorregister. Duidelijk is dat hier landelijk beperkte stappen worden genomen. Toch is van belang dat dit er uiteindelijk wel komt. De gemeente Rotterdam kan hierin optrekken met andere overheden. 7.

Voorkomen een lappendeken aan beleid: zorg voor afstemming tussen ruimtelijk gebruik van technologie en algemeen algoritme-governance. Hoe ga je om met afstemming tussen verschillende soorten beleid? Denk aan algoritmeregister en algoritme governance in het algemeen, omgang met data. Advies is om heel scherp te kijken waar je die beleidsterreinen kunt harmoniseren en waar je specifiek naar sensoren moet kijken. Er is afstemming geweest, deze moet doorgaan. 8. Zorg dat medewerkers concreet weten hoe ze kunnen komen tot ethische afwegingen rondom sensoren en AI in de openbare ruimte. Schep meer duidelijkheid over wat je verwacht dat mensen binnen de organisatie gaan doen? Dus biedt goede ondersteuning aan mensen in organisatie om hiermee om te gaan, bijv. via CODIO, DEDA, of andere ethische instrumenten om bewuste ethische keuzes te maken. 9. Zoek naar manieren om toezicht op externe partijen vorm te geven. Over omgang met derde partijen wordt gezegd dat hierop niet te handhaven is. Maar wij denken dat het hier niet bij moet blijven. Zoek daarin samenwerking met anderen, zoals andere gemeenten of op rijksniveau. Maak een opvolgensplan/uitvoeringsplan om de stap te maken van beleid naar praktijk. 10. Zorg voor publieke betrokkenheid bij het opstellen van een afwegingskader.

Lijkt af en toe bewust voor gekozen te worden om hier (sensoren in de stad) niet zoveel aandacht aan te geven richting burgers, maar wij adviseren om burgers wel breder te betrekken. Het Civic AI Lab zou daar bijv. een goede plek voor zijn. Dus met burgers het gesprek voeren over wat gebeurt er nu, op welke wijze en wat vinden we daarvan. 11. Blijf werken in een lerend netwerk met andere lokale en regionale overheden. Leer van andere partijen, bijv. gemeentes Amsterdam, Utrecht, Brabant, etc. Dat is in opstelling van dit document goed gedaan, inmiddels is er van alles gebeurd op verschillende plekken, dus blijf dit doen.

Bijlagen

17

Bijlage 5 SWOT na 1 jaar – 231120 Zelfevaluatie Algoritmeadviesraad Rotterdam, 20 november 2023 Om het eigen functioneren na een jaar te evalueren is gezamenlijk door de leden van de AAR een SWOT-analyse gemaakt. STRENGHTS      

AAR wordt behulpzaam gefaciliteerd, positief over communicatie en informatievoorziening. Mix van disciplines is goed (met kanttekening dat juridisch momenteel mist). Werkwijze is zeer geconcentreerd in tijd maar goed werkbaar en effectief. Mogelijkheid om cutting edge research input te laten hebben in de praktijk. Focus op de casus is heel positief en geeft concreetheid aan de discussies. Over de opvolging van adviezen wordt helder gerapporteerd.

WEAKNESSES      

Afhankelijkheid van personen. De AAB is afhankelijk van wat er wordt aangeleverd: we hebben niet de mogelijkheid om zelf informatie te verzamelen. We hebben lichte constructie en hebben beperkt zicht op wat er gebeurt. We hebben niet altijd zicht op de complexiteit van de organisatie. We zijn gekoppeld met een specifieke directie binnen de gemeente en minder met bredere delen van de organisatie waar de adviezen ook moeten landen. Verbinding met politieke discussies is beperkt.

THREATS      

Door de beperkte tijd en middelen. Als er een keer iets misgaat in de Gemeente Rotterdam, en wij ons betrokken voelen, en we hebben het helemaal gemist. Dat is een groot risico, ook voor de personen in de raad. Er kunnen te hoge verwachtingen zijn, zoals we dat merkten in de gemeenteraad. We kunnen worden gezien als een toezichthouder, wat we niet waar kunnen maken. Ethics-washing is een concrete threat. Onze adviezen komen niet breed genoeg in de organisatie terecht. We worden te laag in de organisatie weggezet waardoor we op strategisch niveau te weinig invloed hebben. Belangenverstrengeling ligt op de loer doordat we ook via allerlei onderzoeken betrokken zijn bij de gemeente.

OPPORTUNITIES     

Bij allerlei Nederlandse overheden zijn er vergelijkbare commissies. Er ligt een kans om te leren over ethische commissies en raden heen. Verbindingen maken tussen verschillende bestuursorganen (lokaal, provinciaal, nationaal). We kunnen samen gaan werken aan nationale onderzoeksprogramma’s rondom het soort vragen en de methodes/bestuursvormen. Koppelingen maken met strategische discussies binnen de gemeente Rotterdam. Als er in het college discussies plaatsvinden, dan kunnen we daar vanuit deze ervaring goed aan bijdragen. De aanlevering van informatie kan verder versterkt en inzichtelijk gemaakt worden, mede op basis van de followup op onze adviezen.

Op basis van de SWOT-analyse hebben we zes adviezen geformuleerd voor een vervolg:

18

Bijlagen

ADVIEZEN VOOR VERVOLG 1. 2. 3.

4. 5.

6.

Veel loopt goed in de werkwijze en doorwerking van de AAR. We moeten zorgen dat we deze sterke punten behouden. In de communicatie binnen en buiten de gemeenten moeten we helder blijven maken dat we in huidige vorm een adviesraad zijn met beperkte mogelijkheden. We moeten zorgen dat we de verwachtingen managen en dat niet het beeld ontstaat dat we een toezichtsorgaan zijn. Dit punt vergt continue aandacht. Er is momenteel een minimale constructie, de tijdsbesteding is beperkt tot minimale voorbereiding en opvolging van de leden. We proberen zoveel mogelijk ter plekke ons advies vorm te geven. We zijn daarin best effectief/productief, maar de vraag is of dit voldoende is (bijvoorbeeld op basis van het rapport van de Rekenkamer). Graag willen we met de gemeente bespreken of dit niet steviger moet zijn. Met meer tijd kunnen we grondiger voorbereiden en kunnen we meer mensen spreken en meer output genereren. Dit punt kunnen we agenderen voor een volgend overleg. De impact kan worden vergroot door nadrukkelijker na te denken over het advies breder in de organisatie en bij het college kan landen. Graag zouden we met de gemeente in gesprek willen gaan over de vraag hoe we bij kunnen dragen aan de strategische besluitvorming. Dit kunnen we ook agenderen voor een volgende vergadering.

We willen graag nadrukkelijker meekrijgen als er grote ontwikkelingen zijn, inclusief gevoelige dossiers (bijvoorbeeld een hete discussie in de gemeenteraad, een publicatie in de media). Dit kan eventueel ook vertrouwelijk. Hierdoor houden we goed zicht op wat er speelt. Graag horen we van de gemeente op welke manier zij kunnen waarborgen dat we hierover voldoende worden geïnformeerd. We kunnen sterkere verbindingen maken met de andere ethische commissies in het land. We zullen hier zelf het komende jaar initiatief in nemen. Dat loopt via de vele contacten die we al hebben. Op een volgend overleg kunnen we dit nader bespreken.

Bijlagen

19