[22bb001555] Collegebrief over implementatie governance rondom algoritmes

Gemeente Rotterdam

Bezoekadres: Stadhuis Coolsingel 40 3011 AD Rotterdam Postadres: Postbus 70012 3000 KP Rotterdam Website: www.rotterdam.nl E-mail: bbo@Rotterdam.nl Inlichtingen: D.Brak Telefoon: 06-13320898 Portefeuillehouder A.H.F. van Gīls

Aan de Gemeenteraad

Cluster: BCO Ons kenmerk: 22bbiG55 Datum: B&W 15 februari 2022 Betreft: Stand van zaken algoritmes

Onderwerp: Stand van zaken governance rondom de toepassing van algoritmes Op welke gronden deze briefî/Waarom nu voorgelegd? Afgelopen september heeft in uw raad een debat plaatsgevonden over de voorstellen die ons college heeft gedaan met betrekking tot de implementatie van een governance rondom het werken met algoritmes. Met de voorliggende brief worat uw raad geïnformeerd over de stand van zaken. Relatie met het coalitieakkoord/collegewerkprogramma/begroting/eerder aangenomen moties en gedane toezeggingen: Bij het debat op 29 september zijn de volgende moties aangenomen: * * * * * * *

Algoritmes begrijpelijk voor ambtenaren 21bb12335 J.P. Postma (GroenLinks) Democracy is watching Big Brother 21bb12344 C.M. Zeegers (D66) Algoritme ã Ethiek functionaris 21 bb12353 B. van Noppen (NIDA) Gemotiveerd en gebalanceerd algoritme gebruik 21bb12354 B. van Noppen (NIDA) Digital non-harm 21bb12337 A. van Zevenbergen (SP) Vreemde ogen dwingen 21bb12339 C.M. Zeegers (D66) Proactief over algoritmes communiceren naar burgers 21bb12359 J.P. Postma (GroenLinks)

Verder zijn de volgende toezeggingen gedaan: » *

Communicatie over algoritmen 21 bb12002 Toetsing van algoritmen 21 bb12003

Blad:

2/11

Toelichting: Vorig jaar hebben we in onze brief van 7 september (21bb10819) uiteengezet hoe en waarom we gebruik maken van algoritmes bij de ontwikkeling en uitvoering van ons beleid en onze dienstverlening. Daarbij hebben we ook toegelicht op welke wijze en op basis van welke uitgangspunten we een governance inrichten die waarborgt dat daarbij de vereiste zorgvuldigheid in acht wordt genomen en dat het belang van de Rotterdammer altijd voorop staat. De menselijke maat en de uitgangspunten zoals opgenomen in de Code Goed Digitaal Openbaar Bestuur, waarin is opgenomen welke waarden relevant zijn bij digitalisering voor het openbaar bestuur en waarop burgers overheidsorganisaties kunnen aanspreken, zijn leidende principes voor ons. Daarom zijn we transparant over de manier waarop we gegevens en informatie ven/verken in onze systemen en gebruiken bij het nemen van besluiten. Inmiddels is op landelijk niveau een regeerakkoord gesloten en een nieuw kabinet geïnstalleerd. In het regeerakkoord is ook een aantal voornemens opgenomen met betrekking tot het toepassen van de menselijke maat, transparantie en het belang daarvan voor het vertrouwen van de burger in de democratische instituties en daarmee de overheid. Het toezicht op de toepassing van algoritmes waarbij ook persoonsgegevens worden gebruikt wordt op landelijk niveau bij de Autoriteit Persoonsgegevens belegd.

In ons voortgangsbericht uit december (21bb16558) hebben we al aangegeven dat de door ons ingezette acties hiermee in lijn zijn. Datzelfde geldt voor de wet- en regelgeving waaraan op Europees niveau gewerkt wordt: de Europese Commissie heeft een verordening in voorbereiding die strenge eisen stelt aan de inzet van Al en algoritmes, waaronder ook de transparantieverplichting. Onze uitwerking is ook hiermee in lijn en wij hebben ons daarbij gebaseerd op de risicobenadering conform het Europese classificatiemodel, maar een iets bredere insteek gekozen (zie ook de toelichting daarop in onze brief uit september 2021). Stand van zaken implementatie governance Zoals hiervoor aangegeven, is transparantie voor ons een belangrijk uitgangspunt bij de inzet van algoritmes. We willen en moeten open zijn over wat we doen in relatie tot de doelen die we willen bereiken als gemeentelijke overheid. Dit hebben we doorvertaald in de governance die nu wordt geïmplementeerd, met als doei dat voor de Rotterdammer inzichtelijk is welke technologie we inzetten, welke keuzes daarbij worden gemaakt, welke waarden daaraan ten grondslag liggen en op basis van welke informatie beslissingen worden genomen en hoe de werking is en hoe het toezicht erop is ingericht. In de paragrafen hierna geven we aan wat inmiddels gerealiseerd is, wat nog loopt en wat de komende tijd nog in de planning staat. 1.

Gerealiseerd 1.1 Inventarisatie hoog-risico algoritmes Om een beeld te krijgen van de algoritmes die bij de gemeente in gebruik zijn, is een inventarisatie uitgevoerd. Voor de geïdentificeerde algoritmes waarvan het vermoeden bestaat dat deze in de hoog-risico categorie vallen, is een Algoritme

Blad:

3/11

Risico Assessment (ARA) uitgevoerd (zie voor een toelichting hierop de raadsbrief uit september 2021 21bb10819). Voor de algoritmes die op basis van deze ARA inderdaad in de categorie hoog-risico vallen, wordt vervolgens een Algoritme Impact Assessment (AIA) uitgevoerd met relevante stakeholders vanuit ethiek, privacy, security, techniek en beleidsontwikkeling en -uitvoering. Dit gebeurt door via een aantal vaste stappen te komen tot een verdiepende analyse van de werking van het algoritme, de data die wordt verwerkt, de ethische aspecten die ermee samenhangen en daarmee ook de mogelijke impact op burgers. Zie voor een uitgebreidere toelichting op deze werkwijze paragraaf 2.3. De geïdentificeerde hoog-risico algoritmes komen ook in het algoritmeregister te staan. 1.2 Algoritmeregister opgezet en gevuld met de hoog-risico algoritmes Een belangrijk middel om de door ons gewenste transparantie te realiseren is door het bijhouden en openbaar maken van een Algoritmeregister. Dit past in onze ambitie om een ‘Open Overheid’ te zijn. Sinds januari 2022 is het algoritmeregister van de gemeente Rotterdam online geplaatst en te vinden op www.rotterdam.nl/alqoritmeregister. In dit register is voor de hoog-risico algoritmes de volgende informatie opgenomen: -

Een omschrijving van de algoritmetoepassing aan de hand van het onderscheid tussen gegevens, algoritme, resultaat en impact.

-

Een omschrijving van de precieze risico’s aan de hand van het onderscheid tussen gegevens, algoritme, resultaat en impact (een verdieping van de ARA).

-

Een overzicht van beheersmaatregelen op basis van de risico’s.

-

Een planning van de maatregelen.

In het register zijn de algoritmes opgenomen die naar voren zijn gekomen als hoogrisico algoritme uit een eerste analyse van de algoritmes die in gebruik zijn bij de gemeente (zie 1.1). Op dit moment wordt een uitgebreidere analyse gedaan en worden voor de geïdentificeerde hoog-risico-algoritmes uitgebreidere impact assessments uitgevoerd (lAMA’s, dit wordt verderop in deze brief toegelicht). Het register bevat momenteel de volgende algoritmes: * « « »

Parkeercontrole RAM 8i WAT-kaart I Aardgasvrij SpotRotterdam Het algoritme dat werd gebruikt bij de heronderzoeken van W&l is ook opgenomen in het register. Zoals eerder per wethoudersbrief (21bb3025) aan uw raad gemeld, wordt dit algoritme op dit moment niet gebruikt en wordt uw raad nog nader geïnformeerd over het vervolg.

Blad:

4/11

Het register is dynamisch en dat betekent dat de opgenomen informatie door de proceseigenaren bii de clusters wordt bijgewerkt en informatie over nieuwe algoritmes wordt aangevuld. Dat geldt ook voor de functionaliteit van de website: binnen de kaders (bijvoorbeeld de landelijke standaard die in ontwikkeling is) en op basis van gebruikerservaringen kan deze nog worden aangepast. Daarbij maken wij wel graag de kanttekening dat het algoritmeregister ‘onder de motorkap’ al is voorbereid op aansluiting op een landelijk register dat in voorbereiding is. Doordat de gemeente Rotterdam nu een openbaar algoritmeregister heeft, wordt voorzien in een nadrukkelijke wens van de gemeenteraad en wordt tevens voorgesorteerd op een landelijke (en waarschijnlijk ook Europese) verplichting die er komt om in ieder geval de algoritmes uit de categorie hoog-risico op te nemen in een openbaar register. In oktober is in de Tweede Kamer ook een motie aangenomen waarmee de regering verzocht wordt om een algoritmeregister voor overheden verplicht te stellen. Met het algoritmeregister zoals we dat nu hebben ingericht voorzien wij in deze verplichting. Wij verwachten dat het algoritmeregister bijdraagt aan onze wens om verantwoording af te leggen over de afwegingen die gemaakt worden bij algoritmische besluitvorming en de gevolgen die deze kunnen hebben voor burgers (impact).

Uw raad wordt overigens dit voorjaar separaat geïnformeerd over het beleid met betrekking tot sensoren inclusief de eventuele komst van een sensorenregister. Omdat wij met het ontwerp en de invulling van het algoritmeregister al rekening (moeten) houden met het format en de vereisten van de landelijke standaard, is er namelijk voor gekozen om dit vooralsnog te ontkoppelen van de besluitvorming en de inrichting van een eventueel sensorerenregister. 2. Realisatie komende maanden 2.1 Aígoritme Expert Door uw raad is gevraagd om de functie van Algoritme-expert te realiseren. Dit zal de gemeentelijke specialist zijn op het gebied van algoritmes en ook de eerste inhoudelijke sparringpartner voor de externe adviesraad (zie 2.2). Zoals in ons voortgangsbericht uit december 2021 door ons gemeld, is de profielschets gereed en inmiddels loopt de werving. Wij verwachten dat de positie op korte termijn (uiterlijk maart) ingevuld zal zijn. Deze expert wordt gepositioneerd bij het cluster BCO en zal in ieder geval de volgende opdrachten meekrijgen: * « * *

* *

Interne adviseur voor de organisatie en bestuur op het gebied van vraagstukken over algoritmes. Eerste aanspreekpunt en sparringpartner voor de externe adviesraad. Input leveren voor en ondersteunen bij de uitvoering van lAMA’s. ‘Systeemverantwoordelijk’ voor het algoritmeregister (zoals eerder in deze brief aangegeven is de verantwoordelijkheid voor de Ínhoud bij de proceseigenaren belegd). Intern verantwoordelijk voor de dóórontwikkeling van de governance en compliance. Ondersteunen en adviseren van de proceseigenaren.

Blad:

5/11

*

«

Volgen van relevante landelijke, Europese en maatschappelijke ontwikkelingen en best-practices en de doorwerking daarvan borgen in de gemeentelijke werkprocessen en systemen. Het organiseren en faciliteren van een awarenesstraject zal ook een belangrijk ondetdeeLzijn van het werkpakket van de algoritme-expert.------------------------------

2.2 Algoritme Adviesraad Een belangrijk onderdeel in de governance is de instelling van een externe adviesraad in de vorm van een Algoritme Adviesraad (hierna: adviesraad). Doel van de adviesraad is om de gemeentelijke organisatie scherp te houden bij de ontwikkeling en het gebruik van algoritmes. De afgelopen maanden hebben we, binnen de kaders zoals eerder met uw raad gedeeld (21 bb10819), een nadere uitwerking gemaakt van de wijze waarop deze adviesraad gepositioneerd kan worden en de bijbehorende werkwijze We hebben daarvoor ook gekeken hoe dit elders is ingevuld. Wij zien de vormgeving van de adviesraad als volgt: * *

* * *

De adviesraad is een externe commissie en wordt door het college ingesteld. De leden worden door het college benoemd voor een nader te bepalen termijn. De adviesraad rapporteert en adviseert gevraagd en ongevraagd over (de inzet van) technologische innovaties en digitale middelen en in het bijzonder over vraagstukken waarbij Al/algoritmes worden ingezet en die ook persoonsgegevens verwerken. De vergaderingen van de commissie zijn niet openbaar. De adviezen/rapportages worden openbaar nadat deze door het college van een reactie zijn voorzien. De adviesraad maakt in ieder geval elk jaar een jaarverslag dat, voorzien van een collegereactie, ook met de raad zal worden gedeeld. De adviesraad zal zich in ieder geval richten op analyses van (een selectie van) algoritmetoepassingen die binnen de gemeente worden gebruikt en daarbij onder meer controleren: 1. of de governanceprocessen zijn gevolgd; 2. wat de kwaliteit van de uitgevoerde ARA’s en AlA’s I lAMA’s is, inclusief de vraag of nog steeds de juiste vragen I checks onderdeel zijn van dit proces; 3. in hoeverre er witte vlekken zijn en wat er aan de governanceprocessen moet worden aangepast. Daarbij zal ook de betrokkenheid van relevante externe stakeholders worden meegewogen.

*

In verband met de complexiteit van de onderwerpen en toekomstige vraagstukken, zal de voorzitter van de adviesraad een ervaren expert moeten zijn op het gebied van technologie, digitalisering bij de overheid, innovatie en ethische vraagstukken en daarnaast ervaring moeten hebben in het voorzitten/aansturen van dit soort gremia.

Blad:

6/11

*

*

*

De leden zullen meer specialistische profielen (kunnen) hebben omdat veel van de gevraagde expertise zich slechts zelden in 1 persoon verenigt. Concreet gaat het om met deze reden gezamenlijk beschikken over de volgende expertises: kunstmatige intelligentie, toegepaste ethiek, filosofie en juridische en bestuurskundige expertise. Bredere kennis van informatiebeleid/digitalisering strekt tot aanbeveling. Als een voorgelegd vraagstuk meer expertise vraagt dan aanwezig is in de commissie, dan kunnen op verzoek van de commissie één of meerdere tijdelijke leden worden benoemd. De adviesraad kan zich behalve met informatie uit de ambtelijke organisatie ook voeden met signalen vanuit bijvoorbeeld de gemeentelijke Ombudsman, de Algemene Bezwaarschriftencommissie of andere bronnen. De vergaderingen van de adviesraad worden voorbereid door de voorzitter, de (ambtelijke) secretaris en de (ambtelijke) Algoritme Expert. De secretaris is ook verantwoordelijk voor de verslaglegging.

Qua vervolgproces is ons idee om eerst een voorzitter te werven en met deze persoon vervolgens de adviesraad verder vorm te geven en pas daarna de overige leden te benaderen. Inmiddels is hiervoor een kandidaat in beeld en worden met deze kandidaat op dit moment (binnen de geschetste kaders) afspraken gemaakt over de precieze vormgeving en invulling van de adviesraad. Nadat het college tot benoeming van de voltallige adviesraad is overgegaan zal uw raad hierover vanzelfsprekend geïnformeerd worden. Nu in principe een voorzitter is gevonden die past in het gewenste profiel is onze verwachting dat snel stappen kunnen worden gezet voor de verdere invulling van de adviesraad en de formele installatie daarvan. 2.3 Uitvoeren lAMA’s voor de categorie Hoog-risico algoritmes Op grond van de eerste ervaringen met de AIA hebben wij besloten om hierbij in principe gebruik te gaan maken van een methodiek die in opdracht van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties is ontwikkeld door de Universiteit van Utrecht, het Impact Assessment Mensenrechten en Algoritmes (IAMA)1. Met behulp van de IAMA kan een afgewogen discussie gevoerd worden tussen de relevante partijen bij de afweging om wel of niet een algoritmische toepassing te gaan ontwikkelen en vervolgens ook over de wijze waarop het algoritme gaat werken.

Het is daarmee een verplicht onderdeel van de ontwikkeling en implementatie: het IAMA helpt om de gekozen ontwikkeling en imolementatie op een verantwoorde wijze te doen doordat verbanden worden gelegd met relevante regels, instrumenten en toetskaders op het gebied van algoritmes. Het geeft daarmee antwoord op de vraag of de risico’s opwegen tegen het doel waarvoor het hoog-risico algoritme eventueel gaat worden ingezet en welke beheersmaatregelen of aanpassingen in het algoritme mogelijk zijn.

1 Impact Assessment Mensenrechten en Algoritmes I Rapport I Riiksoverheid.nl

Blad:

7/11

De methodiek met behulp van het IAMA is op hoofdlijnen als volgt * *

*

Het IAMA geeft een overzicht aan vragen die, wanneer zij worden besproken, kunnen leiden tot een afgewogen discussie over de inzet van een algoritme. Het IAMA is opgedeeld in vier delen. De eerste drie delen bevatten vragen die passen bij drie verschillende fasen, gericht op de voorbereiding, ontwikkeling en implementatie en toezicht. Het vierde deel staat los van deze fasering en is volledig gericht op de impact op mensenrechten. Op basis van het IAMA wordt een beslissing genomen over of de algoritmetoepassing verantwoord is, wat de risico’s zijn en welke beheersmaatregelen nodig zijn. Deze beheersmaatregelen worden vastgelegd in het Algoritmeregister.

Qua checks en balances zijn in de ambtelijke organisatie de verantwoordelijkheid voor 'het systeem’ en voor de ínhoud gescheiden, waarbij de verantwoordelijkheid voor de ínhoud bij de proceseigenaar is belegd. Dit vinden wij van essentieel belang omdat deze proceseigenaren uiteindelijk (ambtelijk} verantwoordelijk zijn voor de inzet van algoritmes, die informatie die verwerkt wordt en voor de wijze waarop de uitkomsten gebruikt worden in hun werkproces. De werkwijze met de IAMA ‘dwingt’ hen om de werking van het algoritme en de wijze waarop informatie wordt verwerkt expliciet te maken. Doordat de proceseigenaren een belangrijke rol hebben bij de IAMA leidt dit tot een groter bewustzijn bij hen. De 'AMA’s worden normaal gesproken gedaan voordat een algoritme in georuik wordt genomen, maar worden nu met terugwerkende kracht voor de algoritmes uitgevoerd die reeds in gebruik zijn. De lAMA’s leveren zo ook de informatie op die nodig is om het algoritmeregister te vullen. Betrokkenheid externe stakeholders bij het IAMA Uw raad heeft bij motie ons college verzocht om ook relevante externe stakeholders (zoals bijvoorbeeld een cliëntenraad) te betrekken bij de ontwikkeling van algoritmes.

Omdat het IAMA een proces is, waarbij op basis van een dialoog tussen professionals die werken aan de ontwikkeling of de inzet van een algoritmisch systeem gekomen wordt tot resultaten, stellen wij voor om relevante externe stakeholders te betrekken bij het lAMA-oroces Omdat de opdrachtgever (en proceseigenaar) verantwoordelijk is voor het (laten) uitvoeren van het IAMA, is ook hij/zij verantwoordelijk voor het betrekken van een relevante en representatieve vertegenwoordiger(s) van de doelgroep die te maken (kan) krijgen met de uitkomsten van het algoritme. Als college hechten wij er sterk aan de factor ‘representativiteit’ Daarom zullen in principe zoveel mogelijk 'institutionele’ vertegenwoordigers worden betrokken, zoals cliëntenraden of gebruikerspanels. Per algoritme en dus per uit te voeren IAMA zal dit maatwerk zijn. omdat, zoals de eerste inventarisatie voor het algoritmeregister al laat zien, de domeinen en het soort algoritme sterk variëren. Op deze manier hopen wij te borgen dat alle relevante aandachtspunten en stakeholders bij de inzet van algoritmes tijdig en gestructureerd aan bod komen. Ook wordt zo voorkomen dat algoritmes gebruikt worden waarvan de consequenties niet duidelijk zijn en worden de risico’s op onzorgvuldigheid, ineffectiviteit of inbreuken op de rechten van burgers geminimaliseerd.

Blad:

8/11

Overigens benadrukken wij hierbij nogmaals hetgeen wij ook in onze eerdere brief expliciet hebben gemarkeerd, namelijk dat computers en algoritmes geen eigenstandige beslissingen nemen. Ons uitgangspunt is dat altijd een menselijke toets onderdeel is van het werkproces waarin het algoritme wordt ingezet. 3. Moties en toezeggingen Zoals in de inleiding van deze brief al is aangegeven zijn in 2021 verschillende moties aangenomen en toezeggingen gedaan die betrekking hebben op het werken met algoritmes. Met de in de voorliggende brief geschetste aanpak hebben wij het vertrouwen dat wij in lijn met onze eerder geformuleerde zienswijze op het werken met algoritmes, de gewenste transparantie, oog voor de menselijke maat en het inbouwen van checks en balances in het proces een governance hebben ‘staan’ die ook voldoet aan de door de raad gewenste standaarden. De verschillende opdrachten uit de moties zijn in de voorgaande tekst verwerkt, maar wij zullen de belangrijkste elementen hierna langslopen: *

Algoritmes begrijpelijk voor ambtenaren 21bb12335 J.P. Postma (GroenLinks) Verzoekt het college te borgen dat ambtenaren aie werken met hoog-risico algoritmen begrijpen op basis waarvan een algoritme tot een advies of besluit is gekomen en geen niet-uitlegbare hoog-risico algoritmen te gebruiken. Reactie: met deze motie heeft uw raad verzocht om een traject te starten om de medewerkers die met (de resultaten van) algoritmes werken bewust te maken van de logica en de werking van algoritmes, de ethische aandachtspunten en de wijze waarop deze resultaten worden omgezet in besluiten of adviezen. Op deze wijze zal het bewustzijn moeten worden versterkt dat niet procedures, regels en machines leidend zijn, maar altijd het belang van de Rotterdammer voorop moet staan. Het organiseren en faciliteren van een intern awarenesstraject is één van de taken voor de nieuwe Algoritme Expert. Ook zal het deelnemen aan sessies in het kader van een IAMA bijdragen aan het begrip van de werking van een algoritme. De vraag of (de werking van) een algoritme uitlegbaar is, is expliciet onderdeel van de ARA.

»

Democracy is watching big brother 21bb12344 C.M. Zeegers (D66) Verzoekt het College onder andere de verslagen van de Algorithm Advisory Board direct na vaststelling naar de Raad te doen komen en de rekenkamer een vervolgonderzoek te laten doen. Reactie: zoals in de voorliggende brief geschetst wordt op dit moment de precieze invulling van de Algoritme Adviesraad uitgewerkt in samenspraak met de beoogd voorzitter. Daarbij is het uitgangspunt dat de Adviesraad in ieder geval jaarlijks een verslag aan de raad zal doen toekomen. Dit verslag zal altijd zijn voorzien van een reflectie door het college. De Rekenkamer heeft een vervolgonderzoek naar het werken met algoritmes in haar jaarplanning voor 2022 opgenomen.

Blad: 9/11

»

Algoritme â Ethiek functionaris 21bb12353 B. van Noppen (NIDA) Verzoekt het college een algoritme 8t ethiek functionaris aan te stellen die continue toezicht moet houden op de algoritmes en het gebruik daarvan. Daarnaast wordt het college verzocht alle algoritmen waarvan onbekend is of ze ethische principes schenden of wat de gevolgen zijn te stoppen tot deze functionaris van deze algoritmen een beeld heeft geschetst. Reactie: zoals in de brief is geschetst wordt op dit moment een Algoritme Expert geworven voor precies dit doel. Onze inventarisatie van de algoritmes heeft geen algoritmes oogeleverd die ethische principes schenden.

*

Gemotiveerd en gebalanceerd algoritme gebruik 21bb12354 B. van Noppen (NIDA) Verzoekt het college om het algoritmeregister uit te breiden met een motivatie en belangenafweging. Reactie: het algoritmeregister zoals nu is ontsloten wordt nog verder ontwikkeld en uitgebouwd in lijn met de landelijke afspraken en (eventuele toekomstige) verplichtingen die er zullen komen voor wat betreft de soort informatie die erin wordt opgenomen. De door u gevraagde informatie zal daar ook onderdeel van uitmaken (en afkomstig zijn uit de lAMA-sessies).

»

Digital non-harm 21bb12337 A. van Zevenbergen (SP) Roept het college op te verzekeren dat burgers op geen enkele manier mogen worden geschaad via digitale wegen en dit te borgen in de dienstverlening naar de burger middels beroepsregels voor ambtenaren. Reactie: wij onderschrijven dat burgers op geen enkele manier mogen worden geschaad via digitale wegen. Dit hebben wij ook in onze brief uit september 2021 (21bb10819) aangegeven: de menselijke maat en de uitgangspunten zoals opgenomen in Code Goed Digitaal Openbaar Bestuur, waarin opgenomen is welke waarden relevant zijn bij digitalisering voor het openbaar bestuur en waarop burgers overheidsorganisaties kunnen aanspreken, zijn leidende principes voor ons.

*

Vreemde ogen dwingen 21bb12339 C.M. Zeegers (D66) Verzoekt het college te borgen dat bestaande structuren zoals cliëntenraden worden betrokken bij de ARA’s. Reactie: bij de beschrijving van de ARA en de IAMA hebben we in de voorliggende brief geschetst hoe we deze betrokkenheid invulling willen geven. Zoals aangegeven dit zal per algoritme maatwerk zijn, aangezien zowel het (beieids)domein, het doel van het algoritme en het type informatie dat veiwerkt wordt met behulp van het algoritme vaak zal variëren en dus ook per algoritme om een specifieke betrokkenheid van stakeholders uit de maatschappij vraagt. Daarbij

Blad:

10/11

zullen we steeds een relevante en representatieve (en idealiter ook geïnstitutionaliseerde) afvaardiging betrekken bij de IAMA’s.

*

Proactief over algoritmes communiceren naar burgers 21bb12359 J.P. Postma (GroenLinks) Verzoekt het College burgers proactief te informeren wanneer een hen treffend besluit berust op een hoog-risico algoritme en hierbij in begrijpelijke taal de werking van het algoritme uit te leggen. Reactie: Bij het gebruik van algoritmes is het op grond van het motiveringsbeginsel een voorwaarde om transparant te zijn. Er zijn een aantal zaken welke openbaar gemaakt moeten worden. Denk hierbij aan de gebruikte gegevens en de gemaakte keuzes. Om deze reden is het algoritmeregister in gebruik genomen. In het algoritmeregister wordt in begrijpelijke taal de werking van het algoritme uitgelegd.

Toezeggingen: *

Communicatie over algoritmen 21bb12002 (16-9-2021) De wethouder zegt toe om de communicatie over algoritmen o.a. op de website voor de burger zo toegankelijk mogelijk te maken Reactie: hierin is voorzien met de publicatie van het algoritmeregister.

»

Toetsing van algoritmen 21 bb12003 De wethouder zegt toe bij de toetsing van algoritmen ook mensen met een 'andere bril’ mee te laten kijken Reactie: hierin is voorzien in de procesinrichting van de IAMA. Zie ook de toelichting bij motie 21 bb 12339 hiervoor.

Vervolgstappen Zoals hiervoor geschetst is een aantal onderdelen van de governance inmiddels gerealiseerd (algoritmeregister, inventarisatie hoog-risico algoritmes) en worden de komende maanden de openstaande punten afgerond (installatie adviesraad, benoeming algoritme-expert, uitvoering lAMA’s, afronding implementatie werkprocessen). Dit zal naar verwachting dit voorjaar afgerond zijn. Ons voorstel is daarom om uiterlijk in mei uw raad te informeren over de definitieve inrichting en implementatie van de governance, inclusief de installatie en samenstelling van de externe adviesraad. Overigens heeft de Rekenkamer in haar jaarplanning een vervolgonderzoek naar het werken met algoritmes opgenomen. De uitkomst daarvan vormt een goed ijkmoment voor de robuustheid van de governance zoals deze nu ingeregeld wordt.

Blad:

__

11/11

Financiële en juridische consequenties/aspecten: De in de voorliggende brief geschetste aanpak en instrumenten kunnen in beginsel worden ingepast in de huidige begroting. Afhankelijk van de ontwikkelingen, bijvoorbeeld op technologisch gebied, en nieuwe vereisten vanuit wet- en regelgeving en/of adviezen van bijvoorbeeld de Algoritme Adviesraad, kan het zo zijn dat in de toekomst meer of andere inzet en/of capaciteit nodig is.

Burgemeester en Wethouders van Rotterdam, De seņ/etaris,

De burgej

ioutaleb