Bijlage 3 Toelichting aanbevelingen A24.000666

Bijlage bij de aanbevelingen: nuttige adviezen en tips De Groene Hart Rekenkamer ontving van de onderzoekers nuttige algemene adviezen en tips die binnen elk van de onderzochte gemeenten toegepast zouden kunnen worden. Deze adviezen en tips kunnen gelezen worden als een uitwerking van de aanbevelingen die de rekenkamer doet. De rekenkamer heeft er echter bewust voor gekozen deze adviezen en tips in een bijlage – en niet als officiële aanbeveling – te publiceren, omdat de rekenkamer niet op de stoel van de dagelijks bestuurders of zelfs directie wil gaan zitten. Tegelijkertijd willen we u de op zichzelf nuttige informatie niet onthouden. Algemene conclusies en aanbevelingen die voor alle vier de gemeenten gelden die aan de Groene Hart Rekenkamer deelnemen

 Tijdelijke expertcommissie algoritmes: stel (bijvoorbeeld gezamenlijk met de andere drie bij de Groene Hart Rekenkamer aangesloten gemeenten) een tijdelijke expertcommissie voor algoritmes in die in 2024-2025 aan de slag gaat met: - Vaststelling van een normenkader: er dient een normenkader vastgesteld te worden dat aangeeft waar gemeentes aan moeten voldoen bij de besluitvorming en toezicht op algoritmes. Hierbij kan gebruik gemaakt worden van het werk van o.a. de Algemene Rekenkamer op dit gebied1. - Interne inventarisatie algoritmes: een inventarisatie van algoritmes die op dit moment al gebruikt worden en documenteer deze in lijn met het nationale algoritmeregister. - Screening en borging algoritmes in inkoopbeleid: geef kaders voor hoe algoritmes meegenomen moeten worden in toekomstige inkoopprocedures en het periodieke overleg met eenmaal gecontracteerde leveranciers. Tijdens marktconsultaties in voorbereiding op inkoop, maar ook tijdens periodieke (jaarlijkse) overleggen met eenmaal gecontracteerde leveranciers kunnen zij gevraagd worden te expliciteren welke en op welke wijze algoritmes verwerkt zijn in het aangeboden product of dienst en hoe deze voldoen aan ethische kaders en eisen. Hiervoor kan aangesloten worden bij initiatieven hiervoor vanuit de VNG en gebruikersraden rondom grote gemeentelijke software (bijv.

van Centric, PinkRoccade, etc.) en instrumenten zoals IAMA (Impact Assessment Mensenrechten en Algoritmes). - Instrumentarium voor periodieke kwaliteitscontrole: een praktisch raamwerk voor de betreffende ambtelijke teams voor periodieke toetsing van de uitkomsten en uitwerking van algoritmes, rapportages hierover, en de wijze van het trekken en gebruiken van lering hieruit. - Betrek ambtenaren, gemeenteraadsleden en leveranciers om de kennis te borgen: ambtenaren, gemeenteraadsleden en leveranciers zullen actief betrokken moeten worden bij de activiteiten van de tijdelijke expertcommissie, om de tussentijdse inzichten te valideren en om toepassing van adviezen in de eigen organisaties te stimuleren. Ook kan gedacht worden aan tussentijdse intergemeenteljjke peer review workshops.

Als de betrokken gemeenteraden en colleges van B&W erin slagen de voorgestelde activiteiten te ondernemen, verschaft dit de kaders en geeft dit een impuls voor initiatieven 1

https://www.rekenkamer.nl/onderwerpen/algoritmes-digitaaltoetsingskader/documenten/publicaties/2021/01/28/download-het-toetsingskader

van ambtelijke teams, waarvoor wij in de volgende sectie een aantal aanbevelingen aandragen. Wij realiseren ons terdege dat de beschikbare werkruimte en speelruimte van ambtelijke teams vaak (zeer) beperkt is. Wij richten daarom de aandacht met name op de signalerende en mobiliserende activiteiten van ambtelijke teams: d.w.z. om binnen hun teams en waar nodig andere teams te signaleren dat er sprake is van kansen voor verantwoord gebruik van algoritmes en vervolgens hen te mobiliseren om daarmee conform de inmiddels ontwikkelde richtlijnen en kennis aan de slag te gaan.

Ambtelijke organisatie – signaleren en mobiliseren  Zorg voor een centraal aanspreekpunt voor algoritmes: iemand binnen de ambtelijke organisatie zal een coördinerende rol moeten spelen in hoe de gemeente omgaat met algoritmes. In veel gemeenten is er al sprake van iemand die een voortrekkersrol hierin speelt, al is het goed om dit te formaliseren zodat er eigenaarschap is voor hoe de gemeente met algoritmes omgaat en toeziet op de implementatie van de aanbevelingen.  Volg actief de (landelijke) ontwikkelingen en werk samen waar mogelijk: algoritmes en de omgang hiermee is een complex onderwerp waarop de ontwikkelen elkaar snel opvolgen. Daarom is het raadzaam om actief de discussies te volgen die er spelen op dit onderwerp binnen de VNG en andere platformen. Kaart het aan wanneer er vanuit de gemeente behoefte is aan regie door het ministerie van Binnenlandse Zaken of VNG op onderwerpen zoals verbeterde en gestandaardiseerde verantwoording over algoritmes vanuit leveranciers. Daarnaast kan ook direct contact gezocht worden met andere gemeentes om elkaar te helpen.

 Instrueer ambtenaren over de te volgen procedures voor algoritmegebruik: zorg ervoor en schep de voorwaarden ervoor dat ambtenaren kennis hebben van hoe algoritmes meegenomen dienen te worden in inkoopprocedures en werkprocessen, en de wijze waarop regelmatige controles plaats dienen te vinden – het vier ogen principe blijft onverkort van kracht, een algoritme is een extra paar ogen, niet de vervanging ervan.  Wees expliciet over waarom er wel of geen DPIA2 wordt ingezet: niet voor elke inzet van een algoritme zal er een DPIA uitgevoerd hoeven worden, maar maak duidelijk waarom de gemeente wel of geen DPIA inzet. Registreer besluiten daartoe met motivatie waarom de gemeente wel of geen DPIA uitvoert en maak dit onderdeel van periodieke rapportages aan B&W.  Verzorg een periodieke doorlichting van de gebruikte algoritmes: voer periodiek (jaarlijks) een quick scan uit aan de hand van het hiervoor aanbevolen raamwerk, waarbij er gereflecteerd wordt op de gebruikservaringen, de toegevoegde waarde in relatie tot de kosten en veranderingen binnen de usecase, het algoritme of onderliggende data. Heroverweeg op basis daarvan de toekomstige inzet van het algoritme. Leg met gecontracteerde partijen, en met partijen zoals de politie en brandweer, vast dat zij eveneens jaarlijks een vergelijkbare quickscan uitvoeren en hierover rapporteren aan de gemeente.

Poog daarbij ook het geheel van algoritmes te overzien, en de impact daarvan op de kwaliteit van de dienstverlening aan de burger. Als onderdeel hiervan zullen de gemeentes de financiële risico verbonden aan de inzet van een algoritme moeten proberen te kwantificeren.

2

Data Protection Impact Assesment

 Controleer in hoeverre ambtenaren procedures volgen: de gemeente zal periodiek moeten inventariseren in hoeverre nieuwe procedures omtrent algoritmes gemeentebreed bekend zijn en worden gevolgd.