Advies digitale ethische commissie casus algoritmeregister
Tekst van het document
Van
Adviescommissie Digitale Ethiek
Aan
College van Burgemeester en Wethouders
Onderwerp
Advies casus Algoritmeregister
Datum
20 februari 2024
Commissieleden contact@ade-nijmegen.nl C. Coenen B.E. van Gastel R. van Onna B. Smit Ambtelijk secretaris a.derkse@nijmegen.nl A. Derkse
Adviescommissie Digitale Ethiek
Advies casus Algoritmeregister 20 februari 2024
1
Adviescommissie Digitale Ethiek
Advies casus Algoritmeregister 20 februari 2024
Advies Bij de Gemeente Nijmegen wordt gewerkt aan de totstandkoming van een algoritmeregister. In afwachting van aankomende nationale en Europese wet- en regelgeving publiceren steeds meer Nederlandse overheidsorganisaties de algoritmes die zij voor hun werkzaamheden gebruiken. Dit kan in het landelijke Algoritmeregister dat eind 2022 door het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties is gelanceerd, en/of in een eigen register. In de ambtelijke memo “Advies gebruik algoritmeregister” van de gemeente Nijmegen1 wordt voorgesteld algoritmes eerst op te nemen in een eigen register, en vervolgens te publiceren in het landelijke Algoritmeregister. Een belangrijk punt van aandacht is de betrokkenheid van inwoners bij de totstandkoming van dit register. In tegenstelling tot bijvoorbeeld het algoritmeregister van de Gemeente Amsterdam worden inwoners van Nijmegen niet actief betrokken. Dit roept vragen op over het fundamentele doel van het register: is het vooral gericht op de werkzaamheden van interne stakeholders van de gemeente (bijvoorbeeld voor controle en risicobewustzijn), of dient het de belangen van de inwoners voldoende (bijvoorbeeld door transparantie en aanvechtbaarheid)? Een ander cruciale waarde is inclusiviteit van het algoritmeregister. Het moet begrijpelijk zijn voor een breed publiek, bij voorkeur op B1-niveau, zodat alle inwoners het kunnen begrijpen.
Dit draagt bij aan transparantie en betrokkenheid van de samenleving. Verder wordt benadrukt dat het register gebruiksvriendelijk moet zijn en gemakkelijk toegankelijk voor inwoners. Dit vereist voor inwoners een logische indeling, structuur en duidelijke verwijzingen naar relevante informatie. Het is de commissie niet duidelijk of de gemeente hier voldoende over nagedacht heeft. Transparantie is volgens de commissie ook een essentiële waarde voor een algoritmeregister. Het register moet voldoende toegankelijk en gedetailleerd zijn, zodat inwoners kunnen begrijpen welke algoritmes worden gebruikt, voor welke doeleinden en welke impact dat mogelijk voor ze kan hebben. Met de opzet zoals beschreven in het ambtelijk adviesstuk “Advies Algoritmeregister” is de Ethische Commissie van mening dat inwoners de opgenomen informatie in het Algoritmeregister onvoldoende kunnen begrijpen en bewust zijn van risico’s. Het register is, in de voorgestelde opzet, daarmee niet transparant genoeg. Zorgt het hebben van een onvolledig en niet voldoende toegankelijken gedetailleerd register niet voor een schijn transparantie? Samenwerking met buurgemeenten en andere gemeentelijke samenwerkingsverbanden wordt ook aanbevolen door de commissie. Dit kan voorkomen dat elke gemeente
1
Advies gebruik algoritmeregister Memorandum door Rob Haans
2
Adviescommissie Digitale Ethiek
Advies casus Algoritmeregister 20 februari 2024
afzonderlijk het wiel uitvindt bij ethische afwegingen en kan resulteren in een meer uitgebreide lijst van algoritmen waarbij inwoners belanghebbende zijn. Het algoritmeregister kan ook bijdragen aan duurzaamheid door hergebruik van bestaande algoritmes te bevorderen en zo de impact van algoritmegebruik te verminderen. Het register draagt, bij correcte uitvoering, ook bij aan het voorkomen van schade en mogelijke kritiek door bewustwording en transparantie te creëren over het gebruik van algoritmes. Tot slot willen we graag de noodzaak van toezicht op het register benadrukken. Om de integriteit van het register te waarborgen en ervoor te zorgen dat alle relevante algoritmes correct worden opgenomen en gebruikt moeten deze taken binnen de gemeente belegd worden. Deze verantwoordelijkheid zou bij een van de wethouders belegd kunnen worden, maar vereist ook de voortdurende betrokkenheid van een daarvoor aangestelde toezichthouder.
Bevindingen Hierna volgen de bevindingen opgesplitst per thema in de Code Goed Digitaal Openbaar Bestuur (CODIO), namelijk Democratie, Rechtstaat, en Bestuurskracht. Deze bevindingen zijn uitsluitend beschreven zoals deze van toepassing zijn op de casus, aangevuld met eventuele overwegingen van de Adviescommissie. Omwille van de leesbaarheid van de tekst wordt er niet naar de volledige set van 30 waarden verwezen, maar de Adviescommissie neemt wel alle waarden mee in haar adviesvorming. De Adviescommissie vindt het waardevol om eventuele minderheidsopvattingen van haar leden te vermelden. Wanneer er sprake is van een opvatting waarover binnen de commissie geen consensus is bereikt wordt dit duidelijk aangegeven.
Deel I - Democratie Burgerbetrokkenheid Inwoners zijn niet betrokken geweest bij de totstandkoming van het register, in tegenstelling tot het Amsterdamse register. Dit kan resulteren in een te sterke focus op interne stakeholders, waardoor het niet aansluit bij de behoefte van de inwoners.
Inclusiviteit Het register moet begrijpelijk zijn, bij voorkeur op B1-niveau, om inclusiviteit te waarborgen.
3
Adviescommissie Digitale Ethiek
Advies casus Algoritmeregister 20 februari 2024
Transparantie Hoewel transparantie theoretisch mogelijk is, lijkt het huidige voorstel niet voldoende toegankelijk en gedetailleerd te zijn. Zorgt het hebben van een onvolledig en niet voldoende toegankelijk- en gedetailleerd register niet voor een schijn transparantie?
Samenwerking Meer samenwerking met buurgemeenten kan voorkomen dat elke gemeente afzonderlijk ethische afwegingen maakt en kan resulteren in een uitgebreidere lijst van algoritmen waar inwoners belang bij hebben.
Collectief belang Het huidige voorstel lijkt niet te voorzien in het inzichtelijk maken van collectieve belangen, maar dit zou wel een grote bijdrage kunnen leveren.
Duurzaamheid Het register kan bijdragen aan duurzaamheid door hergebruik van bestaande algoritmes te bevorderen.
Voorkomen van schade Het register kan bewustzijn en transparantie creëren en daarmee preventief werken tegen onjuist algoritmegebruik.
Deel II - Rechtstaat Menselijke autonomie Het register kan bijdragen aan het begrip van inwoners over hoe hun data wordt verwerkt, maar er zijn nog vraagtekens over of dit werkelijk zal gebeuren.
Non-discriminatie Het register kan het gebruik van mogelijk discriminerende kenmerken inzichtelijk maken en excessen zoals bij de Belastingdienst voorkomen.
Uitlegbaarheid Het register draagt bij aan de uitlegbaarheid van algoritmegebruik door gedetailleerde informatie te verstrekken, zoals de naam van het algoritme, het doel, de impact, het besluitvormingsproces en meer. Dit bevordert begrip en transparantie.
Gebruiksvriendelijkheid Om het register gebruiksvriendelijk te maken, moet het een logische structuur hebben zodat gebruikers eenvoudig kunnen zoeken. Dit bevordert het gemak van toegang tot de informatie.
4
Adviescommissie Digitale Ethiek
Advies casus Algoritmeregister 20 februari 2024
Aanvechtbaarheid Inwoners moeten duidelijk worden verwezen naar kanalen voor vragen, klachten en bezwaren. Als het register niet voldoende toegankelijk of gedetailleerd is, hebben inwoners geen effectief middel om actie te ondernemen.
Deel III - Bestuurskracht Wendbaarheid Het register moet regelmatig worden herzien en geactualiseerd om relevant te blijven, met name in reactie op veranderingen in wet- en regelgeving.
Kennis Het register draagt bij aan het vergroten van de kennis over algoritmegebruik binnen de gemeente, mits het voldoende toegankelijk en gedetailleerd is.
Risicobewustzijn Een algoritmeregister kan bijdragen aan het verhogen van het bewustzijn van risico's binnen de gemeente, mits het voldoende informatie bevat over potentiële risico's en de effecten. De opzet van het register zoals voorgesteld in het “Advies algoritmeregister” van de gemeente Nijmegen draagt door het gebrek aan een goede indeling/structuur, afstemming met de inwoners en gebrek aan transparantie niet voldoende bij aan risicobewustzijn van de inwoners van de gemeente.
Doelmatigheid Het register is alleen doelmatig als het ofwel voldoet aan minimale wettelijke eisen met minimale middelen, ofwel uitgebreid en regelmatig bijgewerkt wordt om aan alle behoeften te voldoen. Dit laatste achten wij als het meest effectief.
Aanspreekbaarheid Het register verbetert de aanspreekbaarheid door duidelijk te maken wie verantwoordelijk is voor verschillende aspecten van het algoritmegebruik binnen de gemeente.
Verantwoording Het register draagt bij aan verantwoording door duidelijk te maken welke doelen worden nagestreefd en welke besluitvormingsprocessen worden gevolgd bij het gebruik van algoritmes.
Controleerbaarheid Het register maakt het mogelijk om algoritmegebruik te controleren, maar alleen als het voldoende toegankelijk en gedetailleerd is.
5
Adviescommissie Digitale Ethiek
Advies casus Algoritmeregister 20 februari 2024
Toezicht Momenteel lijkt er onvoldoende aandacht te zijn voor toezicht op het register, wat belangrijk is voor de controle op algoritmegebruik en het waarborgen van transparantie en integriteit.
Integriteit Toezicht op het register is essentieel om de integriteit ervan te waarborgen en ervoor te zorgen dat alle relevante algoritmes correct worden opgenomen.
Menselijke eindverantwoordelijkheid Het opnemen van informatie over menselijke tussenkomst in het register is belangrijk om duidelijkheid te verschaffen over de verantwoordelijkheden en besluitvormingsprocessen rondom algoritmegebruik.
6