Onderzoek naar algoritmes in het Groene Hart - Bundeling usecases v.10-11

De afdeling publieksplein heeft binnen de gemeente de software in beheer en de ambtenaren binnen deze afdeling, naast de applicatiebeheerders, zijn de enige personen die bij alle informatie in het systeem kunnen komen. Verder zijn zo goed als alle ambtenaren binnen de gemeente op de hoogte van het gebruik van Centric Burgerzaken, aangezien zij dit ook bijna allemaal moeten gebruiken voor het regelen van algemene burgerzaken, zij het soms indirect via koppelingen met andere systemen. Aangezien de gegevens waar Centric mee werkt beschermd zijn door de WBP, en daardoor al van tevoren getoetst zijn voordat ze het systeem ingaan, zijn er weinig zorgen over de schending van privacy binnen de gemeente Zuidplas. Verder is er, voordat Centric Burgerzaken in gebruik is genomen door de voorgangers van de gemeente Zuidplas, een DPIA uitgevoerd om te checken of alles met betreft tot dataverwerking goed op order is, wat het geval was.

Informatievoorziening en toezicht gemeente tijdens gebruik Iedereen die binnen de gemeente met Centric Burgerzaken komt te werken, wat eigenlijk alle ambtenaren zijn, krijgt een introductietraining door een ambtenaar van de afdeling Publieksplein, aangepast op het niveau waarop de persoon met Centric Burgerzaken om zal gaan (alleen oppervlakkig of ook echt het systeem induiken). Binnen de gemeente zijn er geen ambtenaren die kennis hebben over de precieze werking van het systeem, dit is omdat de meeste ambtenaren geen ingewikkelde handelingen hoeven te verrichten met Centric Burgerzaken, zoals het ophalen van persoonsgegevens. Ambtenaren van het Publieksplein en applicatiebeheerders weten wel dat er alleen gebruik wordt gemaakt van algoritmes binnen de software bij ingewikkeldere handelingen zoals het uitgeven van stembiljetten voor de verkiezingen (dit is afhankelijk van verschillende factoren). Verder zijn de voorgenoemde personen ook op de hoogte van de data die Centric Burgerzaken gebruikt, die voornamelijk geënt zijn op registers zoals het BPR en de BAG (Basisregistratie Adressen en Gebouwen). Aangezien deze datasets aan strikte voorwaarden en controles zijn onderworpen, gaan ambtenaren er binnen de gemeente vanuit dat de gegevens juist zijn en aan ethische normen voldoen.

De gemeente Zuidplas heeft er verder niet expliciet onderzoek naar gedaan of de verwerking van deze data binnen Centric Burgerzaken aan bepaalde ethische kaders voldoet.

Onderzoek naar algoritmes in het Groene Hart

21

Naast dat de gemeente Centric Burgerzaken heeft getest voordat het dit systeem in gebruik werd genomen, wordt er ook elk jaar een audit (zelfevaluatie) van het systeem uitgevoerd om ervoor te zorgen dat er waar nodig verantwoording kan worden afgelegd aan het ministerie van Binnenlandse Zaken. Aangezien er met privacygevoelige gegevens wordt gewerkt, is het systeem goed beveiligd en wordt dit regelmatig getoetst en moet hierover verantwoording worden afgelegd aan de rijksdienst voor identiteitsgegevens. Aangezien er nog steeds af en toe fouten kunnen optreden binnen het systeem, bijvoorbeeld wanneer verhuizingen niet correct aangegeven zijn, kunnen bepaalde ambtenaren met meer bevoegdheden binnen het systeem handmatig gegevens aanpassen in het systeem of tijdens aanvragen. Indien er geen bijzonderheden geconstateerd worden in een aanvraag of aangifte kan deze verwerkt worden zonder tussenkomst van een medewerker. Indien er wel een bijzonderheid geconstateerd wordt valt de aanvraag/aangifte in een wachtkamer waar deze gecontroleerd wordt door een medewerker. Bovendien kan Centric Burgerzaken nooit een aanvraag/aangifte zelf afkeuren, het kan deze alleen automatisch goedkeuren.

Reflectie op usecase Centric Burgerzaken is een belangrijke usecase. Voor dit onderzoek, en zeker ook voor periodieke bespreking in leerkringen van ambtelijke medewerkers, bestuurders, en van raadsleden. Deze algoritmes zitten in het hart van allerlei digitale diensten die directe implicaties hebben voor burgers. Tegelijkertijd zijn ze zodanig ‘ingebakken’ dat ambtelijke medewerkers er niet door getriggerd worden, ze worden ‘normaal’ onderdeel van het dagelijks werk. Voor het bevorderen van bewustzijn, kennis en kritisch vermogen is het een mooi vertrekpunt dat deze algoritmes – als onderdeel van het zaaksysteem – periodiek onder het vergrootglas liggen bij toezichthouders. Feitelijk is het zo, dat veel ambtenaren Centric Burgerzaken dagelijks gebruiken, waarbij zij persoonsherleidbare data bewerken. Dit maakt dat deze applicatie jaarlijks wordt getoetst. Dit periodieke toezicht biedt goede kansen om een lerende functie te krijgen op inhoudelijk niveau voor de ambtelijke teams en op systemisch niveau voor bestuurders en raadsleden over hoe zij zicht kunnen houden op de inzet van deze en soortgelijke applicaties. Temeer omdat men niet weet hoe Centric Burgerzaken ‘werkt’, tot bepaalde besluiten komt, welke algoritmes/beslisbomen Centric Burgerzaken beslissingen neemt.

De periodieke toezichthouder- cum leersessies kunnen vervolgens stapsgewijs worden verbreed naar soortgelijke applicaties en daarin ‘gebakken’ algoritmes waarvan veelal slechts een zeer klein deel van de ambtenaren weet heeft en ‘snap wat er onder de motorkap gebeurt.

5.2

Groeimodel

De onderstaande usecase beschrijft de ervaringen van de gemeente Zuidplas met de inzet van het groeimodel: •

Beschrijving usecase: het groeimodel is een intern ontwikkelde rekenhulp waarmee de gemeente Zuidplas een inschatting kan maken van de in de toekomst benodigde capaciteit voor de uitvoering van specifieke taken

Onderzoek naar algoritmes in het Groene Hart

22

•

Status van usecase: Het groeimodel is intern ontwikkeld, en is bekend bij een aantal personen binnen de ambtelijke organisatie.

•

Reflectie op usecase: Het gaat hier om een eenvoudig algoritme, dat in eigen beheer ontwikkeld is, toegepast en beheerd wordt. Door de keuze om het model eenvoudig te houden en niet te werken met privacygevoelige data zijn er slechts beperkte risico’s.

usecase

Groeimodellen Groeimodellen geven op basis van veronderstellingen de benodigde capaciteit aan voor de uitvoering van taken binnen een organisatie. De gemeente Zuidplas heeft een groeimodel ontwikkeld dat de groei van het aantal inwoners berekend, hoeveel extra paspoorten er nodig zijn, hoeveel aanvragen er extra bij het zorgloket gaan komen, etc. De concerncontroller van de gemeente Zuidplas heeft al deze gegevens met terugwerkende kracht bekeken en hieruit parameters opgesteld waaruit de groeicijfers van de gemeente berekend kunnen worden. Deze cijfers worden vervolgens gebruikt om te voorspellen hoeveel extra budget er nodig gaat zijn. De wethouder Bedrijfsvoering, de gemeentesecretaris, de auditcommissie en de concerncontroller zijn betrokken geweest bij de besluitvorming omtrent de inzet van groeimodellen binnen de gemeente; de concerncontroller heeft het groeimodel ontwikkeld en geïmplementeerd, en de bovengenoemde personen, commissie en een ambtenaar van de afdeling Financiën zijn vervolgens op de hoogte gesteld hoe het groeimodel in elkaar steekt. Aangezien het groeimodel zeer eenvoudig is en de resultaten gemakkelijk gecontroleerd kunnen worden, is er volgens de voorgenoemde betrokken ambtenaren, verder geen toezicht nodig op het algoritme.

Besluitvorming voor ingebruikname De gemeente Zuidplas stelde vast dat er voor alle gemeentebudgetten een bepaalde systematiek is en er zijn daarom ook allerlei vaste afspraken gemaakt binnen de gemeente over hoe de budgetten mee kunnen groeien. Echter, tot een aantal jaar geleden was er nog geen goede berekening over hoe het personeelsbestand moest groeien binnen de gemeente op basis van de gemeentegroei en hoeveel budget hiervoor beschikbaar moest worden gesteld per jaar. Vandaar dat de gemeente besloot dat er een groeimodel nodig was om te kunnen voorspellen hoeveel menskracht er nodig is binnen alle afdelingen van de gemeente op basis van een aantal variabelen. De concerncontroller heeft vervolgens in opdracht van de portefeuillehouder bedrijfsvoering en de gemeentesecretaris het groeimodel ontwikkeld, besproken met de auditcommissie waarna het ter besluitvorming aan de gemeenteraad is voorgelegd. De concerncontroller heeft hierna het groeimodel geïmplementeerd en om het model zo simpel mogelijk te houden, is besloten de menskracht-groei te berekenen op basis van drie variabelen, die vastgesteld zijn als de belangrijkste op het gebied van groeivoorspelling: hoeveelheid inwoners binnen de gemeente, beheer van de openbare ruimte (vierkante meters te onderhouden openbare ruimte), en het aantal mensen dat zorgbehoevend is binnen de gemeente. In een eerdere

Onderzoek naar algoritmes in het Groene Hart

23

versie van het groeimodel zaten 42 variabelen, maar dat werd voor de gemeente al snel te complex. Na de ontwikkeling van het groeimodel is ook een ambtenaar van de afdeling Financiën en van de afdeling HR op de hoogte gesteld van de werking van het model en hoe dit te gebruiken. Het plan van de gemeente was om het systeem volledig geautomatiseerd te integreren, maar is dat volgens de betrokken ambtenaar mede door corona niet verder ontwikkeld dan de huidige versie in Excel. Aangezien er geen gevoelige informatie wordt gebruikt voor het groeimodel (alle informatie is uitgedrukt in getallen van hoeveelheid mensen/vierkante meters zonder privacygevoelige informatie en er wordt geen rekening gehouden met bijvoorbeeld de zwaarte van de zorg) zijn er geen ethische vraagstukken die behandeld hebben moeten worden voordat het groeimodel in gebruik genomen kon worden. De gemeente heeft dan ook geen DPIA uitgevoerd, omdat het algoritme heel simpel is. Wel is dit model voorgelegd aan de CISO (afdeling informatievoorziening), die het gebruik van het groeimodel heeft goedgekeurd. Nu het groeimodel geïmplementeerd is, is het voor de gemeenteraad een stuk eenvoudiger om een financieel plan op te stellen, waarin de groei van het budget meegenomen kan worden.

Hierdoor hoeft de raad alleen over kaders na te denken, zonder zich verder bezig te houden met hoe het budget moet groeien, aangezien dit nu automatisch berekend kan worden. Wel moet goed uitgekeken worden of de budgetgroei echt door pure groei komt en niet omdat er een nieuwe taak binnen de gemeente bijkomt. Hier houdt het groeimodel geen rekening mee en de toevoeging van nieuwe taken wordt dan ook niet behandeld in het groeimodel.

Informatievoorziening en toezicht gemeente tijdens gebruik Binnen de gemeente weet de concerncontroller exact hoe het algoritme werkt, aangezien hij het model ook ontwikkeld heeft. Omdat dit model zo simpel is, was het ook makkelijk om een ambtenaar van financiën en een ambtenaar van HR te informeren over de werking hiervan. Deze drie personen weten dan ook exact hoe het model werkt en welke (nietprivacygevoelige) data er nodig is voor het model. Verder zijn, zoals hierboven ook beschreven, de gemeentesecretaris wethouder bedrijfsvoering, auditcommissie, gemeenteraad en de CISO (afdeling informatievoorziening) op de hoogte van het bestaan van het groeimodel. Het is de bedoeling dat in de toekomst binnen elke afdeling van de gemeente een persoon is die precies weet hoe het algoritme werkt en dit ook kan toepassen en ook dat het model volledig geautomatiseerd geïntegreerd is binnen bestaande systemen in de gehele gemeente. Echter, dit proces heeft door corona vertraging opgelopen. De auditcommissie en afdeling Dataveiligheid hebben het groeimodel getoetst of het model deed wat het moest doen, voordat het in gebruik werd genomen. Daaruit bleek dat er verder geen externe toets nodig was, aangezien de werking van het model zeer eenvoudig en makkelijk te doorgronden is.

Wel kijkt de gemeente elk jaar of de voorspellingen die het groeimodel heeft gedaan voor het voorgaande jaar ook blijken te kloppen. Wanneer dit niet het geval is, kan de data die het model in gaat worden aangepast, echter is dit tot nu toe nog niet nodig geweest. Dit kan gezien worden als een interne toets en is momenteel de enige vorm van toezicht op het model. De concerncontroller zou het model kunnen uitbreiden of aanpassen mocht dit in de toekomst nodig zijn, maar voor nu is het nog lastig te bepalen welke nieuwe variabelen er geïntroduceerd zouden kunnen worden om de functionaliteit of werking van het model uit te breiden.

Onderzoek naar algoritmes in het Groene Hart

24

Reflectie op usecase Dit is een bijzondere usecase. Het gaat hier om een eenvoudig algoritme, dat in eigen beheer door ambtenaren is ontwikkeld, wordt toegepast en beheerd. Deze toepassing maakt geen gebruik van privacygevoelige data, wat het toezicht erop zeer eenvoudig maakt. De keuze om voor een eenvoudig model te gaan, met slechts drie variabelen, bevordert de transparantie en begrijpelijkheid van de uitkomsten. Het blijft echter van belang dat er door meerdere ambtenaren en/of door toezichthouders aandacht blijft voor de werking, data en uitkomsten van het model. De uitkomsten van dit model maken onderdeel uit van periodieke beleidsafwegingen. Omringende overheden, Rijksoverheid (o.a. in het kader van de rijksbijdrage uit het gemeentefonds), wooncorporaties, projectontwikkelaars en adviesbureaus maken wel (in toenemende mate) gebruik van meer complexe datascience toepassingen en algoritmes. Het is zaak dat een model als dit, incl. de daarin ingebedde algoritmes, zo goed mogelijk aansluiten op de standaarden die omringende partijen benutten.

Onderzoek naar algoritmes in het Groene Hart

25

www.technopolis-group.com

Onderzoek naar algoritmes in het Groene Hart

26