Onderzoek naar algoritmes in het Groene Hart - Bundeling usecases v.10-11

November 2023

Onderzoek naar algoritmes in het Groene Hart Bundeling usecases

www.technopolis-group.com

November 2023

Onderzoek naar algoritmes in het Groene Hart Bundeling usecases Gerwin Evers, Erika van der Linden, Jules van de Meulengraaf, Willeke van der Varst, Bauke vander Veldt, Roel Bottema, Chiel Scholten en Ben Kokkeler

Onderzoek naar algoritmes in het Groene Hart

ii

Inhoudsopgave 1 Introductie __________________________________________________________________________ 1 2 Usecases gemeente Bodegraven-Reeuwijk ____________________________________________ 2 2.1 Sensar ___________________________________________________________________________________ 2 2.2 Meldpunt openbare ruimte _______________________________________________________________ 4

3 Usecases gemeente Gouda __________________________________________________________ 8 3.1 Scanauto ________________________________________________________________________________ 8 3.2 Promen _________________________________________________________________________________ 11

4 Usecases gemeente Waddinxveen __________________________________________________ 15 4.1 Zonnedakje _____________________________________________________________________________ 15 4.2 Octobox ________________________________________________________________________________ 17

5 Usecases gemeente Zuidplas ________________________________________________________ 20 5.1 Centric Burgerzaken _____________________________________________________________________ 20 5.2 Groeimodel _____________________________________________________________________________ 22

Onderzoek naar algoritmes in het Groene Hart

iii

1 Introductie In de periode november 2022 tot juli 2023 heeft onderzoeksbureau Technopolis in opdracht van de Groene Hart Rekenkamer (GHR) een onderzoek uitgevoerd naar het algoritmegebruik in de gemeenten Gouda, Waddinxveen, Zuidplas en Bodegraven-Reeuwijk. Naast een rapportage per gemeente zijn er in het totaal ook 8 usecases (2 per gemeente) uitgewerkt waarin op basis van een beknopte casestudy, op basis van een aantal interviews en deskstudie, inzicht gegeven wordt in de besluitvorming over en implementatie van een specifiek algoritme. In de selectie van usecases is er tussen de gemeenten variatie aangebracht om tot een brede waaier aan verschillende usecases te komen waar alle gemeenten hun lessen uit kunnen trekken. Met het oog op het trekken van deze lessen, vindt u in dit rapport een bundeling van alle 8 usecases. Voor een verdere toelichting op het onderzoek verwijzen wij u naar de rapporten per gemeente.

Onderzoek naar algoritmes in het Groene Hart

1

2 Usecases gemeente Bodegraven-Reeuwijk 2.1

Sensar

De onderstaande usecase beschrijft de ervaringen van de gemeente Bodegraven met de inzet van Sensar: •

Beschrijving usecase: Sensar is een applicatie die op basis van analyses van satellietdata verzakkingsmetingen uitvoert welke door gemeente Bodegraven-Reeuwijk wordt gebruikt voor het beheer en onderhoud van wegen, riolering en groen.

•

Status van usecase: de applicatie wordt op dit moment door team Beheer gebruikt

•

Reflectie op usecase: De gemeente controleert de uitkomsten, en neemt geen besluiten op de basis van enkel de door Sensar geleverde data. Bij inzet van Sensar en soortgelijke applicaties blijft het ook in de toekomst van belang om zelf controlemomenten in te bouwen op de geleverde data en bewust te zijn van de (financiële) gevolgen mocht de data fouten bevatten.

Usecase

Sensar Sensar is een applicatie die op basis van analyses van satellietdata verzakkingsmetingen uitvoert. De metingen die gedaan worden op basis van deze data resulteren in gedetailleerde kaarten en tabellen te maken. De kaarten visualiseren verschillende dingen, zoals: verzakkingen en verandering in het landschap. De satellietdata kan ook gecombineerd worden met de GIS (geografische informatiesystemen) van gemeenten om zo specifieke objecten te monitoren. Resultaten van de scan kunnen gebruikt worden voor beleidsmonitoring, onderhoud, beheer en planning. Een voorbeeld van een toepassing is het detecteren van plekken waar een rioolsysteem onder spanning kan komen te staan door verzakkingen. Ook kan de data gebruikt worden om uit te wijzen dat funderingen van huizen aan het verzakken zijn. In gemeente Bodegraven-Reeuwijk is de Sensar-applicatie door team Beheer aangeschaft en wordt gebruikt voor het beheer en onderhoud van wegen, riolering en groen. De scans worden meerdere malen per jaar uitgevoerd door Sensar en de resultaten worden in de vorm van een GIS-kaart ter beschikking gesteld aan gemeente Bodegraven-Reeuwijk. Door de resultaten van een reeks meerjarige scans te vergelijken kan een nauwkeurig beeld van verzakkingen en van de bodem worden opgesteld in het GIS.

De applicatie wordt gebruikt als signaleringssysteem voor verzakkingen en deze informatie wordt verwerkt in de Meerjaren Onderhouds- en Investeringsplannen. Op basis van de data van Sensar, die ambtenaren van gemeente Bodegraven-Reeuwijk valideren, worden beslissingen onderbouwd over ingrepen, onderhoud en investeringen voor wegen, groen en riolering.

Besluitvorming voor ingebruikname Binnen het Beheer-team (wegbeheer, rioolbeheer en groenbeheer) was behoefte aan het in kaart brengen van bodemverzakkingen en het detecteren van bodemveranderingen binnen de gemeente. Dit met als doel een accurate inschatting te maken van zowel de onderhoudsbehoefte en de investeringsbehoefte voor infrastructuur, riolen en groen. De

Onderzoek naar algoritmes in het Groene Hart

2

onderhouds- en investeringsplannen zorgen dat de financiële lasten van de gemeenten voor het komende jaren in kaart kunnen worden gebracht. Het uitgangspunt voor het in gebruik nemen van Sensar was dat de planning van onderhoud en investeringen beter kon aansluiten op de daadwerkelijke onderhouds- en investeringsbehoefte van de gemeente. In het verleden was door het team Beheer vaker gekeken naar een soortgelijk systeem. De aanschafprijs was in het verleden echter te hoog. Sensar bood in dat opzicht de uitkomst aangezien de applicatie in verhouding tot alternatieven aanzienlijk goedkoper is. In samenwerking met het cluster Ontwikkeling heeft het Beheer-team toen besloten om Sensar aan te schaffen en te proberen in de vorm van een pilot. De keuze voor Sensar was een interne beslissing van het Beheer team. De wethouder is wel geïnformeerd over de aanschaf. Verder heeft team Beheer aangekondigd binnen de ambtelijke organisatie dat de applicatie als pilot zou worden gebruikt en gevraagd of ambtenaren die toegang wilde hebben tot de applicatie zich aanmelden bij hen. Aangezien er niet met persoonsgegevens werd gewerkt is er geen DPIA uitgevoerd voor de aanschaf van Sensar. Team Beheer ziet Sensar als een effectief middel; het hele jaar door worden er metingen gedaan. Het team Beheer krijgt inzicht waar en hoe verzakkingen plaatsvinden.

Zo kan wegbeheer heel snel een goede indicatie krijgen welke gebieden last van bijv. drooglegging hebben. De data van Sensar maakt het opstellen van onderhouds- en investeringsplannen eenvoudiger.

Informatievoorziening en toezicht gemeente tijdens gebruik De applicatie wordt op dit moment uitsluitend door team Beheer gebruikt en daarmee is de kennis van de werking van de applicatie buiten het team beperkt. Binnen het Beheer team wordt de data indicatief gebruikt en vergeleken met andere beschikbare bronnen van informatie. Detecties van verzakkingen worden geverifieerd door ambtenaren van gemeente Bodegraven-Reeuwijk die ter plaatse gaan kijken om metingen te controleren en verifiëren. Wanneer de applicatie niet werkt of er functionaliteiten missen, geven betrokken ambtenaren dit aan bij de ontwikkelaar. Verder is duidelijk dat in niet alle gevallen Sensar betrouwbaar grondverzakkingen kan doen (bv. bij bomen of water langs de weg). Dit is ook een van de redenen dat de signalen indicatief gebruikt worden binnen de organisatie. De betrokken ambtenaren evalueren of de applicatie juist aansluit bij het doel. Daarnaast is er geen structureel toezicht op Sensar. Een belangrijk aspect van het gebruik van de applicatie is dat alleen een beperkt aantal mensen binnen de gemeente toegang hebben tot de data. Er is hiervoor gekozen om mogelijke risicovolle data (bv. data over verzakken funderingen) niet zo maar aan iedereen beschikbaar te stellen, met gedachte dat mensen of andere organisaties er geen misbruik van maken.

Hierbij dient wel opgetekend te worden dat onafhankelijk van de activiteiten van de gemeente, externen als nog de mogelijk hebben om via de reguliere kanalen deze data af te nemen bij Sensar. Op basis van het gebruik van Sensar in de afgelopen twee jaar is team Beheer tevreden met de applicatie. De inzichten van Sensar bieden een goede signaleringsfunctie, helpt het team inzichtelijk te maken waar drooglegging nodig is en waar in de gemeente verzakkingen plaatsvinden. Ook worden er op basis van de data van Sensar de Meerjaren Onderhoudsplannen en Meerjaren Investeringsplannen van gemeente BodegravenReeuwijk opgesteld.

Onderzoek naar algoritmes in het Groene Hart

3

Reflectie op usecase Sensar is een voorbeeld van een applicatie die de gemeente op een gestandaardiseerde manier aanvullende inzichten kan leveren om beslissingen in het ruimtelijk beheer te optimaliseren. De applicatie maakt zelf geen beslissingen; uiteindelijk wordt het systeem gebruikt om verzakkingen en bodemverschuivingen te signaleren. Deze waarnemingen worden geverifieerd door ambtenaren. Vervolgens kan de informatie van Sensar door ambtenaren gebruikt worden voor het plannen van onderhoud en investeringen. De gemeente controleert de uitkomsten, en neemt geen besluiten op de basis van enkel de door Sensar geleverde data. Bij inzet van Sensar en soortgelijke applicaties blijft het ook in de toekomst van belang om zelf controlemomenten in te bouwen op de geleverde data en bewust te zijn van de (financiële) gevolgen mocht de data fouten bevatten. Daarnaast zal van geval tot geval bekeken moeten worden naar de wenselijkheid en risico’s van koppeling van de Sensar data met data afkomstig van de gemeente.

2.2

Meldpunt openbare ruimte

De onderstaande usecase beschrijft de ervaringen van de gemeente Bodegraven met de inzet van het meldpunt openbare ruimte: •

Beschrijving usecase: Via het meldpunt Openbare Ruimte kunnen burgers meldingen te maken over defecte objecten of onderhoudsmatige meldingen in de openbare ruimte

•

Status van usecase: de applicatie wordt op dit moment door team Beheer gebruikt

•

Reflectie op usecase: de risico’s lijken daarmee beperkt, al blijft het zaak scherp te blijven bij een verdere uitbouw van functionaliteiten gekoppeld aan het Online Meldpunt

Usecase

Meldpunt Openbare Ruimte Meldpunt Openbare Ruimte is een applicatie die beschikbaar is gesteld door het domein Ruimtelijke Ordening en Openbare Ruimte van gemeente Bodegraven-Reeuwijk aan burgers om meldingen te kunnen maken over de openbare ruimte. Burgers kunnen hiermee defecte objecten in de openbare ruimte melden (lantaarnpalen, prullenbakken) of onderhoudsmatige meldingen zoals overhangend groen en verzakte stoeptegels. Meldingen kunnen gemaakt worden via een formulier op de website van de gemeente, telefonisch, via whatsapp, of de ‘Mijn GemeenteApp’. De applicatie, Reppido, is ontwikkeld door ‘BeheerVisie’, een bedrijf dat applicaties ontwikkelt voor de publieke sector. Het Klant Contact Centrum (KCC) van gemeente Bodegraven- Reeuwijk beheert de applicatie. De meldingen die op deze wijze binnenkomen moeten vervolgens afgehandeld worden door medewerkers van de afdeling op wiens werkveld de melding betrekking heeft. De volgende informatie wordt gevraagd bij het maken van een melding: de locatie, een categorie (o.a. verlichting, handhaving, groen, afval, dieren of straatmeubilair), een

Onderzoek naar algoritmes in het Groene Hart

4

omschrijving waarom de melding is gemaakt en een mogelijke foto die door de melder wordt meegestuurd. Op basis van de categorie waaronder de melder een melding maakt wordt de melding naar de corresponderende afdeling gestuurd. Hierbij is het doel om binnen twee werkdagen een terugkoppeling te geven vanuit de afdeling aan de melder. Dit laatste gebeurt enkel als een melder ervoor gekozen heeft contactgegevens achter te laten. Tevens is deze contactinformatie beschikbaar voor de medewerker die de melding oppakt zodat er eventuele vervolgvragen gesteld kunnen worden mocht dat nodig zijn voor het oppakken van de melding. De meldingen gaan om incidenten en medewerkers in de uitvoering pakken deze op. Beleidsmedewerkers kunnen vervolgens wel kijken of er in de meldingen structurele patronen naar voren komen. In het openbare meldpunt zijn volgens de betrokken ambtenaar enkel een aantal regel-gebaseerde algoritmes verwerkt die ervoor zorgen dat de meldingen op de juiste afdeling terecht komen.

Besluitvorming voor ingebruikname Het signaal dat er behoefte was voor een online meldpunt kwam vanuit de wijkteams die bestaan uit betrokken burgers die zich inzetten voor hun eigen wijk door bijv. een container te adopteren en te verzorgen. Voorheen belden de wijkteams meldingen door, maar in veel gevallen was het niet duidelijk bij wie ze moesten zijn waardoor meldingen later of sommige gevallen helemaal niet werden opgepakt. De behoefte om hiervoor over te stappen naar een online meldpunt kwam toch als een verrassing voor de betrokken ambtenaren, omdat de inschatting was dat gezien o.a. de leeftijd deze doelgroep niet direct geïnteresseerd zou zijn in het melden via een app. Voor de gemeenteraad moest er een investeringsplan komen. Het hielp erg dat de burgers het wilden en het was gelijk duidelijk dat de kwaliteit van de dienstverlening hierdoor omhoog zou gaan. Vervolgens is er in overleg tussen het KCC, team Dienstverlening, leidinggevenden en een wijkteam van inwoners gekeken wat voor soort meldingen er via de applicatie gemaakt moeten kunnen worden. Hierin wilde de gemeente gebruik maken van technologie die zich bij andere gemeenten al bewezen had. Hierbij was de overweging dat een kleine gemeente als BodegravenReeuwijk niet de middelen heeft om een voortrekkersrol te spelen bij het experimenteren met nieuwe technologieën.

Bij de ingebruikname zijn zowel burgers als ambtenaren geïnformeerd over de het bestaan van het meldpunt en het gebruik ervan. Intern werd de voorgeschreven reactietijd op een melding van twee werkdagen als kort gezien; nu betekent de reactietijd van twee dagen dat er een reactie over de status van de melding moet komen, en het niet per se betekent dat een probleem binnen deze twee dagen verholpen dient te zijn. Van de burgers kwamen er voornamelijk positieve reacties. Daarnaast is de mogelijkheid om telefonisch meldingen door te geven via het Klantcontactcentrum opengehouden, waarna een medewerker deze melding zelf in het systeem invoert zodat deze via hetzelfde systeem kan worden afgehandeld. Aangezien in het openbare meldpunt geen algoritmes zitten die beslissingen maken over meldingen heeft er geen gesprek plaatsgevonden over eventuele ethische implicaties. Het primaire doel was het optuigen van een systeem wat voldeed aan de gebruikswensen van de wijkteams en de gemeentemedewerkers. Omdat er maar in beperkte mate gewerkt wordt met persoonsgegevens, is er door de betrokken ambtenaren besloten geen DPIA uit te voeren.

Onderzoek naar algoritmes in het Groene Hart

5

Informatievoorziening en toezicht gemeente tijdens gebruik Via een dashboard hebben de ambtenaren van de gemeente Bodegraven-Reeuwijk inzicht in trends, reactietijden op meldingen, fysieke spreiding van meldingen en klanttevredenheid. Zo kan eenvoudig achterhaald worden dat er in april 2023 in totaal 253 meldingen over afval via internet en 193 via de app zijn binnengekomen. Meldingen en de contactgegevens van de meldingen zijn in principe alleen zichtbaar voor de terreinen waar de medewerker bij betrokken zijn. Naast het primaire doel van het afhandelen van meldingen, wordt er ook geëxperimenteerd met het inzetten van de meldingsdata voor andere doeleinden. Zo kunnen ambtenaren verschillen tussen wijken inzichtelijk maken en op basis van deze informatie stappen zetten om deze problemen terug te dringen. Een voorbeeld hiervan is dat bij veel afvaldumpingen in een wijk, gekeken kan worden of dit wellicht samenhangt met de aanwezigheid van relatief veel mensen voor wie het diftar-afvalinzamelingssysteem mogelijk een probleem vormt. In zo’n geval kan de gemeente proactief problemen signaleren en kijken of er contact gezocht kan worden met burgers die wellicht in aanmerking komen voor een vrijstelling van het diftar-systeem. Afdelingen krijgen via het meldpunt ook inzicht in het technisch functioneren en de voorziene levensduur van objecten in de openbare ruimte.

Wanneer er steeds vaker meldingen zijn van een storing aan een containersysteem, dan kan het tijd worden om deze te vervangen. Er is geen contact met de FG of privacyofficer over de inzet of verwerking van persoonsgegevens binnen het systeem. Wat er met deze tool wordt gedaan is ook organisch gegroeid. De combinatie met data over bijvoorbeeld de demografie van een wijk samen met meldingen kan interessant zijn voor mensen die met beleid bezig zijn. Dit gebeurt in gesprek met het team van het sociale domein. Er wordt in de applicatie niet gewerkt met demografische data op persoonsniveau. In de gemeente wordt er wel eens gesproken over de mogelijkheid van het in kaart brengen van veelmelders via bijvoorbeeld hun telefoonnummer, zodat deze betrokken burgers wellicht ook verder betrokken kunnen worden. In hoeverre dit vanuit AVG-oogpunt kan gebeuren is iets waar nog niet over is nagedacht.

Reflectie op usecase Deze en soortgelijke applicaties behoren tot de oudste applicaties die ruim 10 jaar geleden ontwikkeld werden, toen Nederlandse gemeenten hun digitale dienstverlening en digitale loketten gingen inrichten. In de eerste jaren na invoering was het onmiddellijke resultaat, dat ambtelijke teams moeite hadden de vele meldingen en aanvragen via hun gebruikelijke procedures af te handelen. Ook aan de communicatie, nu via verschillende ‘kanalen’, werden nieuwe eisen gesteld. Met de komst van algoritmes is het dan ook niet verwonderlijk dat gemeenten zoeken naar wegen om hiermee de dienstverlening aan burgers te verbeteren. Het systeem dient voornamelijk als doorgeefluik en/of beslisboom en biedt burgers de gelegenheid om meldingen te maken en de gestructureerde aanpak beoogt de dienstverlening van de gemeente te verbeteren. Het is onbekend of dit resultaat daadwerkelijk geboekt wordt. In de onderhavige usecase is het lastig vast te stellen, van of er naast de regel gebaseerde algoritmes ook andere algoritmes worden ingezet binnen het meldpunt. De risico’s lijken daarmee beperkt, al blijft het zaak scherp te blijven bij een verdere uitbouw van functionaliteiten gekoppeld aan het Online Meldpunt zoals verdere analyses op basis van demografie of het bijhouden van contactgegevens van veelmelders. Op dit moment

Onderzoek naar algoritmes in het Groene Hart

6

lijkt dit proces bottom-up te gebeuren, maar het is zaak dat de FG en andere toezichthouders ook het Online Meldpunt in hun controles gaan betrekken.

Onderzoek naar algoritmes in het Groene Hart

7

3 Usecases gemeente Gouda 3.1

Scanauto

De onderstaande usecase beschrijft de ervaringen van de gemeente Gouda met de inzet van scanauto’s voor de parkeercontrole. •

Beschrijving usecase: de scanauto controleren met behulp van camera’s met beeldherkenning of de eigenaren van geparkeerde auto’s het recht hebben om in een bepaald gebied te parkeren.

•

Status van usecase: de auto’s zijn operationeel en de eerste lessen zijn al getrokken door de gemeente

•

Reflectie op usecase: naar verwachting zal de toepassing van dit soort vormen van algoritmes in combinatie met verbeterde sensoren en AI sterk toenemen.

Usecase

Scanauto Gouda In de gemeente Gouda rijden scanauto’s rond die kunnen controleren of de eigenaren van geparkeerde auto’s het recht hebben om in een bepaald gebied te parkeren. De coöperatie ParkeerService verzorgt voor de gemeente Gouda het parkeermanagement, de -handhaving en de invordering van naheffingsaanslagen. ParkeerService heeft de scanauto (en de onderliggende software) uitbesteed aan het bedrijf Brickyard. In een eerder stadium verzorgde de Belastingsamenwerking Gouwe-Rijnland (BSGR) de invordering van de naheffingsbelasting en was er een andere (software-)leverancier betrokken. De scanauto’s hebben camera’s waarmee Parkeerservice voor de gemeente Gouda kan controleren of de eigenaren van geparkeerde auto’s een geldig parkeerrecht hebben. De camera scant de kentekens van de geparkeerde auto’s en identificeert deze met een beeldherkenningsalgoritme. Het algoritme leest de karakters van de kentekenplaat en gebruikt deze om de geldigheid van parkeerrechten behorend bij het kenteken op een bepaalde tijd en locatie te controleren in het Nationaal Parkeer Register. Indien er voor dit kenteken geen geldig parkeerrecht bestaat, dan checkt het algoritme na 7 minuten opnieuw de parkeerrechten. Deze handeling is geïntroduceerd om eigenaren van de geparkeerde auto de kans te geven om te betalen (bijv. om te lopen naar de parkeerautomaat voor een ticket).

Als vervolgens blijkt dat de auto niet geldig geparkeerd is, stuurt het systeem de gegevens door naar Parkeerservice-, die het kenteken koppelt aan de persoonsgegevens van de eigenaar van de auto (RDW). Vervolgens stuurt Parkeerservice de boete naar deze persoon.

Besluitvorming over ingebruikname Sinds april 2022 gebruikt gemeente Gouda scanauto’s om in de stad te controleren of de eigenaren van geparkeerde auto’s parkeerrechten hebben. Voor de introductie van de scanauto’s waren er twee parkeercontroleurs in dienst bij de gemeente. Het Stadstoezicht van de gemeente Gouda was echter niet tevreden over deze manier van parkeercontrole.

Onderzoek naar algoritmes in het Groene Hart

8

Deze controles waren onder andere weersafhankelijk en controleurs werden vaak gestoord in hun werk. Tijdens het zoeken naar alternatieven kwam de scanauto naar voren. Ambtenaren van de afdeling Ruimtelijk Beleid en Advies (RBA) hebben vervolgens onderzoek gedaan naar ervaringen van andere gemeenten met scanauto’s. Hierbij hebben zij bijvoorbeeld gekeken naar een verhoging van de betalingsbereidheid onder burgers als gevolg van het invoeren van een scanauto in andere gemeenten. Op basis hiervan hebben zij aan de verantwoordelijke wethouder (portefeuille Mobiliteit) voorgesteld om in Gouda een scanauto te introduceren. Na instemming van de wethouder, hebben de betrokken ambtenaren een memo opgesteld die ter goedkeuring is voorgelegd en besproken met het college van B&W. Het doel van het invoeren van de scanauto’s is het verhogen van de betalingsbereidheid van burgers. Wat ook in het besluit heeft meegespeeld, is dat de scanauto ten opzichte van parkeercontroleurs (1) meer auto’s in een korter tijdbestek kan controleren, (2) een groter gebied kan controleren, (3) een voorgeprogrammeerde route kan rijden en (4) weersonafhankelijk is. In de besluitvorming zijn door de gemeente weinig ethische vraagstukken meegenomen.

De gemeente heeft er in het beleid wel voor gekozen om mensen die foutief een naheffing ontvangen – in het specifieke geval van voertuigen met een invalidekaart die niet in het systeem staan (bezoekers) die de scanauto niet kan detecteren – te compenseren met een gemeend excuus (bv. in de vorm van een boeket). Het invoeren van de scanauto heeft voor een aantal veranderingen gezorgd. Ten eerste, is door deze automatisering het contract van de parkeercontroleurs niet verlengd. Verder is de controle van geparkeerde auto’s op parkeerrechten effectiever (hogere betaalbereidheid) en efficiënter (minder benodigde menskracht) geworden. De softwareleverancier heeft een DPIA voor het algoritme uitgevoerd. Deze is niet gedeeld met de gemeente. Voor het proces bij de gemeente is er geen DPIA uitgevoerd. Dit moet nog wel gedaan worden volgens betrokken ambtenaren.

Informeren en toezicht houden tijdens gebruik Parkeerservice (en indirect de softwareleverancier) informeert de afdelingen Ruimtelijk Beleid en Advies en Stadstoezicht over het functioneren van de scanauto voor de parkeercontrole. Vervolgens rapporteert de afdeling Stadstoezicht verschillende partijen binnen de gemeente over het aantal naheffingen dat heeft plaatsgevonden. De invoering van de scanauto is enigszins moeizaam verlopen. Hiervoor zijn er meerdere redenen. Er waren opstartproblemen, waarbij er onduidelijkheden waren over verschillen tussen de interpretatie die het digitale systeem gaf aan een vermeende overtreding enerzijds en de werkelijkheid anderzijds (bijv. krijg je direct een boete als je aan het laden of aan het lossen bent? Hoe kun je zien of je aan het laden of aan lossen bent?). Andere opstartproblemen lagen deels bij de voormalige softwareleverancier. Een voorbeeld hiervan is dat de “betaaltijd”1 die iemand heeft, niet door de voormalige softwareleverancier gehanteerd werd, waardoor mensen foutief boetes hebben gekregen. Daarbovenop kwam dat de communicatielijnen tussen de gemeente, Parkeerservice (en

1 Wanneer een kenteken van een auto gescand wordt, wordt dit kenteken gecheckt met de gegevens van de

betaalautomaat of database. In het eerste geval moeten na een 7 aantal minuten de gegevens van de betaalautomaat weer gecheckt worden op het kenteken. Als op dat moment er nog steeds geen match is, dan wordt de boete uitgeschreven.

Onderzoek naar algoritmes in het Groene Hart

9

de voormalige softwareleverancier) en de BSGR niet altijd goed waren. De BSGR was verantwoordelijk voor het innen van de Naheffing Parkeerbelasting (de boete) en voor de bezwaarprocedure. De BSGR heeft over mogelijke problemen in de uitvoering van de scanauto of over de kalibratie van het digitale systeem wel gecommuniceerd naar de gemeente. Helaas kwam deze informatie niet terecht bij de verantwoordelijke ambtenaren, maar bij de verkeerde afdeling. De bezwaren van burgers zijn een belangrijke manier waarop de gemeente geïnformeerd blijft over het gebruik van de scanauto. Doordat de directe feedbackloop (van bezwaren) niet goed werkte, is het voorgekomen dat mensen in een kort tijdsbestek meerdere naheffingen kregen, terwijl dat niet nodig was. Verder ontving de juist verantwoordelijke binnen gemeente de bezwaren niet, waardoor bijsturen moeilijk was. De afdeling Stadstoezicht was verder niet tevreden met de service van de voormalige softwareleverancier en de kwaliteit en kwantiteit van de managementinformatie die de voormalige softwareleverancier leverde. Deze onvrede over de voormalige softwareleverancier is besproken met de verantwoordelijk wethouder en er is voor gekozen om over te gaan naar een andere (software-)leverancier. Sindsdien is het een en ander veranderd. Sinds begin 2023 int Parkeerservice de naheffingsaanslagen en behandelt het de bezwaren.

Naar aanleiding van de ontevredenheid over de voormalige softwareleverancier heeft Parkeerservice een nieuwe softwareleverancier gezocht en is sinds 15 Maart 2023 Brickyard de nieuwe softwareleverancier voor de scanauto’s. In de gevallen waarbij burgers onterecht boetes hebben gekregen (bijv. meerdere naheffingen in kort tijdsbestek of foutief uitgeschreven boetes) hebben de verantwoordelijke ambtenaren binnen de gemeente per geval bekeken of mensen alle naheffingen moesten betalen of dat er bijvoorbeeld een aantal boetes geseponeerd konden worden.2 Verder heeft de afdeling Stadstoezicht ook afspraken gemaakt met Parkeerservice (en Brickyard) om bij opvallende gevallen (hiervoor zijn geen criteria gedefinieerd) een melding te geven, waardoor zij verder kunnen onderzoeken wat er aan de hand is. Normaal gesproken evalueert de gemeente een dergelijke tool na de introductie. De effectiviteit van de scanauto in het eerste jaar is door de beperkte informatievoorziening van voormalige softwareleverancier nog niet vastgesteld. De indicator die gebruikt kan worden om het succes van de invoering van de scanauto te kunnen meten is de betalingsbereidheid van burgers voor parkeren. Na de introductie van Brickyard als software-leverancier zijn er wel cijfers beschikbaar over de betalingsbereidheid. Deze is met vier procentpunten gestegen, van 88% naar 92%.

Verder zakt het aantal bezwaren op naheffingen ook.

Reflectie op de usecase Het betreft hier een belangrijke en leerrijke usecase. Niet alleen voor dit onderzoek naar toepassing van algoritmen, maar ook voor toekomstige toetsingen door de gemeenteraad. Naar verwachting zal de toepassing van dit soort vormen van algoritmes in combinatie met

2 Over het aantal “foutief” uitgeschreven boetes kan helaas niets gezegd worden. Alleen het totale aantal klachten

kan achterhaald worden. Verder kan dit niet uitgesplitst worden, waardoor niet duidelijk is hoe groot de groep foutief uitgeschreven boetes is.

Onderzoek naar algoritmes in het Groene Hart

10

verbeterde sensoren en AI sterk toenemen. Private aanbieders op gebied van veiligheid in de openbare ruimte breiden hun diensten op dit gebied uit. Voor gemeenten is de business case in termen van verhoogde boete-opbrengsten en lagere kosten van detectie en opvolging ervan plausibel. Het is zaak dat de gemeenten in het licht van deze aantrekkelijke business case voldoende oog houden voor alle ethische en praktische aspecten en consequenties van de inzet van dit en soortgelijke algoritmes. Enigszins provocatief gesteld lijkt het effect op korte termijn van het toevoegen van ‘intelligente technologie’ de ‘intelligentie’ van de gemeentelijke dienstverlening niet vergroot te hebben. Gezien de hiervoor geschetste kans dat het aantal AI- en algoritme verrijkte diensten in combinatie met nieuwe sensoren zal toenemen, ligt hier dan ook een extra uitdaging voor toezichthoudende organen om erop toe te zien dat de gemeente de voorwaarden voor effectieve toepassing – en het realiseren van erachter liggende maatschappelijke doelen in termen van maatschappelijke veiligheid – schept, alvorens dit soort toepassingen op grote schaal in te voeren.

3.2

Promen

De onderstaande usecase beschrijft de ervaringen van de gemeenschappelijke regeling Promen met de inzet van algoritmes: •

Beschrijving usecase: De inzet van game-based assessment waarbij kandidaten korte online games spelen op basis waarvan met behulp van algoritmes een kandidaatprofiel wordt opgesteld dat als vertrekpunt dient voor het verdere gesprek met een jobcoach.

•

Status van usecase: Sinds februari 2023 voert Promen een pilot uit met de tool.

•

Reflectie op usecase: Hoewel de inzet van statistische methodieken bij personeelswerk geen nieuw fenomeen is, is het voor Promen en de gemeenten als opdrachtgever, niet te controleren in welke mate de gebruikte algoritmes en brondata bevooroordeeld zijn Hiervoor zal er een groter beroep voor verantwoording gedaan dienen te worden op leveranciers.

Usecase

Promen Promen is een Gemeenschappelijke Regeling en een publiekrechtelijk samenwerkingsverband van onder andere de gemeenten Gouda, Waddinxveen en Zuidplas om de voormalige Wet Sociale Werkvoorziening (WSW) en de Participatiewet uit te voeren. Verder maakt de gemeente Bodegraven-Reeuwijk op inkoopbasis gebruik van Promen voor de uitvoering van de WSW. De aangesloten gemeenten kopen een dienstverleningspakket in waarbij zij niet specifiek kijken naar de tools die Promen gebruikt. Promen gebruikt in haar bedrijfsvoering verschillende tools die algoritmes gebruiken. Voorbeelden hiervan zijn een diagnostiek ondersteunende game-based assessment en meerdere softwarepakketten, zoals Jewelsoftware. De nadruk van deze casus ligt op het game-based assessment. De softwareleverancier Ivy Works is de aanbieder van het game-based assessment. Ivy Works gebruikt hiervoor de software van het Britse bedrijf Cognisess. Met behulp van de

Onderzoek naar algoritmes in het Groene Hart

11

resultaten van korte online games die de kandidaten spelen, meet het game-based assessment persoonskenmerken. In tegenstelling tot traditionele ‘formele’ tests gebeurt de assessment spelenderwijs. Voorbeelden van de games lopen uiteen van puzzels die gericht zijn op het oplossen van problemen tot reactiespellen. Dit kan voor sommige kandidaten beter werken, omdat ze dan niet het gevoel hebben dat ze getest worden. De gamebased assessment meet meer dan 120 persoonskenmerken, zoals cognitieve vaardigheden, persoonlijkheid, drijfveren, basisvaardigheden en emotionele intelligentie. Het algoritme evalueert de uitkomsten van de online games en produceert een kandidatenprofiel. Het assessment heeft daarmee geen selecterend karakter, maar brengt talenten op een gestandaardiseerde wijze in beeld. De jobcoach bespreekt dit profiel vervolgens samen met de kandidaat. Het geeft jobcoaches zicht op de mogelijkheden van de kandidaat en biedt jobcoaches een manier om een persoonlijk gesprek aan te gaan met de kandidaat; zodat zij hun talenten ontdekken en jobcoaches hen gerichter kunnen begeleiden.

Besluitvorming over in gebruik name Kandidaten die bij Promen komen zijn op weg om te re-integreren of werk te vinden. Om dit zo vlot mogelijk te laten verlopen gebruikt Promen een breed scala aan tools. Vanuit de gemeenten verbonden aan Promen kwam de vraag om nieuwe dienstverlening (een basisen activatieroute naar werk of re-integratie3) te ontwikkelen. Promen wilde hierbij graag dat zij in de dienstverlening een objectief beeld van de talenten van kandidaten konden krijgen. Als reactie hierop heeft Promen in 2022 het proces gestart om op twee locaties (waaronder in Gouda) een Talentenplein te ontwikkelen. Het Talentenplein is zowel een fysiek anders ingerichte locatie als een leerconcept (de Talentenreis) waar diagnostiek, werk en ontwikkeling samenkomen en met de kandidaten kan plaatsvinden. Onderdeel van de ontwikkeling op het Talentenplein is het toepassen van diagnostiek-ondersteunende tools. Voor de diagnostiek-ondersteunende tool had Promen enkele vereisten, namelijk: dat de tool (wetenschappelijk) gevalideerd moest zijn; de tool beschikbaar was in meerdere talen (om inclusiviteit te bevorderen); de tool betaalbaar was; privacy voldoende geborgd is; en ten slotte moet de tool uitgaan van het positieve, d.w.z. de talenten in plaats van de zwakke punten van een kandidaat. De game-based assessment van Ivy Works voldeed aan deze eisen.

Het Promen team, gericht op innovatie en arbeidsontwikkeling heeft daarom ervoor gekozen om een aantal licenties af te nemen om de tool in de praktijk te kunnen testen. Promen heeft ook enkele gesprekken gehad met Ivy Works met als doel er zeker van te zijn dat het product echt past bij hun bedrijfsvoering. De jobcoaches bij Promen hebben meerdere trainingen gehad voordat ze de game-based assessment in de praktijk gingen gebruiken. Tenslotte is er intervisie en het inwerken op de tool georganiseerd. De keuze voor game-based assessment is geen losstaande afweging waar de gemeente specifiek voor geconsulteerd is maar maakt onderdeel uit van een breder pakket aan dienstverlening dat de gemeenten bij Promen afnemen. Hierdoor is het moeilijker te duiden in hoeverre gemeenten betrokken waren in de besluitvorming. Omdat Promen een Gemeenschappelijke Regeling is, zitten wethouders in het dagelijks bestuur en het algemeen bestuur, en zijn zij via deze rol op de hoogte geweest van de keuze voor de inzet van deze tool.

3 Hiernaast wordt er ook vanaf 2023 op het Talentenplein een brancheroute, uitstroomroute en nazorg aangeboden.

Onderzoek naar algoritmes in het Groene Hart

12

Het uiteindelijke besluit over de aanschaf van tools werd genomen door de algemeen directeur van Promen in samenspraak met het team verantwoordelijk voor innovatie en arbeidsontwikkeling. Aangezien in veel gevallen de arbeidsintegratie onderdeel is van een groter vraagstuk, werkt Promen intensief samen met de gemeenten. Zoals eerder vermeld nemen de gemeenten een pakket aan dienstverlening af. De gemeenten zijn hier wel over geïnformeerd door Promen via het regionaal arbeidsoverleg, waar ontwikkelingen over het Talentenplein gedeeld zijn met o.a. beleidsmakers. Verder hebben de plannen voor het Talentenplein (en de game-based assessment) in het Ondernemingsplan 2023 van Promen gestaan. Volgens de Wet Gemeenschappelijke Regelingen moet dit ondernemingsplan gedeeld worden met en goedgekeurd zijn door de raadsleden en het College van B&W van elk van de samenwerkende gemeenten. Dat wil zeggen dat deze functionarissen hiervan kennis hebben kunnen nemen, maar in hoeverre dit gebeurd is niet duidelijk. In theorie heeft het gebruik van game-based assessments een duidelijk gevolg voor de uitvoeringspraktijk. Doordat er een objectief beeld is van de talenten van de kandidaten, begint een gesprek/proces met een kandidaat op een meer gerichte manier. Hierdoor kan een kandidaat beter en efficiënter worden geholpen.

Omdat de game-based assessment van Ivy Works pas twee maanden in gebruik is, is het moeilijk om goed te duiden welke impact de game-based assessments op de uitvoeringspraktijk hebben gehad. Volgens onze gesprekspartners bij Promen zijn de eerste signalen van jobcoaches en kandidaten desalniettemin positief. Ten slotte is er geen DPIA uitgevoerd voor de besluitvorming over de game-based assessment.

Informering en toezicht gemeente tijdens gebruik Momenteel bevindt het gebruik van de game-based assessment zich in de pilot-fase. Sinds eind februari 2023 gebruikt Promen de tool. Er is daardoor relatief weinig ervaring met het gebruik van de tool, zowel bij Promen als bij de gemeenten. In het algemeen rapporteert Promen bij ingebruikname van een tool hierover in het Ondernemingsplan en het jaarverslag. In het Ondernemingsplan van 2023 is de game-based assessment en de inzet ervan behandeld. Ook evalueert Promen als onderdeel van het aanschafproces standaard nieuwe tools. In het regionaal arbeidsoverleg is er ook ruimte om ontwikkelingen omtrent het Talentenplein te behandelen. Meerdere gemeenteraden voeren ook werkbezoeken uit aan Promen. Hierbij wordt er ook stilgestaan bij de game-based assessment. Tenslotte, jobcoaches rapporteren ook naar de werkconsultenten bij de gemeenten. Dit gebeurt echter op traject-niveau, niet op tool-niveau. Mocht er interesse bij de gemeente zijn om inzicht te krijgen in de werking van de tools, is dat mogelijk. De game-based assessment van Ivy Works maakt gebruik van een gevalideerd systeem dat het Britse bedrijf Cognisess ontwikkeld heeft. De site van Cognisess geeft aan dat het systeem gebaseerd is op wetenschappelijk onderzoek en dat het systeem rekening houdt met mogelijke vooroordelen in de modellen.

Details over hoe het systeem precies in elkaar zit en welk wetenschappelijk onderzoek het gebruikt, is niet te vinden op de site van Cognisess. Ivy Works geeft ook advies over hoe Promen het beste de game-based assessment kan inzetten. Zo is het mogelijk om de assessment in meerdere delen uit te voeren - in het geval dat iemand de assessment niet in één keer kan uitvoeren. Verder is er bij Promen een Functionaris Gegevensbescherming. Promen heeft duidelijk toezicht op privacy en persoonsgegevensbescherming. Op het moment van schrijven (juni 2023) kan er nog geen duidelijke conclusie getrokken worden in hoeverre het algoritme bijdraagt aan de bedrijfsvoering. Intern zal de game-

Onderzoek naar algoritmes in het Groene Hart

13

based assessment geëvalueerd worden zodra alle aangekochte licenties in gebruik zijn genomen. Tot nu toe hebben de jobcoaches en kandidaten positieve ervaringen met de game-based assessment. Het stelt de jobcoaches in staat om op een persoonsgerichte manier een traject in te gaan. Het gebruik van deze tool als vertrekpunt voor een gesprek zorgt ervoor dat een algoritme niet zelfstandig een beslissing neemt over een kandidaat. Tegelijkertijd geeft het de kandidaten ook inzicht in hun eigen talenten en zwakkere punten. Een voorlopige conclusie van de coaches is dat de game-based assessment een positieve toevoeging is aan het Talentenplein.

Reflectie op de usecase Het gaat hier om een toepassing van algoritmes die recent als pilot bij de betreffende GR en daarmee samenwerkende gemeenten in gebruik is. De Nederlandse leverancier en de Britse bronhouder werken er echter al een aantal jaren mee. De wetenschappelijke basis wordt door de Britse leverancier wel genoemd, maar kan niet geverifieerd worden, bronvermelding of certificering ontbreekt. Het is uit de usecase analyse niet duidelijk welke algoritmes de dienst van Ivy Works toepast. Promen en de samenwerkende gemeenten hebben daarop nog geen inzicht. Verder hebben ze nog geen toezicht ingericht op de uitwerking van in de dienst ingebakken algoritmes. Dat kan problematisch zijn – ondanks dat de game based assessment als tool gebruikt wordt en zorgvuldig wordt omgegaan met de interpretatie - omdat bij vergelijkbare assessmentmethoden langere tijd bekend is dat ze een culturele bias kennen. Het is niet duidelijk, en het is niet te duiden, of daarvan sprake is bij deze applicatie, en ook een eenmaal ingericht toezichthoudend kader zal hierop weinig of geen grip kunnen krijgen, tenzij de leverancier openheid van zaken geeft, en er periodiek een impactonderzoek naar de toepassing van de tool plaatsvindt.

Gezien het feit dat deze algoritmes in een pilot-vorm gebruikt worden, is het belangrijk om bij (mogelijke) opschaling van het gebruik aandacht te hebben voor de werking van de algoritmes zelf. Verder is het in het vervolg belangrijk om bij andere pilot hier ook oog voor te hebben.

Onderzoek naar algoritmes in het Groene Hart

14

4 Usecases gemeente Waddinxveen 4.1

Zonnedakje

De onderstaande usecase beschrijft de ervaringen van de gemeente Waddinxveen met de inzet van de Zonnedakje-applicatie: •

Beschrijving usecase: de Zonnedakje-applicatie geeft beleidsmakers per wijk of per gebied inzicht in de status, potentie en investeringskansen voor zonne-energie.

•

Status van usecase: Zonnedakje monitoringsdoeleinden.

•

Reflectie op usecase: naar verwachting zal de toepassing van dit soort vormen van algoritmes in combinatie met verbeterde sensoren en AI sterk toenemen.

wordt

slechts

beperkt

ingezet

voor

interne

usecase

Zonnedakje Zonnedakje is software voor beleidsmakers die bezig zijn met verduurzaming in hun gemeente. Het geeft beleidsmakers per wijk of per gebied inzicht in de status, potentie en investeringskansen voor zonne-energie. Dat doet zonnedakje op basis van verschillende, deels openbare, databronnen en AI-algoritmes: •

Zonnedakje analyseert luchtfoto’s via een algoritme voor beeldherkenning waardoor de applicatie kan detecteren op welke plekken al zonnepanelen aanwezig zijn.

•

Zonnedakje bevat een algoritme om de potentie voor zonnepanelen op daken te bepalen op basis van kadastrale gegevens, gemeentelijke gegevens (bouwjaren, monumenten, beschermd stadsgezicht) en hoogtebestanden.

•

Zonnedakje bevat daarnaast een ander algoritme om te analyseren op welke plekken parkeerplaatsen zich bevinden.

Zonnedakje bevat een compleet bestand van panden, parkeerplaatsen, en informatie over het elektriciteitsnet. Al deze informatie is via de software toegankelijk voor gemeenten en provincies, maar Zonnedakje biedt ook op aanvraag maatwerk voor een specifiek gebied. De Gemeente Waddinxveen gebruikt Zonnedakje om te meten hoeveel zonnepanelen er al aanwezig zijn in de gemeente en hoe dit van jaar tot jaar verandert. De gemeente heeft Zonnedakje echter nog niet veel ingezet. Nog niet veel ambtenaren hebben met de software gewerkt. Daarom is er volgens de betrokken ambtenaren nog geen toezicht op het algoritme nodig geweest. Gemeente Waddinxveen verwijst daarnaast ook op haar website4 ook naar de applicatie van Zonnedakje zodat burgers kunnen bepalen of hun dak geschikt is om zonnepanelen te plaatsen.

4 Zie: https://www.waddinxveen.nl/duurzaamheid/schone-energie-opwekken/

Onderzoek naar algoritmes in het Groene Hart

15

Besluitvorming voor ingebruikname Twee jaar geleden hebben ambtenaren van de gemeente Waddinxveen, samen met gemeente Bodegraven-Reeuwijk en gemeente Krimpenerwaard, besloten Zonnedakje te gaan gebruiken om binnen de gemeenten te kunnen monitoren hoeveel zonnepanelen er al op daken van zowel particulieren als bedrijven liggen en waar er meer potentie is om zonnepanelen te leggen om de gemeente te verduurzamen. Ook wilde de gemeente graag in kaart brengen wat door de jaren heen het verschil is in aangelegde zonnepanelen en wilde de gemeente dat de gebruikte applicatie in de toekomst ook makkelijk door burgers te gebruiken is. Echter, de gemeente zet Zonnedakje op dit moment nog maar zeer beperkt in. Aangezien Zonnedakje een duidelijke en gebruiksvriendelijke site heeft, is er op aanbevelen van de Omgevingsdienst Midden-Holland (ODMH) gekozen voor Zonnedakje. Van bovengenoemde gemeenten was er één ambtenaar betrokken bij het overleg met Zonnedakje over de uitrol van de applicatie in de gemeente. Binnen de gemeente Waddinxveen was dat een ambtenaar van de afdeling Duurzaamheid. Vervolgens is er binnen de gemeente Waddinxveen met de programmamanager Duurzaamheid afgestemd dat Zonnedakje ingezet zou worden en heeft de afdeling inkoop zich gebogen over de offerte van Zonnedakje.

De afdeling databeheer is vervolgens ook geïnformeerd over Zonnedakje aangezien zij verantwoordelijk zijn voor het aanleveren voor de juiste data, waaronder luchtfoto’s, die nodig zijn voor Zonnedakje. De afgelopen twee jaar hebben ambtenaren van de gemeente Waddinxveen nog niet veel met de applicatie gedaan. Het is vooralsnog alleen gebruikt voor interne monitoring van het aantal zonnepanelen. Aangezien volgens de betrokken ambtenaren de gemeente Waddinxveen Zonnedakje nog niet gebruikt om zaken te bepalen die direct van invloed zijn op burgers, zijn er verder geen ethische overwegingen meegenomen in het besluit om Zonnedakje te gebruiken en is er geen DPIA uitgevoerd. Wanneer Zonnedakje in de toekomst wellicht wel gebruikt gaat worden voor besluiten die impact hebben op burgers, bijvoorbeeld om subsidies vast te kunnen stellen, is de gemeente Waddinxveen wel van plan nader onderzoek te doen naar ethische vraagstukken – zeker in het kader van de AVG.

Informatievoorziening en toezicht gemeente tijdens gebruik Binnen de gemeente Waddinxveen zijn er op het moment slechts een beperkt aantal ambtenaren geïnformeerd over het gebruik van Zonnedakje. Volgens de gemeente is dat omdat de applicatie tot nu toe alleen in beperkte mate is gebruikt voor interne monitoring over hoe de hoeveelheid zonnepanelen zich de afgelopen jaren heeft ontwikkeld. Naast de ambtenaar van de afdeling Duurzaamheid die verantwoordelijk is voor de uitrol van Zonnedakje, zijn er weinig ambtenaren binnen de gemeente Waddinxveen geïnformeerd over de werking van Zonnedakje. Bij andere afdelingen, Inkoop en Databeheer, weten een aantal ambtenaren van het gebruik van Zonnedakje, maar deze personen zijn verder niet betrokken bij de uitrol van de applicatie. De gemeente heeft geen nader onderzoek gedaan naar de werking van Zonnedakje en de gebruikte algoritmen. Volgens de gemeente is dat niet gedaan omdat er niet met privacygevoelige data wordt gewerkt en omdat de gemeente tijdens de besprekingen met Zonnedakje constateerde dat ze een betrouwbaar systeem hebben, met onder andere verschillende ISO-certificeringen. Echter, is hierbij geen expliciete aandacht voor de algoritmes die in applicatie zitten. De afdeling Databeheer is binnen gemeente

Onderzoek naar algoritmes in het Groene Hart

16

verantwoordelijk voor het aanleveren van de benodigde data voor Zonnedakje. De verantwoordelijke ambtenaar weet dat luchtfoto’s samen met andere openbare data gebruikt worden om vast te stellen waar er zonnepanelen liggen en waar er het beste zonnepanelen geplaatst kunnen worden, maar weet niet hoe het algoritme hierachter in elkaar steekt. De gemeente houdt nog geen toezicht op het gebruik van Zonnedakje, aangezien de applicatie nog niet gebruikt wordt door burgers of om beslissingen te maken die invloed hebben op burgers. In de toekomst wil gemeente Waddinxveen deze applicatie wel inzetten om burgers meer inzicht te geven in het aanleggen van zonnepanelen. Op dat moment wil de gemeente ook meer toezicht houden op de applicatie, al is er nog niet nagedacht hoe dit toezicht eruit moet komen te zien. Reflectie op de usecase Uit het bovenstaande kan geconstateerd worden dat binnen de gemeente Waddinxveen weinig ambtenaren op de hoogte zijn van het bestaan en de werking van, Zonnedakje. Dit komt doordat de applicatie nog niet veel ingezet is en de gemeente het dus ook niet nodig vindt om meer ambtenaren te informeren.

Dit geeft echter wel aan dat er binnen de gemeente weinig tot geen motivatie is om abtenaren te informeren over algoritmen of meer informatie over de werking van deze algoritmen te verkrijgen, wanneer de gemeente het algoritme beschouwt als klein of relatief weinig impactvol. Verder geeft deze usecase ook aan dat gemeenten soms pas bereid zijn toezicht te gaan houden op een algoritme of deze grondig te toetsen wanneer het verwacht dat een algoritme een directe impact op de burger gaat hebben, wanneer dit niet het geval is vinden gemeente toetsing en toezicht niet nodig. Richting de toekomst kunnen hierdoor mogelijke risico’s ontstaan als de applicatie ook voor andere doeleinden ingezet gaat worden die een directere impact hebben op de burger (bijv. voor detecteren van zonnepanelen met hoog brandgevaar). Een ander belangrijk punt wat uit deze usecase gehaald kan worden is dat er bij het inkoopproces en in gebruikneming van algoritmen weinig wordt stilgestaan bij hoe dit algoritme precies werkt en welke data gebruikt worden door het algoritme. Daarnaast betekent aanschaf van een applicatie niet dat deze applicatie ook daadwerkelijk voldoende gebruikt zal worden om de kosten hiervan te rechtvaardigen.

4.2

Octobox

De onderstaande usecase beschrijft de ervaringen van de gemeente Waddinxveen met de inzet van Octobox: •

Beschrijving usecase: applicatie voor het anonimiseren van documenten die gepubliceerd worden in het kader van de WOO.

•

Status van usecase: eerste ambtenaren hebben kennisgemaakt met de applicatie maar de uitrol over de gehele organisatie moet nog gaan plaatsvinden

•

Reflectie op usecase: hoewel in theorie een redelijk risicovrije toepassing, kan de applicatie leiden tot het verwateren van het bekende vierogen controle principe

Onderzoek naar algoritmes in het Groene Hart

17

usecase

Octobox Octobox is een applicatie die wordt gebruikt door ambtenaren van de gemeenten Waddinxveen en Gouda. De dienst kan gebruikt worden voor het anonimiseren van documenten die gepubliceerd worden in het kader van de WOO, bijvoorbeeld het zwartlakken van namen, BSN-nummers, mailadressen of NAWgegevens. Octobox maakt gebruik van een speciaal voor dit doel ontwikkeld algoritme op basis van Natural Language Processing (NLP) wat teksten kan classificeren. De software kan automatisch de gegevens vinden die weggelakt moeten worden, conform de Algemene Verordening Gegevensbescherming (AVG). Door toekomstige koppeling met zaaksysteem Djuma kan een ambtelijk medewerker met slechts één handeling een document anonimiseren. Gebruikers kunnen daarbij ook zelf termen toevoegen waar het algoritme, naast de standaard termen, bij een volgende zoekopdracht naar zoekt. Verder kan men zelf ook instellen welke andere gegevens – naast de wettelijk verplichte - automatisch geanonimiseerd moeten worden, de reden dat deze geanonimiseerd moeten worden en in welke delen van het document dit moet gebeuren. De gemeente Waddinxveen heeft recent besloten Octobox in te zetten na marktonderzoek naar verschillende applicaties die het mogelijk maken om de WOO efficiënt en effectief uit te voeren binnen de kaders van de AVG.

ER heeft inmiddels een pilot plaatsgevonden en Octobox wordt op het moment (juni 2023) nog uitgerold binnen de gemeente en ambtenaren zullen nog getraind worden in het gebruik van Octobox. De onderlinge afspraak is dat bewerkingen op documenten door Octobox altijd gecontroleerd worden door een ambtenaar.

Besluitvorming voor ingebruikname Octobox is één van de applicaties die op de markt is om te kunnen voldoen aan zowel de juridische eisen van de AVG en de functionele eisen van de WOO. Deze twee bijten elkaar, aangezien vanuit de WOO iedereen recht heeft om bepaalde documenten in te zien, terwijl de AVG voorschrijft dat privacygevoelige gegevens afgeschermd moeten worden. De gemeente Waddinxveen wil Octobox gaan gebruiken om het hele proces van gegevens anonimiseren efficiënter te maken door een groot gedeelte te automatiseren. Informatiemanagers van de gemeente Waddinxveen hebben in het informatiebeleidsplan 2019 aangegeven dat er een automatische applicatie nodig is voor het anonimiseren van privacygevoelige gegevens. Vervolgens heeft het managementteam na marktonderzoek besloten om Octobox hiervoor te gaan gebruiken, in navolging van verschillende andere gemeenten binnen Nederland. Op het moment zijn nog voornamelijk de informatiemanager, de privacybeheerder en de adviseur informatiebeheer vanuit de gemeente betrokken bij de uitrol van Octobox, maar in de toekomst zal Octobox ingezet gaan worden door alle ambtenaren binnen de gemeente die werken met de WOO. Sommige ambtenaren zijn hiervan ook al op de hoogte, maar de echte trainingen en implementatie staan gepland voor in de nabije toekomst.

De combinatie van het gebruik van een algoritme met controle door een mens, maken dat deze applicatie betrouwbaarder, efficiënter en effectiever zou moeten zijn dan puur handmatige aanpak voor anonimiseren. Verder draagt het gebruik van Octobox bij aan een veiligere dataverwerking en -opslag, omdat alle documenten op één punt verzameld worden, i.p.v. op verschillende harde schijven van verschillende ambtenaren. Aangezien Octobox helpt

Onderzoek naar algoritmes in het Groene Hart

18

om te voldoen aan wet- en regelgeving in het belang van de burger en het geen besluiten neemt met directe invloed op de situatie van de burger, heeft de gemeente geen DPIA of andere toets uitgevoerd. De gemeente is nog wel van plan een pilot uit te voeren om te kijken of de applicatie inderdaad doet wat verwacht wordt. Aangezien in andere gemeenten Octobox al zonder problemen gebruikt wordt, verwacht de gemeente geen grote obstakels.

Informatievoorziening en toezicht gemeente tijdens gebruik De gemeente Waddinxveen zal in de toekomst alle ambtenaren binnen de gemeente die Octobox gaan gebruiken een training geven. Aangezien de applicatie nog niet gebruikt wordt, zijn binnen de gemeente veel mensen nog niet op de hoogte van Octobox en hoe de applicatie werkt. De personen betrokken bij de uitrol van Octobox hebben ook beperkt inzicht in hoe het algoritme achter Octobox precies werkt. Ze weten dat Octobox gebruik maakt van een zelflerend AI-systeem, waar je ook termen aan kan toevoegen die de applicatie in de toekomst ook moet herkennen in documenten en waarom. Aangezien Octobox werkt in het belang van de burger en verder niet betrokken is bij bijvoorbeeld het verstrekken van subsidies, is de prioriteit van het achterhalen hoe Octobox precies werkt ook minder hoog dan voor algoritmes die hier wel mee te maken hebben. Octobox zorgt enkel voor het anonimiseren van documenten en haalt hieruit geen data voor verder gebruik. Vanuit andere gemeenten en een paar kleine tests is ook al gebleken dat het anonimiseren van gegevens door Octobox niet altijd geheel feilloos is, dus controle van de uitkomsten is zeer belangrijk.

Daarom is de interne afspraak dat wanneer Octobox wordt gebruikt om documenten te anonimiseren, er altijd een handmatige check door een ambtenaar uitgevoerd zal gaan worden om te controleren of alles klopt.

Reflectie op usecase Octobox behoort tot de categorie algoritmetoepassingen die – mits onderworpen aan grondig toezicht – als onderdeel van documenthandling van gemeenten een redelijk risicovrije toepassing zijn. In principe zou de correcte inzet van de applicatie, waarbij een menselijke en automatische check elkaar aanvullen, kunnen leiden tot een beter resultaat. Tegelijkertijd mag de extra automatische check niet ten koste gaan van het vierogenprincipe. Daarnaast kunnen automatische checks er ook voor zorgen dat ambtenaren te veel gaan vertrouwen op de correctheid van deze systemen en minder alert worden in het waarnemen van fouten tijdens hun handmatige checks. Hoewel Octobox aan de informatieveiligheidseisen voldoet, kan de inzet van zulk soort tools de drempel verlagend werken voor ambtenaren om ook andere AI-tools in te zetten, uit onder andere de familie van ChatGPT, die niet aan deze informatieveiligheidseisen voldoen. Waakzaamheid hierop dient betracht te worden aangezien er wereldwijd al enkele gevallen bekend waarin criminelen door ambtelijke medewerkers gewiste data via dit soort AI-applicaties wisten te verzamelen en analyseren.

Onderzoek naar algoritmes in het Groene Hart

19

5 Usecases gemeente Zuidplas 5.1

Centric Burgerzaken

De onderstaande usecase beschrijft de ervaringen van de gemeente Zuidplas met de inzet van Centric Burgerzaken: •

Beschrijving usecase: Centric Burgerzaken is een cloudoplossing waarmee gemeenten eenvoudig burgerzaken kunnen uitvoeren via de inzet van diverse regel gebaseerde algoritmes.

•

Status van usecase: Centric Burgerzaken is in Zuidplas volledig operationeel en maakt voor veel ambtenaren onderdeel uit van de dagelijkse werkpraktijk.

•

Reflectie op usecase: de algoritmes zoals beschreven in deze usecase zitten in het hart van allerlei digitale diensten die directe implicaties hebben voor burgers. Tegelijkertijd zijn ze zodanig ‘ingebakken’ dat ambtelijke medewerkers er niet door getriggerd worden.

usecase

Centric Burgerzaken Centric Burgerzaken is een cloudoplossing waarmee gemeenten eenvoudig burgerzaken kunnen uitvoeren. De software bestaat uit regel gebaseerde algoritmes en het bevat onder andere intelligente formulieren: wanneer men burgerzaken (zoals een verhuizing, overlijden, etc.) wil doorgeven, kan men via DigiD inloggen in het systeem en staan gegevens al vooringevuld in het gewenste formulier. De data hiervan komt uit de Basisregistratie Personen (BRP). Verder wordt het complete aanvraag- en aangifteproces van burgerzaken ondersteund, door automatische verwerking in Centric Burgerzaken: het aanmaken van een zaak, het opslaan van documenten, etc. Doordat gegevens automatisch verwerkt en ingevuld worden, op basis van elders vooringevulde informatie, worden menselijke fouten voorkomen. De digitale aangiften en aanvragen komen automatisch aan in Centric Burgerzaken. De gemeente bepaalt per eDienst of de online aangiften/aanvragen volledig automatisch, zonder tussenkomst van een medewerker, worden verwerkt, of dat de gemeente ze eerst beoordeelt voordat ze worden verwerkt. De gemeente kan ook een combinatie kiezen en alleen aanvragen beoordelen die een geüploade bijlage hebben, of waarbij automatische controles afgaan. Of de gemeente kiest ervoor om binnengemeentelijke verhuizingen automatisch te verwerken en hervestigingen eerst te beoordelen.

De bovengenoemde instelbare, automatische controles op personen en/of adressen leiden in Centric Burgerzaken als dat nodig is tot een waarschuwing voor de betrokken ambtenaar. Voorgangers van de gemeente Zuidplas hebben Centric Burgerzaken in het verleden in gebruik genomen voor het regelen van alle zaken omtrent burgerzaken. Alle ambtenaren van de gemeente Zuidplas maken gebruik van Centric Burgerzaken op een directe of indirecte manier en zijn dus van het systeem op de hoogte. Aangezien er met privacygevoelige gegevens wordt gewerkt binnen Centric Burgerzaken, controleert de gemeente streng op de werking en toetst de gemeente deze ook jaarlijks.

Onderzoek naar algoritmes in het Groene Hart

20

Besluitvorming voor ingebruikname De gemeente Zuidplas heeft besloten Centric Burgerzaken in gebruik te nemen om basisgegevens van personen vast te leggen. Het systeem is automatisch gekoppeld aan databases zoals het BRP waar allerlei persoonsgegevens instaan. Door deze koppeling met basisregistratiesystemen is de informatie in alle gekoppelde systemen hetzelfde en kan deze ook gemakkelijk gebruikt worden om door te sturen naar derden, zoals organisaties die zich bezighouden met uitkeringen. Daarom gebruikt de gemeente Centric Burgerzaken voor alles wat met burgerzaken te maken heeft, van de aanvraag van een rijbewijs, tot de aangifte van een overledene. Centric Burgerzaken is dan ook volledige geïntegreerd binnen de gemeente digitale infrastructuur. Ook voor het samengaan in de gemeente Zuidplas, maakten de voorgangers al gebruik van Centric Burgerzaken. Vandaar dat de fusiegemeente Zuidplas besloten heeft Centric te blijven gebruiken. Daarbij wordt het systeem binnen vele Nederlandse gemeente gebruikt voor burgerzaken en is naast PinkRoccade en Procura de grootste oplossing hiervoor. Daarom was de keuze in het verleden snel gemaakt door de oude gemeenten om deze software te gaan gebruiken, in navolging van andere (grotere) gemeenten.