Document · PDF

Onderzoek naar algoritmes in het Groene Hart - Eindrapport gemeente Waddinxveen v.10-11

Besluitvormende raadsvergadering 24 april 2024, gemeente WaddinxveenBij agendapunt: Onderzoek naar algoritmes in het Groene Hart11.264 woorden

Open het PDF bij iBabs ↗Naar de vergadering →

Tekst van het document

Uit het bestand gehaald, zonder opmaak, tabellen en afbeeldingen · deel 1 van 2

November 2023

Onderzoek naar algoritmes in gemeente Waddinxveen Eindrapport

www.technopolis-group.com

November 2023

Onderzoek naar algoritmes in gemeente Waddinxveen Eindrapport Gerwin Evers, Erika van der Linden, Jules van de Meulengraaf, Willeke van der Varst, Bauke van der Veldt, Roel Bottema, Chiel Scholten en Ben Kokkeler

Onderzoek naar algoritmes in gemeente Waddinxveen

Inhoudsopgave Managementsamenvatting .................................................................................................................3 Lijst van gebruikte afkortingen .............................................................................................................6 1

Inleiding ..........................................................................................................................................7 1.1

Aanleiding en doel: waarom dit onderzoek?........................................................................................ 7

1.2

Blijvende aandacht voor algoritmes ...................................................................................................... 8

1.3

Definitie: wat verstaan we onder algoritmes? ....................................................................................... 8

1.4

Normenkader ............................................................................................................................................ 9

1.5

Onderzoeksaanpak ................................................................................................................................ 10

1.6

Leeswijzer ................................................................................................................................................. 10

Overkoepelende bevindingen ..................................................................................................11 2.1

Context .................................................................................................................................................... 11

2.2

Gebruik algoritmes ................................................................................................................................. 11

2.3

Bevindingen rondom bewustzijn ........................................................................................................... 12

2.4

Bevindingen rondom besluitvorming .................................................................................................... 13

2.5

Bevindingen rondom toezicht ............................................................................................................... 13

Onderliggende bevindingen en analyse .................................................................................15 3.1

Analyse rondom bewustzijn ................................................................................................................... 15

3.2

Analyse rondom besluitvorming ............................................................................................................ 17

3.3

Analyse rondom toezicht ....................................................................................................................... 21

Usecases .......................................................................................................................................23 4.1

Zonnedakje.............................................................................................................................................. 23

4.2

Octobox................................................................................................................................................... 25

Bijlage A Onderzoeksaanpak ............................................................................................................28 Bijlage B Enquêtevragenlijst ..............................................................................................................31

Onderzoek naar algoritmes in gemeente Waddinxveen

Managementsamenvatting Aanleiding In de periode november 2022 tot juli 2023 heeft onderzoeksbureau Technopolis in opdracht van de Groene Hart Rekenkamer (GHR) een onderzoek uitgevoerd naar het algoritmegebruik in de gemeenten Gouda, Waddinxveen, Zuidplas en Bodegraven-Reeuwijk. Dit rapport presenteert de bevindingen voor de gemeente Waddinxveen. De algemene aanleiding voor dit onderzoek zijn eerdere incidenten met ongewenst, onjuist of ongeïnformeerd gebruik van algoritmen door zowel de Rijksoverheid als diverse gemeenten. Hoewel er geen directe zorgwekkende signalen waren over het algoritmegebruik van de gemeenten in het Groene Hart, heeft de Groene Hart Rekenkamer uit voorzorg besloten dit onderzoek uit te laten voeren naar het gebruik van algoritmes. De doelstelling van dit onderzoek is om in kaart te brengen hoe geïnformeerd de gemeenten zijn over hun inzet van algoritmes, hoe de besluitvorming hierover plaatsvindt en in hoeverre er sprake is van systematisch toezicht op het gebruik van algoritmes door de gemeenten. Deze studie heeft een verkennend karakter en moet bijdragen aan het vergroten van de kennis en het goed geïnformeerd handelen van gemeenten over hun inzet van algoritmes.

Voor dit onderzoek hanteren we de definitie die gebruikt is in het onderzoek van de Rekenkamer van de Gemeente Rotterdam: ‘Een algoritme is een set instructies die door een computer wordt uitgevoerd, om te komen tot een beslissing of om te komen tot informatie die, in dit geval, de ambtenaar gebruikt om een beslissing te nemen’1

Context Gemeente Waddinxveen is een gemeente die zichzelf typeert als een ‘frisse volger’ op het gebied van digitalisering en algoritmes; de gemeente heeft niet de schaal om zelf het wiel uit te vinden op dit vlak, maar wil wel graag dicht bij de nieuwste mogelijkheden zitten. Op dit moment zet de gemeente Waddinxveen slechts beperkt algoritmes in. De gebruikte algoritmes zijn vooral gericht op het verbeteren van de dienstverlening en business intelligence van de gemeente. Qua werking zijn deze algoritmes vooral ‘beschrijvend’; de gemeente voegt nog geen datasets samen. Gemeente Waddinxveen heeft echter wel de ambitie om hierin verdere stappen te zetten en maakt ook de inschatting dat algoritmes in de komende jaren een belangrijkere rol gaan spelen in de organisatie en haar dienstverlening. De informatiemanager en enkele andere ambtenaren zijn hiervan de trekkers binnen de organisatie. In het informatiebeleidsplan Optimaal en Digitaal (2019) beschrijven zij waar de gemeente naar toe wil op digitaal gebied in de komende jaren. In de afgelopen jaren heeft de gemeente ook actief gekeken naar nieuwe mogelijkheden om data-science-methodieken in te zetten, waarbij ook algoritmes kunnen worden ingezet , maar heeft zij nog geen geschikte toepassingen gevonden.

Ook volgt de Gemeente Waddinxveen de ontwikkelingen die bij andere gemeenten spelen via deelname aan bijeenkomsten over data en algoritmes van met name de VNG. Interne capaciteit blijft een aandachtspunt in deze ontwikkelingen voor de gemeente; de gemeente Waddinxveen is op zoek naar een adviseur Informatiemanagement die verschillende taken hierbinnen kan oppakken.

1 Rekenkamer Rotterdam (2021). Gekleurde technologie: verkenning ethisch gebruik algoritmes. Online beschikbaar

via: https://rekenkamer.rotterdam.nl/wp-content/uploads/2020/11/R.P.20.06-gekleurde-technologie.pdf

Onderzoek naar algoritmes in gemeente Waddinxveen

Bevindingen In Nederland is er nog geen formeel algoritmenormenkader vastgesteld waaraan gemeenten moeten voldoen. Voor dit verkennende onderzoek hebben we daarom een voorlopig normenkader opgesteld. Dit normenkader geeft aan waar een gemeente idealiter zou moeten staan op het gebied van bewustzijn van, besluitvorming over en toezicht op algoritmes. Dit normenkader is opgesteld aan de hand van verschillende richtlijnen die aangeven hoe gemeenten met algoritmes dienen om te gaan zoals de principes geformuleerd in de AVG, de Europese AI-wet en de ontwikkelingen rondom het algoritmeregister waar gemeenten op termijn ook op moeten aansluiten. Op basis van deskstudie, interviews met bestuurders en ambtenaren, en een enquête verspreid onder de ambtelijke en bestuurlijke organisatie is de gemeente beoordeeld aan de hand van dit normenkader. In de onderstaande secties vindt u in de tabellen de beoordeling van de gemeente gevolgd door een overkoepelende toelichting. Bevindingen rondom bewustzijn over algoritmes Norm

Beoordeling norm

Beoordeling ontwikkeling

Voldoet in beperkte mate aan de norm…

…en de gemeente is bezig hier meer grip op te krijgen

De gemeente weet waarvoor ze algoritmes inzet

Voldoet in grote mate aan de norm…

…maar staat voor de uitdaging ook meer complexe vormen van algoritme toepassingen in control te brengen

De gemeente weet waarom ze algoritmes inzet

Voldoet in grote mate aan de norm…

…en is bezig de juiste ambtelijke functies hiervoor in te richten

De gemeente algoritmes inzet

weet

waar

Op dit moment is er over de breedte van de ambtelijke organisatie en college slechts beperkt bewustzijn van de inzet van algoritmes. Algoritmes is ook geen thema dat veel aandacht geniet vanuit zowel de raad als college. Afgezien van enkele ambtenaren betrokken bij het informatiemanagement, hebben ambtenaren voorafgaand aan dit onderzoek slechts in beperkte mate goed geïnformeerd nagedacht over de algoritmes die ze in hun dagelijks werk of breder in de organisatie tegen komen. Op het moment dat de gemeente (een nieuw) algoritmes inzet, denken ambtenaren wel expliciet na over waarom en waarvoor zij deze algoritmes inzetten. De gemeente Waddinxveen is bezig om meer grip op het thema algoritmes te krijgen. Bestuurders voelen aan dat in de komende jaren algoritmes een belangrijkere rol zullen gaan spelen. De informatiemanager heeft een informatiebeleidsplan opgesteld en volgt op dit gebied actief nationale ontwikkelingen en ontwikkelingen bij andere gemeenten. Bevindingen rondom besluitvorming over algoritmes Norm

Beoordeling norm

Beoordeling ontwikkeling

De gemeente neemt geïnformeerde besluiten over de inzet van algoritmes

Voldoet in beperkte mate aan de norm…

…, de ontwikkeling is primair reactief

Bij de besluitvorming worden ethische overwegingen meegenomen

Voldoet in beperkte mate aan de norm…

…en sommige ambtenaren nemen kennis van ethische discussies elders, maar dit moet intern nog ingebed worden

Onderzoek naar algoritmes in gemeente Waddinxveen

Bij de besluitvorming zijn de impliciete aannames achter het algoritme en de gebruikte data bekend

Voldoet in beperkte mate aan de norm…

…maar krijgt nog geen systematische aandacht

Bij de besluitvorming is de gemeente zich bewust van de implicaties van de inzet van het algoritme voor de uitvoeringspraktijk

Voldoet in beperkte mate aan de norm…

…en er is nog geen richting, wordt wel verkend

Afdelingen binnen de gemeente maken primair zelf de keuze voor de tools (software met mogelijk algoritmes) die zij gebruiken. Hierbij kijken ambtenaren naar de prestatie (doet de tool waarvoor zij die aanschaffen) en de prijs van de tool. Hierbij kijken ze ook naar wat andere gemeenten doen of gebruiken. De inkoop van software gaat altijd in overleg met de informatiemanager. In dit inkoopproces en bij aanbestedingen staan betrokkenen niet specifiek stil bij algoritmes in de tool of software. Wel denken betrokkenen actief na over data, zeker in het kader van de AVG (privacy) of veiligheid. Dit is echter een beperkte beschouwing van ethische aspecten. Bij uitbesteding van (gezamenlijke) diensten vormen algoritmes geen aspect dat aandacht krijgt in de aanbestedingsprocedure. Binnen het college en de gemeenteraad zijn softwareaankopen en algoritmes geen onderwerpen die expliciet besproken worden. Het college besluit wel over het beleidsinformatieplan maar besluitvorming over softwareaankopen, en de mogelijk daarin verwerkte algoritmes, ligt bij het managementteam van de ambtelijke organisatie. Bevindingen rondom toezicht op algoritmes Norm

Beoordeling norm

Beoordeling ontwikkeling

De gemeente houdt toezicht op het gebruik van algoritmes

Voldoet niet aan de norm…

…maar voert wel controle uit op de uitkomsten van het algoritme

De gemeente grijpt zo nodig doelbewust in op de werking van algoritmes en of wijkt van de uitkomsten af

Voldoet in beperkte mate aan de norm…

…maar is wel bewust van het belang van checks van uitkomsten en het niet feilloos zijn van algoritmes

De gemeente maakt beperkt gebruik van algoritmes met een hoog risico voor impact op burgers. De gemeente houdt geen toezicht op het gebruik of de werking van deze algoritmes. Er is alleen controle op uitkomsten, waarin ambtenaren slechts vaststellen of er zichtbare onjuistheden in de uitkomsten zitten of de uitkomsten afwijken van verwachtingen. Dat is echter voor algoritmes die complexe analyses uitvoeren niet eenvoudig vast te stellen en daarom in de toekomst een risico voor zorgvuldige besluitvorming en processen. Bij de algoritmes die de gemeente nu inzet, is de interne afspraak dat een algoritme niet zelfstandig een beslissing kan nemen: er zou altijd een controle op de uitkomst moeten plaatsvinden door een ambtenaar. Echter, deze afspraak lijkt niet breed bekend te zijn binnen de organisatie. De gemeente realiseert zich wel dat algoritmes in tools als Octobox niet feilloos werken en dat een dergelijke controle van belang is.

Onderzoek naar algoritmes in gemeente Waddinxveen

Lijst van gebruikte afkortingen AI

Artificiële intelligentie (kunstmatige intelligentie)

ANPR

Automatic Number Plate Recognition (automatische kentekenplaatherkenning)

AVG

Algemene Verordening Gegevensbescherming

CISO

Chief Information Security Officer

BAG

Basisregistratie Adressen en Gebouwen

BSN

Burgerservicenummer

BRP

Basisregistratie Personen

DPIA

Data Protection Impact Assessment

Functionaris Gegevensbescherming

GHR

Groene Hart Rekenkamer

NAW

Naam, adres en woonplaats

NLP

Natural Language Processing

WOO

Wet Open Overheid

Onderzoek naar algoritmes in gemeente Waddinxveen

1 Inleiding 1.1

Aanleiding en doel: waarom dit onderzoek?

In de periode november 2022 tot juli 2023 heeft onderzoeksbureau Technopolis in opdracht van de Groene Hart Rekenkamer (GHR) een onderzoek uitgevoerd naar het algoritmegebruik in de gemeenten Gouda, Waddinxveen, Zuidplas en Bodegraven-Reeuwijk. Dit deelrapport presenteert de bevindingen voor de gemeente Waddinxveen. Digitalisering heeft steeds meer invloed op het dagelijkse leven. De verandering naar een digitale samenleving roept technische, sociale, juridische en ethische vragen op over wat er wel en niet kan. Een actueel voorbeeld hiervan is het gebruik van algoritmes: waar gemeenten altijd al ‘beslisregels’ gebruikten om bijvoorbeeld subsidies toe te kennen, zien we dat ook hier meer geavanceerde mogelijkheden ontstaan. Evenals dat in de particuliere sector het geval is (om consumenten zo gericht mogelijk te kunnen bereiken) zien we dat ook gemeenten steeds vaker gebruik maken van algoritmes om hun taken effectiever en efficiënter uit te voeren en hun dienstverlening te verbeteren. De algemene aanleiding voor dit onderzoek zijn eerdere incidenten met ongewenst, onjuist of ongeïnformeerd gebruik van algoritmen door de overheid. Een in het oog springend voorbeeld is de toeslagenaffaire waarbij algoritmes gebruikt werden om de kans op fraude te berekenen, waardoor burgers op basis van etnische en sociale kenmerken (onjuist) werden aangemerkt als mogelijke fraudeurs.

Dergelijke incidenten beperken zich echter niet tot de Rijksoverheid; ook bij gemeenten kwamen misstanden in algoritmegebruik aan het licht, zoals in het onderzoek dat de Rekenkamer Rotterdam in 2021 uitvoerde 2. Daaruit bleek dat de ingezette algoritmes konden leiden tot uitkomsten die een impliciete bias bevatten gebaseerd op factoren waarvan de verklarende correlatie niet is aangetoond. Ook in de Gemeente Nissewaard bleek dat een algoritme dat gebruikt werd voor fraudedetectie niet betrouwbaar was3. In datzelfde jaar stond het College voor de Rechten van de Mens in een onderzoek specifiek stil bij de ethische vraagstukken voor de inzet van algoritmes door gemeenten 4. Door deze incidenten rijzen er steeds meer vragen in de samenleving over het gebruik van algoritmen door de overheid. Met het oog op deze maatschappelijke vragen heeft de Groene Hart Rekenkamer uit voorzorg besloten dit onderzoek uit te laten voeren naar het gebruik van algoritmes door de gemeenten in het Groene Hart. Er waren geen directe zorgwekkende signalen over het algoritmegebruik bij gemeenten die aanleiding gaven tot dit onderzoek. De doelstelling van dit onderzoek is om in kaart te brengen hoe geïnformeerd de gemeenten zijn over hun inzet van algoritmes, hoe de besluitvorming hierover plaatsvindt en in hoeverre er sprake is van systematisch toezicht op het gebruik van algoritmes door de gemeenten.

Deze studie heeft een verkennend karakter en moet bijdragen aan het vergroten van de kennis en het goed geïnformeerd handelen van gemeenten over hun inzet van algoritmes.

2 Rekenkamer Rotterdam (2021). Gekleurde technologie: verkenning ethisch gebruik algoritmes. Online beschikbaar

via: https://rekenkamer.rotterdam.nl/wp-content/uploads/2020/11/R.P.20.06-gekleurde-technologie.pdf 3 TNO. (2021). Eindrapportage van de Nissewaard casus. https://www.nissewaard.nl/bestuur-en-organisatie/bestuur-

en-organisatie/onderzoek-tno-naar-algoritme.htm 4 H+P (2021). Hoe gemeenten besluiten over algoritmen & mensenrechten. Online beschikbaar via:

https://hooghiemstra-en-partners.nl/wp-content/uploads/2021/07/Onderzoeksrapport-algoritmen-enmensenrechten-gemeenten-29062021-afgerond.pdf

Onderzoek naar algoritmes in gemeente Waddinxveen

1.2

Blijvende aandacht voor algoritmes

De keuze voor dit onderzoek staat ook in een bredere maatschappelijke ontwikkeling waarbij er in de afgelopen jaren meer aandacht is gekomen voor de rol die algoritmes spelen in de maatschappij in het algemeen en binnen de overheid in het bijzonder. De introductie van generatieve AI-tools zoals ChatGPT hebben ervoor gezorgd dat beleidsvraagstukken over hoe om te gaan met algoritmes naar verwachting ook in de komende jaren hoog op de politieke agenda zullen blijven staan. Op Europees niveau zijn ontwikkelingen in volle gang met o.a. de voorgestelde wetgeving voor kunstmatige intelligentie in de AI-wet. Deze wetgeving heeft tot doel de ontwikkeling, implementatie en het gebruik van AI-systemen binnen de EU te reguleren en waarborgen te bieden voor de rechten en veiligheid van haar burgers. Ook op nationaal niveau zijn er onder andere via de het initiatief voor een algoritmetoezichthouder en de opzet van het nationale algoritmeregister ontwikkelingen om transparantie te bevorderen voor maatschappelijk verantwoorde inzet van algoritmes door publieke organisaties. Op gemeenteniveau zien we dat met name de grotere gemeenten, die in veel gevallen zelf ook te maken hebben gehad met misstanden, actief bezig zijn hun omgang met algoritmes tegen het licht te houden.

Zo hebben de gemeenten Rotterdam en Amsterdam een algoritmeregister en interne experts die zich specifiek bezighouden met algoritmes. Hoewel het per gemeente zal verschillen hoeveel middelen zij hiervoor beschikbaar kunnen maken, zullen ook kleinere gemeenten actief moeten gaan nadenken over de inzet van algoritmes om te voldoen aan de toekomstige verplichte aansluiting op het algoritmeregister. Naast deze onmiddellijke verantwoordelijkheid van een gemeente voor maatschappelijk verantwoorde toepassing van AI in het algemeen en algoritmes in het bijzonder, is er ook de voorbeeldrol jegens burgers en ondernemers. Het leeuwendeel van algoritme toepassingen is te vinden in de apparaten die burgers gebruiken en in diensten die commerciële aanbieders aanbieden. Gemeenten kunnen hier slechts in beperkte mate invloed op uitoefenen; ze kunnen wel de expertise bij burgers en ondernemers vergroten en het goede voorbeeld geven.

1.3

Definitie: wat verstaan we onder algoritmes?

Er is internationaal nog geen eenduidige definitie voor wat er precies verstaan wordt onder een algoritme. Voor dit onderzoek hanteren we de definitie die gebruikt is in het onderzoek van de Rekenkamer van de Gemeente Rotterdam: ‘Een algoritme is een set instructies die door een computer wordt uitgevoerd, om te komen tot een beslissing of om te komen tot informatie die, in dit geval, de ambtenaar gebruikt om een beslissing te nemen’5 Binnen deze definitie vallen een grote verscheidenheid aan algoritmes. Algoritmes kunnen zowel relatief simpele handelingen zijn, zoals geautomatiseerd cijfermatige berekeningen uitvoeren, als complexe handelingen zijn, zoals het besturen van een zelfrijdende auto. Wij volgen de indeling in typen algoritmes die onder meer ook door het Ministerie van Justitie en

5 Rekenkamer Rotterdam (2021). Gekleurde technologie: verkenning ethisch gebruik algoritmes. Online beschikbaar

via: https://rekenkamer.rotterdam.nl/wp-content/uploads/2020/11/R.P.20.06-gekleurde-technologie.pdf

Onderzoek naar algoritmes in gemeente Waddinxveen

Veiligheid6 gehanteerd wordt. In de navolgende tabel geven we per type algoritme aan wat er binnen en buiten het bereik van dit onderzoek valt. Tabel 1

Typen algoritmes

Type algoritme

Voorbeelden binnen bereik

Voorbeelden buiten bereik

Beschrijvend (Wat gebeurt er?)

• Identificeren van huizen waar zonnepanelen op daken liggen op basis van satellietdata

• Geavanceerde data-analyses in Excel door medewerkers (d.w.z. niet geautomatiseerd)

• Automatische vertaling van teksten voor burgers in andere talen • Automatisch anonimiseren van teksten of onleesbaar maken van privacygevoelige gegevens Diagnostisch (Waarom gebeurt het?)

• Automatische analyse van factoren die meespelen bij het besluiten tot het aanschaffen van zonnepanelen

• Analyse van een vragenlijst over factoren die meespelen in de keuze voor zonnepanelen (d.w.z. niet geautomatiseerd)

Voorspellend (Wat zal er gebeuren?)

• Geautomatiseerde opsporing van uitkeringsfraude

• Een kwalitatieve analyse van een toekomstscenario

• Handhaving illegaal verhuren van Airbnb’s o.b.v. geautomatiseerde data-analyse van meldingen bij de gemeente, persoonsgegevens, en gegevens over gebouwen Voorschrijvend (Wat moet gebeuren?)

• Automatische parkeercontrole d.m.v. scanauto’s uitgerust met camera’s, beeldherkenningsalgoritmes en kentekenmatching. • Verkeerslichten geautomatiseerd op groen zetten op basis van verkeersdata

• Outlook die voorspelt op wat voor toekomstig tijdstip een email het beste verstuurd kan worden of suggesties geeft voor automatische antwoorden

• Verkeersboetes uitdelen op basis van automatische matching van flitscontroledata en kentekendata

Bron: Technopolis, 2023

1.4

Normenkader

In Nederland is er nog geen formeel algoritmenormenkader vastgesteld waaraan gemeenten moeten voldoen. Voor dit verkennende onderzoek hebben we daarom een voorlopig normenkader opgesteld dat we in Tabel 2 presenteren. Dit normenkader geeft aan waar een gemeente idealiter zou moeten staan op het gebied van bewustzijn van, besluitvorming over en toezicht op algoritmes. Dit normenkader is opgesteld aan de hand van verschillende richtlijnen die aangeven hoe gemeenten met algoritmes dienen om te gaan zoals de principes geformuleerd in de AVG, de Europese AI-wet en de ontwikkelingen rondom het algoritmeregister waar gemeenten op termijn ook op moeten aansluiten. In de volgende hoofdstukken beoordelen we de gemeenten aan de hand van dit normenkader waarbij de gemeente ‘niet’, ‘in kleine’, ‘in beperkte’, ‘in grote’ of ‘in volledige’ mate aan een norm kan voldoen.

6 Ministerie van Justitie en Veiligheid. (2021). Richtlijnen voor het toepassen van algoritmen door overheden en

publieksvoorlichting over data-analyses. https://open.overheid.nl/documenten/ronl-1411e45f-b822-49fa-98952d76e663787b/pdf

Onderzoek naar algoritmes in gemeente Waddinxveen

Tabel 2

Normenkader

Categorie

Norm

Bewustzijn

De gemeente weet waar ze algoritmes inzet De gemeente weet waarom ze algoritmes inzet De gemeente weet waarvoor ze algoritmes inzet

Besluitvorming

De gemeente neemt geïnformeerde besluiten over de inzet van algoritmes Bij de besluitvorming worden ethische overwegingen meegenomen Bij de besluitvorming zijn de impliciete aannames achter het algoritme en de gebruikte data bekend Bij de besluitvorming is de gemeente zich bewust van de implicaties van de inzet van het algoritme voor de uitvoeringspraktijk

Toezicht

De gemeente houdt toezicht op het gebruik van algoritmes De gemeente grijpt zo nodig doelbewust in op de werking van algoritmes en of wijkt van de uitkomsten af

Bron: Technopolis, 2023

1.5

Onderzoeksaanpak

Voor iedere gemeente is dezelfde onderzoeksaanpak gehanteerd. Deze onderzoeksaanpak maakt gebruik van de volgende databronnen: •

Deskstudie: bestudering van relevante documenten (zoals visies op digitalisering, DPIA’s, etc.) aangeleverd door de gemeenten of verzameld door het projectteam.

•

Interviews: tijdens onze bezoeken aan de gemeenten hebben we gesproken met diverse bestuurders en ambtenaren over hun ervaringen met algoritmes.

•

Enquête: een online vragenlijst die door onze contactpersonen is verspreid binnen de ambtelijke en bestuurlijke organisatie.

Naast een rapportage per gemeente hebben we in het totaal ook 8 usecases (2 per gemeente) uitgewerkt waarin we op basis van een beknopte casestudy inzicht geven in de besluitvorming over en implementatie van een specifiek algoritme.

1.6

Leeswijzer

In het volgende hoofdstuk presenteren we de overkoepelende bevindingen uit deze studie. Het daaropvolgende hoofdstuk geeft inzicht per norm in de resultaten van de bredere analyse. Tot slot vindt u in hoofdstuk 4 de twee nader bekeken algoritme-usecases van de gemeente Waddinxveen. In Bijlage A staat een verdere toelichting op de gehanteerde onderzoeksaanpak. In Bijlage B vindt u de enquêtevragenlijst.

Onderzoek naar algoritmes in gemeente Waddinxveen

2 Overkoepelende bevindingen 2.1

Context

Gemeente Waddinxveen is een gemeente die zichzelf typeert als een ‘frisse volger’ op het gebied van digitalisering en algoritmes; de gemeente heeft niet de schaal om zelf het wiel uit te vinden op dit vlak, maar wil wel graag dicht bij de nieuwste mogelijkheden zitten. Op dit moment zet de gemeente Waddinxveen slechts beperkt algoritmes in. De gebruikte algoritmes zijn vooral gericht op het verbeteren van de dienstverlening en business intelligence van de gemeente. Qua werking zijn deze algoritmes vooral ‘beschrijvend’ (eerste type in Tabel 1); de gemeente voegt nog geen datasets samen. Gemeente Waddinxveen heeft echter wel de ambitie om hierin verdere stappen te zetten en maakt ook de inschatting dat algoritmes in de komende jaren een belangrijkere rol gaan spelen in de organisatie en haar dienstverlening. De informatiemanager en enkele andere ambtenaren zijn hiervan de trekkers binnen de organisatie. In het informatiebeleidsplan Optimaal en Digitaal (2019) beschrijven zij waar de gemeente naar toe wil op digitaal gebied in de komende jaren. In de afgelopen jaren heeft de gemeente ook actief gekeken naar nieuwe mogelijkheden om data-science-methodieken in te zetten, waarbij ook algoritmes kunnen worden ingezet, maar heeft zij nog geen geschikte toepassingen gevonden.

2.2

Gebruik algoritmes

In de interviews en enquête hebben we ambtenaren specifiek gevraagd naar de algoritmes die ze in hun eigen werk of breder binnen de organisatie zijn tegengekomen. Een overzicht van deze benoemde algoritmes vindt u in Tabel 3. Daarnaast refereerden ambtenaren ook naar algoritmes die mogelijk door samenwerkingsverbanden zoals de Belastingsamenwerking Gouwe-Rijnland worden ingezet. Tabel 3

Ingezette algoritmes binnen de gemeente

Type algoritme

Naam

Domein

Toelichting

Beschrijvend (Wat gebeurt er?)

Zonnedakje

Ruimtelijk

Tool die kunstmatige intelligentie inzet voor de beeldherkenning van zonnepalen o.b.v. luchtfoto’s en die koppelt aan andere databases en statistieken.

Fixi

Ruimtelijk

Online meldsysteem waarop burgers melding kunnen maken van achterstallig onderhoud en andere aandachtspunten in de openbare ruimte

Ondermijningsdetectie software (deels voorspellend)

Openbare Veiligheid

Software die op geautomatiseerde manier zou helpen om ondermijning tegen te gaan. 7

7 Zie ook het nationale programma Zicht op Ondermijning waarin een reeks van hulpmiddelen is ontwikkeld, en de

recent geopende site Zicht op Wijken.

Onderzoek naar algoritmes in gemeente Waddinxveen

Type algoritme

Naam

Domein

Toelichting

Diagnostisch (Waarom gebeurt het?)

PowerBI

Overig

Business intelligence software, al is het niet duidelijk waar en door wie deze tool wordt gebruikt in de gemeente.

Voorschrijvend (Wat moet er gebeuren?)

Kofax

Dienstverlening

Herkenningssoftware die gemeenten gebruiken om bijv. facturen te herkennen tijdens het verwerken van inkomende (fysieke en online) post. Deze facturen worden daarna automatisch vastgelegd, gecodeerd en doorgestuurd naar juiste plaats/persoon binnen de organisatie.

Octobox

Dienstverlening

Clouddienst die gemeenteambtenaren helpt met het geautomatiseerd anonimiseren van documenten voor de WOO (i.e. zwartlakken van namen, BSN-nummers, mailadressen of NAW-gegevens in documenten die gepubliceerd worden in het kader van een WOO-verzoek of als onderdeel van het actief publiceren van documenten die onder een WOO-categorie vallen).

iBurgerzaken

Dienstverlening

Een applicatie voor digitale dienstverlening en bedrijfsvoering van burgerzaken.

Bron: enquête en interviews met ambtenaren en bestuurders van Gemeente Waddinxveen

2.3

Bevindingen rondom bewustzijn

Norm

Beoordeling norm

Beoordeling ontwikkeling

Voldoet in beperkte mate aan de norm…

…en de gemeente is bezig hier meer grip op te krijgen

De gemeente weet waarvoor ze algoritmes inzet

Voldoet in grote mate aan de norm…

…maar staat voor de uitdaging ook meer complexe vormen van algoritme toepassingen in control te brengen

De gemeente weet waarom ze algoritmes inzet

Voldoet in grote mate aan de norm…

…en is bezig de juiste ambtelijke functies hiervoor in te richten

De gemeente algoritmes inzet

weet

waar

Onderzoek naar algoritmes in gemeente Waddinxveen

spelen. De informatiemanager heeft een informatiebeleidsplan opgesteld en volgt op dit gebied actief nationale ontwikkelingen en ontwikkelingen bij andere gemeenten. Voor een verdere toelichting met betrekking tot het bewustzijn van het gebruik van algoritmes verwijzen wij u naar sectie 3.1.

2.4

Bevindingen rondom besluitvorming

Norm

Beoordeling norm

Beoordeling ontwikkeling

De gemeente neemt geïnformeerde besluiten over de inzet van algoritmes

Voldoet in beperkte mate aan de norm…

…, de ontwikkeling is primair reactief

Bij de besluitvorming worden ethische overwegingen meegenomen

Voldoet in beperkte mate aan de norm…

…en sommige ambtenaren nemen kennis van ethische discussies elders, maar dit moet intern nog ingebed worden

Bij de besluitvorming zijn de impliciete aannames achter het algoritme en de gebruikte data bekend

Voldoet in beperkte mate aan de norm…

…maar krijgt nog geen systematische aandacht

Bij de besluitvorming is de gemeente zich bewust van de implicaties van de inzet van het algoritme voor de uitvoeringspraktijk

Voldoet in beperkte mate aan de norm…

…en er is nog geen richting, wordt wel verkend

2.5

Bevindingen rondom toezicht

Norm

Beoordeling norm

Beoordeling ontwikkeling

De gemeente houdt toezicht op het gebruik van algoritmes

Voldoet niet aan de norm…

…maar voert wel controle uit op de uitkomsten van het algoritme

De gemeente grijpt zo nodig doelbewust in op de werking van algoritmes en of wijkt van de uitkomsten af

Voldoet in beperkte mate aan de norm…

…maar is wel bewust van het belang van checks van uitkomsten en het niet feilloos zijn van algoritmes

De gemeente maakt beperkt gebruik van algoritmes met een hoog risico voor impact op burgers. De gemeente houdt geen toezicht op het gebruik of de werking van deze algoritmes.

Onderzoek naar algoritmes in gemeente Waddinxveen

Er is alleen controle op uitkomsten, waarin ambtenaren slechts vaststellen of er zichtbare onjuistheden in de uitkomsten zitten of de uitkomsten afwijken van verwachtingen. Dat is echter voor algoritmes die complexe analyses uitvoeren niet eenvoudig vast te stellen en daarom in de toekomst een risico voor zorgvuldige besluitvorming en processen. Bij de algoritmes die de gemeente nu inzet, is de interne afspraak dat een algoritme niet zelfstandig een beslissing kan nemen: er zou altijd een controle op de uitkomst moeten plaatsvinden door een ambtenaar. Echter, deze afspraak lijkt niet breed bekend te zijn binnen de organisatie. De gemeente realiseert zich wel dat algoritmes in tools als Octobox niet feilloos werken en dat een dergelijke controle van belang is. Voor een verdere toelichting op het toezicht verwijzen wij u naar sectie 3.3.

Onderzoek naar algoritmes in gemeente Waddinxveen

3 Onderliggende bevindingen en analyse 3.1 3.1.1

Analyse rondom bewustzijn De gemeente weet waar ze algoritmes inzet

Het algemene beeld uit dit onderzoek is dat op zowel bestuurlijk als ambtelijk niveau de Gemeente Waddinxveen nog niet heel bewust bezig is met algoritmes en van waar ze deze inzet. Beoordeling: Gemeente Waddinxveen voldoet in beperkte mate aan de norm Slechts een klein deel van de ambtenaren en bestuurders van de gemeente Waddinxveen weet dat de gemeente algoritmes inzet. Uit de enquête (zie Figuur 1) blijkt dat slechts 7-10% van de respondenten weet dat er algoritmes worden ingezet binnen de gemeentelijke organisatie, de eigen afdeling of door extern ingehuurde partijen. De interviews bevestigen dit beeld. Uit interviews blijkt dat de gemeente Waddinxveen op termijn hierop wel beter zicht wil krijgen, maar dat de gemeente nog niet zover is. Binnen de ambtelijke organisatie zijn er wel enkele voortrekkers op dit thema, zoals de informatiemanager, die zich meer bewust zijn van en actiever bezig zijn met het onderwerp algoritmes. Echter, voor het overgrote deel van de ambtenaren zijn algoritmes geen onderwerp waar ze kennis van of interesse voor hebben. De gesproken ambtenaren geven in de interviews aan dat zij over het algemeen weten welke data de softwareapplicaties verwerken die zij zelf gebruiken. Die kennis hebben zij echter alleen op hoofdlijnen en beperkt zich voornamelijk tot persoonsgegevens in het kader van de AVG.

De gemeente heeft in haar informatiebeleidsplan een verkenning uitgevoerd naar de implicaties van de groeiende hoeveelheid data voor het informatiebeheer van de gemeente. De gemeente Waddinxveen heeft nog geen centraal overzicht van de inzet van algoritmes in de gemeente. De meeste geïnterviewde ambtenaren geven aan dat ze voorafgaand aan dit onderzoek nog niet bewust hebben stilgestaan bij de werking van algoritmes die aanwezig zijn in de applicaties waarmee ze werken. De Gemeente is nog niet aangesloten bij het landelijke algoritmeregister, maar met name de informatiemanager volgt actief de landelijke ontwikkelingen hierover en wil op termijn hiermee meer gaan doen. Figuur 1 In hoeverre weet u of er algoritmes worden ingezet op de volgende niveau's? (n=42) Namens uw gemeente (bijv. door uw gemeente ingehuurde partijen)’ Binnen uw gemeente Namens uw afdeling (bijv. door uw afdeling ingehuurde partijen) Binnen uw afdeling 0% Ja, één algoritme

25%

Ja, meerdere algoritmes

50%

75%

Nee

Weet ik niet

100%

Bron: enquête Technopolis, 2023

Onderzoek naar algoritmes in gemeente Waddinxveen

3.1.2

De gemeente weet waarvoor ze algoritmes inzet

Over het algemeen heeft de gemeente Waddinxveen goed in beeld voor welke maatschappelijke doelen zij een algoritme inzet. Beoordeling: Gemeente Waddinxveen voldoet in grote mate aan de norm Voor de meerderheid van de ambtenaren is het duidelijk waarvoor de gemeente bij hen bekende algoritmes inzet. De helft van de respondenten in de enquête geeft aan dat het voor hen zeer duidelijk is waarvoor de algoritmes worden ingezet. Hierbij speelt wel mee dat dit vooral geldt voor algoritmes die gebruikt worden in het domein waarin de ambtenaar zelf werkt. Deze algoritmes staan dichter bij hun belevingswereld en helpen onder andere bij het afhandelen van burgerzaken of het opstellen van een verkeerscirculatieplan. Zodra het gebruikte algoritme verder van hun eigen werkveld ligt, is het voor veel ambtenaren minder duidelijk waarvoor het algoritme wordt ingezet. Zo lijkt er slechts beperkt inzicht te zijn in of en hoe algoritmes worden ingezet binnen het eigen expertisegebied door Gemeenschappelijke Regelingen of andere partijen waar de gemeente mee samenwerkt. Figuur 2 In hoeverre is het voor u helder aan welk (maatschappelijk) doel het gebruik van dit algoritme bijdraagt? (n=6)

0,00%

10,00% 20,00% 30,00% 40,00% 50,00% 60,00% 70,00% 80,00% 90,00% 100,00% Enigszins duidelijk

Enigszins onduidelijk

Niet duidelijk en niet onduidelijk

Weet ik niet

Zeer duidelijk

Zeer onduidelijk

Bron: enquête Technopolis, 2023. Alleen respondenten die aangegeven hebben dat ze op de hoogte waren van het gebruik van een algoritme kregen deze vraag te zien.

3.1.3

De gemeente weet waarom ze algoritmes inzet

Over het algemeen zijn de ambtenaren zich ervan bewust waarom de gemeente een algoritme inzet. Mogelijke efficiëntiewinsten zijn de belangrijkste redenen voor de inzet van algoritmes. Beoordeling: Gemeente Waddinxveen voldoet in grote mate aan de norm Schaalvoordelen zijn een belangrijke factor volgens de gesproken ambtenaren om te kijken of een toepassing zich leent voor de inzet van algoritmes. Regionale samenwerkingen of uitvoeringsorganisaties voldoen vaak wel aan deze schaalvereiste waarbij het aantrekkelijk wordt om zoveel mogelijk te automatiseren. Daarnaast zorgt automatisering met behulp van algoritmes er volgens geïnterviewde ambtenaren voor dat processen effectiever verlopen. Geïnterviewde personen zien de inzet van algoritmes als kans om de dienstverlening naar een hoger niveau te tillen. De gemeente Waddinxveen geeft aan een sterke reputatie te hebben op het gebied van dienstverlening, en dat de inzet van technologie in de dienstverlening kan helpen om burgers sneller en naar

Onderzoek naar algoritmes in gemeente Waddinxveen

meer tevredenheid van dienst te zijn. Voor opgaven zoals het opstellen van een verkeerscirculatieplan bieden algoritmes unieke mogelijkheden om interventies te simuleren en op basis daarvan keuzes wel of niet te maken. Wel geven ambtenaren aan dat bij de inzet van algoritmes lessen uit de grote steden niet altijd direct te vertalen zijn naar de context van kleinere gemeenten zoals Waddinxveen. De beleving is dat in kleinere gemeenten andere problemen spelen op bijvoorbeeld het gebied van criminaliteit en is er gezien de schaal vaak geen noodzaak om op deze terreinen algoritmes in te zetten.

3.2 3.2.1

Analyse rondom besluitvorming De gemeente neemt geïnformeerde besluiten over de inzet van algoritmes

Voor de overgrote meerderheid van de ambtenaren lijkt het onduidelijk te zijn op welke bestuurlijke niveaus de besluitvorming over algoritmes plaatsvindt. Bij aanschaf van applicaties lijken betrokken ambtenaren in slechts beperkte mate aandacht te hebben voor mogelijk inbegrepen algoritmes. Ambtenaren die hierbij vanuit informatiemanagement betrokken zijn, geven aan dit in de toekomst wel beter te willen gaan doen. Beoordeling: Gemeente Waddinxveen voldoet in beperkte mate aan de norm In procedures voor besluitvorming voor een nieuw proces of nieuwe software is er (nog) geen aandacht voor algoritmes. Geïnterviewden geven aan dat in principe het team dat een nieuwe applicatie wil gaan gebruiken, het initiatief neemt voor de aanschaf ervan. Hierbij ligt de nadruk op of de nieuwe applicatie de functie vervult waarvoor deze zal worden aangeschaft en gebruiksvriendelijk is. Betrokken ambtenaren denken daarbij niet specifiek na over mogelijke algoritmes in de applicatie - de nadruk ligt op of de toepassing voldoet aan de gestelde eisen en het doel waarvoor de gemeente de applicatie aanschaft. De overgrote meerderheid van respondenten op de enquête geeft dan ook aan dat het niet duidelijk is wie er betrokken zijn bij de besluitvorming rond de inzet van algoritmes.

De aanschaf van applicaties en de daarin werkzame algoritmes zijn niet echt een thema dat speelt in het college en de raad. De raad wordt hiervoor wel geïnformeerd, maar als er geen vragen vanuit de raad over komen, wordt dit niet expliciet besproken. Wanneer de gemeente met algoritmes of software persoonsgegevens verwerkt, is de procedure dat de privacybeheerder betrokken wordt. Het initiatief hiervoor ligt bij de betrokken ambtenaren. Als er substantiële risico’s bestaan voor de privacy van de burgers en er een DPIA uitgevoerd moet worden, wordt de FG betrokken. In de DPIA wordt integraal gekeken naar het gehele proces. Hierin kunnen algoritmes ook een punt van aandacht zijn, al lijkt op basis van de bekeken DPIA’s de aandacht te liggen op datamanagement-aspecten van de AVG.

Onderzoek naar algoritmes in gemeente Waddinxveen

Figuur 3 Op welke niveaus vindt de besluitvorming over algoritmes plaats, ofwel wie worden er expliciet gekend en geïnformeerd in de besluitvorming over algoritmegebruik? (n=42) De gemeenteraad Het voltallige gemeentebestuur (B&W) De verantwoordelijke wethouder De gemeentesecretaris Onze IT-/dataverantwoordelijken (bijv. CISO) Ons samenwerkingsverband Mijn afdelingshoofd/-directie De uitvoerende ambtenaren in mijn afdeling 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Nooit

Soms

Altijd

Weet ik niet

Bron: enquête Technopolis, 2023

3.2.2

Bij de besluitvorming worden ethische overwegingen meegenomen

Ethische overwegingen lijken nog geen vast onderdeel te zijn voor de inzet van nieuwe applicaties en algoritmes. Beoordeling: Gemeente Waddinxveen voldoet in beperkte mate aan de norm Het merendeel van de ambtenaren geeft in de enquête aan niet te weten of ethische aspecten een rol spelen in de besluitvorming tot de inzet van een algoritme. Uit de interviews blijkt dat de gemeente wel aandacht heeft voor ethiek rondom data, maar dat dit vooral betrekking heeft of privacy (AVG) en veiligheid. Het gebruik van algoritmes in Waddinxveen is tot nu toe beperkt. In de besluitvorming rondom software en applicaties waarin algoritmes zitten, heeft de gemeente in de besluitvorming ethische overwegingen niet expliciet meegenomen. Waddinxveen wil wel meer datagedreven gaan werken. In dat kader heeft er een sessie plaatsgevonden tussen ambtenaren en het college over wat er met data gedaan kan en mag worden binnen de gemeente. Als opvolging van deze sessie is er een datagedreven experiment opgezet om te kijken naar de kansen voor de inzet van data, maar in de praktijk is dat niet ver gekomen doordat al snel de nadruk kwam te liggen op de mogelijke bedreigingen en ethische vraagstukken die hieraan verbonden waren.

Ambtenaren op het gebied van informatiemanagement zijn in het kader van meer datagedreven werken wel betrokken bij sessies en werkgroepen van de VNG over data, digitale grondrechten en ethiek. De gemeente vertrouwt bij aanschaf externe applicaties op ethische beoordelingen van andere gemeenten. Het uitgangspunt hierbij is dat wanneer een applicatie al in gebruik is bij diverse andere gemeenten, en de usecase van de gemeente Waddinxveen vergelijkbaar is, er geen directe ethische risico’s verbonden zijn aan de inzet van de applicatie en eventuele algoritmes die hierin aanwezig zijn.

Onderzoek naar algoritmes in gemeente Waddinxveen

Figuur 4 In hoeverre zijn ethische aspecten onderdeel bij de besluitvorming tot de inzet van algoritmes? (n=42)

0,00%

10,00%

20,00%

30,00%

Geen onderdeel

40,00%

50,00%

Soms onderdeel

60,00%

70,00%

Vast onderdeel

80,00%

90,00% 100,00%

Weet ik niet

Bron: enquête Technopolis, 2023

3.2.3

Bij de besluitvorming zijn de impliciete aannames achter het algoritme en de gebruikte data bekend

Over het algemeen lijken de ambtenaren slechts beperkt bewust van de onderliggende data en aannames binnen algoritmes. Beoordeling: Gemeente Waddinxveen voldoet in beperkte mate aan de norm Over het algemeen lijkt er slechts beperkt bewustzijn over de onderliggende data en aannames binnen algoritmes. De overgrote meerderheid van de enquêterespondenten geeft aan niet te weten of het duidelijk is op welke data algoritmes zich baseren (zie Figuur 5) en ook niet te weten of er stil wordt gestaan bij mogelijke biasses in de data (zie Figuur 6). Uit interviews blijkt dat aan de andere kant bestuurders ervan uitgaan dat ambtenaren hierover hebben nagedacht wanneer zij voorstellen doen of besluiten nemen. Ambtenaren die betrokken zijn bij beslissingen over algoritmes geven aan dat de ethische discussie over de inzet van algoritmes begint bij een reflectie op de kwaliteit van de data die ingezet zal worden. Ambtenaren geven aan dat wanneer de data niet goed is, er onbewust discriminatie insluipen. Hierbij vertrouwt de gemeente in eerste instantie op het gezond verstand van ambtenaren in de overweging of bepaalde data wel of niet ingezet kan en mag voor de beoogde usecase. Daarnaast is de gemeente sinds de introductie van de AVG kritischer gaan kijken naar alle vraagstukken met betrekking tot persoonsgegevens.

Vraagstukken op dit gebied worden besproken met de FG en ambtenaren krijgen hierover ook vragen van de FG.

Onderzoek naar algoritmes in gemeente Waddinxveen

Figuur 5 In hoeverre is bij de besluitvorming tot inzet van algoritmes duidelijk op welke data de gebruikte algoritmes zich baseren? (n=42)

10%

20%

30%

40%

50%

60%

70%

Enigszins duidelijk

Enigszins onduidelijk

Niet duidelijk en niet onduidelijk

Weet ik niet

Zeer duidelijk

Zeer onduidelijk

80%

90%

100%

Bron: enquête Technopolis, 2023 Figuur 6 In hoeverre wordt bij de besluitvorming tot inzet van algoritmes duidelijk stilgestaan bij mogelijke biasses binnen de dataverzameling? (n=23)

10% Altijd

20%

30%

40%

50%

Meestal wel

Soms

Vaak niet

60%

70%

Eigenlijk nooit

80%

90%

100%

Weet ik niet

Bron: enquête Technopolis, 2023

3.2.4

Bij de besluitvorming is de gemeente zich bewust van de implicaties van de inzet van het algoritme voor de uitvoeringspraktijk

In veel gevallen is de verbetering van de uitvoeringspraktijk een van de motivaties om over te gaan tot de aanschaf van een applicatie. Echter, de gemeente lijkt nog geen bredere kijk te hebben op de bredere gevolgen van de inzet van algoritmes voor de uitvoeringspraktijk. Beoordeling: Gemeente Waddinxveen voldoet in beperkte mate aan de norm De leidende overweging bij de besluitvorming voor de aanschaf en inzet van een algoritme is of het algoritme doet waarvoor de gemeente deze aangeschaft heeft en de kosten ervan. Daarbij kijkt de gemeente naar de impact die de inzet van een algoritme heeft op bestaande processen. In sommige gevallen voert de gemeente ook een DPIA uit, al ligt daarin de nadruk op de borging van de AVG. Er is nog weinig aandacht voor de mogelijke bredere gevolgen van de inzet van algoritmes voor de uitvoeringspraktijk.

Onderzoek naar algoritmes in gemeente Waddinxveen

3.3 3.3.1

Analyse rondom toezicht De gemeente houdt toezicht op het gebruik van algoritmes

Er lijken geen procedures te zijn voor toezicht op algoritmes. Wel is er volgens enkele geïnterviewde ambtenaren altijd sprake van een kwaliteitscontrole door een ambtenaar van de uitkomsten bij het gebruik van algoritmes. Beoordeling: Gemeente Waddinxveen voldoet niet aan de norm De gemeente houdt geen toezicht op de interne werking van het algoritme of hoe ambtenaren algoritmes inzetten in hun werk. De gemeente Waddinxveen heeft geen procedures die voorschrijven hoe er toezicht gehouden moet worden op algoritmes of hoe algoritmes ingezet (mogen) worden binnen of namens de eigen organisatie. Wel voeren ambtenaren kwaliteitscontroles uit op de uitkomsten van algoritmen. De afspraak binnen de gemeente is dat een ambtenaar bij de inzet van een algoritme altijd de uitkomst van een algoritme bekijkt en de uiteindelijk de beslissingen neemt. Deze ‘human in the loop’ kijkt naar de uitkomsten van een algoritme. Hoewel deze controle volgens sommige ambtenaren plaatsvindt, lijken niet alle ambtenaren hiervan op de hoogte. Uit interviews en de enquête (zie Figuur 7) komt het beeld naar voren dat veel ambtenaren niet weten van of en hoe er toezicht plaatsvindt over de inzet van algoritmes. Dat zal ook te maken hebben met het beperkte gebruik van algoritmes en de bekendheid van ambtenaren met algoritmes.

Figuur 7 Toetst uw gemeente of een algoritme bijdraagt aan het doel waartoe het wordt ingezet? (n=6)

10%

20%

30%

40%

50%

60%

70%

80%

90%

100%

Ja, er is sprake van regelmatige toetsing van de uitkomsten van algoritmes Ja, algoritmes worden getoetst voordat ze in gebruik genomen worden Ja, er is een medewerker die (constant) toezicht houdt op het algoritme Weet ik niet Nee, de gemeente toest niet of het algoritme bijdraagt aan het beoogde doel Other Bron: enquête Technopolis, 2023. Alleen respondenten die aangegeven hebben dat ze op de hoogte waren van het gebruik van een algoritme kregen deze vraag te zien.

Onderzoek naar algoritmes in gemeente Waddinxveen

Figuur 8 In hoeverre is er sprake van de volgende vormen of momenten van toezicht en interventies binnen uw gemeente? (n=6) Ingrijpen van de gemeente bij afwijken van de uitkomsten van het algoritme indien nodig Ingrijpen van de gemeente op de werking van algoritmes indien nodig Extern toezicht op interventies op basis van algoritmes Extern toezicht op de inzet van algoritmes Extern toezicht op het ontwerp van algoritmes Intern toezicht op interventies op basis van algoritmes Intern toezicht op de inzet van algoritmes

Intern toezicht op het ontwerp van algoritmes 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Nooit

Zelden

Soms

Vaak

Weet ik niet

Bron: enquête Technopolis, 2023. Alleen respondenten die aangegeven hebben dat ze op de hoogte waren van het gebruik van een algoritme kregen deze vraag te zien.

3.3.2

De gemeente grijpt zo nodig doelbewust in op de werking van algoritmes en of wijkt van de uitkomsten af

Er zijn nog geen grote misstanden geconstateerd bij de inzet van algoritmes in de gemeente Waddinxveen. Wel is uit de handmatige checks van de uitkomsten van bepaalde tools gebleken dat het nog steeds nodig is om regelmatig aanpassingen te doen. Beoordeling: Gemeente Waddinxveen voldoet in grote mate aan de norm De gemeente Waddinxveen zet algoritmes beperkt in. Er zijn er nog geen misstanden met algoritmes aan het licht gekomen. Wel functioneren sommige tools, zoals de anonimiseringstool, absoluut niet feilloos. Checks uitvoeren op de uitkomsten van algoritmes is dus essentieel.

Onderzoek naar algoritmes in gemeente Waddinxveen

4 Usecases In dit hoofdstuk presenteren we de onderzochte usecases voor de gemeente Waddinxveen. In deze usecases wordt op basis van een beknopte casestudy inzicht gegeven in de besluitvorming over, implementatie van, en toezicht op een specifiek algoritme. In de selectie van usecases is er tussen de gemeenten variatie aangebracht om tot een brede waaier aan verschillende usecases te komen waar alle gemeenten hun lessen uit kunnen trekken. Hiervoor zullen de usecases in een separaat document gebundeld worden en aan alle gemeenten ter beschikking worden gesteld.

4.1

Zonnedakje

De onderstaande usecase beschrijft de ervaringen van de gemeente Waddinxveen met de inzet van de Zonnedakje-applicatie: •

Beschrijving usecase: de Zonnedakje-applicatie geeft beleidsmakers per wijk of per gebied inzicht in de status, potentie en investeringskansen voor zonne-energie.

•

Status van usecase: Zonnedakje monitoringsdoeleinden.

•

Reflectie op usecase: naar verwachting zal de toepassing van dit soort vormen van algoritmes in combinatie met verbeterde sensoren en AI sterk toenemen.

wordt

slechts

beperkt

ingezet

voor

interne

usecase

Zonnedakje Zonnedakje is software voor beleidsmakers die bezig zijn met verduurzaming in hun gemeente. Het geeft beleidsmakers per wijk of per gebied inzicht in de status, potentie en investeringskansen voor zonne-energie. Dat doet zonnedakje op basis van verschillende, deels openbare, databronnen en AI-algoritmes: •

Zonnedakje analyseert luchtfoto’s via een algoritme voor beeldherkenning waardoor de applicatie kan detecteren op welke plekken al zonnepanelen aanwezig zijn.

•

Zonnedakje bevat een algoritme om de potentie voor zonnepanelen op daken te bepalen op basis van kadastrale gegevens, gemeentelijke gegevens (bouwjaren, monumenten, beschermd stadsgezicht) en hoogtebestanden.

•

Zonnedakje bevat daarnaast een ander algoritme om te analyseren op welke plekken parkeerplaatsen zich bevinden.

Zonnedakje bevat een compleet bestand van panden, parkeerplaatsen, en informatie over het elektriciteitsnet. Al deze informatie is via de software toegankelijk voor gemeenten en provincies, maar Zonnedakje biedt ook op aanvraag maatwerk voor een specifiek gebied. De Gemeente Waddinxveen gebruikt Zonnedakje om te meten hoeveel zonnepanelen er al aanwezig zijn in de gemeente en hoe dit van jaar tot jaar verandert. De gemeente heeft Zonnedakje echter nog niet veel ingezet. Nog niet veel ambtenaren hebben met de software gewerkt. Daarom is er volgens de betrokken ambtenaren nog geen toezicht op het algoritme nodig geweest. Gemeente Waddinxveen verwijst daarnaast ook op haar

Onderzoek naar algoritmes in gemeente Waddinxveen

website8 ook naar de applicatie van Zonnedakje zodat burgers kunnen bepalen of hun dak geschikt is om zonnepanelen te plaatsen.

Besluitvorming voor ingebruikname Twee jaar geleden hebben ambtenaren van de gemeente Waddinxveen, samen met gemeente Bodegraven-Reeuwijk en gemeente Krimpenerwaard, besloten Zonnedakje te gaan gebruiken om binnen de gemeenten te kunnen monitoren hoeveel zonnepanelen er al op daken van zowel particulieren als bedrijven liggen en waar er meer potentie is om zonnepanelen te leggen om de gemeente te verduurzamen. Ook wilde de gemeente graag in kaart brengen wat door de jaren heen het verschil is in aangelegde zonnepanelen en wilde de gemeente dat de gebruikte applicatie in de toekomst ook makkelijk door burgers te gebruiken is. Echter, de gemeente zet Zonnedakje op dit moment nog maar zeer beperkt in. Aangezien Zonnedakje een duidelijke en gebruiksvriendelijke site heeft, is er op aanbevelen van de Omgevingsdienst Midden-Holland (ODMH) gekozen voor Zonnedakje. Van bovengenoemde gemeenten was er één ambtenaar betrokken bij het overleg met Zonnedakje over de uitrol van de applicatie in de gemeente. Binnen de gemeente Waddinxveen was dat een ambtenaar van de afdeling Duurzaamheid. Vervolgens is er binnen de gemeente Waddinxveen met de programmamanager Duurzaamheid afgestemd dat Zonnedakje ingezet zou worden en heeft de afdeling inkoop zich gebogen over de offerte van Zonnedakje.

De afdeling databeheer is vervolgens ook geïnformeerd over Zonnedakje aangezien zij verantwoordelijk zijn voor het aanleveren voor de juiste data, waaronder luchtfoto’s, die nodig zijn voor Zonnedakje. De afgelopen twee jaar hebben ambtenaren van de gemeente Waddinxveen nog niet veel met de applicatie gedaan. Het is vooralsnog alleen gebruikt voor interne monitoring van het aantal zonnepanelen. Aangezien volgens de betrokken ambtenaren de gemeente Waddinxveen Zonnedakje nog niet gebruikt om zaken te bepalen die direct van invloed zijn op burgers, zijn er verder geen ethische overwegingen meegenomen in het besluit om Zonnedakje te gebruiken en is er geen DPIA uitgevoerd. Wanneer Zonnedakje in de toekomst wellicht wel gebruikt gaat worden voor besluiten die impact hebben op burgers, bijvoorbeeld om subsidies vast te kunnen stellen, is de gemeente Waddinxveen wel van plan nader onderzoek te doen naar ethische vraagstukken – zeker in het kader van de AVG.

Informatievoorziening en toezicht gemeente tijdens gebruik Binnen de gemeente Waddinxveen zijn er op het moment slechts een beperkt aantal ambtenaren geïnformeerd over het gebruik van Zonnedakje. Volgens de gemeente is dat omdat de applicatie tot nu toe alleen in beperkte mate is gebruikt voor interne monitoring over hoe de hoeveelheid zonnepanelen zich de afgelopen jaren heeft ontwikkeld. Naast de ambtenaar van de afdeling Duurzaamheid die verantwoordelijk is voor de uitrol van Zonnedakje, zijn er weinig ambtenaren binnen de gemeente Waddinxveen geïnformeerd over de werking van Zonnedakje. Bij andere afdelingen, Inkoop en Databeheer, weten een aantal ambtenaren van het gebruik van Zonnedakje, maar deze personen zijn verder niet betrokken bij de uitrol van de applicatie.

8 Zie: https://www.waddinxveen.nl/duurzaamheid/schone-energie-opwekken/

Onderzoek naar algoritmes in gemeente Waddinxveen

De gemeente heeft geen nader onderzoek gedaan naar de werking van Zonnedakje en de gebruikte algoritmen. Volgens de gemeente is dat niet gedaan omdat er niet met privacygevoelige data wordt gewerkt en omdat de gemeente tijdens de besprekingen met Zonnedakje constateerde dat ze een betrouwbaar systeem hebben, met onder andere verschillende ISO-certificeringen. Echter, is hierbij geen expliciete aandacht voor de algoritmes die in applicatie zitten. De afdeling Databeheer is binnen gemeente verantwoordelijk voor het aanleveren van de benodigde data voor Zonnedakje. De verantwoordelijke ambtenaar weet dat luchtfoto’s samen met andere openbare data gebruikt worden om vast te stellen waar er zonnepanelen liggen en waar er het beste zonnepanelen geplaatst kunnen worden, maar weet niet hoe het algoritme hierachter in elkaar steekt. De gemeente houdt nog geen toezicht op het gebruik van Zonnedakje, aangezien de applicatie nog niet gebruikt wordt door burgers of om beslissingen te maken die invloed hebben op burgers. In de toekomst wil gemeente Waddinxveen deze applicatie wel inzetten om burgers meer inzicht te geven in het aanleggen van zonnepanelen. Op dat moment wil de gemeente ook meer toezicht houden op de applicatie, al is er nog niet nagedacht hoe dit toezicht eruit moet komen te zien.

Reflectie op de usecase Uit het bovenstaande kan geconstateerd worden dat binnen de gemeente Waddinxveen weinig ambtenaren op de hoogte zijn van het bestaan en de werking van, Zonnedakje. Dit komt doordat de applicatie nog niet veel ingezet is en de gemeente het dus ook niet nodig vindt om meer ambtenaren te informeren. Dit geeft echter wel aan dat er binnen de gemeente weinig tot geen motivatie is om abtenaren te informeren over algoritmen of meer informatie over de werking van deze algoritmen te verkrijgen, wanneer de gemeente het algoritme beschouwt als klein of relatief weinig impactvol. Verder geeft deze usecase ook aan dat gemeenten soms pas bereid zijn toezicht te gaan houden op een algoritme of deze grondig te toetsen wanneer het verwacht dat een algoritme een directe impact op de burger gaat hebben, wanneer dit niet het geval is vinden gemeente toetsing en toezicht niet nodig. Richting de toekomst kunnen hierdoor mogelijke risico’s ontstaan als de applicatie ook voor andere doeleinden ingezet gaat worden die een directere impact hebben op de burger (bijv. voor detecteren van zonnepanelen met hoog brandgevaar). Een ander belangrijk punt wat uit deze usecase gehaald kan worden is dat er bij het inkoopproces en in gebruikneming van algoritmen weinig wordt stilgestaan bij hoe dit algoritme precies werkt en welke data gebruikt worden door het algoritme.

Volgend deel →

De tekst is automatisch uit het bestand gehaald en kan afwijken van het origineel (kolommen, tabellen en koppen lopen door elkaar). Het officiële stuk bij iBabs is leidend. Bron: https://api.notubiz.nl/document/13969462/1