2023-06-22 - ALGORITMES in Hulst en Terneuzen def mei23

Geachte heer Van Bunder, Per e-mail ontvingen wij op 25 april 2023 van mevrouw dr. Nel Verhoeven het conceptrapport van de rekenkamercommissie met als titel "Algoritmes in Hulst en Terneuzen" mei 2023. Mevrouw Verhoeven meldde in haar mail de periode van drie weken voor een bestuurlijke reactie. Graag maken wij gebruik van deze uitnodiging om inhoudelijk op het rapport te reageren. Een inhoudelijke reactie treft u aan in de bijlage. Wij vertrouwen erop u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Burgemeester en Wethouders van Terneuzen, gemeentesecretaris,

burgemeester,

S.I.L. (Steven) de Waal

H.J.A. (Erik) van Merrienboer

26

Reactie op het onderzoek van de RKCHT “Algoritmes in Hulst en Terneuzen” (versie mei 2023) Hierbij geven wij u in een aantal paragrafen onze reactie op het rapport “algoritmes in Hulst en Terneuzen”. Algemeen: Het resultaat van het onderzoek zegt in het algemeen iets over het bewustzijn van medewerkers over algoritmes. Het bewustzijn in algemene zin over toepassingsvormen, het beheer, de werking, de privacy en informatieverstrekking van en over algoritmes. Los van de resultaten wordt duidelijk dat een toezichthouder op de inzet van algoritmes binnen de organisatie belangrijk is. En dat vooral procesverantwoordelijken bekend moeten zijn met het toepassen en de werking van algoritmes binnen het eigen vakgebied. Wat betreft de resultaten van het onderzoek vinden we het verwarrend dat de twee definities van de algoritmes door het onderzoeksbureau het PON & Telos niet juist worden gevolgd. Zo worden voorbeelden die net geen digitaal algoritme zijn door het bureau in het rapport beschreven als analoog, of andersom. Bij Key2Parkeren en Brickyard komen handmatige handelingen voor. Ze kunnen niet als voorbeeld gelden voor een digitaal algoritme. Daarentegen kan bij een koppeling tussen programma’s door het bureau niet gesproken worden over een beslisboom wat door hen wordt toegekend aan analoge algoritmes.

Bij de toegepaste uitvraag is het daarnaast niet vreemd dat grote percentages van de antwoorden liggen in de sfeer van onbekendheid. Dit wordt veroorzaakt doordat het onderzoek de vragen over specifieke vakgerelateerde algoritmes stelt aan alle respondenten. Overige opmerkingen op het rapport zijn. 2.2 Procedure enquête / Populatie en steekproef Alle medewerkers van de gemeente Terneuzen zijn niet bevraagd. In overleg is er door de gemeente voor gekozen de vragenlijst voor te leggen aan afdelingshoofden, de concernstaf, teamleiders en medewerkers van team I&A. De reden daarvoor wordt door heb bureau in het rapport niet vermeld, maar deze vinden wij wel van belang. Het bevragen van alle medewerkers levert een vertekend beeld op. De gemeente kent een breed taakveld, verdeeld over verschillende afdelingen en teams. Medewerkers uit deze verschillende teams maken in meer of mindere mate gebruik van taak specifieke gegevens van personen en/of ondernemingen. Onder hen een grote groep die geheel niets met dit soort gegevens doet of geen belang heeft bij gegevens van andere teams. Zij gaan sowieso geen antwoord kunnen geven op de in het onderzoek gestelde vragen of aangeven niets over het onderwerp te weten. 2.3 Onderzoekskwaliteit / Betrouwba arheid.

De methodologische betrouwbaarheid van dit onderzoek staat onder druk omdat bij het verzamelen van de gegevens niet (voldoende) overleg tussen gemeente en onderzoekers is geweest, en omdat in beide gemeenten slechts een beperkt aantal vragenlijsten is ingevuld. Daarmee is de omvang van de verzamelde gegevens zeer beperkt. De resultaten moeten daarom als indicatief worden beschouwd. We betreuren het dat de RKCHT de betrouwbaarheid van het onderzoek onder druk vindt staan en de resultaten als indicatief beschouwt. Bij dit onderzoek zijn wij ervan uitgegaan dat

27

het initiatief tot voeren van overleg bij de rekenkamercommissie, lees het onderzoeksbureau, lag. Conclusie Daar waar de gemeente algoritmes toeppast, volgen ervaren ambtenaren zorgvuldig de bijbehorende procedures. Het verbaast ons niet dat een medewerker van een vakafdeling geen kennis heeft van toegepaste algoritmes bij andere vakafdelingen. Wij zien hierin geen of een minimaal risico. Ondanks deze conclusie nemen we de aanbevelingen uit het rapport ter harte. Dit houdt in: - We benoemen een toezichthouder algoritmes. - De toezichthouder algoritmes onderzoekt de keuze tot het opzetten van een algoritmeregister of het aansluiten bij landelijke initiatieven en geeft hier gevolg aan. - De toezichthouder algoritmes informeert medewerkers over algoritmes en bouwt aan de algemene bewustwording en transparantie binnen de gemeente. - De toezichthouder algoritmes zorgt voor informatieverstrekking over en transparantie in het toepassen van algoritmes door de gemeente aan burgers. Vooruitlopend op de uitwerking van deze aanbevelingen al een toekomstig onderzoek inplannen lijkt ons niet relevant.

28

29

30

Naschrift De RKCHT heeft met belangstelling kennis genomen van de bestuurlijke reacties van de gemeenten Hulst en Terneuzen. Voor wat betreft de gemeente Hulst is de RKCHT blij met de instemming van het rapport en dat de gemeente aangeeft de geformuleerde aanbevelingen over te nemen. Wat de bestuurlijke reactie van de gemeente Terneuzen betreft blijven de meningen over de opzet van het onderzoek verdeeld. Hier is tijdens het onderzoek meerdere malen van gedachten over gewisseld. Belangrijker is dat de gemeente de noodzaak tot het bewustzijn over algoritmes onderkent en de gedane aanbevelingen ter harte zal nemen.

31

Bijlage I Vragenlijst Overheden gebruiken steeds meer en vaker algoritmes. Dat maakt hun werk gemakkelijker en efficiënter. Onder algoritmes verstaan wij alle regels die u helpen om bepaalde keuzes te maken. Soms worden algoritmes ingezet om administratieve processen efficiënter uit te voeren, soms om te helpen bij keuzes, bij controle (op fraude) of handhaving. Van de inzet van de meeste algoritmes merkt de burger niet veel, maar bij sommige algoritmes wordt de keuzevrijheid van de burger beperkt, worden persoonsgegevens gebruikt of is er een andere vorm van impact op burgers waar te nemen. Overheden moeten wel kunnen uitleggen welke keuzes ze maken en op basis van welke informatie ze een beslissing nemen. Ook als een algoritme helpt bij die keuze. Dat betekent dat de algoritmes die ze gebruiken begrijpelijk moeten zijn. Wij onderscheiden twee typen algoritmes. Allereerst zijn er digitale algoritmes: sets van regels die een computer uitvoert om een bepaald probleem op te lossen. In veel gevallen (en afhankelijk van het algoritme) gebeurt dat zonder menselijke tussenkomst. Zo kun je een stappenplan maken hoe een computer bepaalde informatie moet verwerken om een probleem op te lossen.

Voorbeelden zijn: Track & Trace-software voor het wagenpark van de Gemeente Reiniging die toont waar de vuilniswagens zich bevinden, een systeem voor parkeerhandhaving (Brickyard genaamd) dat automatisch signaleert of parkeerovertredingen worden gemaakt, softwaresystemen om fraude op te sporen door allerlei (persoons)gegevens te koppelen of software voor de (gemeentelijke) bedrijfsvoering, zoals Datamask. Daarnaast bestaan er eenvoudige algoritmes met menselijke tussenkomst; dat zijn algoritmes waar op basis van bepaalde criteria, profiellijstjes of beslisbomen keuzes gemaakt worden. Zo kan het zijn dat er een lijstje is met risicofactoren voor vervuiling in bepaalde woonwijken, of een checklist om te zien of iemand voldoet aan de voorwaarden voor een subsidie. In dit filmpje vindt u meer uitleg hierover: Animatie: Wat is een algoritme? – (bronvermelding YouTube) Met deze vragenlijst willen wij inzicht krijgen in welke mate u bekend bent met algoritmes, in welke mate en met welk doel bij uw gemeente algoritmes worden gebruikt, welke procedures daarbij van toepassing zijn en op welke wijze de burger iets van deze algoritmes merkt. Uw gegevens worden vertrouwelijk en anoniem verwerkt. De vragenlijst bestaat uit (maximaal) 20 vragen. Het invullen ervan duurt ongeveer 10 minuten.

De uitkomsten van deze vragenlijst bevorderen de bekendheid met en de transparantie van de inzet van algoritmes, voor nu en in de toekomst. Wij bedanken u voor uw medewerking! Het team van Het PON & Telos Fleur Aarts Mirjam Smulders Nel Verhoeven

32

- - - - START VRAGENLIJST - - - - 1. Op welke afdeling bent u werkzaam? [hier een splitsing naar 2 vragenlijsten] Hulst o Publieke Dienstverlening o Wonen & Werken o Realisatie & Beheer o Samenleving o Bedrijfsvoering o Staf o Anders, te weten…. 2. o o o o

Terneuzen o Samenleving o Realisatie & Beheer o Omgeving en Economie o Middelen o Concernstaf o Anders, te weten….

Wat weet u over algoritmes? Ik had voordat ik deze vragenlijst ontving, nooit eerder van algoritmes gehoord Ik heb wel eens van algoritmes gehoord, maar weet niet wat ze doen Ik ben bekend met algoritmes en heb een globaal beeld van de toepassing Ik ben bekend met algoritmes en ik gebruik ze voor mijn werk

Algoritmes kunnen overheden op verschillende manieren helpen, bijvoorbeeld door werklast over te nemen of advies te geven. We geven twee voorbeelden: -

voorheen werd er handmatig een parkeerbon uitgeschreven. Een algoritme kan nu met beeldherkenning nummerborden lezen en een melding geven als er niet betaald is. een algoritme kan helpen om visumaanvragen te sorteren en te bepalen welke aanvragen het meeste tijd kosten om door te nemen. Een medewerker controleert daarna deze aanvragen.

3. In hoeverre bent u het eens of oneens met onderstaande stellingen over de functie van algoritmes? Helemaal mee eens

Eens

Niet eens, niet oneens

Oneens

Helemaal oneens

Weet ik niet

Ik vind het goed dat een algoritme werklast overneemt en zelf eenvoudige beslissingen kan nemen. Ik vind het goed dat een algoritme advies geeft door werkzaamheden voor te bereiden of voorspellingen te doen. 4. De overheid zet algoritmes in voor verschillende doelen. In welke gevallen zou u het goed of minder goed vinden als de overheid algoritmes inzet? Altijd goed

Goed, onder voorwaarden

Nooit goed

Weet ik niet

Opsporen van criminelen Bestrijden van fraude Regelen van stoplichten Toekennen van een vergunning

33

Berekenen van stikstofuitstoot Meten van drukte in een winkelstraat Bepalen waar woningen mogen komen Sollicitaties beoordelen op geschiktheid Kwijtschelden van belastingen Controleren van betaling parkeergeld

We gaan nu in op de inzet van algoritmes bij de afdeling waar u werkt. 5. In welke mate worden in uw afdeling digitale algoritmes ingezet om keuzes te ondersteunen, of te helpen bij bepaalde werkprocessen? Dus (vrijwel) zonder tussenkomst van mensen? o Niet o Soms o Regelmatig o Vaak o Weet ik niet

FILTERVRAAG: Indien ‘soms’, ‘regelmatig’, ‘vaak’: 6. Kunt u aangeven welke algoritmes dit zijn? Open vraag…. 7. In welke mate worden in uw afdeling algoritmes ingezet met behulp van lijstjes om keuzes te ondersteunen, of te helpen bij bepaalde werkprocessen? Dus met tussenkomst van mensen? o Niet o Soms o Regelmatig o Vaak o Weet ik niet

Vragen 8, 9 FILTERVRAAG: alleen indien… ‘soms’, ‘regelmatig’, ‘vaak’: 8. Kunt u aangeven welke algoritmes in uw afdeling gebruikt worden? Open vraag….

Als er algoritmes worden ingezet dan kan het zijn dat de burger iets van deze inzet merkt. 9. In welke mate merkt - naar uw mening - de burger iets van de inzet van algoritmes door uw afdeling? o Helemaal niets o weinig o niet veel/niet weinig o veel o heel veel o weet ik niet

Vorige vraag vanaf ‘weinig’… filteren 10. Kunt u toelichten op welke wijze de burger iets merkt van de inzet van algoritmes? … Open vraag…. Overheden werken vaak samen met externe organisaties waarbij gegevens van personen (adres- en andere gegevens) worden uitgewisseld. Te denken valt aan uitvoeringsorganisaties die beleid en

34

wetten voor de overheid uitvoeren (en daarbij algoritmes gebruiken), externe reinigingsdiensten en ondersteuningsorganisaties op het gebied van zorg en welzijn. 11. In welke mate werkt uw afdeling samen met externe organisaties waarmee gegevens van personen (kunnen) worden uitgewisseld? o Niet o Soms o Regelmatig o Vaak o Weet ik niet

FILTERVRAAG: Indien geantwoord is met ‘soms’, ‘regelmatig’ of ‘vaak’ 12. Kunt u aangeven met welke externe organisaties uw afdeling samenwerkt? [open vraag]….

FILTERVRAAG: Indien geantwoord is met ‘soms’, ‘regelmatig’ of ‘vaak’ 13. In welke mate gebruiken deze externe organisaties volgens u (digitale of eenvoudige) algoritmes om de gemeente van informatie te voorzien, of keuzes te ondersteunen? o Niet o Soms o Regelmatig o Vaak o Weet ik niet 14. Houdt uw afdeling, voor zover u weet, een algoritmeregister bij? o Nee o Ja o Weet ik niet o Niet van toepassing 15. Hoe zorgvuldig gaat uw gemeente om met de inzet van algoritmes zowel in eigen organisatie als in de samenwerking met externe organisaties? o Heel zorgvuldig o Tamelijk zorgvuldig o Niet zo zorgvuldig o Helemaal niet zorgvuldig o Niet van toepassing o Weet ik niet 16. Kunt u aangeven wat uw afdeling doet om controle te hebben over algoritmes die externe organisaties gebruiken? Meerdere antwoorden mogelijk. o Er is een schriftelijke overeenkomst tussen de externe organisatie en de gemeente over het gebruik van persoonsgegevens o De uitvoeringsorganisatie bewaart persoonsgegevens anoniem o Wijzigingen aan algoritmes worden niet gemaakt zonder goedkeuring van de gemeente o Er is een toezichthouder algoritmes in onze gemeente aangesteld o IT-beheer vanuit de externe organisatie is transparant georganiseerd o Anders: …..

35

17. Hieronder volgt een lijstje met stellingen over de bekendheid, de werking, informatieverstrekking en procedures bij de inzet van algoritmes. Kunt u aangeven welke van deze stellingen in uw afdeling van toepassing zijn? Van toepassing

Weet ik niet

Niet van toepassing

Ik weet welke informatiebron(nen) algoritmes op onze afdeling gebruiken Ik weet hoe algoritmes op onze afdeling op hoofdlijnen werken Ik weet hoe algoritmes op onze afdeling technisch werken Ik weet hoe de uitkomst van een algoritme tot een actie of besluit leidt Ik ben op de hoogte van de voor- en nadelen van algoritmes Ik weet bij wie ik meer informatie kan krijgen over de inzet van algoritmes Ik ben op de hoogte van de mate waarin er menselijke controle is op fouten die algoritmes kunnen maken Ik ben op de hoogte van de privacy-gevolgen van de inzet van algoritmes Ik ben op de hoogte van bezwaarprocedures voor burgers m.b.t. de inzet van algoritmes

Ten slotte stellen wij u een paar vragen over de wijze waarop informatie over gebruik van algoritmes volgens u moet worden verspreid. 18. Wie moet volgens u informatie kunnen inzien over de algoritmes die (lokale) overheden inzetten? Meerdere antwoorden mogelijk o Politici (bijvoorbeeld de Gemeenteraad of Tweede Kamer) o Media (bijvoorbeeld journalisten) o Toezichthouders (bijvoorbeeld de Autoriteit Persoonsgegevens of Nationale Ombudsman) o Maatschappelijke organisaties (bijvoorbeeld belangenverenigingen) o Burgers (alle inwoners van Nederland) o Niemand, alleen de overheid die het algoritme inzet o Anders, namelijk … 19. Op op welke wijze kan volgens u informatie over de inzet van algoritmes door overheden het beste worden gepresenteerd? o Niet, informatie over inzet van algoritmes door overheden hoeft niet openbaar gemaakt te worden o Via een algoritmeregister dat de (lokale) overheid zelf bijhoudt o Via de website van de organisatie die het algoritme inzet o Via een centrale overheidswebsite waar alle algoritmes van overheden staan geregistreerd o Via een onafhankelijke website waar alle algoritmes van overheden staan geregistreerd o Via een periodieke update (bijv. jaarlijks) per brief of email aan mij persoonlijk o Ik wil informatie op een andere manier krijgen, namelijk … 20.

Hebt u ten slotte nog opmerkingen over of naar aanleiding van dit onderzoek? Deze kunt u hieronder kwijt………… Hartelijk dank voor uw medewerking aan dit onderzoek

36

Bijlage II Uitnodiging tot deelname Geachte medewerker van de gemeente….. Momenteel doet de Rekenkamercommissie Hulst en Terneuzen (RKCHT) onderzoek naar de inzet van algoritmes in beide gemeenten. Een van de onderdelen van dit onderzoek is een enquête onder alle medewerkers in uw gemeente. Het PON & Telos verzorgt namens de RKCHT de dataverzameling en -verwerking. Wij willen u vragen of u aan het onderzoek wilt meedoen. Dat kan door de vragenlijst in bijgevoegde link zo goed mogelijk in te vullen. Dit is uiteraard geheel vrijblijvend. Wij zullen de gegevens anoniem en vertrouwelijk verwerken. Met de resultaten adviseren wij de gemeenteraden in beide gemeenten over de inzet van algoritmes, de procedures die daarbij gebruikt (kunnen) worden en de wijze waarop de burger iets van deze inzet merkt. Het invullen van de vragenlijst duurt maximaal tien minuten. Voor eventuele vragen kunt u zich richten tot mevrouw dr. Nel Verhoeven: n.verhoeven@hetpon-telos.nl. Namens het onderzoeksteam van Het PON & Telos bedanken wij u alvast hartelijk voor uw medewerking. Fleur Aarts Drs. Mirjam Smulders Dr. Nel Verhoeven

37

Bijlage III Tabellen en figuren analyse Hulst ZIE AFZONDERLIJK DOCUMENT: ALGORITMES_RESULTATEN_HULST_23MRT23.PDF

38

Bijlage IV Tabellen en figuren analyse Terneuzen ZIE AFZONDERLIJK DOCUMENT: ALGORITMES_RESULTATEN_TERNEUZEN_23MRT23.PDF

39