20 54206 Schriftelijke vraag D66 - Algoritmes en het gebruik daarvan binnen de gemeente

De Gemeenteraad van Wijchen 20 54206

Algoritmes en het gebruik daarvan binnen de gemeente Schriftelijke vraag van de fractie D66 Ingediend: 3 november 2020 Aanleiding: Een algoritme is in de kern een reeks instructies die stapsgewijs wordt uitgevoerd om een probleem op te lossen. Hoe complexer het algoritme, hoe lastiger het is om te begrijpen hoe het precies werkt. Algoritmes zijn op zichzelf niet eerlijk of oneerlijk. Ze kunnen echter wel eerlijk of oneerlijk worden gemaakt en/of ingezet. Deze eerlijkheid hangt af van de waarden die centraal worden gesteld. Daarom is een door waarden gedreven denken noodzakelijk om de eerlijkheid van een algoritme te bepalen. Gemeenten maken volop gebruik van algoritmes. Dit biedt kansen, maar brengt ook risico's met zich mee. Waarden als gelijkheid, vrijheid en rechtsstatelijkheid kunnen in het gedrang komen. Zo kunnen ze de (onbewuste) vooroordelen van mensen weerspiegelen, wat kan leiden tot discriminerende besluiten. Algoritmes kunnen bijdragen aan het vergroten van bestaande ongelijkheden en het beperken van de keuzevrijheid van mensen. Een door waarden gedreven denken is noodzakelijk om de eerlijkheid van een algoritme te bepalen. Dit kan niet zonder te weten waar en hoe ze nu worden toegepast. De weg naar verandering ligt in het democratische proces. Het is aan de politiek om ervoor te zorgen dat technologische ontwikkelingen de maatschappij dienen en niet andersom.

Vragen: 1. Maakt de gemeente gebruik van algoritmes die zijn getraind door middel van (un)supervised learning, zijn die ingebouwd in applicaties waarvan de gemeente gebruikmaakt of geeft zij hiertoe opdracht aan andere organisaties? a. Zo ja, ter beantwoording van welke vraagstukken gebruikt zij deze algoritmes? Is het opstellen van (risico)profielen van mensen hier onderdeel van? b. Hoe zijn deze algoritmes tot stand gekomen? c. Welke (persoons)gegevens worden door de gemeente gebruikt voor het trainen en testen van deze algoritmes? Welke (persoons)gegevens worden door de gemeente gebruikt voor de implementatie van deze algoritmes? Beschrijf per algoritme welk soort het betreft en voor welk vraagstuk zij dient. Beschrijf vervolgens het proces van het algoritme vanaf de dataverzameling, de dataverwerking en codering/omvorming de data-analyse, de uitkomst, decodering en de vervolgacties. Wat voor data zijn er verzameld en hoe zijn deze verzameld? Welke variabelen worden meegenomen in het model en welke niet? Hoe ziet de output eruit (bijvoorbeeld de kans per individu)? Hoe wordt besloten welke variabelen wel/niet mee worden genomen? 2. Is de gemeente bereid om een openbaar register te publiceren waarin zij haar

2 algoritmische toepassingen omschrijft en toelicht? 3. Is de gemeente zich bewust van de risico's van onethisch gebruik van algoritmes, zoals discriminatie, stigmatisering, het beperken van persoonlijke vrijheden zoals zelfbeschikking en het in stand houden of versterken van ongelijkheid? Welke maatregelen neemt de gemeente om risico's te vermijden en potentiële negatieve gevolgen tegen te gaan? 4. Is de gemeente zich bewust van de (onbewuste) keuzes in het proces van het gebruik van algoritmes die onethisch gebruik van algoritmes in de hand werken? Zo ja, waaruit blijkt dit? 5. Neemt de gemeente ethische aspecten van algoritmes mee in inkoopvoorwaarden met leveranciers? Zo ja, welke voorwaarden zijn dit? 6. Heeft de gemeente een ethische commissie, met als voorbeeld de gemeente Enschede, aangesteld die zich ontfermt over of er wel of niet ethisch gebruik wordt gemaakt van algoritmes door de gemeente? Zo nee, ziet de gemeente het nut in van een dergelijke commissie en overweegt zij om deze aan te stellen? 7. Is de gemeente bereid om een (jaarlijkse) audit uit te voeren ter controle van de algoritmische toepassingen van de gemeente? 8.

Heeft de gemeente advies ingewonnen over het implementeren van algoritmes bij een onafhankelijke organisatie? Zo ja, welke organisatie is dit? Heeft deze organisatie ook geëvalueerd of het algoritme voldoet aan de eisen van de Algemene Verordening Gegevensbescherming (AVG) en de Algemene Wet Gelijke Behandeling (AWGB)? 9. Wordt er door de Functionaris Gegevensbescherming (FG) naast privacy ook naar andere ethische aspecten gekeken, zoals gelijke behandeling en transparantie? Zo ja, hoe worden deze geborgd en bij wie ligt de verantwoordelijkheid? Is de gemeente bereid om hiervoor een aparte functionaris aan te stellen?

Namens de fractie D66, Kees van Galen