IN002 Beantwoording schriftelijke vragen D66 betreffende Algoritmes.pdf

Informatienota Datum vergadering Registratienummer Portefeuillehouder Bijlage(n) Onderwerp

: 26 januari 2021 : 2021/IN002 : Ed Goossens :: Artikel 50-vragen D66 Algoritmes

Onderwerp Artikel 50-vragen Algoritmes Kennisnemen van De antwoorden op de door de D66-fractie gestelde vragen over het gebruik van algoritmes in de gemeente West Betuwe. Inleiding Op 16 oktober jl. stelde de D66-fractie West Betuwe artikel 50-vragen over het gebruik van algoritmes in West Betuwe. Op 12 november is aangegeven dat de beantwoordingstermijn van 30 dagen niet gehaald werd, vanwege het nadere onderzoek dat nodig was om de vragen van een gedegen antwoord te voorzien. Inmiddels zijn de antwoorden wel beschikbaar. De informatienota voorziet in die beantwoording. Het is het belangrijk om op te merken dat de ICT- en informatievoorziening voor de gemeente West Betuwe is belegd bij de Bedrijfsvoeringsorganisatie West-Betuwe (BWB). Deze is dan ook betrokken in het opstellen van de antwoorden. Vraag 1 – Maakt de gemeente gebruik van algoritmes die zijn getraind door middel van supervised learning of geeft zij hiertoe opdracht aan andere organisaties? Nee, de gemeente West Betuwe en BWB maken geen gebruik van dergelijke algoritmes. Vraag 2 – Maakt de gemeente gebruik van algoritmes die zijn getraind door middel van unsupervised learning of geeft zij hiertoe opdracht aan andere organisaties? Nee, de gemeente West Betuwe en BWB maken geen gebruik dit soort algoritmes (getraind door middel van unsupervised learning).

Vraag 3 – Is de gemeente bereid om een openbaar register te publiceren waarin zij haar algoritmische toepassingen omschrijft en toelicht? Indien de gemeente of BWB wél gebruik zouden gaan maken van algoritmes, zou dat op een toegankelijke plek op de website zichtbaar gemaakt kunnen worden. Vraag 4 – Is de gemeente zich bewust van de risico's van onethisch gebruik van algoritmes, zoals discriminatie, stigmatisering, het beperken van persoonlijke vrijheden zoals zelfbeschikking en het in stand houden of versterken van ongelijkheid? Welke maatregelen neemt de gemeente om risico's te vermijden en potentiële negatieve gevolgen tegen te gaan?

8 december 2020 Kenmerk GZDGWB/ Pagina 2 van 3

Tot op heden is er binnen onze organisatie geen gebruik gemaakt van algoritmes. Het al dan niet gebruiken van algoritmes voor bijvoorbeeld voortijdige schoolverlating of het bepalen van de inzet van politieagenten vraagt eerst om duidelijke kaders. Van een algemeen bewustzijn op het gebruik van algoritmes is daarom (nog) geen sprake. Mochten de gemeente West Betuwe en BWB overwegen om algoritmes te gaan gebruiken voor het verwerken van persoonsgegevens, dan zal eerst in overleg met de functionaris gegevensbescherming een Data Protection Impact Assessment (DPIA), zoals voorgeschreven door de Algemene Verordening Gegevensbescherming (AVG), worden uitgevoerd. Vraag 5 – Is de gemeente zich bewust van de (onbewuste) keuzes in het proces van het gebruik van algoritmes die onethisch gebruik van algoritmes in de hand werken? Zo ja, waaruit blijkt dit? Zoals beschreven in voorgaande vraag wordt er binnen de gemeente West Betuwe en BWB geen gebruik gemaakt van algoritmes. De gemeente is zich bewust van de risico’s van het verwerken van persoonsgegevens, ook door dergelijk algoritmes. Mochten de gemeente West Betuwe en BWB overwegen om algoritmes te gaan gebruiken voor het verwerken van persoonsgegevens, dan zal eerst in overleg met de functionaris gegevensbescherming een DPIA, zoals voorgeschreven door de Algemene Verordening Gegevensbescherming (AVG), worden uitgevoerd.

Vraag 6 – Neemt de gemeente ethische aspecten van algoritmes mee in inkoopvoorwaarden met leveranciers? Zo ja, welke voorwaarden zijn dit? Nee, de gemeente West Betuwe en BWB nemen de ethische aspecten van algoritmes niet mee in de inkoopvoorwaarden met leveranciers Vraag 7 – Heeft de gemeente een ethische commissie, met als voorbeeld de gemeente Enschede, aangesteld die zich ontfermt over of er wel of niet ethisch gebruik wordt gemaakt van algoritmes door de gemeente? Zo nee, ziet de gemeente het nut in van een dergelijke commissie en overweegt zij om deze aan te stellen? Nee, de gemeente West Betuwe en BWB hebben geen ethische commissie naar het voorbeeld van de gemeente Enschede. Gezien het minimale (lees: geen) huidige gebruik van dergelijke algoritmes zien wij momenteel geen noodzaak tot instelling van een dergelijke commissie. Vraag 8 – Is de gemeente bereid om een (jaarlijkse) audit uit te voeren ter controle van de algoritmische toepassingen van de gemeente? De gemeente zal jaarlijks in samenwerking met BWB nagaan of er algoritmes zijn gebruikt. Indien dit het geval is, zal daarvan ook het gebruik worden gecontroleerd. Indien hier kosten voor een externe partij mee gemoeid zijn, zullen we daar bij u op terug komen.

Vraag 9 – Heeft de gemeente advies ingewonnen over het implementeren van algoritmes bij een onafhankelijke organisatie? Zo ja, welke organisatie is dit? Heeft deze organisatie ook geëvalueerd of het algoritme voldoet aan de eisen van de Algemene Verordening Gegevensbescherming (AVG) en de Algemene Wet Gelijke Behandeling (AWGB)? Nee, de gemeente West Betuwe en BWB hebben geen advies ingewonnen over het implementeren van algoritmes.

8 december 2020 Kenmerk GZDGWB/ Pagina 3 van 3

Vraag 10 – Wordt er door de Functionaris Gegevensbescherming (FG) naast privacy ook naar andere ethische aspecten gekeken, zoals gelijke behandeling en transparantie? Zo ja, hoe worden deze geborgd en bij wie ligt de verantwoordelijkheid? Is de gemeente bereid om hiervoor een aparte functionaris aan te stellen? Nee, door de Functionaris Gegevensbescherming wordt naast privacy niet naar andere ethische aspecten gekeken. Indien de verwerking van persoonsgegevens ook ethische vragen oproept dan zal de FG hier wel iets over zeggen. Dit kan bijvoorbeeld naar voren komen in een DPIA. Van een concrete borging en het beleggen van verantwoordelijkheden in deze is echter geen sprake. Vraag 11 – D66 West Betuwe stelt voor dat het college, al dan niet in samenwerking met de ethische commissie, een verdiepende bijeenkomst organiseert over de toepassing van algoritmen. Dit zou ook in regionaal verband kunnen. Wil het college hieraan meewerken? Het zou mooi zijn als raadsleden samen met ambtenaren en wethouder een goede opzet voor zo’n bijeenkomst bedenken. Het college is bereid mee te werken indien een dergelijke bijeenkomst wordt georganiseerd. Kernboodschap Een uitgebreide analyse heeft opgeleverd dat er in West Betuwe (en bij de BWB) geen gebruik wordt gemaakt van algoritmes.

De artikel 50-vragen hebben wel opgeleverd dat de gemeente is bepaald bij de mogelijke risico’s die het gebruik van algoritmes met zich mee kan brengen. In die zin is het goed om jaarlijks te monitoren of en hoe er algoritmes zijn gebruikt voor de gemeentelijke werkzaamheden. Consequenties Financiën Communicatie Vervolg Er zal jaarlijks een monitoring plaats vinden van de eventueel gebruikte algoritmes en de mogelijke consequenties daarvan. Bijlage(n) Suggestie ter afhandeling Voor kennisgeving aannemen Burgemeester en wethouders van de gemeente West Betuwe, de secretaris, de burgemeester,