Informatienota college beantwoording raadsvraag D66 over gebruik algoritmes

Openbaar

Zaaknummer: 54206

Informatienota voor het College van B&W Antwoord op schriftelijke vragen: Schriftelijke vraag van D66 over Algoritmes en het gebruik daarvan binnen de gemeente Kernboodschap De gemeente maakt geen gebruik van (zelflerende en voorspellende) algoritmes zoals bedoeld door de fractie van D66. Op dit moment zijn er ook geen plannen om op korte termijn algoritmes te gaan gebruiken. De gemeente is zich bewust van de risico’s bij het gebruik van algoritmes, waar de fractie D66 terecht op wijst. Een recent voorbeeld uit de praktijk waarbij algoritmes hebben geleid tot discriminerende besluiten is de ‘toeslagen affaire’ bij de Belastingdienst. Mocht de gemeente in de toekomst dergelijke algoritmes willen gaan inzetten, zal de gemeente eerst beleid willen vaststellen over dit onderwerp. Het kan bijvoorbeeld een principiële keuze zijn om voorlopig geen algoritmes te gaan gebruiken, vanwege de genoemde risico’s. Een andere richting kan zijn dat we wel met algoritmes gaan werken. Maar daarbij wel eerst de risico’s in beeld brengen en maatregelen nemen om deze af te dekken. Waaronder de benodigde maatregelen om de privacy van onze inwoners te beschermen.

Eerdere besluiten Nvt. Antwoord van het college In navolgende tekst beantwoorden wij de gestelde vragen Vragen: 1. Maakt de gemeente gebruik van algoritmes die zijn getraind door middel van (un)supervised learning, zijn die ingebouwd in applicaties waarvan de gemeente gebruikmaakt of geeft zij hiertoe opdracht aan andere organisaties? a. Zo ja, ter beantwoording van welke vraagstukken gebruikt zij deze algoritmes? Is het opstellen van (risico)profielen van mensen hier onderdeel van? b. Hoe zijn deze algoritmes tot stand gekomen? c. Welke (persoons)gegevens worden door de gemeente gebruikt voor het trainen en testen van deze algoritmes? Welke (persoons)gegevens worden door de gemeente gebruikt voor de implementatie van deze algoritmes? Beschrijf per algoritme welk soort het betreft en voor welk vraagstuk zij dient. Beschrijf vervolgens het proces van het algoritme vanaf de dataverzameling, de dataverwerking en codering/omvorming de data-analyse, de uitkomst, decodering en de vervolgacties. Wat voor data zijn er verzameld en hoe zijn deze verzameld? Welke variabelen worden meegenomen in het model en welke niet? Hoe ziet de output eruit (bijvoorbeeld de kans per individu)? Hoe wordt besloten welke variabelen wel/niet mee worden genomen?

Pagina 1 van 4

Openbaar

Zaaknummer: 54206

Antwoord: De gemeente maakt geen gebruik van algoritmes die zijn getraind door middel van (un)supervised learning.1 2. Is de gemeente bereid om een openbaar register te publiceren waarin zij haar algoritmische toepassingen omschrijft en toelicht? Antwoord: Indien wij in de toekomst algoritmes willen gaan toepassen, zullen we eerst beleid willen vaststellen over dit onderwerp. Dit beleid kan tot stand komen nadat eerst een impactanalyse wordt uitgevoerd naar de risico’s bij het gebruik van algoritmes binnen de gemeente. Mocht de gemeente algoritmes willen gaan toepassen, dan zullen we in dit beleid vaststellen welke maatregelen we treffen om de risico’s af te dekken. Eén van de maatregelen zou kunnen zijn dat we een (openbaar) register bijhouden ten behoeve van maximale transparantie. 3. Is de gemeente zich bewust van de risico's van onethisch gebruik van algoritmes, zoals discriminatie, stigmatisering, het beperken van persoonlijke vrijheden zoals zelfbeschikking en het in stand houden of versterken van ongelijkheid? Welke maatregelen neemt de gemeente om risico's te vermijden en potentiële negatieve gevolgen tegen te gaan? Antwoord: Ja de gemeente is zich hiervan bewust. Een goed voorbeeld uit de praktijk waarbij het mis is gegaan, is de ‘toeslagen affaire’ bij de Belastingdienst. De te nemen maatregelen komen voort uit op te stellen beleid. Zie ook het antwoord op vraag 2.

4. Is de gemeente zich bewust van de (onbewuste) keuzes in het proces van het gebruik van algoritmes die onethisch gebruik van algoritmes in de hand werken? Zo ja, waaruit blijkt dit? Antwoord: Ja de gemeente is zich hiervan bewust. Een algoritme kan discriminerend zijn, omdat de maker van het algoritme persoonlijke waardeoordelen kan verwerken in het algoritme. Daarnaast is het een risico dat de persoon die de algoritmes moet interpreteren om op basis daarvan besluiten te nemen, ook waardeoordelen laat meewegen. 5. Neemt de gemeente ethische aspecten van algoritmes mee in inkoopvoorwaarden met leveranciers? Zo ja, welke voorwaarden zijn dit? Antwoord: De gemeente maakt gebruikt van de Gemeentelijke Inkoopvoorwaarden bij IT (GIBIT). Dit is de standaard die door de VNG wordt aangeboden en waarmee gemeenten samen optrekken en sterker staan richting de softwareleveranciers binnen de gemeentelijke markt. Hoewel de gemeente op dit moment dus geen algoritmes hanteert, kunnen de inkoopvoorwaarden in de toekomst wel een 1 Voor het beantwoorden van deze raadsvraag is o.a. de volgende bron geraadpleegd: Hans van Mierlo

stichting, Algoritmes en lokale overheden: kansen voor iedereen? (2020). https://vanmierlostichting.d66.nl/content/uploads/sites/296/2020/09/Algoritmes-en-lokale-overheden-PDF.pdf Op pagina 20 van deze publicatie wordt een definitie gegeven van ‘(un)supervised learning’.

Pagina 2 van 4

Openbaar

Zaaknummer: 54206

probleem gaan vormen bij het afleggen van rekenschap op dit vlak. Een probleem is dat gemeenten soms geen rekenschap kunnen afleggen omdat afspraken met de leveranciers van de systemen dat verhinderen. Om deze ‘lockin’ te ondervangen, zijn er aanpassingen ophanden aan deze GIBIT voorwaarden. Het zijn maatregelen die ervoor moeten zorgen dat het meer gangbaar wordt voor gemeenten om rekenschap af te (kunnen) leggen over het gebruik van algoritmes.2 6. Heeft de gemeente een ethische commissie, met als voorbeeld de gemeente Enschede, aangesteld die zich ontfermt over of er wel of niet ethisch gebruik wordt gemaakt van algoritmes door de gemeente? Zo nee, ziet de gemeente het nut in van een dergelijke commissie en overweegt zij om deze aan te stellen? Antwoord: Zie het antwoord op vraag 2. Eén van de maatregelen zou ook kunnen zijn dat we een ethische commissie aanstellen. 7. Is de gemeente bereid om een (jaarlijkse) audit uit te voeren ter controle van de algoritmische toepassingen van de gemeente? Antwoord: Zie het antwoord op vraag 2. Eén van de maatregelen zou ook kunnen zijn dat we een (jaarlijkse) audit laten uitvoeren. 8.

Heeft de gemeente advies ingewonnen over het implementeren van algoritmes bij een onafhankelijke organisatie? Zo ja, welke organisatie is dit? Heeft deze organisatie ook geëvalueerd of het algoritme voldoet aan de eisen van de Algemene Verordening Gegevensbescherming (AVG) en de Algemene Wet Gelijke Behandeling (AWGB)? Antwoord: De gemeente maakt geen gebruik van (zelflerende en voorspellende) algoritmes zoals bedoeld door de fractie van D66. Om die reden is er nog geen advies ingewonnen over het implementeren van algoritmes bij een onafhankelijk organisatie. 9. Wordt er door de Functionaris Gegevensbescherming (FG) naast privacy ook naar andere ethische aspecten gekeken, zoals gelijke behandeling en transparantie? Zo ja, hoe worden deze geborgd en bij wie ligt de verantwoordelijkheid? Is de gemeente bereid om hiervoor een aparte functionaris aan te stellen? Antwoord: De FG moet primair kennis hebben van de privacywetgeving, maar ook het belang van data ethiek is bekend bij de FG. De FG en CISO (verantwoordelijke voor informatieveiligheid) hebben bijvoorbeeld deelgenomen aan een digitale themasessie Ethiek en Practitioner Ethiek, georganiseerd door het Centrum Informatieveiligheid en Privacy (CIP), om ethische problemen in dataprojecten, datamanagement en databeleid te herkennen.

Indien wij in de toekomst algoritmes willen gaan toepassen, zullen we eerst beleid willen vaststellen over dit onderwerp. Voorafgaand aan een verwerking moet een beoordeling worden uitgevoerd op het effect op de bescherming van 2 Bron: https://www.binnenlandsbestuur.nl/digitaal/nieuws/wees-helder-over-inzet-algoritmes.12843325.lynkx

Pagina 3 van 4

Openbaar

Zaaknummer: 54206

persoonsgegevens. In een zogenaamde gegevensbeschermingseffectbeoordeling (DPIA) moet een systematische beschrijving gemaakt worden van de beoogde verwerkingen en verwerkingsdoeleinden. De gemeente moet onderbouwen waarom bepaalde gegevens gebruikt worden in een algoritme en waarom dit nodig is. Uit een DPIA kan blijken dat het aanstellen van een aparte functionaris voor borging van gelijke behandeling en transparantie wenselijk is. Dit kan dan als maatregel worden aangenomen.

Pagina 4 van 4