Ingetrokken na toezegging Vrije motie VM6 Computer says no - openbaar algoritmeregister GL PvdA OAE SP VVD 50PLUS D66 CU DENK

Vrije Motie Computer says no? – Openbaar algoritmeregister

VM6

De aanleiding van deze motie is de toeslagenaffaire, die heeft laten zien hoe het gebruik van data en algoritmes door de overheid kan leiden tot verregaande gevolgen in de levens van mensen. Ook in Eindhoven worden data en algoritmes toegepast. Het doel van deze motie is om te borgen dat dit ethisch, maatschappelijk verantwoord en transparant gebeurt. De raadsleden hebben gehoord dat: • Algoritmen kunnen helpen om snel ingewikkelde taken uit te voeren waar veel gegevens bij betrokken zijn, maar dat er ook nadelen aan kunnen kleven: door fouten of vooroordelen in de data kunnen ze discriminatie en oneerlijkheid in de hand werken; • Algoritmes ook gebruikt worden om risico’s te voorspellen. Dit leidt geregeld tot (onbewuste) discriminatie.

Bijvoorbeeld extra gecontroleerd worden door de belastingdienst omdat je een dubbele nationaliteit hebt; • Ook de gemeente Eindhoven gebruik maakt van algoritmes, bijvoorbeeld in het Living Lab op Stratumseind; • Deze algoritmes niet inzichtelijk zijn; • De risico’s op discriminatie en oneerlijkheid kleiner worden als transparant wordt gemaakt hoe gegevens verwerkt worden en hoe dat bijdraagt aan het nemen van beslissingen; • Helsinki, Amsterdam, Utrecht en binnenkort Zwolle een algoritmeregister hebben waarmee algoritmes verantwoord kunnen worden aan de burger; • De Algemene Rekenkamer aanbeveelt om burgers inzicht te geven in het gebruik van algoritmes [1];

De raadsleden vinden dat: • De overheid - en dus ook de algoritmes die ze gebruikt - mensen gelijk moet behandelen en dat deze in dienst moeten staan van Eindhovenaren; • Het voor de burger open en controleerbaar moet zijn, welke acties door de gemeente aan de hand van algoritmes worden uitgevoerd; • Een algoritmeregister een bruikbaar instrument is om het gebruik van algoritmes te verantwoorden naar het publiek; • De bestaande algoritmeregisters in Amsterdam en Utrecht een goed voorbeeld zijn om over te nemen; Roept het college op: 1. Een openbaar algoritmeregister in te richten waarin beschreven wordt welke algoritmen de overheid gebruikt, voor welk doel, op basis van welke datasets en welke beslissingen ermee gemaakt worden;

2. Het risico op discriminatie door algoritmes te minimaliseren, te beginnen met het uitsluiten van nationaliteit, etniciteit en geboorteplaats als datavariabele in alle risicomodellen die de gemeente gebruikt; 3. Het openbare algoritmeregister eind derde kwartaal 2021 op te leveren. De leden van de raad; Eva de Bruijn (GroenLinks), voorsteller Arnold Raaijmakers (PvdA), voorsteller Dré Rennenberg (OAE), voorsteller Jannie Visscher (SP), voorsteller Fopke Klok (VVD), voorsteller Henk Jager (CU), voorsteller Ruud van Acquoij (50PLUS), voorsteller Jorien Migchielsen (D66), voorsteller Adem Topdag (DENK), voorsteller -----------------------------------------------------------------------------------------------------------------------------------Deze vrije motie is ingetrokken in de vergadering van 23 februari 2021.

J. Verbruggen, griffier.

Ingetrokken na toezegging wethouder Steenbakkers Wethouder S.P.M.F. Steenbakkers MSc. Zegt toe: • Het algoritmeregister mee te nemen in het verplichte verwerkingsregister van de AVG, maar het besluit tot openbaarmaking pas aan het college voor te leggen nadat de raad het debat over het raadsvoorstel ethiek en digitalisering heeft gevoerd; • De gedachtegang van het tweede beslispunt in het dictum van de motie mee te nemen naar de discussie die gevoerd zal worden rondom het raadsvoorstel ethiek en digitalisering in Q2 2021.

[1] Rapport Algemene Rekenkamer ‘Aandacht voor algoritmes’ (2021) via https://www.rekenkamer.nl/publicaties/rapporten/2021/01/26/aandacht-voor-algoritmes