21bb12354 15. motie 8 Gemotiveerd en gebalanceerd algoritme gebruik (aangenomen)
Tekst van het document
vNIDA
GEMEENTERAAD Vergadering van
3 0 SEP. 2021
OMDAT WE GELOVEN IN ROTTERDAM
AANGENOMEI
MOTIE: Gemotiveerd en gebalanceerd algoritme gebruik
De Gemeenteraad van Rotterdam in vergadering bijeen op 30 september, ter bespreking van het rapport "Gekleurde Technologie" inzake de Algoritme
Constaterende dat: ♦
Algoritmes soms vooroordelen en vooringenomen uitkomsten bevestigen en kunnen leiden tot discriminatie;
♦
Overheidsinstellingen
zich vaker schuldig hebben gemaakt aan directe en indirecte
discriminerende proxyvaria beien; ♦
Het vertrouwen in de overheid ernstig is geschaad bij een grote groep burgers na de Belasting toeslagaffaire, NCTV affaire enzovoort. Hierbij met nadruk op het eerste gezicht, neutrale proxies, die in de praktijk toch leiden tot indirecte discriminatie.
♦
In het rapport "Gekleurde Technologie" de Rekenkamer bevestigd heeft dat ondanks dat er aandacht is voor de noodzakelijke borging van kwaliteit en ethiek van algoritmes, het "toch mis gaat" bij de gemeente Rotterdam.
Benadrukkend dat: ♦
Het college een proactieve rol heeft bij het beschermen van burgers tegen discriminatie, zeker wanneer deze veroorzaakt wordt door de gemeente zelf;
♦
Het ondanks het feit dat het werken met algoritmen "een relatief nieuw vakgebied is", de gemeente inmiddels ruim 4 jaar ermee werkt nog steeds geen eenduidige en transparante governance bestaat. Het college geeft aan dat het instrumentarium
dat de waarborgen biedt
nog in ontwikkeling is, terwijl al 4 jaar wordt gewerkt met een middel waarvan bekend is dat deze kan of heeft geleid tot discriminatie. Een middel waarbij inzicht, regie, beleid en zware beheersmaatregelen noodzakelijk zijn.
♦
Volgens de Rekenkamer de verantwoordelijkheid in de organisatie niet goed georganiseerd is. Hierdoor is er onvoldoende aandacht voor de ethiek van het algoritme in zijn algemeen en voor de transparantie en eerlijkheid in het bijzonder.
Verzoekt het college: ♦
Het register uit te breiden met een motivatie en belangenafweging. Hierbij bij te houden waar en wanneer gebruik wordt gemaakt van algoritmes en daarbij te motiveren waarom het noodzakelijk wordt geacht om deze te gebruiken. Hierbij o.a. een afweging te maken tussen de gevoeligheid, die verder reikt dan de AVG dekt, de risico's, de mogelijke benadeling van burgers en het zwaargewicht van dit middel, ten opzichte van het doel van de gemeente en de mogelijke minder zware alternatieven voor dit middel en voor het bereiken van het doel.
♦
De Raad hier -desnoods in een beveiligde omgeving- inzage in te geven.
En gaat over tot de orde van de dag.
Bas van Noppen Nida Rotterdam