21bb12353 15. motie 7 Algoritme & Ethiek Functionaris (aangenomen)
Tekst van het document
2 l M /Z
£nida
. OBMEENTERAAE Vergadering van
3 0 SEP. 2021
OMDAT WE GELOVEN IN ROTTERDAM
MOTIE: Algoritme & Ethiek Functionaris
De Gemeenteraad van Rotterdam in vergadering bijeen op 30 september, ter bespreking van het rapport "Gekleurde Technologie" inzake de Algoritme
Constaterende dat: ♦
Algoritmes soms vooroordelen en vooringenomen uitkomsten bevestigen en kunnen leiden tot discriminatie;
♦
Overheidsinstellingen
zich vaker schuldig hebben gemaakt aan directe en indirecte
discriminerende proxyvariabelen; ♦
Het vertrouwen in de overheid ernstig is geschaad bij een grote groep burgers na de Belasting toeslagaffaire, NCTV affaire enzovoort. Hierbij met nadruk op het eerste gezicht, neutrale proxies, die in de praktijk toch leiden tot indirecte discriminatie.
♦
In het rapport "Gekleurde Technologie" de Rekenkamer bevestigd heeft dat ondanks dat er aandacht is voor de noodzakelijke borging van kwaliteit en ethiek van algoritmes, het "toch mis gaat" bij de gemeente Rotterdam.
Benadrukkend dat: ♦
Het college een proactieve rol heeft bij het beschermen van burgers tegen discriminatie, zeker wanneer deze veroorzaakt wordt door de gemeente zelf;
♦
Het ondanks het feit dat het werken met algoritmen "een relatief nieuw vakgebied is", de gemeente inmiddels ruim 4 jaar ermee werkt nog steeds geen eenduidige en transparante governance bestaat. Het college geeft aan dat het instrumentarium
dat de waarborgen biedt
nog in ontwikkeling is, terwijl al 4 jaar wordt gewerkt met een middel waarvan bekend is dat deze kan of heeft geleid tot discriminatie. Een middel waarbij inzicht, regie, beleid en zware beheersmaatregelen noodzakelijk zijn.
♦
Volgens de Rekenkamer de verantwoordelijkheid in de organisatie niet goed georganiseerd is. Hierdoor is er onvoldoende aandacht voor de ethiek van het algoritme in zijn algemeen en voor de transparantie en eerlijkheid in het bijzonder.
Verzoekt het college: ♦
Een Algoritme & Ethiek functionaris aan te stellen, wiens hoofdtaak het is om continue toezicht te houden op de algoritmes en het gebruik ervan. Hierbij geldt onder andere toezicht op hetgeen in gebruik is, de termen te toetsen alvorens deze worden gebruikt, de gevolgen van de inrichting en algoritmes te onderzoeken, op te treden bij risico van het schenden van ethische principes en de grondwet.
♦
Het gebruik van alle algoritmes, waarvan onbekend is of deze kunnen leiden tot het schenden van ethische principes of waarvan deze - door het ontbreken van kennis - onbekende gevolgen en hebben, te stoppen totdat er een beeld is geschetst door de Algoritme Functionaris over welke ethische risico's er liggen en welke bijpassende beheersmaatregelen getroffen dienen te worden.
♦
De Raad hierover te adviseren.
En gaat over tot de orde van de dag.
Bas van Noppen Nida Rotterdam
eoien ' p\A/
W O.