21bb1406 20.3 Motie 3 Stop het gebruik van discriminerende algoritmes (verworpen)

3

Motie: Stop het gebruik van discriminerende algoritmes De gemeenteraad van Rotterdam, in vergadering bijeen op donderdag 28 januari 2021, ter bespreking van agendapunt 20.3 Leren van de toeslagenmisdaad, Constaterende dat: • risicoprofilering op basis van data-analyse op gespannen voet staat met de integriteit van individuen die op basis van zo’n profiel worden gecontroleerd; • de risicoprofielen die werden opgesteld en toegepast door de Belastingdienst, geleid werden door vooroordelen; • het vooralsnog onmogelijk is voor de Autoriteit Persoonsgegevens, evenals wetgeving om voldoende toezicht uit te oefenen om te voorkomen dat zaken uit de hand lopen bij een overheidsdienst; • er voor het opsporen van risicoprofielen trainings-sets worden gebruikt van personen die eerder werden gecontroleerd, en waar al dan niet belastingfraude werd geconstateerd; • deze sets worden gebruikt als input waarbij ieder individu in die trainingsset een waarde toegekend krijgt en derhalve als meting graad wordt gebruikt voor wel/geen fraudeur; • algoritmes discrimineren wanneer eerdere fraudegevallen gepleegd door een individu met een specifieke etniciteit als meting graad worden gebruikt voor soortgelijken individuen; Van mening dat: • het niet mogelijk is om op een statistisch deugdelijke manier naar risicoprofielen te speuren door patronen op te sporen in data geleid door discriminerende

algoritmes; Verzoekt het college: • •

te lobbyen bij het Rijk om algoritmes waarbij er wordt geselecteerd op etniciteit wettelijk te verbieden; Hierover te rapporteren aan de raad,

en gaat over tot de orde van de dag. 20.3 Stephan van Baarle DENK Rotterdam

Aart van Zevenbergen SP Rotterdam

Ercan Büyükçifçi NIDA Rotterdam