305.25 Motie IJmker c.s. geen algoritmische risicoprofilering voor voorspellen van fraude of criminaliteit

Motie Datum raadsvergadering Ingekomen onder nummer Status Onderwerp

9 juli 2025 305 Status Motie van de leden IJmker, Nadif, Alberts, Krom , Aslami, Khan, Garmy, Ahmadi en Kabamba inzake Geen algoritmische risicoprofilering voor voorspellen van fraude of criminaliteit

Onderwerp Geen algoritmische risicoprofilering voor voorspellen van fraude of criminaliteit

Aan de gemeenteraad Ondergetekenden hebben de eer voor te stellen: De Raad, Gehoord de discussie over de raadsinformatiebrief over de uitgangspunten en keuzes ten aanzien van bias-analyse bij algoritmes (incl. AI) Overwegende dat: - Uit de beantwoording op schriftelijke vragen in maart 2024 blijkt dat de gemeente nog geen duidelijk beeld heeft van het gebruik van risicoprofielen en algoritmes voor het voorspellen van fraude of criminaliteit - Het college stelt dat risicoprofilering (met oa afkomst-gerelateerde kenmerken) mag worden ingezet voor bijvoorbeeld (jeugd)criminaliteitspreventie, of handhaving en toezicht van sociale voorzieningen - Het college terecht constateert dat het een politieke keuze is of deze vorm van algoritmische risicoprofilering gewenst is - Het college van de Rechten van de Mens constateert dat risicoprofilering grote risico’s op discriminatie met zich meebrengt omdat historische data mogelijk verouderde patronen of vooroordelen - De resultaten van de pilot ‘Slimme check’ laten zien dat algoritmische risicoprofilering ondanks goede intenties tot onwenselijke uitkomsten kan leiden wanneer toegepast op kwetsbare groepen in het sociaal domein

Gemeente Amsterdam

Status Pagina 2 van 2

Spreekt uit Dat het onwenselijk is om algoritmische risicoprofilering in te zetten voor het voorspellen van (jeugd)criminaliteitspreventie of voor handhaving en toezicht van sociale voorzieningen

Verzoekt het college van burgemeester en wethouders In kaart te brengen op welke manier de gemeente op dit moment gebruik maakt van algoritmische risicoprofilering voor bovengenoemde doeleinden en wat de gevolgen zijn om hier mee te stoppen

Indiener(s), E.C. IJmker I. Nadif R. Alberts J. Krom A.S. Aslami S. Khan I. Garmy N. Ahmadi C. Kabamba