Beantwoording_sv_Belkasmi_en_Abdi_mogelijke_vooringenomenheid_in_het_Criminaliteit_Anticipatie_Systeem_(CAS)_gebruikt_door_de_politie.pdf

Raadsinformatiebrief Beantwoording schriftelijke vragen

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 23 juni 2022 Openbare Orde en Veiligheid Femke Halsema Directie Openbare Orde en Veiligheid Beantwoording schriftelijke vragen van de leden Belkasmi en Abdi inzake de mogelijke vooringenomenheid in het Criminaliteit Anticipatie Systeem (CAS) gebruikt door de politie

Geachte leden van de gemeenteraad, Op 2 juni 2022 heeft het college schriftelijke vragen ontvangen van de leden Belkasmi en Abdi inzake de mogelijke vooringenomenheid in het Criminaliteit Anticipatie Systeem (CAS) gebruikt door de politie. Onderstaand treft u de beantwoording van deze vragen aan. Toelichting door vragenstellers In Amsterdam maakt de politie sinds 2017 gebruik van het zogeheten ‘Criminaliteit Anticipatie Systeem’ (CAS). Het CAS is een geautomatiseerd systeem, waarmee met behulp van Big Data en algoritmes misdaden voorspeld en voorkomen kunnen worden. Het doel van het CAS is om de toewijzing van de politiecapaciteit zo efficiënt mogelijk te doen. Agenten worden dus op basis van deze voorspellingen naar locaties toegestuurd. Het algoritme maakt hierbij gebruik van historische criminaliteitsdata en van specifieke kenmerken op wijk- en straatniveau. In een eerdere beantwoording1 werd aangegeven dat er geen persoonsgegevens worden gebruikt in het CAS. Uit recent onderzoek gedaan door de Algemene Rekenkamer (18 mei 2022) 2 blijkt dat controle en inzicht in het CAS ontbreekt waardoor er niet valt uit te sluiten dat er in de gebruikte data onwenselijke vooringenomenheid over groepen of specifieke personen is opgenomen.

De PvdA maakt zich zorgen over de mogelijk vooringenomenheid in het Criminaliteit Anticipatie Systeem (CAS) en het risico dat discriminatie niet uitgesloten kan worden. Gezien het vorenstaande hebben de leden Belkasmi en Abdi op grond van artikel 84 van het Reglement van orde gemeenteraad en raadscommissies Amsterdam de volgende schriftelijke vragen aan het college gesteld: Het college kan de gestelde vragen als volgt beantwoorden. 1. Is het college bekend met het rapport, “Algoritmes getoetst: de inzet van 9 algoritmes bij de overheid”, van de Algemene Rekenkamer (18 mei 2022) dat aangeeft dat bij het CAS onder 1 https://amsterdam.raadsinformatie.nl/document/10449748/1/09012f9780294047 2 https://www.rekenkamer.nl/publicaties/rapporten/2022/05/18/algoritmes-getoetst

Gemeente Amsterdam, raadsinformatiebrief

Datum 27 juni 2022 Pagina 2 van 4

meer controle en inzicht op mogelijke vooringenomenheid mist en dus discriminatie niet uitgesloten kan worden? Ja 2. Is het college ermee bekend dat op 6 april 2022 stukken openbaar zijn gemaakt door de politie over het CAS, n.a.v. een WOB-verzoek3, waaruit blijkt dat uitkeringen een variabelen zijn in het CAS. Het klopt dat in de dataset zoals die aangeleverd wordt door het CBS ook een variabele zit met gegevens over uitkeringen (UITKERINGSONTVANGERS_NUM_CAT5). Deze data geeft het aantal uitkeringen in het postcodegebied. Deze variabele maakt onderdeel uit van een serie socio demografische variabelen zoals leeftijd en inkomen. Deze data is niet tot personen herleidbaar. 3. Heeft de inzet van het CAS een bijdrage geleverd aan de vermindering van het aantal inbraken of andere misdrijven? Zo ja, waar blijkt dat uit? Dat is niet aantoonbaar. Het doel van CAS is om inzichten te geven zodat efficiënt om gegaan kan worden met politiecapaciteit en niet om direct een interventie voor te schrijven. CAS schrijft niet voor welke interventie er plaats moeten vinden, die beoordeling wordt door intelligence en operationeel coördinatoren bepaald. 4. Kan het college toelichten hoe het CAS gebruikt wordt door de politie? CAS geeft een indicatie over vooraf gekozen vormen van criminaliteit waar en wanneer er een verhoogde kans is.

Het is daarmee een startpunt voor verdere analyse en resulteert niet direct in een te ondernemen actie in de wijk. 5. Kan het college toelichten hoe het lerende algoritme van het CAS werkt? CAS maakt gebruik van een logistisch regressie waarbij historische criminaliteit gegevens gecombineerd met (socio)demografische gegevens gebruikt worden om een kansberekening te maken op verschillende vormen van criminaliteit waarbij de uitkomst een verwachting is in tijd en plaats. Wekelijks worden de algoritmes opnieuw getraind waardoor er altijd gebruik gemaakt wordt van de meest recente data. 6. Wat zijn de criteria op grond waarvan het lerende algoritme CAS voorspelt waar de kans groot is dat misdaden zullen worden gepleegd? De belangrijkste criteria zijn de historische criminaliteit gegevens zoals die bij de politie bekend zijn, bijvoorbeeld waar en wanneer er in de afgelopen periode woninginbraken gepleegd zijn. De overige variabelen vanuit het CBS (zoals inkomen en leeftijd) zijn een veel minder goede voorspeller maar verfijnen de resultaten.

3 https://www.politie.nl/woo/korpsstaf/2021-criminaliteits-anticipatie-systeem.html

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 27 juni 2022 Pagina 3 van 4

7. Is er een relatie tussen het CAS en het handelen van politieagenten op basis van daderprofielen? Zo ja, kan het college de relatie toelichten? Nee, die relatie is niet mogelijk aangezien er geen persoonsgegevens in CAS gebruikt worden of algemene daderprofiel bekend zijn binnen het CAS. 8. Kan het college toelichten hoe ‘gewoon’ politiewerk (e.g. kennis van buurt en/of andere niet digitale middelen) wordt gebruikt in relatie tot het CAS? CAS geeft alleen een verwachting op basis van data. Deze uitkomst wordt door informatie specialisten beoordeeld en naast de kennis uit het ‘gewone’ politiewerk gelegd. Tezamen komt men tot een interventiestrategie. 9. Zijn er vergelijkbare datasystemen die door de politie gebruikt voor haar inzet? Zo ja, kan het college dit toelichten? De data die CAS gebruikt is geen bijzondere data, het gebruikt dezelfde informatie bron als waar alle andere intelligence producten op gebaseerd worden. De politie verzamelt gegevens in een datawarehouse (de basis voorziening intelligence, BVI). CAS gebruikt daar een deel van maar ook vele andere tools en rapportages. 10.

Kan het college uitsluiten dat dit systeem etniciteit en/of andere uiterlijke kenmerken of de samenstelling van een wijk met veel inwoners met een migratieachtergrond, en/of het aantal uitkeringen in een gebied als criteria gebruikt? Zo ja, waarom? Zo nee, waarom niet en welke gevolgen verbindt u hieraan? Etniciteit is geen kenmerk binnen de data die gebruikt wordt voor het CAS. Hieronder alle socio demografische data die we vanuit het CBS aangeleverd krijgen:  Aantal inwoners in het postcodegebied  Aantal mannen in het postcodegebied  Aantal vrouwen in het postcodegebied  Aantal particuliere huishoudens in het postcodegebied  Gemiddelde huishoudensgrootte in het postcodegebied  Aantal eenpersoonshuishoudens in het postcodegebied  Aantal eenouderhuishoudens in het postcodegebied  Aantal meerpersoonshuishoudens zonder kinderen in het postcodegebied  Aantal tweeouderhuishoudens in het postcodegebied  Woningvoorraad in het postcodegebied  Gemiddelde woningwaarde in het postcodegebied  Aantal inkomensontvangers in het postcodegebied  Aantal uitkeringen in het postcodegebied  Fiscaal maandinkomen in het postcodegebied  Gemiddelde leeftijd in het postcodegebied Deze data is een standaard dataset van het CBS wat CAS gebruikt om te koppelen aan historische criminaliteitscijfers. CAS berekent statische relaties, correlaties.

Met extra gegevens uit een gebied kan een hoger aantal correlaties gelegd worden.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 27 juni 2022 Pagina 4 van 4

Elke variabele kan invloed hebben op een verhoogde of verlaagde kans en kan per gebied maar ook per week verschillen aangezien CAS elke week het algoritme opnieuw traint. Het is bijvoorbeeld niet van tevoren vast te stellen of een hoger aantal uitkeringen in een wijk zorgt voor een grotere of juist kleinere kans op woninginbraken of helemaal geen invloed heeft en door het algoritme genegeerd wordt. 11. Welke stappen is het college van plan te zetten om risico’s op vooringenomenheid en discriminatie in het CAS weg te nemen? Op basis van het rapport van de rekenkamer wordt er bij de politie nogmaals heel kritisch onderzocht welke data er gebruikt wordt, hoe de berekeningen plaatsvinden en hoe de basis ITcontrols (zoals toegangsbeveiliging) zijn geregeld voor CAS. 12. Is het college bereid het huidige algoritme wat wordt gebruikt door het CAS door te lichten om mogelijke vooringenomenheid te detecteren? Zo ja, op welk termijn wilt u dit onderzoek doen? Zo nee, waarom niet? Er loopt binnen de politie in samenwerking met de universiteit een bias studie. De resultaten daarvan zijn bepalend of en welke aanpassingen er aan CAS gedaan moeten worden om eventuele vooringenomenheid weg te nemen. Wij verwachten u hiermee voldoende te hebben geïnformeerd. Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam, Femke Halsema Burgemeester

Een routebeschrijving vindt u op amsterdam.nl