Beantwoording sv inzake criminaliteitsanticipatiesysteem

Raadsinformatiebrief Beantwoording schriftelijke vragen

Aan: Datum Portefeuille(s) Portefeuillehouder(s): Behandeld door Onderwerp

De leden van de gemeenteraad van Amsterdam 6 februari 2026 Openbare Orde en Veiligheid F. Halsema OOV, secretariaatoov@amsterdam.nl Beantwoording schriftelijke vragen ontvangen van de leden Belkasmi, IJmker en Khan inzake stopzetting criminaliteitsanticipatiesysteem

Geachte leden van de gemeenteraad, Op 20 januari 2026 heeft het college schriftelijke vragen ontvangen van de leden Belkasmi, IJmker en Khan inzake stopzetting criminaliteitsanticipatiesysteem (CAS). Onderstaand treft u de beantwoording van deze vragen aan. Toelichting door de vragenstellers In december werd bekend dat de politie is gestopt met het zogeheten Criminaliteit Anticipatie Systeem’ (CAS).1 Het CAS is een systeem dat met behulp van een algoritme inschat waar en wanneer de kans op bepaalde vormen van criminaliteit groter is. De PvdA, GroenLinks en DENK zijn positief over het feit dat het CAS niet langer in gebruik is en tegelijkertijd roept dit besluit, en de timing daarvan, ook vragen op. Het is ernstig dat het CAS bijna tien jaar kon worden gebruikt, terwijl gedurende die gehele periode fundamentele tekortkomingen en risico’s bekend waren. Zo blijkt uit antwoorden op recente vragen van de PvdA dat er al die tijd geen volwaardige bias- of discriminatietoets heeft kunnen plaatsvinden, waardoor het risico op discriminatie niet kon worden uitgesloten. Daarnaast is de operationele meerwaarde van het systeem nooit overtuigend aangetoond. Ook ontbraken eenduidige doelstellingen en meetbare succescriteria. Desondanks kon het systeem jarenlang ingezet worden binnen de politiepraktijk. Dat is zorgelijk.

Dat een systeem met dergelijke risico’s langdurig kon worden gebruikt, terwijl niet kon worden aangetoond dat het daadwerkelijk effectief was en kon leiden tot discriminatie, is opvallend. Het argument dat CAS slechts een ondersteunend instrument was, neemt deze verantwoordelijkheid niet weg. Ook ondersteunende systemen beïnvloeden keuzes, prioritering en inzet. Dat pas na bijna tien jaar wordt geconcludeerd dat de tekortkomingen van CAS niet opwegen tegen de baten, roept vragen op waarom nu pas en er niet eerder is ingegrepen gezien de vele kritiek op het systeem. Het is goed, dat op basis van de verkregen informatie, inmiddels is besloten het 1

https://algoritmes.overheid.nl/nl/algoritme/oorg10264/81228922/criminaliteits-anticipatie-systeemcas#algemeneInformatie

Gemeente Amsterdam, raadsinformatiebrief

Datum 2 oktober 2020 Pagina 2 van 3

systeem stop te zetten, maar dit neemt niet weg dat het langdurige gebruik onder deze omstandigheden met het risico op discriminatie ernstig is. Gezien het vorenstaande stelt ondergetekende, namens de fracties van de PvdA, GroenLinks en DENK, op grond van artikel 84 van het Reglement van orde gemeenteraad en raadscommissies Amsterdam, de volgende schriftelijke vragen: 1. Hoe beoordeelt het college het feit dat pas na bijna tien jaar is besloten tot stopzetting van CAS? Is het college het eens met de fracties van PvdA, GroenLinks en DENK dat dit besluit al veel eerder genomen had kunnen worden? Wat waren voor de politie de doorslaggevende redenen om met dit systeem te blijven werken? Antwoord: Het college heeft de politie hierover bevraagd en constateert dat de politie anderhalf jaar geleden is gestart met de verdere professionalisering van haar AI Governance, waaronder de doorlopende toetsing van de kwaliteit (juridische, technisch en ethisch) van haar algoritmes en AIsystemen. De politie geeft aan dat in de voorafgaande jaren CAS een bijdrage heeft geleverd aan het verbeteren van de taak van de politie.

Na zorgvuldige afweging en volgens de genoemde professionaliseringsslagen binnen de politie is gebleken dat het CAS volgens de huidige inzichten niet meer voldoet aan noodzakelijke vereisten en dat de benodigde inspanningen voor het oplossen van de tekortkomingen niet opwegen tegen de baten. Gezien het bovenstaande is het uitlegbaar dat de politie pas eind 2025 is gestopt met het gebruik van CAS. 2. Hoe wordt beoordeeld dat een systeem met een risico op discriminatie tien jaar kon worden gebruikt, terwijl de doelstellingen en meetbare succescriteria niet eens helder waren vastgelegd? Antwoord: De politie heeft inderdaad geconcludeerd dat er onduidelijkheid is over de operationele meerwaarde van CAS door het ontbreken van eenduidige doelen en meetbare succescriteria. Dit was een belangrijke reden voor het stopzetten van CAS. De politie verwacht overigens niet dat het gebruik van CAS negatieve gevolgen heeft gehad, aangezien CAS geen directe impact heeft op de besluitvorming over individuen. CAS is bedoeld als hulpmiddel dat politieteams laat zien waar in een gebied en wanneer de kans op een bepaald type criminaliteit hoger is. Het levert concreet een ‘informatiekaart’ op.

Die “informatiekaart” dient altijd aangevuld te worden met andere, aanvullende en actuele informatie (van bijvoorbeeld wijkagenten en actuele meldingen en incidenten) en een menselijk oordeel voordat gekomen wordt tot de inzet in een bepaald gebied. 3. Hoe wordt het gebruik en bestaan van CAS gerechtvaardigd, gegeven dat geen bias- of discriminatietoets kon worden uitgevoerd en het risico op discriminatie dus niet kon worden uitgesloten? Antwoord: De politie geeft aan dat het tot dusverre inderdaad niet mogelijk is gebleken om een bias- of discriminatietoets uit te voeren wegens het ontbreken van voldoende data hiervoor. Daarom kon niet worden vastgesteld of er wel of niet sprake was van vooringenomenheid en discriminatie. Dat is wel getracht en er stond nog een langdurig traject van de Politieacademie op

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 2 oktober 2020 Pagina 3 van 3

stapel (fase planvorming). Voor wat betreft het risico op discriminatie verwijs ik naar het antwoord op vraag 2. 4. Wat werd tijdens het gebruik van CAS concreet verstaan onder ‘acceptabel gebruik’ en waarom is dat niet vooraf vastgesteld? Antwoord: De politie geeft aan dat er bij de uitrol van CAS handleidingen, handreikingen, voorbeeldproducten en gebruiksinstructies zijn opgesteld. Deze zijn in de gehele looptijd van CAS ter beschikking gesteld aan de gebruikers. In de algoritmescan is dit ten onterechte niet geconstateerd. Toelichting door de vragenstellers: De politie stelt te hebben gewerkt volgens het principe ‘human-in-the-loop’, waarbij CAS slechts een informatiekaart opleverde die altijd moest worden aangevuld met andere bronnen en menselijk oordeel. 5. Hoe kan worden vastgesteld dat dit in de praktijk ook daadwerkelijk is gebeurd, aangezien in de monitoring geen inzicht was in door wie en hoe CAS werd gebruikt? Antwoord: De politie heeft inderdaad geconcludeerd dat er onduidelijkheid was over het gebruik van CAS in de operatie. De informatiekaart is evenwel een informatieproduct dat altijd beoordeeld wordt door een politiemedewerker en geen geautomatiseerd besluit oplevert. 6.

Welke andere algoritmes zet de politie in het kader van criminaliteitsvoorspellingen in en in hoeverre is daarbij het risico op discriminatie uitgesloten? Antwoord: De politie heeft geen andere algoritmes in gebruik zoals CAS. 7.

Welke lessen worden hieruit getrokken en hoe wordt dit in de toekomst voorkomen?

Antwoord: De politie zet volop in op de verdere professionalisering van haar AI Governance waaronder de doorlopende toetsing van de kwaliteit (juridische, technisch en ethisch) van haar algoritmes en AI-systemen.

Wij verwachten u hiermee voldoende te hebben geïnformeerd.

Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam, Femke Halsema Burgemeester

Een routebeschrijving vindt u op amsterdam.nl