Doe het veilig én ethisch verantwoord (Motie M2)

Motie Doe het veilig én ethisch verantwoord

M2

De indieners van deze motie stellen de gemeenteraad voor om in de vergadering van 14 maart 2023 een besluit te nemen over de morele waardenafweging bij de inzet van data, risicovoorspelmodellen en digitale technologie in het veiligheidsbeleid. Zij hebben het voorstel Beleidskaderveiligheid 2023-2026 23bst00016 gelezen. Na het gesprek hierover in de vergadering van 7 maart 2023 vragen zij extra aandacht voor: De indieners hoorden dat: • De inzet van data en digitale technologie heeft invloed op waarden zoals autonomie, mensgerichtheid, privacy, veiligheid, controle, rechtvaardigheid en duurzaamheid. Deze waarden kunnen met elkaar botsen. • De ethische commissie adviseert de raad en het college over de inzet van data en digitale technologie en de morele afweging daarover. • In het veiligheidsbeleid wordt er ook data ingezet, bijvoorbeeld met risicovoorspelmodellen, de leefbaarometer en het veiligheidsinformatieknooppunt. • Het inzetten van data is niet zonder risico’s. Zo was er kritiek op de leefbaarometer en het project Zicht op ondermijning, waar destijds etniciteit, migratieachtergrond en geboorteland als (negatieve) indicator gebruikt werd. Dit is inmiddels teruggedraaid. (1) •

• •

Ook kunnen algoritmes of voorspelmodellen een zelfversterkend effect hebben. Surveilleer je vaker in bepaalde wijken, dan worden daar meer gegevens over incidenten verzameld, waardoor die buurt waarschijnlijk eerder uit het voorspelmodel rolt als risicogebied. Dat kan ertoe leiden dat bepaalde groepen of wijken steeds vaker de klos zijn. (2) Het veiligheidsbeleid past binnen de AVG en er worden maatregelen toegepast zoals signaalduiding en data-minimalisatie. Het is echter momenteel niet inzichtelijk hoe het ethisch waardenkader is toegepast – dat verder gaat dan enkel privacy.

De indieners vinden dat: • We begrijpen het nut van informatie en data om de veiligheidsaanpak te verbeteren. We zien dat er stappen worden gezet om hiermee zorgvuldig om te gaan, zoals signaalduiding en data-minimalisatie. Echter zijn onze zorgen nog niet helemaal weggenomen als het gaat om risico's zoals discriminatie. • We als raad beter in positie moeten komen als het gaat om het maken van een afweging volgens het ethische waardenkader. Dit geldt ook voor het veiligheidsbeleid. • We meer grip willen op welke data en bronnen er worden vergaard, wat er met deze gegevens wordt gedaan en welke analyses, conclusies en acties eraan verbonden worden. Hoe lang deze data worden bewaard en wie allemaal de data kunnen gebruiken - intern en extern. • De ethische commissie een logische partij is om de raad hierbij te ondersteunen.

De indieners roepen het college van burgemeester en wethouders op om: 1. De ethische commissie vragen om inzichtelijk te maken welke morele waardenafwegingen er voorliggen bij het inzetten van data, risicovoorspelmodellen en digitale technologie voor het veiligheidsbeleid. En daarbij ook inzichtelijk te maken welke kansen en risico’s daaraan verbonden zijn. Zodat de raad dit vervolgens kan agenderen om in gesprek te gaan over de waardenafweging. 2. Risicovoorspelmodellen ook op te nemen in het algoritmeregister, zodat het transparant is welke risicovoorspelmodellen er toegepast worden, voor welk doel, op basis van welke datasets en welke beslissingen ermee gemaakt worden. Eindhoven, 14 maart 2023. De leden van de raad, Eva de Bruijn (GroenLinks), voorsteller Robin Brokmann (Volt), voorsteller Patrick van Tuijn (PvdA), voorsteller Jorien Migchielsen (D66), voorsteller

--------------------------------------------------------------------------------------------------------------Deze motie is ingetrokken na toezegging in de vergadering van 14 maart 2023

J. Jongbloed, griffier.

1. https://www.trouw.nl/binnenland/een-algoritme-is-niet-neutraal-ook-eenoverheidsalgoritme-niet~bbc021d0/ 2. https://www.trouw.nl/nieuws/op-zoek-naar-de-risicoburger~b58b6358/