Publiekssamenvatting Verantwoord omgaan met algoritmes

PUBLIEKSSAMENVATTING REKENKAMERRAPPORT ‘VERANTWOORD OMGAAN MET ALGORITMES’ De gemeente Utrecht wil algoritmes op een verantwoorde manier gebruiken. Maar de regels die daarvoor zijn gemaakt, worden door medewerkers niet altijd goed opgevolgd. Hierdoor is het niet altijd duidelijk of er genoeg stappen worden gezet om de risico’s bij het gebruik van algoritmes te verkleinen. Dat concludeert de Rekenkamer Utrecht op basis van onderzoek naar het gebruik van algoritmes bij de gemeente Utrecht. Een algoritme is een reeks vaste stappen die een computer automatisch uitvoert. Zo kan de computer een probleem oplossen of een vraag beantwoorden. Net als andere overheden gebruikt de gemeente Utrecht verschillende algoritmes. Bijvoorbeeld om te beslissen of iemand recht heeft op een parkeervergunning of niet. De gemeente Utrecht heeft een openbare (online) lijst gedeeld met daarop de belangrijkste algoritmes. De rekenkamer vindt dat goed. Maar de rekenkamer ziet ook dat de lijst nog te algemeen is. En dat de gemeente niet duidelijk genoeg is over welke algoritmes wel en niet op de lijst moeten. Het gebruik van algoritmes kan ook risico’s hebben. Als een algoritme niet goed wordt gebruikt, dan kunnen algoritmes zorgen voor een oneerlijke behandeling van mensen of problemen met privacy. De gemeente heeft daarom regels gemaakt om algoritmes te kunnen controleren.

Medewerkers moeten die regels volgen, maar doen dat niet altijd. Ook moeten medewerkers maatregelen nemen om de risico’s te verkleinen. Maar dat doen de verschillende afdelingen van de gemeente ieder op hun eigen manier. En ze houden meestal niet goed in de gaten of de maatregelen werken. Dat kan ervoor zorgen dat sommige algoritmes misschien nog te grote risico’s hebben. Het is ook belangrijk dat de gemeenteraad goede informatie krijgt over het gebruik van algoritmes door de gemeente Utrecht. De rekenkamer ziet dat de gemeenteraad alleen heel algemeen over algoritmes wordt geïnformeerd. De gemeenteraad kan daardoor niet goed zien of algoritmes goed door de gemeente worden gebruikt. De rekenkamer raadt de gemeente daarom aan om: 1. De openbare lijst met algoritmes te verbeteren. 2. De controle op de risico’s van algoritmes te verbeteren. 3. De gemeenteraad beter over het gebruik van algoritmes te informeren.

1