Bijlage 2 bij nadere toelichting - Onderzoeksrapport algoritmen en mensenrechten gemeenten

[Logo Hooghiemstra & Partners - Strategisch en juridisch advies]

Hoe gemeenten besluiten over algoritmen & mensenrechten Onderzoek voor het College voor de Rechten van de Mens Wimmy Choi, Marlies van Eck en Helen Hukshorn 29 juni 2021

Hoe gemeenten besluiten over algoritmen & mensenrechten Onderzoek voor het College voor de Rechten van de Mens

Wimmy Choi, Marlies van Eck en Helen Hukshorn 29 juni 2021

Juni 2021

Inhoudsopgave

Inhoudsopgave Samenvatting Samenvatting

45

1

Inleiding Inleiding

78

1.1 1.1

Aanleiding Aanleiding

78

1.2 1.2

Onderzoeksvraag Onderzoeksvraag

78

1.3 1.3

Definities Definities

78

1.4 1.4

Aanpak Aanpak

910

1.4.1 Selectiemethode 1.4.1 Selectiemethode

910

1.4.2 Geïnterviewde gemeenten 1.4.2 Geïnterviewde gemeenten

11 10

1.4.3 Wijze van rapporteren 1.4.3 Wijze van rapporteren

11 10

2 2

Dedecentrale decentrale overheid en algoritmen 11 De overheid en algoritmen 12

2.1 2.1

De lichaam als De gemeente gemeente/ /het hetopenbaar openbaar lichaam bestuurder: dichtbij burgers 12 als bestuurder: dichtbij burgers 11

2.2 2.2

Samenwerkende steden Samenwerkende steden

13 12

2.3 2.3

Informatie voor gemeenten Informatie voor gemeenten die die werken werken met algoritmen met algoritmen

13 14

2.4 2.4

De van dede algoritmen Demakers makers van algoritmen

15 14

2.5 2.5

Speciale aandacht voor de de makers van van Speciale aandacht voor makers algoritmen voor Caribisch Nederland en algoritmen voor Caribisch Nederland Smart Cities 17 en Smart Cities 16

2.6 2.6

Instituten Instituten

17 16

2.7 2.7

Conclusie Conclusie

17 18

3

Resultaten Resultaten

20 19

3.1 3.1

Op terreinen worden algoritmen Opwelke welke terreinen worden algoritmen gebruikt? 20 gebruikt? 19

3.1.1 Veiligheid/openbare orde 3.1.1 Veiligheid/openbare orde

19 20 1

3.1.2 Verkeer 3.1.2 Verkeer

19 20

3.1.3 Vervoer enen waterstaat 3.1.3 Vervoer waterstaat

21 20

3.1.4 Sociaal 3.1.4 Sociaaldomein domein

21 20

3.1.5 Volkshuisvesting, stedelijke 3.1.5 Volkshuisvesting, stedelijke vernieuwing en vernieuwing en Ruimtelijke ordening 20 Ruimtelijke ordening 21 3.1.6 Wat er er niet genoemd 3.1.6 Watwerd werd niet genoemd

22 21

3.2 3.2

Hoe gemeenten over de inzet van Hoebeslissen beslissen gemeenten over de inzet algoritmen? 22 van algoritmen? 21

3.3 3.3

Hoeworden worden mensenrechtelijke Hoe mensenrechtelijke aspecten aspecten meegenomen? 24 meegenomen? 25

3.4 3.4

Wat gemeenten? Watwillen willen gemeenten?

26 25

3.5 3.5

Observaties Observaties

26 27

3.5.1 Diversiteit toepassingen 3.5.1 Diversiteit in in toepassingen

26 27

3.5.2 Ongelijkeverdeling verdeling van aandacht 3.5.2 Ongelijke van aandacht binnen de gemeente 28 binnen de gemeente 27 3.5.3 Wiebestuurt bestuurt wie? 3.5.3 Wie wie?

28 29

3.5.4 Meer mensenrechten lokaal? 3.5.4 Meer mensenrechten lokaal?

29 30

3.5.5 Lokale 3.5.5 Lokalerechtsbescherming rechtsbescherming

30 29

3.6 3.6

Conclusie Conclusie

31 30

44

Aanbevelingen Aanbevelingen

32 31

4.1 4.1

Focusopophet het doel van toepassingen 31 Focus doel van de de toepassingen 32

4.2 4.2

Bewustwording enen kennis Bewustwording kennis

32 31

4.3 4.3

Met Metgemeenten gemeenten

33 32

4.4 4.4

MetCaribisch Caribisch Nederland Met Nederland

32 33

4.5 4.5

Metdede makers algoritmen Met makers vanvan algoritmen

32 33

4.6 4.6

Inwoners bezoekers Inwoners enen bezoekers

33 34

4.7

Binnen

2

4.7

gemeenten Binnen gemeenten

33 34

4.8 4.8

Werk samen maar vergeet het het bestuur Werk samen maar vergeet bestuur niet 35 niet 34

3

Samenvatting Digitalisering raakt de mensenrechten op tal van aspecten. Het biedt zowel kansen als risico’s. Het College voor de Rechten van de Mens (hierna: CRM) streeft ernaar dat organisaties alleen digitale middelen inzetten als die in overeenstemming zijn met alle mensenrechten. Gemeenten en Openbaar Lichamen in Caribisch Nederland vervullen een belangrijke rol als het gaat om het borgen van mensenrechten. Dit komt door de omvang en diversiteit in taken en de invloed die zij daarmee hebben op het dagelijks leven van inwoners. Zij worden geconfronteerd met grote maatschappelijke opgaven. Niet voor niets zijn steden internationaal de wegbereiders voor het borgen van digitale burgerrechten. Zeker als het gaat om terreinen waar de (inter-)nationale wetgever nogop geen kader heeft neergelegd, vullen zij dit vacuüm. Digitalisering raakt de mensenrechten talexpliciet van aspecten. Het biedt zowel kansen als risico’s. Het

Samenvatting

College voor de Rechten van de Mens (hierna: CRM) streeft ernaar dat organisaties alleen digitale

Het CRM heeft Hooghiemstra & Partners gevraagd te onderzoeken of er bij gemeenten die gebruik maken van algoritmen aandacht is voor de middelen inzetten die in overeenstemming zijn metvoor allerechtsbescherming. mensenrechten. Dit Gemeenten en beter zicht te mensenrechtelijke aspecten en of als er bijzondere voorzieningen zijn getroffen onderzoek beoogt krijgen op eventuele dilemma’s en behoeften van gemeenten te komeneen tot een verantwoorde inzethet vanborgen algoritmen bij de Openbaar Lichamen in Caribisch Nederlandom vervullen belangrijke rol en alssuccesvolle het gaat om uitvoering van gemeentetaken. Het onderzoek heeft de vorm van een verkenning en bestaat uit een literatuurstudie en een kwalitatief van mensenrechten. Dit komt door de omvang en diversiteit in taken en de invloed die zij daarmee onderzoek.

hebben op het dagelijks leven van inwoners. Zij worden geconfronteerd met grote maatschappelijke opgaven. Niet voorbijniets zijn steden internationaal de wegbereiders voor het borgen van digitale Mensenrechtelijke afwegingen het gebruik van algoritmen burgerrechten. Zeker als het gaat om terreinen waar de (inter-)nationale wetgever geen expliciet Er is een enorme diversiteit in algoritmische toepassingen binnen gemeenten. In deze diversiteit gaat het somsnog om toepassingen die een grote kader vullenleidt zij dat dit direct vacuüm. impact hebben. Alsheeft er eenneergelegd, verstoring optreedt tot grote maatschappelijke problemen. Uit de interviews die we hebben afgenomen blijkt dat gemeenten een transitie doormaken op het gebied van het besluiten over digitalisering. De gemeenten die wij hebben geïnterviewd werken met vaste procedures om tot de aanschaf of ingebruikname van een algoritmische toepassing te komen. Wel geven Het CRM heeft Hooghiemstra & Partners gevraagd te onderzoeken of er bij gemeenten die gebruik sommige aan dat er nog stappen te zetten zijn in ‘volwassenheid’.

De indruk bestaat dat gemeenten zoeken naar een meer integrale manier van maken van algoritmen aandacht is iets voor demaar mensenrechtelijke aspecten en of isermet bijzondere afwegen, waarbij niet alleen wordt gekeken hoeveel kost, vooral welk publiek belang gediend de nieuwe toepassing en of het mag op grond van bestaande regels, doorgaans op het gebied van gegevensbescherming. In enkele gemeenten maakt de vraagop of er voorzieningen zijn getroffen voor rechtsbescherming. Dit onderzoek beoogt beter zicht te krijgen mensenrechten worden gediend of in gevaar komen expliciet deel uit van deze afweging. Maar vaker komt dit impliciet aan de orde. Alle eventuele dilemma’s en behoeften van gemeenten om te komen tot een verantwoorde en gemeenten zien het stadium waarin besloten wordt of er een technologische toepassing wordt ontwikkeld of aangeschaft, als het belangrijkste inzet van algoritmen te bijbetrekken. de uitvoering van gemeentetaken. Het heeft de vorm zijn bij moment omsuccesvolle mensenrechten in de besluitvorming De governance en procedures als hetonderzoek gaat om gegevensbescherming een verkenning en maar bestaat uit een wordt literatuurstudie entoetsen een kwalitatief onderzoek. gemeentenvan in het algemeen ingericht, aangegeven dat dit voor het van de impact op mensenrechten nog niet het geval is.

In de praktijk is te zien dat er veel aandacht is voor de bescherming van persoonsgegevens. Dit is een goede zaak. Het risico hierbij is echter dat Mensenrechtelijke afwegingennodig bij het vanjuridisch algoritmen als er voor een toepassing geen persoonsgegevens zijn, gebruik er geen ander kader wordt gebruikt om mensenrechten af te wegen. Daarom is het om breder te kijken in naar algoritmische toepassingen en binnen te beoordelen of er een In impact op mensenrechten. Er belangrijk is een enorme diversiteit algoritmische toepassingen gemeenten. dezeis diversiteit gaat

het soms om toepassingen die een grote impact hebben. Als er een verstoring optreedt leidt dat direct tot grote maatschappelijke problemen. Uit de interviews die we hebben afgenomen blijkt dat gemeenten een transitie doormaken op het gebied van het besluiten over digitalisering. De gemeenten die wij hebben geïnterviewd werken met vaste procedures om tot de aanschaf of ingebruikname van een algoritmische toepassing te komen. Wel geven sommige aan dat er nog stappen te zetten zijn in ‘volwassenheid’. De indruk bestaat dat gemeenten zoeken naar een meer integrale manier van afwegen, waarbij niet alleen wordt gekeken hoeveel iets kost, maar vooral welk publiek belang gediend is met de nieuwe toepassing en of het mag op grond van bestaande regels, doorgaans op het gebied van gegevensbescherming. In enkele gemeenten maakt de vraag of er mensenrechten worden gediend of in gevaar komen expliciet deel uit van deze afweging. Maar vaker komt dit impliciet aan de orde. Alle gemeenten zien het stadium waarin besloten wordt of er een technologische toepassing wordt ontwikkeld of aangeschaft, als het belangrijkste moment om mensenrechten in de besluitvorming te betrekken. De governance en procedures als het gaat om gegevensbescherming zijn bij gemeenten in het algemeen ingericht, maar aangegeven wordt dat dit voor het toetsen van de impact op mensenrechten nog niet het geval is.

In de praktijk is te zien dat er veel aandacht is voor de bescherming van persoonsgegevens. Dit is een goede zaak. Het risico hierbij is echter dat als er voor een toepassing geen persoonsgegevens nodig zijn, er geen ander juridisch kader wordt gebruikt om mensenrechten af te wegen. Daarom is het belangrijk om breder te kijken naar algoritmische toepassingen en te beoordelen of er een impact is op mensenrechten.

4

Het valt op dat gemeenten zich door de toeslagenaffaire meer bewust zijn van risico’s die datagedreven werk met zich meebrengt op het gebied van discriminatie. Diverse geïnterviewden noemden deze affaire als belangrijk voor meer awareness. Er zijn er ook die aangeven dat het heeft geleid tot intern onderzoek. Alle gemeenten benoemen als risico dat er altijd met data uit het verleden wordt gewerkt en dat in de dataset ook een bias kan zitten.

Het valt op dat gemeenten zich door de toeslagenaffaire meer bewust zijn van risico’s die datagedreven werk met zich meebrengt op het gebied van discriminatie. Diverse geïnterviewden Er is al veel informatie beschikbaar over hoe het gemeentebestuur ook invloed zou kunnen uitoefenen op het gebruik van technologie. Waar dit noemden deze affaire als belangrijk voor meer awareness. Er zijn er ook die aangeven dat het heeft voorheen vooral als bedrijfsvoering werd gezien, is steeds duidelijker dat digitalisering ook een politieke afweging kan zijn. Het ideaaltype is die geleid totdie intern onderzoek. Alle gemeenten benoemen als risicoworden dat er nageleefd. altijd metMaar dataeruit van lokale autonomie democratisch is gelegitimeerd en waarbinnen mensenrechten zijnhet drie factoren die maken dat dit typeverleden geen dagelijkse realiteit is enen diedat ervoor zorgen dat deook afweging doorkan de gemeente wordt gewerkt in de dataset een bias zitten. of er mensenrechten worden gediend of dat Inzet technologie is niet alleen keuze bedrijfsvoering maar ook een politieke afweging

deze in gevaar komen bijzonder lastig is.

Inzet technologie is niet alleen keuze bedrijfsvoering maarworden ook een afweging 1. Veel gemeenten gebruiken dezelfde systemen voor vergelijkbare taken. De systemen niet politieke ontworpen door gemeenten, maar door bedrijvenErenisvervolgens aangeboden. Dit leidt tot een Dit betekent ook dat nationale worden geïnterpreteerd al veel informatie beschikbaar overstandaardisatie. hoe het gemeentebestuur ookalle invloed zouregels kunnen door bedrijven en aldus in de praktijk van alle gemeenten deze software gebruiken. Het is daarmeewerd lastig vast te stellen uitoefenen opdoorwerken het gebruik van technologie. Waar ditdie voorheen vooral als bedrijfsvoering hoeveel lokaal beleid toe te voegen is aan deze software en hoe de mensenrechten geborgd zijn. Dit is een risico voor gemeenten omdat als gezien, is steeds duidelijker dat digitalisering ook een politieke afweging kan zijn. Het ideaaltype is er gebruik wordt gemaakt van deze software waardoor bepaalde mensenrechten zijn geschonden, het gemeentebestuur verantwoordelijk is. die factor van lokale autonomie die democratisch is gelegitimeerd enErwaarbinnen mensenrechten 2. Een tweede die speelt is de globalisering van technologische toepassingen.

zijn toepassingen, bijvoorbeeld opworden het gebied van de Smart Cities als ‘slimme camera’s’ die drie zeer aantrekkelijk lijken vanwege verhouding.realiteit Maar er zijn apparaten en bijbehorende nageleefd. Maar er zijn factoren die maken dat de ditprijs/kwaliteit type geen dagelijkse is en die ervoor systemen op de markt die niet met de Europese waarden in het achterhoofd zijn ontworpen. Het is dan vaak ook niet mogelijk om dit als zorgen dat de afweging door de gemeente of er mensenrechten worden gediend of dat deze in gemeente bijgestuurd te krijgen. bijzonder lastig is. zoveel samenwerkingsverbanden dat niet altijd helder is welk orgaan verantwoordelijk is. 3. De derdegevaar factor iskomen een bestuurlijke factor. Er zijn Deze ‘bestuurlijke spaghetti’ maakt heldere besluiten over de inzet van technologie en het afleggen van verantwoording daarover, extra 1. Veel gemeenten gebruiken dezelfde systemen voor vergelijkbare taken. De systemen worden moeilijk. Dit kan nadelige gevolgen hebben voor de naleving van de mensenrechten. niet ontworpen door gemeenten, maar door bedrijven en vervolgens aangeboden. Dit leidt tot een Diten betekent datgebied alle nationale regels geïnterpreteerd Geconstateerd kan worden datstandaardisatie.

de praktijk van beleid uitvoeringook op het van informatie en worden digitalisering geen gelijke tred heeft met de door bedrijven en aldus doorwerken in deniet praktijk alle gemeenten die deze software politiek-bestuurlijke verantwoordelijkheid. Deze conclusie is overigens nieuwvan (WRR, 2011). gebruiken. Het is daarmee lastig vast te stellen hoeveel lokaal beleid toe te voegen is aan deze software en hoe de mensenrechten geborgd zijn. Dit is een risico voor gemeenten De focus op de afweging in een stadiumwordt is een goede zaak.van Maardeze daar stopt het niet. Ook tijdens het gebruik van een algoritmisch omdat alsvroeg er gebruik gemaakt software waardoor bepaalde mensenrechten systeem is het van belang te monitoren of eventuele mensenrechtenschendingen – die bij de start niet zijn onderkend – toch optreden en dat zijn geschonden, het gemeentebestuur verantwoordelijk is. individuen zich daartegen kunnen verweren. Juist bij de inzet van technologie is het belangrijk steeds te kijken of technologie gebruikt wordt 2.bedoeld Een tweede die speelt is deis.globalisering vangeen technologische toepassingen. Ervoor zijn waarvoor het was en of hetfactor nog steeds functioneel Gemeenten blijken speciale voorzieningen te treffen rechtsbescherming. Zij vertrouwen dus op de standaard routines in het primaire proces en in de fase van bezwaar en beroep de klachtfase.

toepassingen, bijvoorbeeld op het gebied van de Smart Cities als ‘slimme camera’s’ dieofzeer Als de behandeling van bezwaar of klachten en het afhandelen van telefoontjes volledig aantrekkelijk lijken vanwege de prijs/kwaliteit verhouding. Maar er zijn apparaten en bijbehorende systemen op de markt die niet met de Europese waarden in het achterhoofd zijn ontworpen. Het is dan vaak ook niet mogelijk om dit als gemeente bijgestuurd te krijgen. 3. De derde factor is een bestuurlijke factor. Er zijn zoveel samenwerkingsverbanden dat niet altijd helder is welk orgaan verantwoordelijk is. Deze ‘bestuurlijke spaghetti’ maakt heldere besluiten over de inzet van technologie en het afleggen van verantwoording daarover, extra moeilijk. Dit kan nadelige gevolgen hebben voor de naleving van de mensenrechten. Geconstateerd kan worden dat de praktijk van beleid en uitvoering op het gebied van informatie en digitalisering geen gelijke tred heeft met de politiek-bestuurlijke verantwoordelijkheid. Deze conclusie is overigens niet nieuw (WRR, 2011). Bijzondere voorzieningen voor rechtsbescherming

Bijzondere voorzieningen voor rechtsbescherming De focus op de afweging in een vroeg stadium is een goede zaak. Maar daar stopt het niet. Ook tijdens het gebruik van een algoritmisch systeem is het van belang te monitoren of eventuele mensenrechtenschendingen – die bij de start niet zijn onderkend – toch optreden en dat individuen zich daartegen kunnen verweren. Juist bij de inzet van technologie is het belangrijk steeds te kijken of technologie gebruikt wordt waarvoor het was bedoeld en of het nog steeds functioneel is. Gemeenten blijken geen speciale voorzieningen te treffen voor rechtsbescherming. Zij vertrouwen dus op de standaard routines in het primaire proces en in de fase van bezwaar en beroep of de klachtfase. Als de behandeling van bezwaar of klachten en het afhandelen van telefoontjes volledig

5

gescheiden plaatsvindt van de collega’s met de kennis over data en algoritmen, bestaat het risico dat er verschillende beelden bestaan over wat een systeem wel of niet kan. Ook loopt de gemeente het risico dat de feedback op de uitwerking van het systeem niet de aandacht krijgt die het verdient. Bezwaren kunnen immers duiden op een bug in het systeem of uitwerking die niet rechtvaardig is. Om echt rechtsbescherming te kunnen bieden zou het goed zijn als er frequent overleg plaatsvindt tussen de verschillende afdelingen. Zo kunnen processen ook op grotere schaal verbeterd worden. Het zou beter zijn als gemeenten in een meer netwerkachtige setting de verschillende werelden bij elkaar brengen gescheiden plaatsvindt van de collega’s met de kennis over data en algoritmen, bestaat het risico dat om te zien of de mensenrechten in de praktijk ook worden nageleefd.

er verschillende beelden bestaan over wat een systeem wel of niet kan. Ook loopt de gemeente het dat de feedback op de uitwerking van het systeem niet de aandacht krijgt die het verdient. Behoeften risico van gemeente Bezwaren kunnen duiden op een bug in geïnteresseerd het systeem in ofhet uitwerking De experts van de gemeenten dieimmers wij hebben gesproken waren zeer onderwerp.die Zij niet willenrechtvaardig veel van elkaaris. leren en best practices overnemen. willen gemeenten vooral praktische ondersteuning bij dezijn te maken Omdat veel gemeenten nu ervaring Om echt Ook rechtsbescherming te kunnen bieden zou het goed als erkeuzes. frequent overleg plaatsvindt opdoen mettussen het formaliseren van hun besluitvormingsprocessen het de perfecte tijd grotere om hier bij te helpen. Maar gemeenten de verschillende afdelingen. Zo kunnenlijkt processen ook op schaal verbeterd worden.kunnen het niet alleen, ook de makers van de algoritmen zouden stappen kunnen zetten om de naleving van mensenrechten te verbeteren. Gemeenten Het zou beter zijn als gemeenten in een meer netwerkachtige setting de verschillende werelden bij vertrouwen een groot deel van hun taken toe aan software. Dit betekent dat sommige beslissingen of uitgangspunten al zijn ‘ingebakken’ in elkaar brengen omlastig te zien de mensenrechten de praktijk ookom worden nageleefd. systemen.

Het is voor gemeenten om of te weten welke dit zijn. Hetinwordt nog lastiger als bestuurder richting inwoners of gemeenteraad te verantwoorden dat er rekening is gehouden met mensenrechten. De experts van gemeenten geven aan dat het voor hen niet haalbaar is om hierover apart met leveranciers te onderhandelen. Het zou een optie kunnen zijn om als gemeenten gezamenlijk op te trekken. Gemeenten Behoeften van gemeente maken nog weinig gebruik van de mogelijkheid om gezamenlijk met de marktpartijen meer te doen aan het ontwerpen met mensenrechten in De experts van de gemeenten die wij hebben gesproken waren zeer geïnteresseerd in het het achterhoofd (by design).

onderwerp. Zij willen veel van elkaar leren en best practices overnemen. Ook willen gemeenten

Tot slot is een belangrijk geluid dat gemeenten aangeven grote behoefte te hebben aan hulp om met de samenleving, beleidsmakers, collega’s vooral praktische ondersteuning bij de te maken keuzes. Omdat veel gemeenten nu ervaring opdoen en bestuurders het gesprek te voeren over het belang van naleving van mensenrechten bij de inzet van algoritmen. Met name is behoefte aan met formaliseren van hun besluitvormingsprocessen lijktleiden. het de perfecte omandere hier bij te kan zo uitwerkingen op het verschillende concrete thema’s die bij veel gemeenten tot vragen Tezamen met tijd enkele adviezen stapsgewijshelpen. een gemeentelijke praktijk ontstaan waarbij digitalisering geborgd zijn of zelfs versterkt worden. Maar gemeenten kunnen het ook nietmet alleen, ook de mensenrechten makers van de algoritmen zouden stappen

kunnen zetten om de naleving van mensenrechten te verbeteren. Gemeenten vertrouwen een groot deel van hun taken toe aan software. Dit betekent dat sommige beslissingen of uitgangspunten al zijn ‘ingebakken’ in systemen. Het is voor gemeenten lastig om te weten welke dit zijn. Het wordt nog lastiger om als bestuurder richting inwoners of gemeenteraad te verantwoorden dat er rekening is gehouden met mensenrechten. De experts van gemeenten geven aan dat het voor hen niet haalbaar is om hierover apart met leveranciers te onderhandelen. Het zou een optie kunnen zijn om als gemeenten gezamenlijk op te trekken. Gemeenten maken nog weinig gebruik van de mogelijkheid om gezamenlijk met de marktpartijen meer te doen aan het ontwerpen met mensenrechten in het achterhoofd (by design). Tot slot is een belangrijk geluid dat gemeenten aangeven grote behoefte te hebben aan hulp om met de samenleving, beleidsmakers, collega’s en bestuurders het gesprek te voeren over het belang van naleving van mensenrechten bij de inzet van algoritmen. Met name is behoefte aan uitwerkingen op verschillende concrete thema’s die bij veel gemeenten tot vragen leiden. Tezamen met enkele andere adviezen kan zo stapsgewijs een gemeentelijke praktijk ontstaan waarbij ook met digitalisering mensenrechten geborgd zijn of zelfs versterkt worden.

6

1

Inleiding

1.1

Aanleiding

Digitalisering raakt de mensenrechten op tal van aspecten en biedt zowel kansen als risico’s. Het College voor de Rechten van de Mens (hierna: CRM) streeft ernaar dat organisaties alleen nog digitale middelen inzetten als die in overeenstemming zijn met alle mensenrechten. Het programma Digitalisering en Mensenrechten zet zich in voor een samenleving waarin iedereen mee kan blijven doen en mee blijft tellen in een steeds verder digitaliserende wereld. Het CRM heeft Hooghiemstra & Partners gevraagd onderzoek te doen naar mensenrechtelijke afwegingen bij het gebruik algoritmen door gemeenten. Het CRM wil graag meer weten over het gebruik van algoritmen door gemeenten en de 1.1van Aanleiding mensenrechtelijke afwegingen die daarbij gemaakt worden. Dit onderzoek beoogt een beter zicht te krijgen op eventuele dilemma’s en Digitalisering raakt de mensenrechten op tal van aspecten en biedt zowel kansen als risico’s. Het behoeften van gemeenten om te komen tot een verantwoorde en succesvolle inzet van algoritmen bij de uitvoering van gemeentetaken.

Voor voor van Mens personen (hierna: binnen CRM) streeft ernaarzich dat organisaties alleen nogeffecten van de gemeentenCollege is het doel van de het Rechten programma datde relevante de organisatie bewust zijn van de mogelijke digitale middelen inzettenmensenrechten als die in overeenstemming zijn metopalle Het programma inzet van algoritmen op de verschillende en weten hoe zij inbreuken die mensenrechten. rechten tot een minimum kunnen beperken. Voor inwoners is Digitalisering het doel dat zij in zijn om hun rechten ook te van samenleving deze digitale ontwikkelingen te kunnen enstaat Mensenrechten zet zich inmidden voor een waarin iedereen meeverwezenlijken. kan blijven

1 Inleiding

doen en mee blijft tellen in een steeds verder digitaliserende wereld. Het CRM heeft Hooghiemstra & Partners gevraagd onderzoek te doen naar mensenrechtelijke afwegingen bij het gebruik van De onderzoeksvraag in deze verkenning luidt: Is er bij gemeenten die gebruik maken van algoritmen aandacht voor de mensenrechtelijke algoritmen door gemeenten. Het CRM wil graag meer weten over het gebruik van algoritmen door aspecten en zijn er bijzondere voorzieningen getroffen voor rechtsbescherming? gemeenten en de mensenrechtelijke afwegingen die daarbij gemaakt worden. Dit onderzoek beoogt Hieruit volgteen dat beter het doel van het onderzoek is: een beeld krijgen van de mensenrechtelijke afwegingen worden zicht te krijgen optweeledig eventuele dilemma’s en behoeften van gemeenten om te die komen totgemaakt een bij het gebruik van algoritmen door gemeenten (1) en inzicht krijgen in de aanwezigheid van bijzondere voorzieningen voor rechtsbescherming (2). verantwoorde en succesvolle inzet van algoritmen bij de uitvoering van gemeentetaken. Voor gemeenten is het doel van het programma dat relevante personen binnen de organisatie zich bewust 1.3 Definities zijn van de mogelijke effecten van de inzet van algoritmen op de verschillende mensenrechten en In dit onderzoek zal steeds gesproken worden over het ‘gebruik van algoritmen’ of ‘algoritmische toepassingen’.

We willen hiermee tot hoe zij op die beslissing rechten istot minimum kunnen en beperken. het uitdrukkingweten laten komen datinbreuken het een menselijke omeen algoritmen te gebruiken aangeven Voor dat deinwoners uitwerking is van algoritmen wordt bepaald door meer aspecten dan alleen de algoritmen zelf (zie 2020). doel dat zij in staat zijn om hun rechten ookook te ACM, midden van deze digitale ontwikkelingen te kunnen verwezenlijken. 1.2

Onderzoeksvraag

Algoritmen definiëren we als: ‘een geautomatiseerde reeks stappen die inputdata in outputdata omzet’ (WRR, 2016; Frissen, Drouen & Van Eck, 2019; ACM, 2020). We onderscheiden daarbinnen twee categorieën algoritmen, vaste (statische) algoritmen en lerende algoritmen. Samen met data hebben we hetOnderzoeksvraag dan over toepassingen die we onder de term Artificiële Intelligentie scharen (AI). Dit doen we in navolging van de High1.2 Level ExpertDe Group on Artificial Intelligence Level Expert Group onbij Artificial Intelligence de maken Europeanvan Fundamental Rights Agency onderzoeksvraag in deze(High verkenning luidt: Is er gemeenten die(2019), gebruik algoritmen (European Union Agency for Fundamental Rights (2020-b) en de Europese Commissie in het voorstel voor een Europese AI verordening aandacht voor de mensenrechtelijke aspecten en zijn er bijzondere voorzieningen getroffen voor (Europese Commissie, 2021).

rechtsbescherming?

Hieruit volgt dat het doel van het onderzoek tweeledig is: een beeld krijgen van de mensenrechtelijke afwegingen die worden gemaakt bij het gebruik van algoritmen door gemeenten (1) en inzicht krijgen in de aanwezigheid van bijzondere voorzieningen voor rechtsbescherming (2).

1.3

Definities

In dit onderzoek zal steeds gesproken worden over het ‘gebruik van algoritmen’ of ‘algoritmische toepassingen’. We willen hiermee tot uitdrukking laten komen dat het een menselijke beslissing is om algoritmen te gebruiken en aangeven dat de uitwerking van algoritmen wordt bepaald door meer aspecten dan alleen de algoritmen zelf (zie ook ACM, 2020). Algoritmen definiëren we als: ‘een geautomatiseerde reeks stappen die inputdata in outputdata omzet’ (WRR, 2016; Frissen, Drouen & Van Eck, 2019; ACM, 2020). We onderscheiden daarbinnen twee categorieën algoritmen, vaste (statische) algoritmen en lerende algoritmen. Samen met data hebben we het dan over toepassingen die we onder de term Artificiële Intelligentie scharen (AI). Dit doen we in navolging van de High-Level Expert Group on Artificial Intelligence (High Level Expert Group on Artificial Intelligence (2019), de European Fundamental Rights Agency (European Union Agency for Fundamental Rights (2020-b) en de Europese Commissie in het voorstel voor een Europese AI verordening (Europese Commissie, 2021).

7

Uitleg Vaste algoritmen worden vooraf geprogrammeerd door mensen om de computer volautomatisch taken te laten verrichten zoals het nemen van besluiten en het uitvoeren daarvan. Dit zijn de Als [X] dan [Y] algoritmen. De variabelen die hierbij worden gebruikt zijn (persoons)gegevens. Deze beslisregels / algoritmen vormen de motor van de geautomatiseerde besluitvorming door de overheid. Het kan gaan om beslissingen tot een feitelijke handeling (bijvoorbeeld geld overmaken) of om juridische besluiten. Bij juridische besluiten wordt op grond van de Awb een onderscheid Uitleg gemaakt tussen beslissingen voor een grote groep mensen (besluit) of beslissingen voor een individu (een beschikking).

Vaste algoritmen worden vooraf geprogrammeerd door mensen om de computer volautomatisch

Lerende algoritmen zijn algoritmen die zich automatisch kunnen aanpassen aan eerder behaalde resultaten. Deze worden bij het analyseren en taken te laten verrichten zoals het nemen van besluiten en het uitvoeren daarvan. Dit zijn de Als voorspellen gebruikt. Ook hier zijn de variabelen (persoons)gegevens. Het resultaat is een model dat vervolgens toegepast kan worden. Deze [X] dan [Y] algoritmen. hierbijBijvoorbeeld worden gebruikt (persoons)gegevens. Deze de school lerende algoritmen worden vaak gebruiktDe omvariabelen een kans te die berekenen. de kans zijn dat een leerplichtige leerling voortijdig verlaat, de kans dat een adreswijziging nietvormen juist is doorgegeven de de kans dat er een file ontstaat. beslisregels / algoritmen de motor of van geautomatiseerde besluitvorming door de

overheid. Het kan gaan om beslissingen tot een feitelijke handeling (bijvoorbeeld geld overmaken)

Dit betekent dat het onderzoek zich uitstrekt van geautomatiseerde afhandelingssystemen, beslissingsondersteunende programma’s ter ofeen omgemeentelijke juridische besluiten. Bijleerlingenvervoer, juridische besluiten wordt op grond vanfraude de Awb een onderscheid uitvoering van verordening een profileringstool waarmee wordt opgespoord tot systemen die gemaakt tussen beslissingen voor een grote groep mensen (besluit) of beslissingen feitelijk handelen (ondersteunen) zoals slimme verkeerslichten, besturingssystemen of het bepalen van de route voor van deeen vuilniswagens gebaseerd opindividu metingen(een vanuit afvalcontainers. beschikking). Om inzicht te krijgen in de mate waarin de data en algoritmen taken van ambtenaren ondersteunen of overnemen, gebruiken we dit schema Lerende2014, algoritmen zijn algoritmen die zich automatisch kunnen aanpassen aan eerder behaalde van Gartner (Gartner, 21 oktober).

resultaten. Deze worden bij het analyseren en voorspellen gebruikt. Ook hier zijn de variabelen (persoons)gegevens. Het resultaat is een model dat vervolgens toegepast kan worden. Deze lerende algoritmen worden vaak gebruikt om een kans te berekenen. Bijvoorbeeld de kans dat een leerplichtige leerling voortijdig de school verlaat, de kans dat een adreswijziging niet juist is doorgegeven of de kans dat er een file ontstaat.

[Figuur Schema van Gartner]

Dit betekent dat het onderzoek zich uitstrekt van geautomatiseerde afhandelingssystemen, beslissingsondersteunende programma’s ter uitvoering van een gemeentelijke verordening leerlingenvervoer, een profileringstool waarmee fraude wordt opgespoord tot systemen die feitelijk handelen (ondersteunen) zoals slimme verkeerslichten, besturingssystemen of het bepalen van de route van de vuilniswagens gebaseerd op metingen vanuit afvalcontainers. Om inzicht te krijgen in de mate waarin de data en algoritmen taken van ambtenaren ondersteunen of overnemen, gebruiken we dit schema van Gartner (Gartner, 2014, 21 oktober).

8

Uitleg Als we naar dit schema kijken en nadenken over toepassingen op een afdeling mobiliteit dan zijn er in eerste instantie data uit het verleden om te beschrijven wat er gebeurt; aantallen reizigers, welk vervoermiddel wordt gebruikt en op welke tijdstippen wordt gereisd. De ambtenaren moeten veel kennis en ervaring toevoegen als zij op basis van de data nieuw beleid zouden willen maken en uitvoeren. In de fase diagnosticeren wordt meer gedaan: er worden met correlaties en andere data mogelijkheden geopperd waarom iets gebeurde; er was een ongeval, het Uitleg was slecht weer of het was vakantie. De menselijke inbreng kan nog wat verder teruggebracht worden als de data en algoritmen ingezet worden voorspellen hoe dekijken verkeerssituatie er uit gaat op een bepaalde in een bepaalde periode. Alsom wetenaar dit schema en nadenken overzien toepassingen op dag eenofafdeling mobiliteit danNog zijneen stap verder is een systeem of model dat voorstelt wat de ambtenaar kan doen: het systeem doet bijvoorbeeld het voorstel om een (beslissing tot het nemen er in eerste instantie data uit het verleden om te beschrijven wat er gebeurt; aantallen reizigers, van een) maatregel te nemen vanwege de voorspelling dat er teveel smog zal ontstaan. Bij geautomatiseerd beslissen stelt het systeem niet welk en op tijdstippen wordt gereisd.

moeten alleen iets voor, hetvervoermiddel komt ook in actie;wordt er komtgebruikt bijvoorbeeld eenwelke rood kruis op de digitale borden bovenDe de ambtenaren wegen te hangen.

veel kennis en ervaring toevoegen als zij op basis van de data nieuw beleid zouden willen maken

1.4

Aanpak en uitvoeren. In de fase diagnosticeren wordt meer gedaan: er worden met correlaties en andere

data mogelijkheden geopperd waarom ietsonderzoek. gebeurde;Iner was een ongeval, was gedeeld slecht weer Dit onderzoek bestaat uit een literatuurstudie en een kwalitatief hoofdstuk 2 worden de het inzichten uit hetof literatuuronderzoek. Op basis van deze literatuurstudie is een vragenlijst gemaakt om de experts van gemeenten te interviewen. het was vakantie. De menselijke inbreng kan nog wat verder teruggebracht worden als de data enDeze vragenlijst is grotendeels gebaseerd op de vragenlijst die is opgesteld door de European Union Agency for Fundamental Rights (FRA) in het algoritmen ingezet worden om te voorspellen hoe de verkeerssituatie er uit gaat zien op een kader van het onderzoek ‘Getting the future right. Artificial Intellingence and Fundamental Rights’ (European Union Agency for Fundamental bepaalde dag of in een bepaalde periode.inNog een stap verder is eenalssysteem ofgesprekken model datzijn semiRights, 2020-b) Een modelvragenlijst zoals deze is gehanteerd dit onderzoek, is toegevoegd bijlage. De gestructureerd gevoerd wat zodatde ookambtenaar andere zakenkan naardoen: voren het konden komen.doet bijvoorbeeld het voorstel om een voorstelt systeem (beslissing tot het nemen van een) maatregel te nemen vanwege de voorspelling dat er teveel smog zal ontstaan.

Bij geautomatiseerd beslissen stelt het systeem niet alleen iets voor, het komt Voor de selectie van gemeenten is een aantal uitgangspunten gehanteerd. Het eerste is dat er uit elke provincie van Europees Nederland een ook in actie; er komt bijvoorbeeld een rood kruis op de digitale borden boven de wegen te hangen. gemeente vertegenwoordigd is en van Caribisch Nederland een openbaar lichaam betrokken wordt in het onderzoek. Een ander uitgangspunt 1.4.1

Selectiemethode

is dat men bij de gemeente weet heeft van het gebruiken van algoritmen.

1.4

Aanpak

Bij het zoeken naar gemeenten viel op dat sommige gemeenten aangeven ‘geen algoritmen te gebruiken’. Men heeft dan de indruk dat Dit onderzoek bestaat uit een literatuurstudie en een kwalitatief onderzoek. In hoofdstuk 2 worden algoritmen altijd lerende algoritmen zijn en vergeten dat er ook algoritmen in de softwarepakketten zitten die zij gebruiken. Hoewel dit een inzichten Op basis van deze is een vragenlijst interessantede bevinding is, isgedeeld voor het uit doelhet vanliteratuuronderzoek. dit onderzoek besloten deze gemeenten niet teliteratuurstudie betrekken in dit onderzoek. Het is voor een dergelijke gemeente te vroeg antwoordenteteinterviewen. kunnen geven op onze inhoudelijke gemaaktwaarschijnlijk om de experts vanom gemeenten Deze vragenlijst is vragen. grotendeels gebaseerd op

de vragenlijst die is opgesteld door de European Union Agency for Fundamental Rights (FRA) in het

Een ander criterium dat is gebruikt is een combinatie van het zoeken naar mediaberichten vanaf 2019, het bezoeken van websites van bedrijven kader van het ‘Getting het thebenaderen future right. Artificial Fundamental die aangeven te werken vooronderzoek bepaalde gemeenten, van mensen uitIntellingence het netwerk vanand onderzoekers en tot Rights’ slot het benaderen van (European Union Gemeenten Agency for(VNG). Fundamental Rights, 2020-b) Een modelvragenlijst zoals deze is de Vereniging van Nederlandse

gehanteerd in dit onderzoek, is toegevoegd als bijlage. De gesprekken zijn semi-gestructureerd gevoerd zodat ook andere zaken naar voren konden komen.

1.4.1 Selectiemethode

Voor de selectie van gemeenten is een aantal uitgangspunten gehanteerd. Het eerste is dat er uit elke provincie van Europees Nederland een gemeente vertegenwoordigd is en van Caribisch Nederland een openbaar lichaam betrokken wordt in het onderzoek. Een ander uitgangspunt is dat men bij de gemeente weet heeft van het gebruiken van algoritmen. Bij het zoeken naar gemeenten viel op dat sommige gemeenten aangeven ‘geen algoritmen te gebruiken’. Men heeft dan de indruk dat algoritmen altijd lerende algoritmen zijn en vergeten dat er ook algoritmen in de softwarepakketten zitten die zij gebruiken. Hoewel dit een interessante bevinding is, is voor het doel van dit onderzoek besloten deze gemeenten niet te betrekken in dit onderzoek. Het is voor een dergelijke gemeente waarschijnlijk te vroeg om antwoorden te kunnen geven op onze inhoudelijke vragen. Een ander criterium dat is gebruikt is een combinatie van het zoeken naar mediaberichten vanaf 2019, het bezoeken van websites van bedrijven die aangeven te werken voor bepaalde gemeenten, het benaderen van mensen uit het netwerk van onderzoekers en tot slot het benaderen van de Vereniging van Nederlandse Gemeenten (VNG).

9

1.4.2

Geïnterviewde gemeenten

Na de selectie zijn de colleges van B&W door het College voor de Rechten van de Mens in maart 2021 uitgenodigd mee te werken aan het onderzoek. Van de twaalf gemeenten uit Europees Nederland die in eerste instantie zijn uitgenodigd, waren er tien direct bereid mee te werken. Twee gemeenten niet (‘geen capaciteit beschikbaar’). Daarna zijn alternatieven aangeschreven en gevonden. De deelnemende gemeenten en samenwerkingsverband zijn: 1.4.2 Geïnterviewde gemeenten

Na de selectie zijn de colleges van B&W door het College voor de Rechten van de Mens in maart

1. Almere 2021 uitgenodigd mee te werken aan het onderzoek. Van de twaalf gemeenten uit Europees 2. Amsterdam Nederland die in eerste instantie zijn uitgenodigd, waren er tien direct bereid mee te werken. Twee 3. Apeldoorn 4. Assen gemeenten niet (‘geen capaciteit beschikbaar’). Daarna zijn alternatieven aangeschreven en 5. Den Haag gevonden. De deelnemende gemeenten en samenwerkingsverband zijn: 6. Eindhoven 7. Enschede 1. Almere 8. Gemeenschappelijke regeling De Bevelanden (Goes, Noord-Beveland, Borsele, Kapelle en Reimerswaal) 9. Groningen 2. Amsterdam 10.Leudal 3. Apeldoorn 11.Súdwest Fryslân (deelnemer DataFryslân) Assen 12.Utrecht 4.

5.

Den Haag

8.

Gemeenschappelijke regeling De Bevelanden (Goes, Noord-Beveland, Borsele, Kapelle en

Helaas is het niet gelukt om een openbaar lichaam uit Caribisch Nederland te interviewen. Er is op de uitnodiging van het CRM en via andere 6. Eindhoven informele wegen geen reactie ontvangen van het geselecteerde Openbaar Lichaam. Dit maakt dat we niet weten hoe men doorgaans besluit 7.van algoritmen Enschede over de inzet in het licht van mensenrechten en waar men behoefte aan heeft. 1.4.3

Wijze van rapporteren Reimerswaal)

Dit rapport 9. bestaat uit twee onderdelen: een bureau-onderzoek en een verslag van de uitkomsten van gesprekken met medewerkers van de Groningen geselecteerde gemeenten. In hoofdstuk 2 worden de resultaten van het literatuuronderzoek gedeeld. In hoofdstuk 3 geven we in algemene 10. Leudal bewoordingen weer wat tijdens deze interviews aan de orde is gekomen. We willen benadrukken dat dit onderzoek geen representatief beeld Súdwest Fryslânen(deelnemer geeft van de11. stand van automatisering digitalisering DataFryslân) van de Nederlandse gemeenten. Dit zou een andere onderzoeksopzet vragen. In dit onderzoek ligt op gemeenten die al enige jaren actief bezig zijn met innovaties en daarom ervaring kunnen hebben met vragen rond 12.de focus Utrecht mensenrechtelijke consequenties. In hoofdstuk 4 staan conclusies en aanbevelingen.

Helaas is het niet gelukt om een openbaar lichaam uit Caribisch Nederland te interviewen. Er is op de uitnodiging van het CRM en via andere informele wegen geen reactie ontvangen van het geselecteerde Openbaar Lichaam. Dit maakt dat we niet weten hoe men doorgaans besluit over de inzet van algoritmen in het licht van mensenrechten en waar men behoefte aan heeft.

1.4.3 Wijze van rapporteren

Dit rapport bestaat uit twee onderdelen: een bureau-onderzoek en een verslag van de uitkomsten van gesprekken met medewerkers van de geselecteerde gemeenten. In hoofdstuk 2 worden de resultaten van het literatuuronderzoek gedeeld. In hoofdstuk 3 geven we in algemene bewoordingen weer wat tijdens deze interviews aan de orde is gekomen. We willen benadrukken dat dit onderzoek geen representatief beeld geeft van de stand van automatisering en digitalisering van de Nederlandse gemeenten. Dit zou een andere onderzoeksopzet vragen. In dit onderzoek ligt de focus op gemeenten die al enige jaren actief bezig zijn met innovaties en daarom ervaring kunnen hebben met vragen rond mensenrechtelijke consequenties. In hoofdstuk 4 staan conclusies en aanbevelingen.

10

2

De decentrale overheid en algoritmen

Er bestaan diverse gezichtspunten als het gaat om het gebruik van algoritmen door gemeenten of openbare lichamen. Het kan bezien worden vanuit de positie van de decentrale overheid (democratisch gelegitimeerd en dichtbij de burger georganiseerd) maar ook vanuit de positie van steden, in het licht van de internationale ontwikkeling waarbij steden het voortouw nemen bij het zoeken naar oplossingen voor maatschappelijke opgaven. Maar als het gaat om het gebruik van algoritmische toepassingen is het ook nodig naar de bestuurlijke constellatie te kijken. Wie is bevoegd te besluiten deze in te gaan zetten, welke keuzen en aannames zitten in de algoritmen ‘ingebakken’ en hoe is de controle geregeld? Hieronder wordt verkend waarmee rekening moet gehouden. Er bestaan diverse gezichtspunten alsdan het gaat om hetworden gebruik van algoritmen door gemeenten of

2 De decentrale overheid en algoritmen

openbare lichamen. Het kan bezien worden vanuit de positie van de decentrale overheid (democratisch gelegitimeerd en dichtbij de burger georganiseerd) maar ook vanuit de positie van In het Nederlands staatsbestel nemen gemeenten een belangrijke positie in als het gaat om de verhouding overheid-burger. Beslissingen op steden, in het licht van de internationale ontwikkeling waarbij steden het voortouw nemen bij het lokaal niveau beïnvloeden het dagelijks leven van inwoners. Dit kan gaan om de aanleg van fietspaden, bouw van een stadion, het verlenen van zoeken naar oplossingen voor maatschappelijke opgaven. Maar als het Hoe gaateen omgemeente het gebruik van een uitkering, het aanbieden van jeugdzorg of het preventief fouilleren op een bepaalde locatie. is georganiseerd, welke beslissingenalgoritmische mogen wordentoepassingen genomen en wieisbeslist hoe wettelijke taken worden uitgevoerd, is in verschillende wetten neergelegd. Het voert het ook nodig naar de bestuurlijke constellatie te kijken. Wie is voor dit onderzoek te ver om hier uitgebreid bij stil te staan, maar het is wel nodig om een aantal uitgangspunten op een rij te zetten. Zo zorgt bevoegd te besluiten deze in te gaan zetten, welke keuzen en aannames zitten in de algoritmen het college van burgemeester & wethouders voor het dagelijks bestuur.

De gemeenteraad bestaat uit leden die rechtstreeks gekozen zijn door ‘ingebakken’ en hoe is de controleheeft geregeld? Hieronder wordt verkend waarmee rekening moet (Van der de inwoners van een gemeente. De gemeenteraad niet alleen controlerende taken maar ook een aantaldan bestuursbevoegdheden worden Woude, 2015). Bij eengehouden. openbaar lichaam in Caribisch Nederland zorgt het bestuurscollege voor het dagelijks bestuur. De Eilandsraad bestaat uit 2.1

De gemeente / het openbaar lichaam als bestuurder: dichtbij burgers

leden die rechtstreeks gekozen worden. De gouverneur vervult taken die lijken op de taken van een burgemeester (Paalman, 2018, p. 31).

2.1 of wel Dehet gemeente / overheidsmacht het openbaar lichaam bestuurder: burgers Decentralisatie, verdelen van onder diverse als instellingen in plaats dichtbij van een centrale besturing, is een van de In het Nederlands staatsbestel een belangrijke positie in als het gaat om de uitgangspunten van het Nederlandse stelsel. De nemen gedachtegemeenten hierbij is tweeledig: verhouding overheid-burger. Beslissingen op lokaal niveau beïnvloeden het dagelijks leven van

o de gemeentelijke bestuurslaag is het dichtst bij burgers en kent daarmee de sterkste democratische legitimatie, inwoners. Dit kan gaan om de aanleg van fietspaden, bouw van een stadion, het verlenen van een o dit bestuur is het beste in staat de wensen van de inwoners te kennen, op waarde te schatten en om te zetten in lokaal beleid.

uitkering, het aanbieden van jeugdzorg of het preventief fouilleren op een bepaalde locatie. Hoe een

Dit geldt niet alleen voorisNederland. Zo benadrukt Europees Handvest inzake lokalegenomen autonomieen (EHLA) gewicht gemeente georganiseerd, welkehetbeslissingen mogen worden wie het beslist hoevan lokale autonomie. Bescherming en versterking van lokale autonomie in de verschillende Europese landen levert volgens dit verdrag een belangrijke bijdrage aan wettelijke taken worden uitgevoerd, is in verschillende wetten neergelegd. Het voert voor dit een Europa dat is gebaseerd op de beginselen van democratie en decentralisatie van de macht.

onderzoek te ver om hier uitgebreid bij stil te staan, maar het is wel nodig om een aantal Er bestaan twee vormen van bestuur door besturen autonomie in medebewind. Autonomie kan worden beschreven als het uitgangspunten op een rij gemeenten: te zetten. Zo zorgtinhet college of van burgemeester & wethouders voor het naar eigen inzicht en op eigen initiatief regelen en dagelijks bestuur. De gemeenteraad bestaat uit leden die rechtstreeks gekozen zijn door de inwoners van een gemeente. De gemeenteraad heeft niet alleen controlerende taken maar ook een aantal bestuursbevoegdheden (Van der Woude, 2015). Bij een openbaar lichaam in Caribisch Nederland zorgt het bestuurscollege voor het dagelijks bestuur. De Eilandsraad bestaat uit leden die rechtstreeks gekozen worden. De gouverneur vervult taken die lijken op de taken van een burgemeester (Paalman, 2018, p. 31). Decentralisatie, of wel het verdelen van overheidsmacht onder diverse instellingen in plaats van een centrale besturing, is een van de uitgangspunten van het Nederlandse stelsel. De gedachte hierbij is tweeledig: o de gemeentelijke bestuurslaag is het dichtst bij burgers en kent daarmee de sterkste democratische legitimatie, o dit bestuur is het beste in staat de wensen van de inwoners te kennen, op waarde te schatten en om te zetten in lokaal beleid. Dit geldt niet alleen voor Nederland.

Zo benadrukt het Europees Handvest inzake lokale autonomie (EHLA) het gewicht van lokale autonomie. Bescherming en versterking van lokale autonomie in de verschillende Europese landen levert volgens dit verdrag een belangrijke bijdrage aan een Europa dat is gebaseerd op de beginselen van democratie en decentralisatie van de macht. Er bestaan twee vormen van bestuur door gemeenten: besturen in autonomie of in medebewind. Autonomie kan worden beschreven als het naar eigen inzicht en op eigen initiatief regelen en

11

besturen van de eigen aangelegenheden, de eigen huishouding. Dit kunnen bestuursbevoegdheden zijn zonder grondslag in nationale wetgeving. Deze niet in de wet benoemde, autonome bestuursbevoegdheden worden geacht uit de aard der zaak toe te komen aan de gemeenteraad. Bij grote autonome gemeentelijke bestuurshandelingen (zoals besluitvorming omtrent de bouw van een nieuwe schouwburg, voetbalstadion of besturen van de eigen aangelegenheden, de eigen huishouding. Dit kunnen bestuursbevoegdheden ondergrondse parkeergarage) worden deze autonome bestuursbevoegdheden dan ook door of met de expliciete instemming van zijn zonder grondslag in nationale wetgeving.zoals subsidies aan het plaatselijke verenigingsleven, kan de bevoegdheid gemeenteraden uitgeoefend. Bij ‘kleinere’ bestuurshandelingen, worden neergelegd bij het college van burgemeester en wethouders maar zullen de kaders waarbinnen deze bevoegdheid wordt uitgeoefend vaak worden vastgesteld de gemeenteraad. der Woude, 2015) Deze niet indoor de wet benoemde, (Van autonome bestuursbevoegdheden worden geacht uit de aard der

zaak een toe taak te komen aan de gemeenteraad. Bij grote gemeentelijke bestuurshandelingen Als de gemeente uitoefent in medebewind dan betekent dit datautonome de gemeente (verplicht) een taak uitoefent samen met een ander (zoals besluitvorming omtrent degeval bouw een nieuwe schouwburg, voetbalstadion bestuur, rijksbestuur of provinciebestuur. Dit is het in van het sociaal domein of bij de Participatiewet. Hier speeltofbovendien nog mee dat ondanks deondergrondse decentralisatiegedachte, gemeentenworden intensiefdeze met elkaar samenwerken om uitvoering te kunnen gevenof aan de wettelijke parkeergarage) autonome bestuursbevoegdheden danblijven ook door met taken. Dit kan in de praktijk betekenen dat de democratische legitimatie vermindert, de gemeenteraden verliezen zeggenschap. (Munneke, de expliciete instemming van gemeenteraden uitgeoefend. Bij ‘kleinere’ bestuurshandelingen, zoals 2016, pp. 93-97). Ook bestuurders waarschuwen voor de talloze samenwerkingsverbanden. Zo gaf de burgemeester van Culemborg in een subsidies aan hetCulemborg plaatselijke verenigingsleven, kan de bevoegdheid worden neergelegd bij hetook dat er zorgen interview aan dat de gemeente samenwerkt met 237 gemeenten in 34 samenwerkingsverbanden. Dit betekent zijn over decollege democratische legitimatie. Het en is complex om er achter komende wiekaders waarover gaat.

Niet voor niets wordt dit ‘bestuurlijke van burgemeester wethouders maartezullen waarbinnen deze bevoegdheid spaghetti’ genoemd (Knoop, 2021). wordt uitgeoefend vaak worden vastgesteld door de gemeenteraad. (Van der Woude, 2015)

De Raad voor Openbaar Bestuur signaleert knelpunten en waarschuwt voor de opkomst van een vierde bestuurslaag. Er worden vier categorieënAls knelpunten onderscheiden en uitoefent er wordt onder andere geconstateerd dat de democratie en gemeente bestuur zich(verplicht) in tegengestelde richtingen de gemeente een taak in medebewind dan betekent dit dat de bewegen: het zwaartepunt van de lokale democratie verschuift naar het sublokale, het een taak uitoefent samen met een ander bestuur, rijksbestuur of provinciebestuur. Dit is het geval in

het sociaal ofterwijl bij detegelijkertijd Participatiewet. Hier speelt bovendien nog mee dat ondanks de niveau van buurt, wijk of domein dorpskern, het bestuurlijke

decentralisatiegedachte, gemeenten intensief met elkaar samenwerken om uitvoering te kunnen

zwaartepunt steeds geven meer verschuift de regiotaken. (Raad openbaar bestuur 2021, B.).betekenen dat de democratische blijven aan de naar wettelijke Dit kan in de praktijk

legitimatie vermindert, de gemeenteraden verliezen zeggenschap. (Munneke, 2016, pp.inhoudelijke 93-97). Ook Tot slot verdient de burgemeester en diens bevoegdheden aparte aandacht. De burgemeester heeft namelijk eigen taken op het bestuurders de talloze samenwerkingsverbanden. Zo gaf de burgemeester van in het kader terrein van openbare orde waarschuwen en veiligheid en isvoor opperbevelhebber bij crises, rampen en zware ongevallen. Onder de bevoegdheden van openbare orde en veiligheid bevoegdheden als gemeente preventief fouilleren, installeren van cameratoezicht, sluiten van woningen Culemborg in een vallen interview aan dat de Culemborg samenwerkt met 237 gemeenten in 34 en het geven van bevelen aan ouders van kinderen onder de twaalf jaar (Hennekens, 2021; Nederlands Genootschap van Burgemeesters, z.d.). 2.2

samenwerkingsverbanden. Dit betekent ook dat er zorgen zijn over de democratische legitimatie. Het is complex om er achter te komen wie waarover gaat. Niet voor niets wordt dit ‘bestuurlijke Samenwerkende steden spaghetti’ genoemd (Knoop, 2021).

Omdat meer mensen dan ooit in een stad zullen wonen, anticiperen steden op de grote rol die zij krijgen als het gaat om het dagelijks leven van de inwoners (Henriquez, 2016). Binnen en buiten Europa is het steeds gebruikelijker dat steden samenwerken, elkaar informeren, assisteren en gezamenlijkDe afspraken maken over tal van aspectensignaleert en zeker ook over de ‘digitale rechten’ van devoor inwoners of bezoekers deze steden. We Raad voor Openbaar Bestuur knelpunten en waarschuwt de opkomst vanin een noemen hier het Europese verband EUROCITIES en het internationale verband Cities for digital rights (opgericht door Amsterdam, Barcelona en vierde bestuurslaag. Er worden vier categorieën knelpunten onderscheiden en er wordt onder New York,

andere geconstateerd dat de democratie en bestuur zich in tegengestelde richtingen bewegen: het zwaartepunt van de lokale democratie verschuift naar het sublokale, het niveau van buurt, wijk of dorpskern, terwijl tegelijkertijd het bestuurlijke zwaartepunt steeds meer verschuift naar de regio (Raad openbaar bestuur 2021, B.).

Tot slot verdient de burgemeester en diens bevoegdheden aparte aandacht. De burgemeester heeft namelijk eigen inhoudelijke taken op het terrein van openbare orde en veiligheid en is opperbevelhebber bij crises, rampen en zware ongevallen. Onder de bevoegdheden in het kader van openbare orde en veiligheid vallen bevoegdheden als preventief fouilleren, installeren van cameratoezicht, sluiten van woningen en het geven van bevelen aan ouders van kinderen onder de twaalf jaar (Hennekens, 2021; Nederlands Genootschap van Burgemeesters, z.d.).

2.2

Samenwerkende steden

Omdat meer mensen dan ooit in een stad zullen wonen, anticiperen steden op de grote rol die zij krijgen als het gaat om het dagelijks leven van de inwoners (Henriquez, 2016). Binnen en buiten Europa is het steeds gebruikelijker dat steden samenwerken, elkaar informeren, assisteren en gezamenlijk afspraken maken over tal van aspecten en zeker ook over de ‘digitale rechten’ van de inwoners of bezoekers in deze steden. We noemen hier het Europese verband EUROCITIES en het internationale verband Cities for digital rights (opgericht door Amsterdam, Barcelona en New York, 12

bestaande uit 50 steden) (Cities Coalition for Digital Rights, z.d.-a; Godson, 2020). Dit internationale verband legt in zijn verklaring zelf ook de link met mensenrechten (Cities Coalition for Digital Rights, z.d.-b). Deze verbanden treden soms ook gezamenlijk op, zoals bij het statement dat zij afgaven op 3 juni 2020 over digitale burgerrechten in tijden van Corona (Gemeente Amsterdam, 2020). Zowel in Nederland als daarbuiten lijken steden het voortouw te nemen als het gaat om het ontwikkelen van praktische handreikingen, zo bestaande uit 50 steden) (Cities Coalition for Digital Rights, z.d.-a; Godson, 2020). Dit internationale hebben Amsterdam en Utrecht een begin gemaakt met elk een algoritmeregister (Dataplatform, 2020; Gemeente Amsterdam, z.d.-a). In New verband legt in zijn verklaring ook de link en met Coalition for Digital Rights, York is een speciale functionaris aangesteld voorzelf algoritmebeleid Sanmensenrechten Francisco heeft als(Cities stadsbestuur gezichtsherkenning in de publieke ruimte verboden (Conger, & Kovaleski, 2019). Steden actief naar samenwerking kennisinstellingen uit de z.d.-b). DezeFausset verbanden treden soms ook zoeken gezamenlijk op,mogelijkheden zoals bij het tot statement dat zijmet afgaven op 3 buurt. juni 2020 over digitale burgerrechten in tijden van Corona (Gemeente Amsterdam, 2020). Illustratie

Zowel in Nederland als daarbuiten lijken steden het voortouw te nemen als het gaat om het

In New Yorkontwikkelen is een Algorithms Policy Officer (AMPO) aangesteld. Een belangrijke eersteeen tastbare bijdrage van deze functionaris vanManagement praktische and handreikingen, zo hebben Amsterdam en Utrecht begin gemaakt is een openbaar overzicht van de in gebruik zijnde algoritmes bij New Yorkse afdelingen, die als ‘high priority’ zijn geclassificeerd. In dit overzicht met elk een algoritmeregister (Dataplatform, 2020; Gemeente Amsterdam, z.d.-a). In New York is staat een overzicht van de belangrijkste hulpmiddelen, de naam, het doel en de functionaliteit, zie hieronder een voorbeeld (Thamkittikasem, J. een speciale functionaris aangesteld voor algoritmebeleid en San Francisco heeft als stadsbestuur (2020):

gezichtsherkenning in de publieke ruimte verboden (Conger, Fausset & Kovaleski, 2019). Steden zoeken actief naar mogelijkheden tot samenwerking met kennisinstellingen uit de buurt.

[Figuur: Voorbeeld overzicht]

Om een beeld te krijgen wat voor publiekscommunicatie er vervolgens mogelijk is met deze informatie, is het aan te raden de website te bekijken die studenten van de Harvard Kennedy School hebben gemaakt. Zij laten zien welke vragen er door inwoners van New York gesteld kunnen worden en hoe inwoners zelf kunnen bijdragen. Dit geeft een waardevolle extra dimensie aan het maatschappelijke en lokale debat Illustratie (Young, Yusuf, Voegli & Truong, z.d.).

In New York is een Algorithms Management and Policy Officer (AMPO) aangesteld. Een belangrijke eerstevoor tastbare bijdrage van dezemet functionaris 2.3 Informatie gemeenten die werken algoritmen is een openbaar overzicht van de in gebruik zijnde algoritmes bij New Yorkse afdelingen, die als ‘high priority’ zijn geclassificeerd. In dit overzicht Er zijn diverse initiatieven en ontwikkelingen als het gaat om de inzet van algoritmen door gemeenten. Het Rathenau Instituut heeft een staat een overzicht van deondersteunt belangrijkste hulpmiddelen, naam, het doel de functionaliteit, zie2020). denkraam gemaakt dat de gemeenteraden bij haar werk in relatie de tot digitalisering (Das, en Faasse, Karstens & Diederen, hieronder een voorbeeld (Thamkittikasem, J. (2020):

Om een beeld te krijgen wat voor publiekscommunicatie er vervolgens mogelijk is met deze informatie, is het aan te raden de website te bekijken die studenten van de Harvard Kennedy School hebben gemaakt. Zij laten zien welke vragen er door inwoners van New York gesteld kunnen worden en hoe inwoners zelf kunnen bijdragen. Dit geeft een waardevolle extra dimensie aan het maatschappelijke en lokale debat (Young, Yusuf, Voegli & Truong, z.d.).

2.3

Informatie voor gemeenten die werken met algoritmen

Er zijn diverse initiatieven en ontwikkelingen als het gaat om de inzet van algoritmen door gemeenten. Het Rathenau Instituut heeft een denkraam gemaakt dat de gemeenteraden ondersteunt bij haar werk in relatie tot digitalisering (Das, Faasse, Karstens & Diederen, 2020).

13

Hierin benadrukt het Rathenau Instituut dat digitalisering vraagt om een afweging van waarden. De keuzen die gemaakt worden en het besluit om al dan niet gebruik te maken van technologie is ook een politieke beslissing. De Dataschool van de Universiteit Utrecht deed onderzoek voor de VNG (Van den Berg et al., 2021), ontwikkelde samen met de gemeente Almere de Digitale Raadgever (Renkema & Van den Berg, z.d.) en met de gemeente Utrecht de DEDA (De ethische data assistent) (Utrecht Data Hierin benadrukt het Rathenau Instituut dat digitalisering vraagt om een afweging van waarden. De School, z.d.). Het stedennetwerk G40 maakte een inventarisatie van Smart City projecten (Smart Cities in de G40). Er is ook geen gebrek aan keuzen die(Engelbert gemaakt &worden en het besluit internationale principes Van Zoonen, 2020, p. 97). om al dan niet gebruik te maken van technologie is ook