Bijlage 2 bij nadere toelichting - Onderzoeksrapport algoritmen en mensenrechten gemeenten

kan het makkelijk gebeuren dat mensenrechten vooral op papier goed geregeld zijn. Een meer netwerkachtige manier van werken zou Denk bijvoorbeeld aan een medewerker die de beelden vandit de kunnen scanauto’svoorkomen. bekijkt en ziet dat er elke dag opnieuw een parkeerheffing opgelegd zou kunnen worden aan een inwoner. Dit komt omdat de auto zonder parkeerticket al enkele dagen staat geparkeerd. De medewerker weet dat de parkeerheffingen pas enkele weken later in de bus valt van de autobezitter. Zij/hij kan dan beslissen het systeem te volgen en denken dat de Dit geldt ook voor rechtsbescherming. Als de behandeling van bezwaar of klachten en het afhandelen autobezitter later altijd nog bezwaar kan maken. Maar het is ook denkbaar om af te spreken dat bij elke derde gelijke parkeerheffing contact van telefoontjes volledigom gescheiden van de collega’s met de kennis over data en wordt opgenomen met de autobezitter haar/hem teplaatsvindt waarschuwen.

algoritmen, bestaat het risico dat er verschillende beelden bestaan over wat een systeem wel of niet

Ook het onderscheid ‘klassieke een goed in de gevolgen gebied van mensenrechten in de kan. Ooktussen looptdata-gedreven de gemeentewerk hetenrisico dat IT’ destaat feedback opinzicht de uitwerking vanop hethetsysteem niet de weg. Ook deze werelden zouden bij elkaar gebracht kunnen worden om het wiel niet opnieuw uit te vinden.

aandacht krijgt die het verdient. Bezwaren kunnen immers duiden op een bug in het systeem of niet rechtvaardig is. Om rechtsbescherming tede kunnen bieden zou het goedin zijn We bevelenuitwerking aan voor alledie algoritmen een heldere wijze vanecht beslissen af te spreken waarbij afweging van mensenrechten een vroeg stadium wordt gedaan. Ook is het aan te raden om in ieder geval overzicht te creëren van alle algoritmische toepassingen die in gebruik zijn. als er frequent overleg plaatsvindt tussen de verschillende afdelingen. Zo kunnen processen ook op Omdat gemeenten doorgaans hun persoonsgegevensverwerkingen al hebben vastgelegd kan dit worden grotere schaal verbeterd worden. Als in deze fase alsnog langs de formele eisen wordt gedacht en de medewerkers niet na mogen denken over de achterliggende bedoeling, heeft de inwoner feitelijk geen rechtsbescherming. Soms kunnen dit al via een simpele aanpassing in de dagelijkse routine. Denk bijvoorbeeld aan een medewerker die de beelden van de scanauto’s bekijkt en ziet dat er elke dag opnieuw een parkeerheffing opgelegd zou kunnen worden aan een inwoner. Dit komt omdat de auto zonder parkeerticket al enkele dagen staat geparkeerd. De medewerker weet dat de parkeerheffingen pas enkele weken later in de bus valt van de autobezitter.

Zij/hij kan dan beslissen het systeem te volgen en denken dat de autobezitter later altijd nog bezwaar kan maken. Maar het is ook denkbaar om af te spreken dat bij elke derde gelijke parkeerheffing contact wordt opgenomen met de autobezitter om haar/hem te waarschuwen. Ook het onderscheid tussen data-gedreven werk en ‘klassieke IT’ staat een goed inzicht in de gevolgen op het gebied van mensenrechten in de weg. Ook deze werelden zouden bij elkaar gebracht kunnen worden om het wiel niet opnieuw uit te vinden. We bevelen aan voor alle algoritmen een heldere wijze van beslissen af te spreken waarbij de afweging van mensenrechten in een vroeg stadium wordt gedaan. Ook is het aan te raden om in ieder geval overzicht te creëren van alle algoritmische toepassingen die in gebruik zijn. Omdat gemeenten doorgaans hun persoonsgegevensverwerkingen al hebben vastgelegd kan dit worden

33

uitgebreid met toepassingen die zonder persoonsgegevens functioneren. Omdat niet alle algoritmische toepassingen invloed hebben op mensenrechten is het aan te raden een scheiding aan te brengen op impact. Zie daarvoor de bijlage die gevoegd is achter de vragenlijst voor de interviews. Dit is een vertaling van de bijlage uit het eerder genoemde onderzoek van EU Agency for Fundamental Rights (European Union Agency for Fundamental Rights, 2020-D). Ook kan gedacht worden aan de eerder aangehaalde werkwijze van New York waar de Acting Algorithms Management and Policy Officer systemen heeft geclassificeerd als high priority en vervolgens een overzicht heeft gepubliceerd van uitgebreid met toepassingen die zonder persoonsgegevens functioneren. Omdat niet alle de naam, het doel en de functionaliteit (Thamkittikasem, J. 2020). Voor Nederlandse voorbeelden kan gekeken worden naar Utrecht en algoritmische toepassingen invloed hebben Amsterdam (Dataplatform, 2020; Gemeente Amsterdam, z.d.-a). op mensenrechten is het aan te raden een scheiding aan

te brengen op impact. Zie daarvoor de bijlage die gevoegd is achter de vragenlijst voor de interviews.

Wat wel overeenkomt dat gemeenten aangeven rond de aanschaf of inzetvan van technologie, vaste interne Dit is eenisvertaling van de bijlagedat uitbesluitvorming het eerder genoemde onderzoek EU Agency volgens for procedures moet verlopen. Kern van deze interne procedures zijn dat het beslissen over de aanschaf of inzet van IT-toepassingen of dataFundamental Agency for die Fundamental Rights, kannieuws. gedacht analyse toepassingen niet inRights handen(European ligt van een Union bevoegd ambtenaar haar of zijn oog heeft 2020-D). laten vallenOok op iets Er zijn vaste aanmoeten de eerder aangehaalde werkwijze vanmoeten New York waar de Acting Algorithms Management proceduresworden die gevolgd worden en belangen die tegen elkaar worden afgewogen. Mensenrechtenafwegingen zouden het beste een plaats kunnen krijgen binnen deze besluitvorming. Hierbij moet wel worden aangetekend dat het soms geen keuze is of een weging, and Policy Officer systemen heeft geclassificeerd als high priority en vervolgens een overzicht heeft maar ook een verplichting voor het bestuur kan inhouden. 4.8

gepubliceerd van de naam, het doel en de functionaliteit (Thamkittikasem, J. 2020). Voor Nederlandse voorbeelden kan gekeken worden naar Utrecht en Amsterdam (Dataplatform, 2020; Werk samen maar vergeet het bestuur niet Gemeente Amsterdam, z.d.-a).

Gemeenten kunnen ook activiteiten vanuit meerdere gemeenten oppakken, zoals ook wel gebeurt bij het inkoopproces. De specialisatie hoeft dan niet bij alle individuele gemeenten belegd te zijn. Uiteraard moet dan wel steeds weer aansluiting gezocht worden bij de verantwoordelijk bestuurders.Wat Zoals hiervoor aan de ordeiskwam kan samenwerking tot hetdat ongewenste effect leiden datde deaanschaf gemeenteraad buiten spel wordt wel overeenkomt dat gemeenten aangeven besluitvorming rond of inzet van gezet. technologie, volgens vaste interne procedures moet verlopen. Kern van deze interne procedures zijn

dat vraagstukken het beslissen overweer de aanschaf of inzet vanterug IT-toepassingen of data-analyse toepassingen niet in(Gemeente Om belangrijke steeds op het politieke niveau te leggen waar het hoort, lijkt de methode uit Amsterdam van eenhandig. bevoegd ambtenaar dieerhaar zijn oog heeft laten op iets wordt nieuws. Er zijn door de Amsterdam,handen 2018, 25ligt september) We bedoelen dan dat eerstof een algemeen kader voor vallen mensenrechten vastgesteld gemeenteraad waarbinnen de ambtenaren mogen besluiten. Ook wordt daarbij duidelijk geformuleerd dat als een toepassing niet past en men vaste procedures die gevolgd moeten worden en belangen die tegen elkaar moeten worden toch vindt dat deze doorgang moet krijgen, besluitvorming daarover aan het college en/of burgemeester voorgelegd. afgewogen. Mensenrechtenafwegingen zouden het beste een plaats kunnen krijgen binnen deze besluitvorming. Hierbij moet wel worden aangetekend dat het soms geen keuze is of een weging, maar ook een verplichting voor het bestuur kan inhouden.

4.8

Werk samen maar vergeet het bestuur niet

Gemeenten kunnen ook activiteiten vanuit meerdere gemeenten oppakken, zoals ook wel gebeurt bij het inkoopproces. De specialisatie hoeft dan niet bij alle individuele gemeenten belegd te zijn. Uiteraard moet dan wel steeds weer aansluiting gezocht worden bij de verantwoordelijk bestuurders. Zoals hiervoor aan de orde kwam kan samenwerking tot het ongewenste effect leiden dat de gemeenteraad buiten spel wordt gezet. Om belangrijke vraagstukken steeds weer op het politieke niveau terug te leggen waar het hoort, lijkt de methode uit Amsterdam (Gemeente Amsterdam, 2018, 25 september) handig. We bedoelen dan dat er eerst een algemeen kader voor mensenrechten wordt vastgesteld door de gemeenteraad waarbinnen de ambtenaren mogen besluiten. Ook wordt daarbij duidelijk geformuleerd dat als een toepassing niet past en men toch vindt dat deze doorgang moet krijgen, besluitvorming daarover aan het college en/of burgemeester voorgelegd.

34

Bijlage Literatuurlijst Bijlage Literatuurlijst Aan de Stegge, Stegge,J.J.(2019, (2019, 44 mei). mei). Schoollotingen SchoollotingenininUtrecht. Utrecht.Transparante Transparanteloting lotingblijft blijftnoodzakelijk noodzakelijk kwaad. kwaad. Notariaat Magazine. Notariaat Magazine. ACM. (2020). Algoritmes.Geraadpleegd Geraadpleegdop op22 22juni juni2021, 2021,van van https://www.acm.nl/ (2020). Position Position Paper Toezicht op Algoritmes. sites/default/files/documents/position-paper-toezicht-op-algoritmes.pdf https://www.acm.nl/sites/default/files/documents/position-paper-toezicht-op-algoritmes.pdf Afdeling bestuursrechtspraakvan vande deRaad Raadvan vanState. State.(2017, (2017,17 17mei). mei).ECLI:NL:RVS:2017:1259. ECLI:NL:RVS:2017:1259. Computerrecht Afdeling bestuursrechtspraak 2017(256) Computerrecht 2017(256) AIV. (2020). in het hetCaribisch Caribischgebied: gebied:Noodzakelijke Noodzakelijkestappen stappen voor een (2020).Veiligheid Veiligheid en rechtsorde rechtsorde in voor een toekomstbestendig Koninkrijksverband.Geraadpleegd Geraadpleegd juni 2021, van https://www. toekomstbestendig Koninkrijksverband.

opop 2121 juni 2021, van adviesraadinternationalevraagstukken.nl/binaries/adviesraadinternationalevraagstukken/documenten/ https://www.adviesraadinternationalevraagstukken.nl/binaries/adviesraadinternationalevraagstukke publicaties/2020/09/10/veiligheid-en-rechtsorde-in-het-caribisch-gebied/Veiligheid_en_rechtsorde_in_het_ n/documenten/publicaties/2020/09/10/veiligheid-en-rechtsorde-in-het-caribischCaribisch_gebied_AIV-advies-116_202009.pdf gebied/Veiligheid_en_rechtsorde_in_het_Caribisch_gebied_AIV-advies-116_202009.pdf

AP. (2020, (2020,augustus). augustus). Onderzoek Onderzoek smart AP. smart cities. cities. Geraadpleegd Geraadpleegdop op21 21juni juni2021, 2021,van van https://www. https://www.autoriteitpersoonsgegevens.nl/sites/default/files/atoms/files/onderzoek_smart_cities_ autoriteitpersoonsgegevens.nl/sites/default/files/atoms/files/onderzoek_smart_cities_update_aug_2020. update_aug_2020.pdf pdf Bantema, W., W.,Westers, Westers,S.,S.,Hoekstra, Hoekstra,M., M.,Herregodts, Herregodts,R.R.& & Munneke, (2021). Black box van Bantema, Munneke, S.,S., (2021). Black box van gemeentelijke gemeentelijke onlineEen monitoring: Een wankelonder fundament onderpraktijk. een stevige praktijk. Geraadpleegd op van online monitoring: wankel fundament een stevige Geraadpleegd op 22 juni 2021, 22 juni 2021, van https://www.politieenwetenschap.nl/publicatie/politiekunde/2021/black-boxhttps://www.politieenwetenschap.nl/publicatie/politiekunde/2021/black-box-online-monitoring-bijonline-monitoring-bij-gemeenten-onderzocht-363/ gemeenten-onderzocht-363/ M.(2021). (2021).Ethiek Ethiekvoor voor juristen. juristen. Amsterdam: Amsterdam: Boom. Becker, M. Van den den Berg, Schaefer, M.T., M.T.,Muis, Muis,I.,I.,De DeGraaf, Graaf,L.,L.,Banning, Banning,R.R.&&Klein, Klein,S.S. (2021). wegnaar naareen Van Berg, D., D., Schaefer, (2021).

OpOp weg een datagedreven gemeente: Randvoorwaarden voor verantwoord datagedreven bestuur. datagedreven gemeente: Randvoorwaarden voor verantwoord datagedreven bestuur. Geraadpleegd op 21 juni 2021, van op http://mtschaefer.net/entry/op-weg-naar-een-datagedreven-gemeente/ Geraadpleegd 21 juni 2021, van http://mtschaefer.net/entry/op-weg-naar-een-datagedrevengemeente/ BIG nieuws. (2021, 8 januari). Uitbreiding kadastrale kadastrale taken taken naar naar Caribisch CaribischNederland. Nederland.BIGnieuws. BIGnieuws. Geraadpleegd op Geraadpleegd op21 21juni juni2021, 2021,van vanhttps://bignieuws.nl/uitbreiding-kadastrale-taken-naar-caribischhttps://bignieuws.nl/uitbreiding-kadastrale-taken-naar-caribischnederland/

W.(2021, (2021,17 17juni juni2021). 2021).Vrouw Vrouwdelft delftvaak vaakonderspit onderspit bij bij digitaal loket. Binnenlands Binnenlands Bestuur. Boonstra, W. Bestuur. Geraadpleegd op Geraadpleegd op22 22juni juni2021, 2021,van vanhttps://www.binnenlandsbestuur.nl/digitaal/nieuws/vrouw-delfthttps://www.binnenlandsbestuur.nl/digitaal/nieuws/vrouw-delft-vaakvaak-onderspit-bij-digitaal-loket.17357068.lynkx onderspit-bij-digitaal-loket.17357068.lynkx Broek, A.G. (2020, is afhankelijk afhankelijkvan vangunsten. gunsten.Sociale Sociale Vraagstukken. (2020, 66 mei). mei).Caribisch Caribisch deel van Nederland Nederland is Geraadpleegd op 21 juni 2021, https://www.socialevraagstukken.nl/caribisch-deel-van-nederland-isVraagstukken. Geraadpleegd opvan 21 juni 2021, van https://www.socialevraagstukken.nl/caribischafhankelijk-van-gunsten/ deel-van-nederland-is-afhankelijk-van-gunsten/

35

Van Buiren, K. & & Gerritsen, Gerritsen,M. M.(met (metmedewerking medewerking van L. Ernst) (2020). (2020). Kleine Kleine eilanden, grote uitdagingen: Het uitdagingen: Het Caribisch deel van het Koninkrijk in regionaal perspectief: presentaties, kansen en Caribisch deel van het Koninkrijk in regionaal perspectief: presentaties, kansen en oplossingen. oplossingen. Geraadpleegd op 21 juni 2021, van Geraadpleegd op 21 juni 2021, van https://www.tweedekamer.nl/sites/default/files/atoms/files/rapport_https://www.tweedekamer.nl/sites/default/files/atoms/files/rapport_-_kleine_eilanden_grote_ _kleine_eilanden_grote_uitdagingen_-_eba_-_13052020.pdf uitdagingen_-_eba_-_13052020.pdf BZK. (2021, januari). Quick scan Geraadpleegd opop 1818 juni scan voorbereiding voorbereidingop opdigitale digitaleontwrichting. ontwrichting. Geraadpleegd juni 2021, van 2021, van https://www.digitaleoverheid.nl/wp-content/uploads/sites/8/2021/02/de-QuickScan.pdf https://www.digitaleoverheid.nl/wp-content/uploads/sites/8/2021/02/de-QuickScan.pdf CBP BES. (z.d.). Jaarverslag Jaarverslag 2019. Geraadpleegd Geraadpleegd op op 21 21 juni juni2021, 2021,van vanhttps://cbpbes.com/jaarverslaghttps://cbpbes.com/jaarverslag-2019/ 2019/ Centrale Raad van Geraadpleegd op van Beroep. Beroep. (2020, 8 december). ECLI:NL:CRVB:2020:3294.

Geraadpleegd op22 22juni juni 2021, van 2021, van https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:CRVB:2020:3294 https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:CRVB:2020:3294 Cities Coalition Coalition for for Digital DigitalRights. Rights.(z.d.-a). (z.d.-a). Cities Citiesfor forDigital DigitalRights. Rights.Geraadpleegd Geraadpleegdop op1515juni juni2021, 2021,van van https:// https://citiesfordigitalrights.org/cities citiesfordigitalrights.org/cities Coalition for for Digital DigitalRights. Rights.(z.d.-b). (z.d.-b).Declaration Declarationof ofCities CitiesCoalition Coalitionfor forDigital DigitalRights. Rights. Geraadpleegd op Cities Coalition 15 juni 2021, van https://citiesfordigitalrights.org/declaration Geraadpleegd op 15 juni 2021, van https://citiesfordigitalrights.org/declaration College voor voor de deRechten Rechtenvan vande deMens. Mens.(2020). (2020). Als Alscomputers computersjejeCV CVbeoordelen, beoordelen,wie wiebeoordeelt beoordeelt dan College dan dede computers? Algoritmes en discriminatie bij werving en selectie. Geraadpleegd op 21 juni 2021, van computers? Algoritmes en discriminatie bij werving en selectie.

Geraadpleegd op 21 juni 2021, van https:// publicaties.mensenrechten.nl/file/c082761c-4322-496b-8bca-d0d2a625ae2f.pdf https://publicaties.mensenrechten.nl/file/c082761c-4322-496b-8bca-d0d2a625ae2f.pdf College voor voor de deRechten Rechtenvan vande deMens. Mens.(2020, (2020,77oktober). oktober).Handreiking: Handreiking:Digitale Digitaletoegankelijkheid. toegankelijkheid. College Geraadpleegdop op21 21juni juni2021, 2021,van van Geraadpleegd https://mensenrechten.nl/nl/publicatie/5f7d6eeb1e0fec037359c529 https://mensenrechten.nl/nl/publicatie/5f7d6eeb1e0fec037359c529

College College voor voor de deRechten Rechtenvan vande deMens. Mens.(2020, (2020,24 24november). november).Breng Brengde demenselijke menselijkemaat maatininhet hetwerk werk van van uitvoeringsorganisaties door uit te gaan van mensenrechten: Notitie voor Tijdelijke commissie uitvoeringsorganisaties door uit te gaan van mensenrechten: Notitie voor Tijdelijke commissie Uitvoeringsorganisaties. Uitvoeringsorganisaties.Geraadpleegd Geraadpleegdop op21 21juni juni2021, 2021,van van https://mensenrechten.nl/nl/toegelicht/brenghttps://mensenrechten.nl/nl/toegelicht/breng-de-menselijke-maat-het-werk-vande-menselijke-maat-het-werk-van-uitvoeringsorganisaties-door-uit-te-gaan-van uitvoeringsorganisaties-door-uit-te-gaan-van Conger, K., Fausset, R. R. &&Kovaleski, Kovaleski, S.F. S.F.(2019, (2019,14 14mei). mei).San SanFrancisco FranciscoBans BansFacial FacialRecognition Recognition Technology. The New York Times. Geraadpleegd op 15 juni 2021, van https://www.nytimes.com/2019/05/14/us/facialTechnology. The New York Times. Geraadpleegd op 15 juni 2021, van recognition-ban-san-francisco.html https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html Council of of Europe. Europe. (2019). (2019). Unboxing UnboxingArtificial ArtificialIntelligence: Intelligence:10 10steps stepstotoprotect protectHuman Human Rights. Geraadpleegd Council Rights.

op 21 juni 2021, https://rm.coe.int/unboxing-artificial-intelligence-10-steps-to-protect-human-rightsGeraadpleegd opvan 21 juni 2021, van https://rm.coe.int/unboxing-artificial-intelligence-10-steps-toe reco/1680946 64 protect-human-rights-reco/1680946e64

36

Onderzoeksrapport over opop 2121 juni CSR. (2021, 22 februari). Onderzoeksrapport overnationale nationaledigitale digitaleautonomie. autonomie.Geraadpleegd Geraadpleegd juni 2021, van https://www.cybersecurityraad.nl/actueel/nieuws/2021/02/22/onderzoeksrapport2021, van https://www.cybersecurityraad.nl/actueel/nieuws/2021/02/22/onderzoeksrapport-over-nationaleover-nationale-digitale-autonomie digitale-autonomie Faasse, P., P.,Karstens, Karstens,B.B.&&Diederen, Diederen,P.P.(2020) (2020) Raad wetenmet metdigitaliseren: digitaliseren:Hoe Hoede degemeenteraad kan Das, D., Faasse, Raad weten gemeenteraad kan sturen op de impact maatschappelijke van digitale technologie. op https:// sturen op de maatschappelijke van digitaleimpact technologie. Geraadpleegd opGeraadpleegd 21 juni 2021, van 21 juni 2021, van https://www.rathenau.nl/sites/default/files/2020-09/Raad-weten-metwww.rathenau.nl/sites/default/files/2020-09/Raad-weten-met-digitalisering-Rathenau-Instituut.pdf digitalisering-Rathenau-Instituut.pdf Van Eck, B.M.A. B.M.A.(2018). (2018).Geautomatiseerde Geautomatiseerdeketenbesluiten: ketenbesluiten: Een Een onderzoek onderzoek naar de praktijk van van geautomatiseerde ketenbesluiten geautomatiseerde ketenbesluitenover overeen eenfinancieel financieelbelang belangininrelatie relatietot totrechtsbescherming rechtsbescherming (proefschrift). (proefschrift).

Tilburg University, Tilburg. Geraadpleegd op 22 2021, van Tilburg University, Tilburg. Geraadpleegd op 22 juni 2021, vanjuni https://pure.uvt.nl/ws/portalfiles/ https://pure.uvt.nl/ws/portalfiles/portal/20399771/Van_Eck_Geautomatiseerde_ketenbesluiten.pdf portal/20399771/Van_Eck_Geautomatiseerde_ketenbesluiten.pdf M.,Zouridis, Zouridis, S. S. &&Bovens, Bovens,M. M.(2018) (2018)Algoritmische Algoritmische rechtstoepassing rechtstoepassing in Van Eck, M., in de dedemocratische democratische rechtsstaat. e rechtsstaat. NJB 2018 (2101) https://www.openrecht.nl/commentaar/f3fcf7ae-f2eb-4054-985fNJB 2018 (2101) https://www.openrecht.nl/commentaar/f3fcf7ae-f2 b-4054-985f-292c0b34cb89/ 292c0b34cb89/ Engelbert, J. & Van Zoonen, L. (2019, oktober). De noodzaak Engelbert, noodzaakvan vaneen eendigitale digitaleomgevingsvisie: omgevingsvisie:Van Van principes principes naarInpraktijk. In Feldberg, R., Van P.,M., Hopman, M., M. & K. (Reds.), naar praktijk. Feldberg, F., Haase, F., R., Haase, Van Hoesel, P., Hoesel, Hopman, Kaptein, M.Kaptein, & Kloosterman, Kloosterman,Behoorlijk K. (Reds.), datagebruik Essaybundel in Behoorlijk datagebruik dedialoogtafels openbare ruimte: dialoogtafels Essaybundel de openbare ruimte:in Van naar Van voorstellen voor nieuw naar voorstellen voorGeraadpleegd nieuw beleid (pp. 95-107). Geraadpleegd op 21 juni 2021, van beleid (pp. 95-107).

op 21 juni 2021, van https://www.digitaleoverheid.nl/wp-content/ https://www.digitaleoverheid.nl/wp-content/uploads/sites/8/2019/11/behoorlijk-datagebruik-in-deuploads/sites/8/2019/11/behoorlijk-datagebruik-in-de-openbare-ruimte.pdf openbare-ruimte.pdf Europese Commissie. Commissie. (2021, (2021, juni). Proposal Proposal AI AI Act. Act. Geraadpleegd Geraadpleegd24 24juni juni2021, 2021,van van https://digitalhttps://digital-strategy. ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificialintelligence European Union Union Agency Agencyfor forFundamental FundamentalRights. Rights.(2020-A). (2020-A).Facial Facialrecognition recognitiontechnology: technology: fundamental fundamental rights considerations in the context of law enforcement. Geraadpleegd op 21van junihttps://fra. 2021, rights considerations in the context of law enforcement. Geraadpleegd op 21 juni 2021, van https://fra.europa.eu/sites/default/files/fra_uploads/fra-2019-facial-recognition-technologyeuropa.eu/sites/default/files/fra_uploads/fra-2019-facial-recognition-technology-focus-paper-1_en.pdf focus-paper-1_en.pdf European Union Union Agency Agencyfor forFundamental FundamentalRights. Rights.(2020-B).

(2020-B).Getting Gettingthe thefuture futureright, right,artificial artificial intelligence and fundamental rights. Geraadpleegd 21 juni 2021,op van intelligence and fundamental rights.op Geraadpleegd 21https://fra.europa.eu/sites/default/files/fra_uploads/ juni 2021, van fra-2020-artificial-intelligence_en.pdf https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf European Union Union Agency Agencyfor forFundamental FundamentalRights. Rights.(2020-C). (2020-C).Annex AnnexI: I:Research Researchmethodology. methodology.InIn Getting the future artificial intelligence and fundamental rights. Geraadpleegd op 21 juni op 2021, van 2021, Gettingright, the future right, artificial intelligence and fundamental rights. Geraadpleegd 21 juni https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence-annex-1_en.pdf van https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence-annex-1_en.pdf European Union Union Agency Agencyfor forFundamental FundamentalRights. Rights.(2020-D). (2020-D).Annex AnnexII:II:Examples Examplesofoftheoretical theoretical assessment of harm and significant impact of AI or automated decisions. In Getting the future right, assessment of harm and significant impact of AI or automated decisions. In Getting the future right,

37

intelligence and artificial intelligence andfundamental fundamentalrights. rights.Geraadpleegd Geraadpleegdopop2121juni juni2021, 2021,van van https://fra.europa.eu/sites/ https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence-annex-2_en.pdf default/files/fra_uploads/fra-2020-artificial-intelligence-annex-2_en.pdf Foundation for Foundation for Best Best Practices Practices in in Machine Machine Learning. Learning.(2021), (2021),Best BestPractice PracticeGuidelines. Guidelines.Geraadpleegd Geraadpleegdopop 24 juni 24 junivan 2021, van https://www.fbpml.org/ 2021, https://www.fbpml.org/ Frissen, V. van algoritmen door V.Drouen, Drouen,T.T.&&Van VanEck, Eck,M. M.(2019). (2019).Onderzoeksrapport Onderzoeksrapporttoezicht toezicht op op het gebruik gebruik van de overheid.door Geraadpleegd 22 juni 2021,op van algoritmen de overheid.op Geraadpleegd 22https://www.rijksoverheid.nl/documenten/ juni 2021, van https://www.rijksoverheid.nl/documenten/rapporten/2019/11/25/rapport-toezicht-op-gebruik-vanrapporten/2019/11/25/rapport-toezicht-op-gebruik-van-algoritmen-door-de-overheid algoritmen-door-de-overheid

(2014, 21 21 oktober). oktober). Gartner Gartner says says advanced advanced analytics Gartner. (2014, analytics is a top top business businesspriority. priority.Geraadpleegd Geraadpleegd 24 juni 24 junivan 2021, van https://www.gartner.com/en/newsroom/press-releases/2014-10-21-gartner-says2021, https://www.gartner.com/en/newsroom/press-releases/2014-10-21-gartner-says-advancedadvanced-analytics-is-a-top-business-priority analytics-is-a-top-business-priority Gemeente Amsterdam. Amsterdam. (z.d.-a). (z.d.-a). Wat op15 15juni juni2021, 2021,van van https:// Wat isishet het algoritmeregister? algoritmeregister? Geraadpleegd Geraadpleegd op algoritmeregister.amsterdam.nl/ https://algoritmeregister.amsterdam.nl/ Gemeente Amsterdam. Amsterdam. (z.d.-b). (z.d.-b). Innovatie. Geraadpleegd Geraadpleegdop op18 18juni juni2021, 2021,van van https://www.amsterdam.nl/ innovatie/digitalisering-technologie/algoritmen/#hca72db09-4b26-41f9-9979-e8626a58da5c https://www.amsterdam.nl/innovatie/digitalisering-technologie/algoritmen/#hca72db09-4b26-41f99979-e8626a58da5c Gemeente Amsterdam. Amsterdam. (z.d.-c). (z.d.-c). Agenda Agenda Amsterdamse AmsterdamseIntelligentie.

Intelligentie.Geraadpleegd Geraadpleegdopop2323juni juni 2021, van 2021, https://www.amsterdam.nl/innovatie/digitalisering-technologie/amsterdamse-intelligentie/ van https://www.amsterdam.nl/innovatie/digitalisering-technologie/amsterdamse-intelligentie/ Gemeente Amsterdam. Amsterdam. (z.d.-d). (z.d.-d). Druktebeeld. Druktebeeld.Geraadpleegd Geraadpleegdop op25 25juni juni2021, 2021,van van https://druktebeeld. amsterdam.nl/ https://druktebeeld.amsterdam.nl/ Gemeente Amsterdam. Amsterdam. (2018, (2018, 25 september). Stedelijk Stedelijkkader kadervoor voorverwerken verwerkenvan vanpersoonsgegevens persoonsgegevens in in gemeente Amsterdam.Geraadpleegd Geraadpleegd11juni juni2021, 2021,van vanhttps://www.amsterdam.nl/privacy/privacybeleid/ gemeente Amsterdam. https://www.amsterdam.nl/privacy/privacybeleid/ Gemeente Amsterdam. Amsterdam. (2020, (2020, 3 juni). Gezamenlijk Gezamenlijkpersstatement persstatementen enverklaring verklaringover overdigitale digitale burgerrechten in tijden van corona. Geraadpleegd op 15 juni 2021, https://www.amsterdam.nl/nieuwsarchief/ burgerrechten in tijden van corona. Geraadpleegd op van 15 juni 2021, van persberichten/2020/persberichten-touria-meliani/gezamenlijk-persstatement-verklaring/ https://www.amsterdam.nl/nieuwsarchief/persberichten/2020/persberichten-touriameliani/gezamenlijk-persstatement-verklaring/ Gemeente Amsterdam. Amsterdam.

(2021, (2021, 19 januari). Datastrategie gemeente gemeenteAmsterdam: Amsterdam:Amsterdamse Amsterdamse zelfbeschikking overdata, data,2021-2022. 2021-2022.Geraadpleegd Geraadpleegdop op2121juni juni2021, 2021,van van https://www.amsterdam.nl/ zelfbeschikking over innovatie/digitalisering-technologie/amsterdamse-datastrategie/ https://www.amsterdam.nl/innovatie/digitalisering-technologie/amsterdamse-datastrategie/ Gemeente Den Den Haag. Haag. (2020), (2020), Datagedreven Datagedrevenwerken werkenvoor vooronze onzestad, stad,datastrategie datastrategie2020-2023. 2020-2023. Geraadpleegd 1 juni 2021, van https://denhaag.raadsinformatie.nl/modules/13/Overige%20bestuurlijke%20 Geraadpleegd 1 juni 2021, van stukken/572498 https://denhaag.raadsinformatie.nl/modules/13/Overige%20bestuurlijke%20stukken/572498

Gemeente Den Den Haag. Haag. (2021). (2021). Dit Dit doet doetDen DenHaag Haagmet metdata data#1 #1[Podcast]. [Podcast].Geraadpleegd Geraadpleegdop op2525juni juni 2021, van 2021, van https://soundcloud.com/user-116267703/dit-doet-den-haag-met-data-2/reposts https://soundcloud.com/user-116267703/dit-doet-den-haag-met-data-2/reposts 38

Gemeente Den Den Haag. Haag. (2021, (2021, 77 april). april). Dit Dit Doet DoetDen DenHaag Haagmet metData Data(teaser) (teaser)[Video-bestand]. [Video-bestand]. Geraadpleegd op 25 juni 2021, van https://www.youtube.com/watch?v=FT2oYWAZX8k Geraadpleegd op 25 juni 2021, van https://www.youtube.com/watch?v=FT2oYWAZX8k Gemeente Eindhoven. Eindhoven. (z.d.).Tabel (z.d.).Tabel gegevensverzamelingen. gegevensverzamelingen.Geraadpleegd Geraadpleegdopop juni 2021, van https://data. 2323 juni 2021, van eindhoven.nl/explore/dataset/dice-data-inventarisatie-en-classificatie-eindhoven/table/?disjunctive.titel_ https://data.eindhoven.nl/explore/dataset/dice-data-inventarisatie-en-classificatiedataset eindhoven/table/?disjunctive.titel_dataset Gemeente Groningen Groningen(z.d.). (z.d.). Druktekaart Druktekaart binnenstad binnenstadGroningen. Groningen.Geraadpleegd Geraadpleegd juni 2021, van https:// opop 2525 juni 2021, van e groningen.maps.arcgis.com/apps/webappviewer/index.html?id=aa7c4194c0 74389a59c6cf58ded3fbe https://groningen.maps.arcgis.com/apps/webappviewer/index.html?id=aa7c4194c0e74389a59c6cf5 8ded3fbe Gemeente Utrecht. (2021) Raadsvoorstel Digitale Digitale Stad Stad2020-2024 2020-2024..

Geraadpleegd Geraadpleegdop op23 23juni juni2021, 2021, van e e https://ris2.ibabs.eu/Agenda/Details/Utrecht/beff9 31-bd9c-4b9c-b551-895 59fe0426 van https://ris2.ibabs.eu/Agenda/Details/Utrecht/beff9e31-bd9c-4b9c-b551-895e59fe0426 Gemeente Utrecht Dataplatform. Dataplatform. (2020, (2020, 22 september). september). Algoritmeregister AlgoritmeregisterUtrecht. Utrecht.Geraadpleegd Geraadpleegdop op 15 juni 2021, https://ckan.dataplatform.nl/dataset/algoritmeregister-utrecht 15 junivan 2021, van https://ckan.dataplatform.nl/dataset/algoritmeregister-utrecht

Geraadpleegd op Godson, A. (2020, 18 november). “Digital rights are human rights”. rights”. Geraadpleegd op 15 15 juni juni 2021, 2021, van https:// van https://eurocities.eu/latest/digital-rights-interview-with-laia-bonet/ eurocities.eu/latest/digital-rights-interview-with-laia-bonet/ (2004).Beschikken Beschikken en en digitaliseren. digitaliseren. Over normering normering van Groothuis, M.M. M.M. (2004). vande deelektronische elektronischeoverheid overheid Universiteit Leiden, Leiden. (Proefschrift). Universiteit Hennekens, H. (4 mei 2021). Hoe de de burgemeester burgemeestersteeds steedsmeer meereen eensheriff sheriffwordt. wordt.Geraadpleegd Geraadpleegd opop 15 juni 15 junivan 2021, van https://www.ru.nl/cpo/verderdenken/columns/burgemeester-steeds-sheriff/ 2021, https://www.ru.nl/cpo/verderdenken/columns/burgemeester-steeds-sheriff/ Henriquez, L. (2016). Amsterdam Smart Citizens CitizensLab: Lab:Towards TowardsCommunity CommunityDriven DrivenData DataCollection. Collection. Amsterdam Smart Geraadpleegd op15 15juni juni2021, 2021,van vanhttps://waag.org/sites/waag/files/2018-07/amsterdam-smarthttps://waag.org/sites/waag/files/2018-07/amsterdam-smart-citizen-labGeraadpleegd op publicatie.pdf citizen-lab-publicatie.pdf High LevelExpert ExpertGroup Groupon onArtificial ArtificialIntelligence. Intelligence.(2019).

(2019).AAdefinition definitionofofAI:AI:Main Maincapabilities capabilitiesand and disciplines. High Level Geraadpleegd op 22 juni 2021, disciplines. Geraadpleegd op 22 van juni https://digital-strategy.ec.europa.eu/en/library/definition-artificial2021, van https://digitalintelligence-main-capabilities-and-scientific-disciplines strategy.ec.europa.eu/en/library/definition-artificial-intelligence-main-capabilities-and-scientificdisciplines Hoekstra, M. Publieke dienstverlening dienstverleningII.II.TNO. TNO. M. Chideock, Chideock, C. en Veenstra, A. A. (2021). (2021).Quick Quick Scan Scan AI in Publieke Geraadpleegd op 24 juni 2021, van https://www.rijksoverheid.nl/documenten/rapporten/2021/05/20/ Geraadpleegd op 24 juni 2021, van quickscan-ai-in-publieke-dienstverlening-ii https://www.rijksoverheid.nl/documenten/rapporten/2021/05/20/quickscan-ai-in-publiekedienstverlening-ii

Hoge Raad. Hoge Raad. (2018, 17 augustus augustus2018). 2018). ECLI:NL:HR:2018:1316. ECLI:NL:HR:2018:1316. Geraadpleegd Geraadpleegdop op22 22juni juni2021, 2021,van van https:// https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:HR:2018:1316 uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:HR:2018:1316 Van Hout, M.B.A., M.B.A.,Hertogh, Hertogh, M.L.M. M.L.M.&&Zuurmond, Zuurmond,A. A.(2021). (2021).Burgers Burgersbeter beterbeschermd: beschermd: Praktische rechtsbescherming belastingzaken.Geraadpleegd Geraadpleegd juni 2021, van rechtsbescherming ininbelastingzaken. opop 2222 juni 2021, van 39

https://www.rijksoverheid.nl/documenten/kamerstukken/2021/04/22/1rapport-burgers-beterhttps://www.rijksoverheid.nl/documenten/kamerstukken/2021/04/22/1rapport-burgers-beter-beschermd beschermd IDA. 2021 vanvan Interprovinciale Digitaliserings Agenda (IDA).(IDA). Geraadpleegd op 25 juni 2021, IDA. (2021). (2021).Jaarplan Jaarplan 2021 Interprovinciale Digitaliserings Agenda Geraadpleegd van https://www.stateninformatie.provincie-utrecht.nl/documenten/Ingekomen-stukken-van-GS-naar-PS/ op 25 juni 2021, van https://www.stateninformatie.provincieutrecht.nl/documenten/Ingekomen-stukken-van-GS-naar-PS/Jaarplan-IDA-2021.pdf Jaarplan-IDA-2021.pdf

Informatiepunt leefomgeving. Informatiepunt leefomgeving.(z.d.) (z.d.)Registratie Registratietoepasbare toepasbareregels. regels.Geraadpleegd Geraadpleegd2424juni juni2021, 2021,van van https:// https://iplo.nl/digitaal-stelsel/introductie/landelijke-voorziening/registratie-toepasbare-regels/ iplo.nl/digitaal-stelsel/introductie/landelijke-voorziening/registratie-toepasbare-regels/ Innovalor (z.d.) De Algoritme AlgoritmeKijkwijzer. Kijkwijzer.Geraadpleegd Geraadpleegdop op26 26juni juni2021, 2021,van van https://innovalor.nl/ https://innovalor.nl/algoritmewijzer algoritmewijzer Janssen, H.L. (2020). An approach approach for for a fundamental fundamentalrights rightsimpact impactassessment assessmenttotoautomated automated decisiondecision-making. International DataLaw, Privacy Law, 10(1),doi:10.1093/idpl/ipz028 76-106. doi:10.1093/idpl/ipz028 making. International Data Privacy 10(1), 76-106.

Kamerstukken II, (2020, 20 20 november). november). Geraadpleegd Geraadpleegd op Kamerstukken II, 26643, 26643, nr. 726. (2020, op22 22juni juni2021, 2021,van van https://www. https://www.rijksoverheid.nl/binaries/rijksoverheid/documenten/rapporten/2020/11/20/ek-bijlagerijksoverheid.nl/binaries/rijksoverheid/documenten/rapporten/2020/11/20/ek-bijlage-afschrift-tweedeafschrift-tweede-kamer-kabinetsreactie-op-drietal-onderzoeken-naar-algoritmen/ek-bijlagekamer-kabinetsreactie-op-drietal-onderzoeken-naar-algoritmen/ek-bijlage-afschrift-tweede-kamerafschrift-tweede-kamer-kabinetsreactie-op-drietal-onderzoeken-naar-algoritmen.pdf kabinetsreactie-op-drietal-onderzoeken-naar-algoritmen.pdf Kamphuis, B. & Pols, G. G. (2021, (2021,22juni). juni).Problemen Problemen bij bij computersysteem dat uitkeringen Kamphuis, uitkeringenregelt: regelt:‘Gaat ‘Gaat al twee al twee fout’. NOS. Geraadpleegd op 2021, 18 junivan 2021, van https://nos.nl/artikel/2383250jaar fout’jaar . NOS. Geraadpleegd op 18 juni https://nos.nl/artikel/2383250-problemen-bijproblemen-bij-computersysteem-dat-uitkeringen-regelt-gaat-al-twee-jaar-fout computersysteem-dat-uitkeringen-regelt-gaat-al-twee-jaar-fout (2020, 21 21 maart). maart).Overleg Overleg tussen VNG, Ministerie van SZW, Centric, PinkRoccade Kepinski, W. W. (2020, PinkRoccadeen en WiGo4it. WiGo4it.

Geraadpleegd op2021, 18 juni van https://dutchitchannel.nl/642124/overleg-tussen-vngGeraadpleegd op 18 juni van2021, https://dutchitchannel.nl/642124/overleg-tussen-vng-ministerie-vanministerie-van-szw-centric-pinkroccade-en-wigoit.html szw-centric-pinkroccade-en-wigoit.html ‘Culemborgers trekken zich geen Knoop, B. (2021, 12 maart). ‘Culemborgers geen bal balaan aanvan vanprovinciegrenzen’. provinciegrenzen’. Financieel FinancieelGeraadpleegd Dagblad. Geraadpleegd 15 juni van Dagblad. op 15 juniop 2021, van2021, https://fd.nl/weekend/1376062/culemborgers-trekken-zichhttps://fd.nl/weekend/1376062/culemborgers-trekken-zich-geen-bal-aan-van-provinciegrenzengeen-bal-aan-van-provinciegrenzen-qof1caqW36lc qof1caqW36lc (2016, 28 28 december). december). Scanauto’s helpen voortaan Kruyswijk, M. (2016, voortaan ook ook bij bij opsporen opsporengestolen gestolen voertuigen. Het voertuigen. Het Parool.op Geraadpleegd 25https://www.parool.nl/nieuws/scanauto-s-helpen-voortaan-ookjuni 2021, van https://www.parool.nl/nieuws/scanautoParool. Geraadpleegd 25 juni 2021,op van s-helpen-voortaan-ook-bij-opsporen-gestolen-voertuigen~baec5c70/ bij-opsporen-gestolen-voertuigen~baec5c70/ (2018, 30 30 januari). januari). Van Vanacht acht naar naar twee twee boetes boetes voor voor scooterrijder onder Rijksmuseum. Kruyswijk, M. (2018, Rijksmuseum. Het Het Parool.

Geraadpleegd opjuni 21 juni 2021, https://www.parool.nl/nieuws/van-acht-naar-tweeParool. Geraadpleegd op 21 2021, vanvan https://www.parool.nl/nieuws/van-acht-naar-twee-boetes-voorboetes-voor-scooterrijder-onder-rijksmuseum~b71315b1/#:~:text=Voorpaginascooterrijder-onder-rijksmuseum~b71315b1/#:~:text=Voorpagina-,Van%20acht%20naar%20twee%20 ,Van%20acht%20naar%20twee%20boetes%20voor%20scooterrijder%20onder%20Rijksmuseum,%27 boetes%20voor%20scooterrijder%20onder%20Rijksmuseum,%27Gerechtigheid%2C%27%20zegt%20 Gerechtigheid%2C%27%20zegt%20Lobaton Lobaton

40

Tech? Big Big onzin. De Volkskrant. Geraadpleegd Geraadpleegd op Van Kuijk, J. (2021, 18 juni). Big Tech? op21 21juni juni2021, 2021,van van https:// https://www.volkskrant.nl/wetenschap/big-tech-big-onzin~b1780264/ www.volkskrant.nl/wetenschap/big-tech-big-onzin~b1780264/ PIVA-Platform. Geraadpleegd Geraadpleegd op Link-ERS. (z.d.). PIVA-Platform. op 18 18 juni juni 2021, 2021, van van https://linkhttps://link-ers.com/resultaat/pivaers.com/resultaat/piva-platform/ platform/ Logius. toegankelijkheidsverklaringen.Geraadpleegd Geraadpleegdopop juni 2021, van https://www. Logius. (z.d.). Register van toegankelijkheidsverklaringen. 1818 juni 2021, van https://www.toegankelijkheidsverklaring.nl/register toegankelijkheidsverklaring.nl/register Van der Lugt, S. (2019, oktober). A smart Smart City City plan: plan: The The importance importanceof ofcontrolling controllingthe theflow flowand and storage of ‘the new coal’ . Geraadpleegd op 18 juni van https://www.clingendael.org/sites/default/ storage of ‘the new coal’. Geraadpleegd op2021, 18 juni 2021, van files/2019-10/Policy_Brief_A_Smart_City_Plan_October_2019.pdf https://www.clingendael.org/sites/default/files/201910/Policy_Brief_A_Smart_City_Plan_October_2019.pdf

Maas, T., T.,Van Vanden denBroek, Broek,J.J.&&Deuten, Deuten,J.J.(2017) (2017)Living Livinglabs labsin inNederland: Nederland: Van Vanopen open testfaciliteit tot levend lab. Maas, levend lab.Instituut. RathenauGeraadpleegd Instituut. Geraadpleegd 23 van juni https://www.rathenau.nl/sites/default/files/ 2021, van Rathenau op 23 juni op 2021, https://www.rathenau.nl/sites/default/files/Living%20labs%20in%20Nederland.pdf Living%20labs%20in%20Nederland.pdf Madiega, T. ethicsin inartificial artificial intelligence: intelligence:Context Contextand andimplementation. implementation. T. (2019). (2019).EU EUguidelines guidelines on ethics Geraadpleegd op21 21juni juni2021, 2021,van van https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/ Geraadpleegd op EPRS_BRI(2019)640163_EN.pdf https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_BRI(2019)640163_EN.p df

(2021).Gemeenten Gemeenten in in nood: nood: een mensenrechtenperspectief mensenrechtenperspectief op Van der Meulen, L. I.I. (2021). opde de toegankelijkheid van toegankelijkheid van maatschappelijke ondersteuning in NederlandseNTM/NJCM-Bulletin, krimpgemeenten. NTM/NJCMmaatschappelijke ondersteuning in Nederlandse krimpgemeenten. 2021(46). Bulletin, 2021(46). Netherlands and Ministerie BZK. (2019). The Netherlands and China: China:aa new newbalance. balance.Geraadpleegd Geraadpleegdop op21 21juni juni2021, 2021, van van https://www.government.nl/binaries/government/documents/policy-notes/2019/05/15/chinahttps://www.government.nl/binaries/government/documents/policy-notes/2019/05/15/china-strategy-thestrategy-the-netherlands--china-a-new-balance/LR_124102_Beleidsnota_China_ENG_V3.pdf netherlands--china-a-new-balance/LR_124102_Beleidsnota_China_ENG_V3.pdf Ministerie BZK. op 21 21 juni juni2021, 2021, van van https:// BZK.(z.d.). (z.d.).Caribisch CaribischNederland. Nederland. Geraadpleegd Geraadpleegd op https://kennisopenbaarbestuur.nl/thema/caribisch-nederland/ kennisopenbaarbestuur.nl/thema/caribisch-nederland/ Monsma, A.P. A.P.(2021). (2021).No-cure-no-pay No-cure-no-pay in WOZ en BPM: BPM: serieus serieus probleem? probleem? Weekblad Weekblad Fiscaal Recht 2021(93), 659-666. 2021(93), 659-666. Nationale AI cursus. (z.d.) https://www.ai-cursus.nl/ Nationale ombudsman.

ombudsman.(2021, (2021, 22 maart). maart). 2021/021 2021/021 Een Een burger burgerisisgeen geendataset. dataset.Geraadpleegd Geraadpleegdop op2121 juni 2021, van juni https://www.nationaleombudsman.nl/nieuws/onderzoeken/2021021-een-burger-is-geen-dataset 2021, van https://www.nationaleombudsman.nl/nieuws/onderzoeken/2021021-een-burger-isgeen-dataset

41

Nederlands Genootschap opop 1515 juni Nederlands Genootschapvan vanBurgemeesters. Burgemeesters.(z.d.) (z.d.)Bevoegdheden BevoegdhedenOOV. OOV.Geraadpleegd Geraadpleegd juni 2021, van 2021, van https://www.burgemeesters.nl/bevoegdheden https://www.burgemeesters.nl/bevoegdheden (1989). TESSEC: TESSEC: een expertsysteem expertsysteem voor Nieuwenhuis, M. A. (1989). voorde deAlgemene AlgemeneBijstandswet Bijstandswet(proefschrift). (proefschrift). Twente. Universiteit Twente, Twente. NORA. (2020). Leidraad Regelbeheer. Geraadpleegd Geraadpleegdop op24 24juni juni2021, 2021,van van https://www.noraonline.nl/wiki/ https://www.noraonline.nl/wiki/Leidraad_Regelbeheer Leidraad_Regelbeheer Omroep Flevoland. Flevoland. (2021, (2021, 1 februari). Wildgroei aan algoritmes; algoritmes; gemeente gemeenteheeft heeftgeen geenidee ideehoeveel hoeveel het er zijn. Omroep Flevoland. Geraadpleegd op 25op juni van https://www.omroepflevoland.nl/ het er zijn. Omroep Flevoland. Geraadpleegd 252021, juni 2021, van nieuws/215559/wildgroei-aan-algoritmes-gemeente-heeft-geen-idee-hoeveel-het-er-zijn https://www.omroepflevoland.nl/nieuws/215559/wildgroei-aan-algoritmes-gemeente-heeft-geenidee-hoeveel-het-er-zijn Onderzoeksraad voor veiligheid veiligheid(2019, (2019,september). september).Veiligheid Veiligheidvan vanop opafstand afstandbediende bediende bruggen. Lessen uit Onderzoeksraad voor bruggen.

het ongeval Bernhard Brug Zaandam. Geraadpleegd op 26 juni van2021, https://www.onderzoeksraad. Lessen uit hetPrins ongeval Prins Bernhard Brug Zaandam. Geraadpleegd op2021, 26 juni van nl/nl/page/12716/veiligheid-van-op-afstand-bediende-bruggen-%E2%80%93-lessen-uit-het-ongeval https://www.onderzoeksraad.nl/nl/page/12716/veiligheid-van-op-afstand-bediende-bruggen%E2%80%93-lessen-uit-het-ongeval Open Regels. Regels. (z.d.). (z.d.). Welcome to Open Open Regels. Regels.Geraadpleegd Geraadpleegdop op15 15juni juni2021, 2021,van van https://commonground. https://commonground.gitlab.io/virtueel-inkomstenloket/regels/ gitlab.io/virtueel-inkomstenloket/regels/ Overlegorgaan FysiekeLeefomgeving Leefomgeving(z.d.). (z.d.).Ethiek Ethiekenendigitalisering digitalisering fysieke leefomgeving. Overlegorgaan Fysieke inin dede fysieke leefomgeving. Geraadpleegd op21 21juni juni2021, 2021,van van https://www.overlegorgaanfysiekeleefomgeving.nl/actuele+projecten/ Geraadpleegd op https://www.overlegorgaanfysiekeleefomgeving.nl/actuele+projecten/actuele+projecten+overzicht/ actuele+projecten+overzicht/ethiek+en+digitalisering/default.aspx ethiek+en+digitalisering/default.aspx

M. (2018). (2018).The The dualistic dualistic system on the Paalman, M. the Caribbean Caribbeanpublic publicentities entitiesthat thatare arepart partofofthe the Netherlands in Netherlands in the Dutch Caribbean (masterscriptie). Public Administration, University of Twente, the Dutch Caribbean (masterscriptie). Public Administration, University of Twente, Twente. Geraadpleegd op 21 juni 2021, van https://essay.utwente.nl/75051/1/Paalman_MA_BMS.pdf Twente. Geraadpleegd op 21 juni 2021, van https://essay.utwente.nl/75051/1/Paalman_MA_BMS.pdf M. (2005). (2005).Openbaarheid Openbaarheid door source concepten Paapst, M. door open opensource: source:Over Overde detoepassing toepassingvan vanopen open source concepten op op juridische kennissystemen overheid(scriptie). (scriptie).Rijksuniversiteit RijksuniversiteitGroningen, Groningen,Groningen. Groningen.Geraadpleegd juridische kennissystemen bijbij dedeoverheid Geraadpleegd opvan 22 juni 2021, van https://mathieu.paapst.nl/wp-content/uploads/2020/07/scriptieop 22 juni 2021, https://mathieu.paapst.nl/wp-content/uploads/2020/07/scriptie-pdf.pdf pdf.pdf Passchier, R. R. (2021). (2021).Artificiële Artificiële Intelligentie Intelligentie en de rechtsstaat: Over verschuivende verschuivende overheidsmacht, overheidsmacht, Big Tech Big Tech en de noodzaak tot constitutioneel onderheid. Den Haag: Boom juridisch.

en de noodzaak tot constitutioneel onderheid. Den Haag: Boom juridisch. Puntschuh, M. Fetic, L. L. (2020). (2020).Handreichung Handreichung fur die Puntschuh, M. & Fetic, die digitale digitale Verwaltung: Verwaltung: Algorithmische Algorithmische Assistenzsysteme Assistenzsysteme gemeinwohlorientiert gestalten.opGeraadpleegd gemeinwohlorientiert gestalten. Geraadpleegd 21 juni 2021,op van21 juni 2021, van https://www.bertelsmannhttps://www.bertelsmann-stiftung.de/fileadmin/files/user_upload/Handreichung_fuer_die_digitale_ stiftung.de/fileadmin/files/user_upload/Handreichung_fuer_die_digitale_Verwaltung_Algo.Rules_12 Verwaltung_Algo.Rules_12_2020.pdf _2020.pdf 42

Raad openbaar openbaar bestuur bestuur(2013). (2013). Adviesrapport AdviesrapportVan Vanwie wieisisdeze dezehond? hond?Politieke Politiekesturing sturingopop dienstverlening en dienstverlening en ICT. Geraadpleegd ophttps://www.raadopenbaarbestuur.nl/documenten/ 24 juni 2021, van ICT. Geraadpleegd op 24 juni 2021, van https://www.raadopenbaarbestuur.nl/documenten/publicaties/2013/06/12/van-wie-is-deze-hond publicaties/2013/06/12/van-wie-is-deze-hond Raad openbaar openbaar bestuur bestuur(2021, (2021, A.). A.). Adviesrapport AdviesrapportSturen Sturenofofgestuurd gestuurdworden? worden?Over Overdede legitimiteit van sturen legitimiteit van met data. op 24 juni 2021, https://www.raadopenbaarbestuur.nl/documenten/ sturen metGeraadpleegd data. Geraadpleegd op 24 juni van 2021, van publicaties/2021/05/25/advies-sturen-of-gestuurd-worden https://www.raadopenbaarbestuur.nl/documenten/publicaties/2021/05/25/advies-sturen-ofgestuurd-worden Raad openbaar bestuur bestuur(2021, (2021, B.). B.). Adviesrapport Droomlandof ofniemandsland? niemandsland?Uitgangspunten Uitgangspunten voor het Raad openbaar Adviesrapport Droomland voor besturen vanvan regio’s. Geraadpleegd 26 juni, vanvan https://www.raadopenbaarbestuur.nl/documenten/ het besturen regio’s.

Geraadpleegd 26 juni, https://www.raadopenbaarbestuur.nl/documenten/publicaties/2021/06/24/adviesrapportpublicaties/2021/06/24/adviesrapport-droomland-of-niemandsland droomland-of-niemandsland

algoritmes. Rekenkamer Rotterdam. (2021) Gekleurde Gekleurdetechnologie: technologie:Verkenning Verkenningethisch ethischgebruik gebruik algoritmes. Geraadpleegd op Geraadpleegd op21 21juni juni2021, 2021,van vanhttps://rekenkamer.rotterdam.nl/onderzoeken/algoritmes/ https://rekenkamer.rotterdam.nl/onderzoeken/algoritmes/ Renkema, E. & Geraadpleegdop op15 15juni juni 2021, van Renkema, E. & Van Van den den Berg, Berg, D. D. (z.d.). (z.d.).De DeDigitale Digitale Raadgever Raadgever (Concept). (Concept). Geraadpleegd https://dataschool.nl/en/samenwerken/datawerkplaats/producten-en-tools/de-digitale-raadgever-concept/ 2021, van https://dataschool.nl/en/samenwerken/datawerkplaats/producten-en-tools/de-digitale-

raadgever-concept/ Handreiking non-discriminatie opop 2222 juni 2021, van Rijksoverheid. (2021). Handreiking non-discriminatieby bydesign. design.Geraadpleegd Geraadpleegd juni 2021, van https:// https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatiewww.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design by-design Rijksoverheid. (2021, 10 juni). Kamerbrief voortgang voortgangalgoritmen algoritmenen enartificiële artificiëleintelligentie. intelligentie. Geraadpleegd op Geraadpleegd op 15 juni 2021, van 15 juni 2021, van https://www.rijksoverheid.nl/documenten/kamerstukken/2021/06/10/kamerbriefhttps://www.rijksoverheid.nl/documenten/kamerstukken/2021/06/10/kamerbrief-voortgangvoortgang-algoritmen-en-artificiele-intelligentie algoritmen-en-artificiele-intelligentie

RIVM. (2020). (2020).Geïntegreerde Geïntegreerde risicoanalyse Caribisch RIVM. CaribischNederland Nederland(Analistennetwerk (AnalistennetwerkNationale Nationale Veiligheid). Veiligheid). Geraadpleegd op 21van junihttps://www.rivm.nl/sites/default/files/2020-10/Geintegreerde%20 2021, van https://www.rivm.nl/sites/default/files/2020Geraadpleegd op 21 juni 2021, 10/Geintegreerde%20risicoanalyse%20Caribisch%20Nederland.pdf risicoanalyse%20Caribisch%20Nederland.pdf Semple, K. (2020, 8 november). China China Extends ExtendsReach Reachininthe theCaribbean, Caribbean,Unsettling Unsettlingthe theU.S. U.S.The TheNew New York York Times. Geraadpleegd opjuni 21 juni 2021, van Times. Geraadpleegd op 21 2021, van https://www.nytimes.com/2020/11/08/world/americas/chinahttps://www.nytimes.com/2020/11/08/world/americas/china-caribbean.html caribbean.html

(z.d.).Welcome Welcometot tothe he SHAP SHAP documentation. documentation. Geraadpleegd SHAP. (z.d.). Geraadpleegdop op25 25juni juni2021, 2021,van van https://shap. https://shap.readthedocs.io/en/latest/index.html readthedocs.io/en/latest/index.html Spierings, algoritme-verantwoordelijkheid.Geraadpleegd Geraadpleegdopop1515juni juni 2021, van Spierings, J.J. (2021, 8 juni). Workshop: algoritme-verantwoordelijkheid. 2021, https://waag.org/nl/article/workshop-algoritme-verantwoordelijkheid van https://waag.org/nl/article/workshop-algoritme-verantwoordelijkheid

43

Van Putten, Putten, R. R. (2020). (2020).De Deverleiding verleiding van het algoritme. Streefkerk, J. en Van algoritme. Maakbaarheidsdrang Maakbaarheidsdrangin inde de datadata-samenleving geïllustreerd. Essay Staatsrechtconferentie. Universiteit Utrecht. Geraadpleegd samenleving geïllustreerd. Essay Staatsrechtconferentie. Universiteit Utrecht. Geraadpleegd op 2op juni 2021, 2 juni 2021, van https://www.uu.nl/sites/default/files/Streefkerk%2C%20Van%20Putten%20van https://www.uu.nl/sites/default/files/Streefkerk%2C%20Van%20Putten%20-%20Essay%20 %20Essay%20Staatsrechtconferentie%202020.pdf Staatsrechtconferentie%202020.pdf (z.d.).Het HetTada TadaManifest. Manifest.Geraadpleegd Geraadpleegd op op 21 21 juni juni 2021, 2021, van van https://tada.city/ https://tada.city/ Tada. (z.d.). Bas, P., P.,Van Vanden denBoogaart, Boogaart,N. N.&&Baardman, Baardman,L.L.(2020). (2020).Rapport RapportSmart Smartcities citiesin inde de G40: G40:Overzicht Teuben, H., De Bas, Overzicht versnellers en knelpunten en advies. Geraadpleegd op 21 juni 2021, van versnellers en knelpunten en advies. Geraadpleegd op 21 juni 2021, van https://www.g40stedennetwerk.nl/ https://www.g40stedennetwerk.nl/files/2020-09/rapport-Smart-Cities-in-de-G40.pdf files/2020-09/rapport-Smart-Cities-in-de-G40.pdf Thamkittikasem, Summary of of Agency AgencyCompliance ComplianceReporting. Reporting.

Geraadpleegd juni 2021, van Thamkittikasem, J.J. (2020). Summary Geraadpleegd opop 2121 juni 2021, https://www1.nyc.gov/assets/ampo/downloads/pdf/AMPO-CY-2020-Agency-Compliance-Reporting.pdf van https://www1.nyc.gov/assets/ampo/downloads/pdf/AMPO-CY-2020-Agency-ComplianceReporting.pdf Utrecht Data School. School. (z.d.). De Ethische Ethische Data Data Assistent Assistent(DEDA). (DEDA).Geraadpleegd Geraadpleegdop op15 15juni juni2021, 2021,van van https:// https://dataschool.nl/deda/ dataschool.nl/deda/ Vetzo, M.J., op21 21 juni M.J.,Gerards, Gerards,J.H. J.H.&&Nehmelman, Nehmelman,R.R.(2018). (2018).Algoritmes Algoritmesen engrondrechten. grondrechten. Geraadpleegd Geraadpleegd op 2021, van https://www.uu.nl/sites/default/files/rebo-montaigne-algoritmes_en_grondrechten.pdf juni 2021, van https://www.uu.nl/sites/default/files/rebo-montaignealgoritmes_en_grondrechten.pdf VNG. (z.d.-a). op 17 17 mei mei 2021, 2021, van van https://www. (z.d.-a). Pakketten. Pakketten. [GEMMA [GEMMASoftwarecatalogus]. Softwarecatalogus]. Geraadpleegd Geraadpleegd op https://www.softwarecatalogus.nl/pakketten?zoek=fraude softwarecatalogus.nl/pakketten?zoek=fraude VNG. (z.d.-b). op 15 15 juni juni 2021, 2021, van van https://vng.nl/artikelen/toepasbare(z.d.-b). Toepasbare Toepasbare regels. regels. Geraadpleegd Geraadpleegd op regels https://vng.nl/artikelen/toepasbare-regels VNG. (z.d.-c).

Ground.Geraadpleegd Geraadpleegdop op18 18juni juni2021, 2021,van vanhttps://vng.nl/artikelen/commonhttps://vng.nl/artikelen/common-ground (z.d.-c). Common Common Ground. ground VNG. (z.d.-d). Klankbordgroep Toepasbare Regels. Regels.Geraadpleegd Geraadpleegdop op18 18juni juni2021, 2021,van van https://vng.nl/ Klankbordgroep Toepasbare artikelen/klankbordgroep-toepasbare-regels https://vng.nl/artikelen/klankbordgroep-toepasbare-regels VNG. (2019, 11 november). voor de dedigitale digitalesamenleving. samenleving.Geraadpleegd Geraadpleegdopop2121juni juni 2021, van https:// november). Principes voor 2021, van vng.nl/sites/default/files/2019-11/09-20191101_ledenbrief_principes-voor-de-digitale-samenleving.pdf https://vng.nl/sites/default/files/2019-11/09-20191101_ledenbrief_principes-voor-de-digitalesamenleving.pdf VNG. (2020, 29 over data data in in Kennisbank Kennisbankdata data&&Smart Smartsociety. society.Geraadpleegd Geraadpleegdop op 23 juni 29 april). april). Zestig Zestig studies studies over 2021, https://www.vngrealisatie.nl/nieuws/ruim-zestig-studies-over-data-kennisbank-data-smart-society 23 junivan 2021, van https://www.vngrealisatie.nl/nieuws/ruim-zestig-studies-over-data-kennisbankdata-smart-society VNG. (2020, oktober). Richtlijnenvoor voorhet hettoepassen toepassenvan vanalgoritmen algoritmendoor doorgemeenten gemeenten oktober).

Impactanalyse Impactanalyse Richtlijnen (tweede fase): Eindrapportage. Geraadpleegdop op21 21juni juni2021, 2021,van van Eindrapportage. Geraadpleegd https://vng.nl/sites/default/files/2020-12/rapportage-impactanalyse-richtlijnen-voor-het-toepassen-vanhttps://vng.nl/sites/default/files/2020-12/rapportage-impactanalyse-richtlijnen-voor-het-toepassenalgoritmen-def_-11.pdf 44

van-algoritmen-def_-11.pdf (Ed.), Klingenberg, Klingenberg, A., Munneke, S.& S.& Tollenaar, Tollenaar,A. A.(2016). (2016).Rechtsstatelijke Rechtsstatelijkeaspecten aspecten van van de de Vonk, G. (Ed.), decentralisaties in decentralisaties in het het sociale socialedomein. domein.Geraadpleegd Geraadpleegdopop2121juni juni2021, 2021,van van https://research.rug.nl/ https://research.rug.nl/files/32021268/2016_decentralisaties_in_het_sociale_domein_full_text.pdf files/32021268/2016_decentralisaties_in_het_sociale_domein_full_text.pdf (met medewerking medewerking van De Vries, L. (met van S. S. Wijlhulzen) Wijlhulzen) (2020). (2020). Algoritmes Algoritmesen enlokale lokaleoverheden: overheden:Kansen Kansen voor voor iedereen? Geraadpleegd opjuni 21 juni 2021, iedereen? Geraadpleegd op 21 2021, van van https://vanmierlostichting.d66.nl/content/uploads/ https://vanmierlostichting.d66.nl/content/uploads/sites/296/2020/09/Algoritmes-en-lokalesites/296/2020/09/Algoritmes-en-lokale-overheden-PDF.pdf overheden-PDF.pdf & Agterberg, Agterberg, M. M. (2020). (2020).S.L.I.M. S.L.I.M.managen managenvan van AI AI in in de de praktijk: praktijk: Hoe Hoe Waardenburg, L., Huysman, M. & organisaties slimme organisaties slimme technologie technologieimplementeren. implementeren.Mediawerf. Mediawerf. (z.d.). Hoe Hoe de WOZ-waarde tot stand komt. Geraadpleegd Waarderingskamer. (z.d.).

Geraadpleegdop op18 18juni juni2021, 2021,van van https:// https://www.waarderingskamer.nl/klopt-mijn-woz-waarde/totstandkoming-woz-waarde/ www.waarderingskamer.nl/klopt-mijn-woz-waarde/totstandkoming-woz-waarde/ Wetenschappelijk Bureau GroenLinks. GroenLinks. (2019, (2019, november). november). Handvest Handvestvoor voorde deSlimme SlimmeStad: Stad:Technologie Technologie sturen Wetenschappelijk Bureau op basis waarden. Geraadpleegd op 21 op juni212021, van https://www.wetenschappelijkbureaugroenlinks. sturen opvan basis van waarden. Geraadpleegd juni 2021, van nl/handvest-voor-de-slimme-stad https://www.wetenschappelijkbureaugroenlinks.nl/handvest-voor-de-slimme-stad WiGo4IT. op 24 24 juni juni2021 2021van, van, https://www.wigo4it.nl/local/ WiGo4IT. (z.d.), (z.d.),Infographic Infographic Socrates. Socrates. Geraadpleegd Geraadpleegd op userfiles/documenten/Socrates_infographic.pdf https://www.wigo4it.nl/local/userfiles/documenten/Socrates_infographic.pdf Wijdeven, M. fraudebestrijders aan aan na na vermoedens vermoedens over M. (2021, (2021, 25 25 januari). januari).Eindhoven Eindhoven past werkwijze fraudebestrijders discriminatie. ED. Geraadpleegd op 21 2021, van https://www.ed.nl/eindhoven/eindhoven-pastover discriminatie. ED.

Geraadpleegd opjuni 21 juni 2021, van https://www.ed.nl/eindhoven/eindhovenwerkwijze-fraudebestrijders-aan-na-vermoedens-over-discriminatie~a1462b27/ past-werkwijze-fraudebestrijders-aan-na-vermoedens-over-discriminatie~a1462b27/ Van der Woude, Woude, W. W.(2015). (2015).Commentaar Commentaarop opartikel artikel125 125 van van Grondwet. Grondwet. In In E.M.H. E.M.H.Hirisch HirischBallin Ballin &&G. G.Leenknegt (Red.), Artikelsgewijs commentaar op de Grondwet. Geraadpleegd op 15 juniop 2021, van2021, https://www. Leenknegt (Red.), Artikelsgewijs commentaar op de Grondwet. Geraadpleegd 15 juni van nederlandrechtsstaat.nl/module/nlrs/script/viewer.asp?soort=commentaar&artikel=125 https://www.nederlandrechtsstaat.nl/module/nlrs/script/viewer.asp?soort=commentaar&artikel=12 5

WRR. (2011). (2011).iOverheid. iOverheid. Geraadpleegd Geraadpleegd op WRR. op24 24juni juni2021, 2021,van van https://www.wrr.nl/publicaties/ https://www.wrr.nl/publicaties/rapporten/2011/03/15/ioverheid rapporten/2011/03/15/ioverheid WRR. (2016). (2016).Big Big data datain in een een vrije en veilige veilige samenleving. WRR. samenleving.Geraadpleegd Geraadpleegdop op2222juni juni2021, 2021,van van https://www. https://www.wrr.nl/publicaties/rapporten/2016/04/28/big-data-in-een-vrije-en-veilige-samenleving wrr.nl/publicaties/rapporten/2016/04/28/big-data-in-een-vrije-en-veilige-samenleving WRR. (2019). (2019).Voorbereiden Voorbereiden op digitale WRR. digitale ontwrichting. ontwrichting.Geraadpleegd Geraadpleegdop op2626juni juni2021, 2021,van van https://www.wrr.nl/ https://www.wrr.nl/publicaties/rapporten/2019/09/09/voorbereiden-op-digitale-ontwrichting publicaties/rapporten/2019/09/09/voorbereiden-op-digitale-ontwrichting D., Voegli, Voegli, E., E.,&&Truong, Truong,J.J.(z.d.), (z.d.),Automating AutomatingNew NewYork YorkCity: City:and and(en)coding (en)coding inequality? Young, A, Yusuf, D., inequality? (Masterscriptie Harvard Kennedy School, Cambridge). Geraadpleegd 24 juni van (Masterscriptie Harvard Kennedy School, Cambridge). Geraadpleegd op 24 juniop 2021, van2021, https:// https://automating.nyc/#Porfirio automating.nyc/#Porfirio 45

Aanbevolen podcasts Aanbevolen podcasts

(Presentator). (2021, (2021,17 17juni). juni).Aflevering Aflevering 5: 5: Wat Watzijn zijnde de dilemma’s dilemma’sbij bij risicoprofilering door Achter de Molen, D. (Presentator). risicoprofilering door [Podcast]. overheidsinstanties? [Podcast]. In Podcast Het Vraagstuk. Geraadpleegd op 25 overheidsinstanties? In Podcast Het Vraagstuk. Geraadpleegd op 25 juni 2021, van https:// juni 2021, van https://mensenrechten.nl/nl/podcast-het-vraagstuk mensenrechten.nl/nl/podcast-het-vraagstuk Commissie praktische Commissie praktischerechtsbescherming rechtsbeschermingbelastingzaken. belastingzaken.(2021, (2021,2323april). april).Burgers Burgersbeter beterbeschermd beschermd [Podcast]. [Podcast]. Geraadpleegd op 25 juni 2021, van Geraadpleegd op 25 juni 2021, van https://open.spotify.com/show/7wfHO7sQ36PI5h40FJvN7B https://open.spotify.com/show/7wfHO7sQ36PI5h40FJvN7B #1 [Podcast]. [Podcast].Geraadpleegd Geraadpleegd op 25 juni Gemeente Den Den Haag. Haag. (2021). (2021). Dit Dit doet Den Haag met data #1 juni 2021, van 2021, van https://soundcloud.com/user-116267703/dit-doet-den-haag-met-data-2/reposts https://soundcloud.com/user-116267703/dit-doet-den-haag-met-data-2/reposts Datagedreven re-integratie Janse, I. (Journalist). (2020, 15 juli). Datagedreven re-integratie in in Rotterdam, Rotterdam, zo zo werkt werkt dat. dat. [Podcast]. [Podcast]. In In BOLDcast.