1. Bijlage discussienotitie verantwoord datagebruik

Bijlage discussienotitie: Verantwoord datagebruik 1.

Inleiding

De maatschappelijke impact van data groeit sterk. Recente voorbeelden zijn het inzetten van data voor crowd control bij evenementen, de aanpak van energiearmoede en bij de aanpak van corona. De ontwikkelingen op het gebied van digitalisering en data gaan snel. Dankzij het gebruik van digitale technologieën komt ook steeds meer data beschikbaar. Het verzamelen en opslaan van data is steeds goedkoper met als gevolg dat we ook steeds meer data verzamelen, opslaan, gebruiken en delen. Dit dwingt ons tot het maken van keuzes over welke data we willen registreren, verzamelen, analyseren en ontsluiten en hoe we hierop willen sturen. Daarnaast zien we nieuwe technologieën zoals kunstmatige intelligentie en andere hulpmiddelen (datascience tools) die steeds meer waarde uit data halen. Ons leven wordt een stuk gemakkelijker gemaakt door de hoeveelheid apps en websites die we (gratis) kunnen gebruiken. En toch betalen we daarvoor een prijs. Gratis gebruik, maar wel in ruil voor data. Data wint hiermee aan belang in de samenleving. Voor heel veel partijen, zo ook voor onze stad en gemeentelijke organisatie. Als gevolg hiervan zien we zowel kansen als risico’s en uitdagingen. Kansen door data in zetten bij het verbeteren van de gemeentelijke dienstverlening. Bijvoorbeeld het voorinvullen van formulier, het geven van informatie of het digitaal melden van meldingen openbare ruimte.

Maar ook het inzetten van data voor het bouwen van digital twins.

Een Digital Twin is een digitale kopie van een fysiek object of systeem, waarin het gedrag en de prestaties van dat object of systeem worden nagebootst en gesimuleerd. Dit maakt het mogelijk om real-time informatie te genereren en te gebruiken om het object of systeem te optimaliseren, wat kan leiden tot betere prestaties en efficiëntie. Zo kunnen we onder andere de effecten van beleidskeuzes sneller inzichtelijk maken.

Risico’s en uitdagingen om op een juiste manier met de groeiende hoeveelheid data en snelle ontwikkeling van technologie om te gaan. Het vraagt om andere vaardigheden en andere manieren van organiseren . En er ligt een uitdaging om samen met inwoners en ondernemers te komen tot goede (ethische) randvoorwaarden voor de omgang met de groeiende hoeveelheid data en digitale voorzieningen in de ‘slimme stad’.

Dat de wereld om ons heen snel verandert, ervaren inmiddels ook docenten. Schrijvende kunstmatige intelligentie (Artificial Intelligence) is voor iedereen beschikbaar en wordt steeds vaker gebruikt. En ook wij hebben deze technologie (het programma ChatGPT) gebruikt bij de totstandkoming van deze notitie.

Op meerdere plekken in deze notitie is gebruik gemaakt van ChatGPT. Dit is te herkennen aan (De kaders met) dit logo :

1

2.

Nadere toelichting

Bij het gezamenlijk verdiepen van inzichten hoeven we in ’s-Hertogenbosch het wiel niet zelf opnieuw uit te vinden. Ten eerste moeten we terugvallen op (toekomstige) wetgeving die van toepassing is op data. De algemene verordening gegevensbescherming (AVG) omvat regels voor de verwerking van persoonsgegevens. En vormt hiermee de belangrijkste wettelijke basis voor verantwoord datagebruik. En er is nog veel meer wetgeving in meer of mindere mate van toepassing op data (zie kader). Op het gebied van digitalisering en innovatieve technologie ligt er nog veel juridisch werk, omdat de duiding en kaderstelling achterloopt op de snelle technologische ontwikkeling. Op Europees niveau wordt daarom gewerkt aan wetgeving die ook voor ons in steeds sterkere mate gaat bepalen hoe we met data om moeten gaan.

Ten tweede kunnen we terugvallen op voorwerk vanuit de Vereniging Nederlandse Gemeenten (VNG). Al in 2019 werd binnen de VNG, onderkend om meer richting te geven aan de wijze waarop digitalisering en dataverzameling op straat zou moeten verlopen. Zo ontstonden de ‘VNG Principes voor een digitale samenleving’. Anno 2022 volgde een aanscherping en uitbreiding hiervan1. Gemeenten hebben ingestemd met deze aanscherping en gaan er de komende jaren aan werken om de principes in de praktijk te brengen.

1

Het gaat hierbij om de volgende principes (zie ook Principes voor de Digitale Samenleving versie 2022 (vng.nl): I. Digitalisering vraagt om democratische besluitvorming II. Van maatschappelijke waarde en ethische verantwoord III. Organiseren en evalueren voor ethiek, verantwoording en controle IV. Transparantie centraal V. Rechten over data geregeld VI. Juridische basis op orde

2

3.

Afwegingen bij de vragen 1. Kernwaarden:

Kernwaarden zijn de belangrijkste waarden en overtuigingen van een organisatie of individu. Ze vormen de basis van het gedrag en de beslissingen van een organisatie of individu en helpen om richting te geven aan het handelen. De functie van kernwaarden is om de identiteit van een organisatie of individu te definiëren en om de cultuur en de sfeer binnen een organisatie te bepalen. Kernwaarden kunnen ook helpen om het vertrouwen van inwoners, medewerkers en andere stakeholders te versterken door te laten zien dat de organisatie zich houdt aan bepaalde normen en waarden. Digital Rights and Principles Factsheet (europa.eu)

Verschillende voorbeelden van uitwerkingen van kernwaarden vindt u in de kaders (Eindhoven en Tadamanifest)

De kernwaarden uit het Tada-manifest zijn opgesteld vanuit een perspectief dat de mens centraal staat. En dat transparantie, privacy, verantwoording, eigendom, beheersbaarheid en ethiek kansrijke uitgangspunten zijn voor een verantwoorde doorontwikkeling van de digitale stad. Deze kernwaarden vormen vervolgens de basis voor een verdere uitwerking van de visie op het gemeentelijk gebruik van data.

VII.

Toegankelijke, veilige en gedeelde digitale technologie

3

2. Gesprek over ethische dilemma’s Ethische dilemma's ontstaan wanneer een persoon of organisatie voor een keuze staat waarbij meerdere opties ethisch verantwoord lijken, maar waarbij de keuze voor één optie leidt tot negatieve gevolgen voor een andere partij. Ethische dilemma's zijn vaak complex en vereisen dat de betrokken partijen afwegen wat het beste is voor alle betrokken partijen, inclusief zichzelf. Er is dan niet altijd een eenduidig ‘juiste’ of ‘niet juiste’ oplossing. Verschillende waarden moeten dan tegen elkaar worden afgewogen. En soms vraagt dit ook gewoon om een politieke keuze. Het bestuur heeft dan de lastige taak om de mogelijke gevolgen van digitalisering in te schatten en deze vervolgens politiek te wegen. Verschillende gemeenten laten zich daarbij adviseren door mensen van buiten het gemeentehuis in de vorm van een ethische commissie. En waarbij we verschillende invullingen zien. Zo kiezen de gemeenten Enschede en Eindhoven voor een invulling met professionals. De gemeente Hilversum voor een vorm met inwoners. En de gemeente Amersfoort kiest juist voor in gesprek gaan met lokale platformen (vergelijkbaar met bestuurs- en wijkraden)

De gemeente Eindhoven zocht de samenwerking met een reeds actieve ethische commissie werkzaam voor de Brainport Smart District en hebben hiermee goede ervaringen.

Meer achtergrondinformatie over dit onderwerp is ook te vinden via deze link: De ethiek van datahonger - De opmars van de Ethische commissie | VNG en Gemeente Eindhoven en BSD bekrachtigen samenwerking ethische commissie - Brainport Smart District.

4

3. Transparantie Over transparantie centraal staat in de ‘Principes voor de digitale samenleving’ het volgende: “We zijn transparant en informeren inwoners en ondernemers actief over technologie en dataverzameling in de openbaar toegankelijke ruimte. Transparantie naar buiten stimuleert ook interne transparantie.” Transparantie centraal gaat erover dat we uit kunnen leggen wat en doen en hoe we dat doen. Daarbij richten we ons in eerste instantie op algoritmen, sensoren en de data zelf.

We maken binnen de gemeente ook gebruik van algoritmen. Maar niet alle algoritmen hebben evenveel impact op inwoners. Twee voorbeelden van lichte algoritmen: Inwoners moeten zich vanaf 14 jaar kunnen identificeren. Inwoners die 14 jaar worden, krijgen hierover informatie toegestuurd. Met de milieupas krijgt men toegang tot het milieustation. Men houdt de pas voor een lezer en het systeem kan bepalen of men toegang krijgt en tegen welk tarief. De slagboom tot het ‘gratis gedeelte’ gaat open op basis van sensor. De combinatie van sensor en algoritme zorgen voor een correcte afwikkeling conform de afvalstoffenverordening en de belastingverordening.

Veel gemeenten, waaronder ook de gemeente ’sHertogenbosch, hebben aanzetten gemaakt tot het opzetten van algoritme-, sensor- en dataregisters. En beperkt aantal daarvan zijn tot nog toe overgegaan tot publicatie van dergelijke registers. Zo startte de gemeente Amsterdam met een publicatie van een algoritmeregister in 2020, waar momenteel 9 algoritmen beschreven worden. Het opzetten en beheren van een algoritme- en sensorregister kan hoge kosten met zich meebrengen. Maar veel gemeenten worstelen met het dilemma wat in de registers vast te leggen. De gemeente ’s-Hertogenbosch heeft bijgedragen aan een eerste opzet voor een landelijk sensorregister (SensRNet). Maar dat is nog niet tot een landelijke uitrol gekomen. Daarom stellen wij voor om het sensorregister via de eigen website te publiceren. Bij een algoritmeregister is wel een doorbraak gerealiseerd. De staatssecretaris lanceerde in december 2022 eerste versie van een centraal algoritme register voor overheden. 12 overheidsorganisaties hebben daar circa 120 algoritmen in vastgelegd (Het Algoritmeregister van de Nederlandse overheid). De Staatssecretaris wil dat dit register in eerste instantie gevuld wordt met AI-systemen die een hoge impact op burgers hebben. Ook minder slimme systemen die veel invloed krijgen op mensen, moeten er onder vallen. Algoritmes met een hoog risico dienen in ieder geval in dit register te komen.

Het gaat dan om gezondheids- en veiligheidsrisico’s, alsmede risico’s op het vlak van fundamentele rechten. Hier blijkt dat een precieze definitie van een algoritme nog niet zo eenvoudig is.

5