1. Reflectie_EC_camera's_en_beeldherkenning_november 2022

inzicht

Informatievoorziening Telefoon 14038 www.zwolle.nl/contact

Reflectie Ethische commissie Digitalisering Gebruik van camera’s en beeldherkenning in de openbare ruimte

Versie Datum

definitief 30 januari 2023

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

Inhoud 1

Inleiding

3

2

Inzet van technologie: de bedoeling

5

3

Betrokkenen en kernwaarden

7

4

Dilemma’s

10

5

Conclusie

12

Bijlage 1. Uitkomsten peiling Acceptatie van slimme technologie

aparte bijlage

2/14

Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

1

Inleiding

Datum

Gemeenten zetten steeds vaker camera’s in voor de uitvoering van hun taken. In Zwolle kennen we uiteenlopende toepassingen. Deze variëren van ‘live’ kijken naar de camerabeelden (cameratoezicht in de binnenstad) tot het verrijken van verzamelde beelden met aanvullende informatie en analyseren van de nieuwe inzichten (Slimme binnenstad en stadslogistiek). Ook wil de gemeente mobile camera’s voor BOA’s in gebruik nemen1 en overweegt zij de toepassing van camera’s op de fiets voor afvaldetectie (Eyebike). Bij dit laatste is er sprake van een algoritme die opgeslagen camerabeelden analyseert en de uitkomst locatie-gebonden weergeeft. Per toepassing worden de privacy- (AVG) en veiligheidsaspecten van camera inzet zorgvuldig beoordeeld. Maar welke ethische aspecten spelen er bij de inzet van deze technologieën? In maart 2022 heeft het College van B&W de Ethische commissie Digitalisering opgericht. De commissie zal reflecteren op moreel ethische vragen die spelen rondom digitale (slimme) technologieën in Zwolle2.

Vanuit de hierboven geschetste context heeft de gemeente de volgende vraag aan de commissie voorgelegd: Met welke ethische aspecten moet de gemeente rekening houden bij gebruik van camera’s en beeldherkenning in de openbare ruimte? Ter illustratie van camera inzet heeft de gemeente een drietal voorbeelden aangereikt, te weten: ▪ Cameratoezicht in de binnenstad In de binnenstad van Zwolle hangen er 24 bewakingscamera’s waarmee de politie en gemeente de mogelijkheid hebben om de omgeving goed in de gaten te houden en snel in te spelen op overlast en eventuele incidenten. Het doel van het cameratoezicht is handhaving van de openbare orde op openbare plaatsen zoals de straten, maar niet de woningen. De beelden worden uitsluitend voor dat doel gebruikt. De politie bekijkt de beelden op het hoofdbureau in Zwolle. Zij kijkt met name ‘live’ mee tijdens uitgaansavonden en grote evenementen. ▪ Bodycam’s voor BOA’s Individuele camera op de borst van een BOA, gericht op het versterken van het veiligheidsgevoel van de BOA’s. ▪ Eyebike Individuele camera op de fiets, gericht op detecteren van objecten in de openbare ruimte o.b.v. AI (kunstmatige intelligentie). Het gebruik van geavanceerde digitale technologie voor beeldherkenning is een bijzonder element bij dit project.

1 Ten tijde van bespreking van dit onderwerp heeft besluit hierover in de Ethische commissie was de

gemeente bezig met de voorbereiding van het besluit, Op 13 december 2022 heeft het College besloten om BOA’s te voorzien van een bodycam. 2 Nadere informatie over de werkwijze en samenstelling van de Ethische Commissie Digitalisering is te vinden

op https://www.zwolle.nl/organisatie/adviesraden/ethische-commissie. 3/14

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

Tijdens twee bijeenkomsten van 20 juni en 24 oktober 2022 heeft de commissie het gebruik van de camera’s en beeldherkenning binnen Zwolle verkend, de onderliggende publieke waarden benoemd en dilemma’s geschetst. Uitkomst van deze gesprekken is in de vorm van een reflectie uitgewerkt in dit document. Op verzoek van de commissie heeft de gemeente een korte peiling onder de inwoners van Zwolle uitgevoerd. De inwoners zijn bevraagd over hoe ze aankijken tegen het gebruik van slimme technologie door de gemeente. Verantwoording en uitkomsten van deze peiling vindt u in bijlage 1. De uitkomsten van de peiling heeft de commissie meegenomen in haar reflectie.

4/14

Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

2

Inzet van technologie: de bedoeling

Datum

De commissie heeft zich gebogen over de inzet van camera-technologie in de geïllustreerde voorbeelden. Tijdens deze verkenning kwamen de volgende aandachtspunten op tafel. Duidelijkheid over het doel Camera’s in de openbare ruimte worden voor verschillende doeleinden ingezet. Vanuit het beleid is vaak duidelijk aangegeven waarvoor de camerabeelden gebruikt (gaan) worden. De vraag is of dit doel even duidelijk voor de omgeving is. In de binnenstad van Zwolle hangen er bordjes met de vermelding dat dit een gebied is met cameratoezicht. Zien de passanten deze borden? Weten ze wat dit betekent? Welk gevoel roept zo’n camera op: word ik gecontroleerd? Word ik – al dan niet geautomatiseerd - voortdurend in de gaten gehouden? Wellicht is een gemiddelde Zwollenaar of een bezoeker bekend met “camerabewakingsgebieden”; camera’s voor dit doel zijn al langer dan een decennia in gebruik. Bij de nieuwe toepassingen zoals bodycam’s en een camera op de fiets is de bekendheid nog niet zo groot. Zonder duidelijke uitleg kan de inzet van deze technologie op onbegrip en weerstand stuiten. Kunnen de beelden bijvoorbeeld ook voor opsporing gebruikt worden? Wordt er continue gefilmd en geanalyseerd? Of alleen in een geëscaleerde situatie? Of alleen de plaats waar afval ligt? In de gepresenteerde casussen is het ook niet even duidelijk waarvoor de beelden niet gebruikt (gaan) worden.

Kunnen de beelden ingezet worden ter preventie (bijvoorbeeld om afval te voorkomen)? Wat gebeurt er met de beelden als er naast “afval” ook een persoon in beeld komt? Bijvoorbeeld iemand die afval vaker “fout” bijplaatst? Wordt het dan interessant om over te gaan tot opsporing in plaats van het bestrijden van het symptoom? Bij het gebruik van individuele camera’s is er ook meer duiding wenselijk: wat is goed gedrag dat van de inwoner wordt verwacht? Is dit begrip een gemeenschapsgoed of is dit een sociale afspraak? Rechtvaardigt het doel het middel? Er kan spanning zitten tussen het doel – het veiligheidsgevoel, een schone stad, algehele veiligheid in de openbare ruimte - en de gekozen oplossing. Het is een feit dat opname van beelden een grote inbreuk op privacy heeft. Als er een alternatief is voor de inzet van camera’s met minder negatieve impact, dient de inzet goed overwogen te worden. Is de camera de enige oplossing? Zijn het aantal geweldsincidenten zodanig proportioneel om bodycam’s in te zetten? Actief opsporen van afval is een goed initiatief, maar moet dat via verzamelen van beelden met Eyebikes? Als hetzelfde doel met minder inbreuk op privacy kan worden gerealiseerd, dan is het raadzaam te kiezen voor een andere oplossing.

Deze gedachte sluit aan bij het subsidiariteitsbeginsel: er mag geen alternatieve methode voorhanden zijn waarmee eenzelfde (effectief en efficiënt) resultaat kan worden bereikt die minder belastend is.

5/14

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

Beeldinterpretatie Binnen de drie gepresenteerde voorbeelden gaat de technologie steeds verder: van live bekijken van beelden door mensen (cameratoezicht) naar beelden opslaan voor later gebruik (bodycam) naar systematische geautomatiseerde analyse van beelden door AI (Eyebike). Voor een buitenstaander kan het op een hellend vlak lijken. Wat gebeurt er met de opgeslagen beelden? Is het duidelijk voor de inwoner voor welk doel de beelden worden gebruikt en op welke manier? Het is ook van belang om het vertrouwen te kunnen geven dat de beelden alleen voor het benoemde doel gebruikt worden. Een ander aandachtspunt: monitoring door software die analyse op een grote schaal mogelijk maakt, is risicovol mede doordat bepaalde vooroordelen in deze software ingebouwd kunnen worden. Zorgvuldige monitoring en testing van de algoritme – wellicht zelfs door een onafhankelijke partij - is raadzaam. Monitoring van de algoritme-werking zal het cyclus compleet maken. Wederom is duidelijke communicatie van belang over de algoritme en het gebruik ervan. In geval van geautomatiseerde beeldherkenning (Eyebikes) is beeldinterpretatie ook een aandachtspunt.

Een duidelijke definitie van afval is noodzakelijk: wat wordt als afval beschouwd en wat niet en wie bepaalt dit? Het is ook van belang hoe het algoritme wordt getraind: wordt het afval goed herkend? De spreiding van verzamelde meldingen verdient ook aandacht. Met oververtegenwoordiging van beelden uit een bepaald gebied kan het beeld ontstaan dat er meer afval in dat gebied is. Hierbij is de juiste interpretatie van de uitkomsten van wezenlijk belang. Relatie met inwoner Vanuit het beleid hebben we een doelstelling omschreven voor de inzet van camera’s en beeldherkenning. Bij afvaldetectie, bijvoorbeeld, zal Eyebikes bijdragen aan de uitvoering van de gemeentelijke taak. Is er nagedacht over de bereidheid van de inwoner om mee te doen aan de beleidsintenties van de gemeente? Hoe verhoudt deze ontwikkeling zich tot het veranderde beleid van de gemeente waarbij een inwoner een maximaal aantal afvalzaken per jaar gratis kan aanvragen? Voor afvalzaken boven dat aantal moet hij betalen. Kan dit de schone stad ook negatief beïnvloeden?

6/14

Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

3

Betrokkenen en kernwaarden

Datum

Bij de inzet van technologie kun je verschillende groepen betrokkenen onderscheiden die de effecten daarvan ondervinden. Als eerste is er een groep van professionals te benoemen: handhavers en politie die reageren op verstoringen in de openbare ruimte, BOA’s die de camera dragen en beeldopnames maken, medewerkers van ROVA die reageren op de verzamelde meldingen met Eyebikes. Een andere belangrijke groep is de burgers (inwoners en bezoekers) van wie de beelden live bekeken of opgenomen worden. Tot slot is de groep ‘leveranciers van technologie’ te benoemen. De belangen van deze betrokkenen en de onderliggende waarden3 zijn verschillend. Iedere groep ondervindt immers het effect van de technologie op een andere manier. Dat verschil zien we ook terug in de waarden-inventarisatie hieronder: de waarden zijn per groep in alfabetische volgorde opgesomd; de waarden die commissie als belangrijkste ziet, zijn vet gearceerd. Inwoner van Zwolle ▪ Integriteit ▪ Privacy ▪ Rechtvaardigheid ▪ Veiligheid ▪ Verdraagzaamheid Gemeente ▪ Effectiviteit: doelmatigheid, slimme goede manier doen wat jij moet doen ▪ Integriteit ▪ Niet schaden ▪ Rechtvaardigheid (iedereen gelijk behandelen) ▪ Respect voor autonomie ▪ Schone stad ▪ Stabiliteit ▪ Veiligheid ▪ Weldoen: goed doen, het beste met inwoners voor hebben.

Bezoeker van Zwolle ▪ Beleefdheid ▪ Gemak ▪ Inzicht in de stad, zoals plattegrond, parkeermogelijkheden, en o.a. in toepassing van slimme technologie ▪ Plezier ▪ Veiligheid ▪ Verdraagzaamheid

3 Waarden zijn algemene principes die als richtinggevend voor een bepaalde praktijk worden gezien.

Waarden geven dus richting aan het handelen. / Waarden | KNMG 7/14

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

Tech leveranciers ▪ Commercieel belang ▪ Effectiviteit ▪ Openheid ▪ Privacy ▪ Veiligheid ▪ Vernieuwing: innovatie ▪ Vertrouwen: geven aan dat het allemaal goed komt, aandachtspunt is voor hoe dit concreet gemaakt wordt. Veiligheid is een waarde die bij alle groepen betrokkenen terugkomt. De betekenis van deze waarde kan wel verschillen. Voor de leveranciers zal dit een belangrijke “selling point” van hun product zijn. Voor de overige doelgroepen gaat het om het vergroten van het veiligheidsgevoelsgevoel: “jouw” data is goed afgeschermd, (voor zover van toepassing) wordt ook veilig bewaard en niet doorverkocht of misbruikt. Goed om op te merken dat verdraagzaamheid van technologie en veiligheidsbeleving kunnen verschillen, afhankelijk of het om een inwoner of een bezoeker van Zwolle gaat. Een bezoeker van Zwolle zal minder kritisch zijn over de inzet van een technologie omdat hij maar voor een korte periode in de stad aanwezig is en wordt alleen tijdens zijn bezoek geconfronteerd met een bepaalde technologie. Dat veiligheid een belangrijke waarde is, zien we ook terug in de uitkomsten van de uitgevoerde peiling (zie uitkomsten in bijlage 1 en duiding daarvan hieronder). De inwoners zijn bereid om privacy (deels) op te geven voor het vergroten van de veiligheid. Veiligheid wordt door de meeste inwoners als een ‘goed’ en belangrijk doel gezien.

Uitkomsten peiling Slimme technologie De uitkomsten van de peiling laten een duidelijk beeld zien van wat de inwoners belangrijk vinden. Het onderwerp Slimme technologie ligt inwoners aan het hart. Dit is af te leiden uit een relatief grote respons op de peiling, hoeveelheid van de opmerkingen en hoe uitgebreid deze zijn. Er is een duidelijke tweedeling te zien: een groep die positief tegen de inzet van technologie aankijkt (wel met waarborg van privacy en veiligheid van data) en een groep die heel ongerust en negatief is. Inzet van slimme technologie wordt eerder geaccepteerd als deze herkenbaar is en een duidelijk doel dient. Een meerderheid van de respondenten vindt het wenselijk om slimme technologieën in te zetten voor het merendeel van de opgesomde gemeentelijke taken. Respondenten staan het meest positief tegenover gebruik van slimme technologieën voor het waarborgen van algehele veiligheid en die van BOA’s, voor toezicht bij evenementen en voor handhaving in het verkeer. Inzet van slimme technologieën voor gemeentelijke dienstverlening wordt als minst wenselijk gevonden. 8/14

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

Voor de uitvoering van de gemeentelijke taken vindt de meerderheid van de respondenten het gebruik van sensoren en camera’s acceptabel. Respondenten staan minder positief tegenover het gebruik van microfoons en drones. Opmerkelijk is dat de geautomatiseerde analyse van data of beelden (met gebruik van algoritmes) als minder wenselijk worden aangegeven. Ruim één derde van de respondenten vindt het zelfs (zeer) onwenselijk. Als verklaring vindt de commissie dat angst en onbekendheid met de technologie de achterliggende redenen hiervoor zouden kunnen zijn. Ook het (algehele) wantrouwen tegen de overheid bij het gebruik van geautomatiseerde oplossingen en algoritmes speelt hierbij een rol. Met het feit dat de peiling onder het burgerpanel is uitgevoerd, weten we dat er een bepaalde groep inwoners is bereikt. Namelijk de groep die in een bepaalde mate zich betrokken voelt bij de gemeente en haar dienstverlening. De groep inwoners die nog verder van de gemeente af staat is met deze peiling niet bereikt. Het is denkbaar dat deze groep ook eerder tegen inzet van technologie door de gemeente is. De commissie wil ook benoemen dat onze maatschappij snel verandert; wat vijf jaar geleden nog kon, kan nu niet meer. Het draagvlak voor inzet van slimme technologieën is minder, inwoners vragen naar zekerheden over verantwoord inzet daarvan.

Dit betekent dat de gemeente geen carte blanche heeft en moet investeren in informatie naar de inwoners over welke technologie, met welk doel en op welke manier wordt ingezet.

9/14

Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

4

Dilemma’s

Datum

Als waarden met elkaar botsen, ontstaat er een moreel dilemma. Dilemma’s die de commissie ziet bij cameragebruik en beeldherkenning zijn als volgt geïdentificeerd: ▪ Rechtvaardigheid versus privacy; ▪ Veiligheid versus privacy; ▪ Veiligheid versus autonomie ▪ Weldoen versus privacy De twee belangrijkste dilemma’s 4 heeft de commissie nader besproken. Rechtvaardigheid versus privacy Bij rechtvaardigheid zijn er twee aspecten te onderscheiden: ▪ Eerlijk en juist; gelijke gevallen gelijk behandelen. Om een rechtvaardig besluit te nemen is het noodzakelijk om juist meer informatie te verkrijgen. Dit botst met privacy, waarbij juist wordt gestuurd op minimalisatie van dataverzameling. ▪ Gerechtvaardigde inzet van technologie t.o.v. onderliggend doel. In geval van gerechtvaardigde inzet van technologie constateert de commissie dat rechtvaardigheidsgevoel situationeel uit te leggen is. In een recent voorbeeld van ‘een vermist kind en verzorger’ was privacy geen issue, men vond het gerechtvaardigd om alle beschikbare beelden voor opsporing te gebruiken. Voor het vergroten van veiligheid (en veiligheidsgevoel) blijkt het gerechtvaardigd om beelden te bekijken of op te slaan. In dit geval heiligt het doel de middelen.

De vraag is: wanneer is het niet rechtvaardig? Wil je de beelden gebruiken, bijvoorbeeld, ook voor het opsporen van verkeerd parkeren of zwerfafval? De commissie waarschuwt voor het risico van het ontstaan van een ‘meet-cultuur’ waarbij alles wordt gemeten en geanalyseerd. Dit is niet ethisch verantwoord. Een ‘surveillance samenleving’ en verlies van vertrouwen van de burger liggen op de loer. Bovendien kan er sprake zijn van overregulering. Bij inzet van geautomatiseerde analyses met AI wordt het nog crucialer. Het doel moet belangrijk genoeg zijn om deze technologie in te zetten. Het gebruik van een bodycam lijkt gerechtvaardigd voor de veiligheid van BOA’s. Ook uit de peiling blijkt dat inwoners veiligheid belangrijk vinden. Tenslotte is de BOA een ambtenaar in functie en daar horen een aantal attributen bij zoal camera, pepperspray enz. bij. Tegelijkertijd kan een grote camera op de borst afschikken, het heeft met het gevoel van surveillance te maken. Dit kan op zijn beurt van invloed zijn op de rol die de gemeente aan BOA’s toebedeelt. Zouden inwoners nog een BOA aan durven te spreken? En hoe voelt de BOA zich met zo’n camera op zijn borst?

4 De waarde ‘weldoen’ ligt dichtbij de waarde ‘rechtvaardigheid’. De waarde ‘autonomie’ ligt dicht bij de

waarde ‘privacy’. 10/14

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

De commissie begrijpt de wens van de gemeente om innovatief bezig te zijn. Het benutten van de bestaande technologieën biedt zeker een kans hierin. Echter kan de ambitie ‘vernieuwend te zijn’ het doel op zich worden waardoor het maatschappelijke doel naar de achtergrond kan verschuiven of helemaal uit het oog verloren zijn. De gemeente zal scherp hierop moeten blijven. Veiligheid versus privacy Mensen willen in een veilige en prettige stad wonen. Het rekening houden met de privacy en handelen in overeenstemming met privacywetgeving dragen daaraan bij. Uit de peiling komt naar voren dat mensen bereid zijn om privacy op te geven ten gunste van veiligheid. De commissie is van mening dat de gemeente duidelijk moet aangeven – ook duidelijk en zichtbaar voor de inwoner - wanneer technologie voor de veiligheid wordt ingezet. Als voorbeeld wordt gerefereerd aan wifitracking in Enschede, waarbij “het neerzetten van de wifi-tracking bordjes” wettelijk als niet voldoende werd bevonden door de rechter. De commissie is van mening dat de gemeente scherp moet blijven tot hoever de inzet op veiligheid van de burger (gepaard met inbreuk op privacy) blijft bijdragen aan de leefbaarheid en veiligheid van de stad.

11/14

Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

5

Conclusie

Datum

Zwolle is een dynamische gemeente waar ambitie aanwezig is en er veel mogelijkheden ontstaan om camera’s en beeldherkenning in te zetten. Acceptatie van deze technologieën is niet vanzelfsprekend. Het is te verwachten dat er spanning ontstaat tussen de wens van de gemeente om te experimenteren en de acceptatie van technologie door de inwoners en stakeholders in de stad. Zorgvuldige implementatie zal de slagingskans van het gebruik van technologie doen vergroten. Randvoorwaardelijk is om de mens in het oog te houden en mogelijke (negatieve) impact van technologie af te zetten tegen het doel/ gewenste resultaat. De commissie veronderstelt dat inzet van slimme technologieën door de gemeenten lastiger is dan in de commerciële sector. De commissie opmerkt dat een gemeente eerder ‘ter verantwoording’ wordt geroepen. Acceptatie mits voor duidelijk maatschappelijk doel Voor bepaalde doelen zoals bijdrage aan veiligheid kan de inzet van camera-technologie en slimme varianten daarvan (in combinatie met AI) geaccepteerd worden mits de gemeente daarover helder communiceert. Vernieuwing an sich wordt geaccepteerd als deze aan een hoger doel bijdraagt, zoals veiligheid en rechtvaardigheid. Inzet van camera-technologie door de gemeente voor de uitvoering van haar taken zal minder vanzelfsprekend geaccepteerd worden.

De verwachting is dat, bijvoorbeeld, voor bodycam’s minder weerstand zal zijn dan voor een Eyebike. Als gemeente loop je in het tweede geval een groter risico op onrust en weerstand omdat deze inzet niet een hoger maatschappelijke doel dient. De vraag of deze technologie de best gewenste oplossing is zal opnieuw gesteld moeten worden: moet je technologie überhaupt voor dit doel willen inzetten? Het is ook aan te raden om te verkennen in hoeverre inwoners open staan voor de inzet van Eyebikes en het draagvlaak in de stad hiervoor te creëren. Bovendien zijn er andere manieren te bedenken om de stad schoon te houden. Wees alert op de glijdende schaal Op basis van de analyse ziet de commissie een soort glijdende schaal: noodzaak doelmatigheid –- gemak. Daar waar technologie echt nodig is omdat we de doelen niet op een andere manier (efficiënt) kunnen bereiken, wordt deze geaccepteerd. Hierbij wordt gedoeld op een matschappelijke doelen die verder gaan dan alleen doelmatigheid. Extra aandacht voor AI De camera’s in de stad roepen geen weerstand op, hoewel deze in combinatie met grootschalige AI-analyses ook niet klakkeloos worden geaccepteerd. De commissie is van mening dat onvoorspelbaarheid van AI en de grote schaal waarop deze wordt ingezet veel onrust en weerstand oproept.

Algoritmes en de uitkomst daarvan zie je niet, met welk doel een algoritme ingezet wordt is niet altijd even duidelijk. Ook kunnen er voorbarige conclusies getrokken worden op basis van de analyses met een algoritme. Dit kan op zijn beurt leiden tot ongewenste consequenties. Als je, bijvoorbeeld, informatie over reuma zoekt kan dit zijn omdat je er zelf ermee te maken hebt. Maar het kan ook zijn dat iemand anders in jouw omgeving (ouders of vrienden) reuma heeft. Hoe betrouwbaar 12/14

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

is dan de uitkomst van een algoritme met als doel de hoogte van een verzekeringspremie te bepalen? De commissie stelt de vraag of de gemeente een beeld heeft waarvoor zij AI wel en niet wil gaan inzetten. Het is raadzaam dat de gemeente bij voorbaat nadenkt voor welke taken zij AI wel en niet wil gebruiken. Microfoons en drones vragen ook extra aandacht De gemeente kan ook weerstand ervaren bij de inzet van microfoons en drones. De verwachting is dat deze middelen ongrijpbaar en onzichtbaar zijn en leiden tot een grote inbreuk op privacy. Als gemeente zal je met goed onderbouwd en duidelijke uitleg moeten komen waarom je deze technologieën wilt inzetten. Privacy in de schijnwerpers, sterk gerelateerd aan het doel Privacy is een lastig concept. Men is hiermee bekend en vraagt vanzelfsprekend hoe de privacy geborgd wordt. Tegelijkertijd wordt aandacht voor privacy negatief beïnvloed door een laag vertrouwen van de burger in de overheid als geheel. Het wantrouwen van de burger in digitale technologie en specifiek in algoritmes en kunstmatige intelligentie, doen nog een schepje bovenop. De wens bij de burgers om meer inzicht in en zeggenschap over eigen data te hebben, lijkt groeiende. Dit speelt overigens niet alleen in Zwolle en geldt voor alle gemeenten in Nederland. De commissie is van mening dat de mate van controle ook een belangrijk issue is bij privacy.

Gebruik van camera’s en geautomatiseerde analyse zonder uitleg en duidelijke privacy waarborgen, kunnen tot het gevoel leiden dat er van alles wordt gedaan met beelden en data van jou buiten jouw invloedssfeer. Een inwoner weet niet wie, waarom en waar zijn data bewerkt en deelt. Voor het opsporen van een terrorist die op de vlucht is zal dit geaccepteerd worden. Voor opsporing van hondeneigenaren voor het opleggen van de hondenbelasting niet. Communicatie aan de voorkant is van essentieel belang Een ethische grens komt eerder in beeld als je open en duidelijk over de inzet van technologie communiceert. Toepassing dient concreet en goed afgekaderd te zijn. Belangrijk blijft om de gegevens alleen voor het aangegeven doel te gebruiken. Hiermee versterk je de vertrouwensrelatie met de inwoner. Het vertrouwen speelt vaak ‘onder water’ mee en kan als tweede dimensie bij gebruik van technologie gezien worden. Een interessant aspect bij de inzet van camera’s is het informeren of zelfs vragen naar instemming van de inwoner. Dit aspect verdient extra aandacht bij communicatie. Uiteraard is dit context afhankelijk en speelt de urgentie van de situatie/ crisis hierin een rol. Ter vergelijking: als je diverse lichaamsmetingen – zonder instemming of informeren in de stad gaat uitvoeren roept het veel vragen op en kan tot weerstand leiden.

Echter als iemand op een brancard naar de OK wordt gebracht, worden diverse lichaamsmetingen uitgevoerd ongeacht of de persoon in kwestie al dan niet geïnformeerd is.

13/14

Datum Titel

30 januari 2023 Reflectie Ethische commissie Digitalisering

Mogelijke spanning tussen rechtvaardigheid-veiligheid-privacy Op het waardenniveau is het goed om aandacht te hebben voor een drietal waarden en de samenhang ertussen: rechtvaardigheid-veiligheid-privacy. Er kan spanning tussen deze waarden zitten. De commissie benadrukt dat transparantie over wat de gemeente doet en vindbaarheid van informatie over desbetreffende technologie hier van cruciaal belang zijn. De boete aan de gemeente Enschede vindt de commissie een mooi voorbeeld van hoe belangrijk communicatie is. De gemeente had overal bordjes geplaatst dat er wifi-tracking plaats vindt. De rechter vond dat het ‘passief’ plaatsen van de borden niet genoeg was om aan de wettelijke verplichting te voldoen. Met andere worden: een goede communicatiecampagne vooraf is noodzakelijk.

14/14