Adviesrapport van de externe adviescommissie digitale ethiek_Geredigeerd

Van

Adviescommissie Digitale Ethiek

Aan

College van Burgemeester en Wethouders

Kopie aan

Dar NV

Onderwerp

Advies casus Dar inzetten Vision-technologie voor zwerfafval

Datum

Februari 2025

Commissieleden contact@ade-nijmegen.nl

Ambtelijk secretaris

Adviescommissie Digitale Ethiek

Advies casus Vision voor zwerfafval Februari 2025

Advies De Adviescommissie Digitale Ethiek adviseert positief over het inzetten van Visiontechnologie door Dar binnen de kaders van de gepresenteerde pilot. Tegelijkertijd waarschuwt zij voor een aantal risico’s voor inwoners, Dar en gemeente. De commissie stelt aanvullende maatregelen voor. Zij benadrukt dat niet lichtvaardig moet worden omgegaan met een verruiming van de scope tijdens of na afloop van de pilotfase; een deel van de genoemde ideeën voor potentiële verbeteringen en extra toepassingen brengen zwaarwegende ethische risico’s met zich mee. De aanwezigheid van technologische kansen en de beste intenties alleen zijn niet voldoende om in een later stadium de scope te verruimen; dit vergt te zijner tijd een integrale heroverweging. De commissie waarschuwt bovendien voor het risico dat, wanneer het systeem na de pilotfase in gebruik wordt genomen, de ingebouwde voorzorgsmaatregelen om praktische redenen worden afgeschaft. Zij ziet dat het voor de gebruikers van het systeem waarschijnlijk grote meerwaarde heeft als het systeem wel degelijk beeldopnames maakt en deze verzendt naar een centrale opslag. Zo zijn foto’s toe te voegen aan zwerfafval-meldingen, en is het systeem te verbeteren met beelden uit de Nijmeegse praktijk. Dit gaat echter gepaard met aanzienlijke privacy- en gegevensbeschermingsrisico’s.

De ervaring leert dat, zodra een systeem eenmaal geïmplementeerd is, regelmatig zulke aanpassingen eenvoudigweg worden aangebracht, waarmee de weloverwogen oorspronkelijke opzet ingrijpend en nadelig verandert. De commissie ziet ook afhankelijkheid van één commerciële partij ontstaan. Vanuit het principe van vendor lock-in is dit voor overheden en publieke dienstverleners onwenselijk. De gemeente Nijmegen zou samen met Dar de mogelijkheden kunnen onderzoeken voor collectieve inkoop en een open source-opzet.

Beschrijving casus Dar wil een hogere mate van tevredenheid onder inwoners realiseren. Een van de kansen hiervoor is het door Dar eerder en proactief constateren van tekortkomingen in de openbare ruimte en deze zo snel en efficiënt mogelijk oplossen. Het door Dar zelf constateren is een aanvulling op de meldingen van inwoners en via de gemeente, zoals de Meld & Herstel-app. Dar onderzoekt of deze kans zich voordoet rondom zwerfafval. Door twee reguliere vuilniswagens uit te rusten met een detectiesysteem hoopt Dar zwerfafval tijdens de inzamelingsroutes automatisch te detecteren, waarna met kleinere Dar-voertuigen het zwerfafval gerichter en sneller wordt opgeruimd. Zodoende wil Dar bijdragen aan een hogere tevredenheid onder inwoners en een schoner Nijmegen. 1

Adviescommissie Digitale Ethiek

Advies casus Vision voor zwerfafval Februari 2025

Voor de automatische detectie wil Dar gebruikmaken van zogenaamde Vision-technologie. Het gaat hierbij om een camerasysteem (dashcam) dat in een vuilniswagen wordt gemonteerd en waarvan de beelden direct worden geanalyseerd en verwerkt door een AImodel. De camera’s worden gericht op de straat en de openbare ruimte nabij het voertuig. Ondanks het gebruik van camera’s worden geen camerabeelden opgeslagen of digitaal verzonden. Het AI-model draait bovendien op een minicomputer die in de voertuigcabine wordt geïnstalleerd, en wordt in de huidige opzet alleen getraind voor en ingezet bij het detecteren van zwerfafval. Dar en de gemeente Nijmegen zijn van oordeel dat er daarom in juridische zin geen verwerking van persoonsgegevens plaatsvindt, zelfs als een persoon in het zichtveld van een camera komt. Wanneer het AI-model via analyse van de beelden zwerfafval detecteert, genereert het automatisch een digitale melding. Deze melding wordt vanuit het voertuig naar een centraal systeem van Dar verzonden. In de huidige opzet zal de melding geen informatie bevatten anders dan de geografische coördinaten van het gedetecteerde zwerfafval. Aan de hand van deze coördinaten worden alle zwerfafvalmeldingen op een zogeheten GIS-kaart vastgelegd, een standaard hulpmiddel voor overheden en publieke dienstverleners.

Mocht er onverhoopt een melding worden gegenereerd die zich op basis van kadastrale kaarten niet in de openbare ruimte bevindt, dan wordt deze uit het systeem gewist. Aan de hand van de GIS-kaart kunnen planners van Dar bepalen hoe het gemelde zwerfafval het beste op te ruimen. Deze gegevens kunnen teven door beleidsmakers worden gebruikt voor het monitoren van de zwerfafvalproblematiek.

Adviesaanvraag Dar • • •

Welke adviezen kan de Adviescommissie Digitale Ethiek geven over het inzetten van Vision-technologie in de openbare ruimte? Is het beperken van de gegevensopslag zoals beschreven voldoende? Hoe kijkt de commissie er tegenaan dat de oplossing voor andere doeleinden wordt ingezet?

Bevindingen Het is de rol van de Adviescommissie Digitale Ethiek (hierna ‘commissie’) om het college van burgemeester en wethouders van de gemeente Nijmegen te adviseren binnen haar expertise op het gebied van digitale ethiek. De commissie maakt geen onderdeel uit van de gemeentelijke organisatie, werkt onafhankelijk en geeft zowel gevraagd als ongevraagd advies. Zij weegt haar digitaal ethische adviezen niet af tegen juridische, financiële, of andere belangen. Zo kan de inzet van een digitaal middel voldoen aan alle geldende wet- en regelgeving maar tegelijkertijd moreel onjuist zijn. Digitale ethiek biedt dan ook een basis om de ‘juistheid’ van een digitale toepassing te inventariseren, maar biedt geen volledig 2

Adviescommissie Digitale Ethiek

Advies casus Vision voor zwerfafval Februari 2025

toetsingskader of een integrale afweging. Dat is aan de bestuurders en ambtenaren van de gemeente. Hierna volgen de bevindingen van de commissie, opgesplitst per thema van de Code Goed Digitaal Openbaar Bestuur (CODIO): Democratie, Rechtstaat, en Bestuurskracht. Deze bevindingen zijn aangevuld met enkele overwegingen en suggesties. Omwille van de leesbaarheid wordt niet naar de volledige set van 30 CODIO-waarden verwezen, maar de commissie neemt wel alle volgens haar belangrijke waarden mee in haar advies. De commissie vindt het waardevol om eventuele minderheidsopvattingen van haar leden te vermelden. Wanneer sprake is van een opvatting waarover binnen de commissie geen consensus is bereikt, wordt dit duidelijk aangegeven.

Deel I - Democratie Burgerbetrokkenheid Suggestie: de inzet van het systeem kan worden besproken met het inwonerspanel. Suggestie: maak de kaart met gedetecteerd zwerfafval openbaar.

Transparantie Op dit moment weet de voorbijganger niet waar de camera’s voor zijn en waar de beelden voor gebruikt en/of opgeslagen worden. De adviescommissie meent dat op de voertuigen zelf vermeld moet worden dat er camera’s aanwezig zijn. Suggestie: plaats het opschrift “deze wagen monitort automatisch zwerfafval”, met indien dat past een link naar een website voor meer uitleg. Op de website van de Dar kan transparant uitgelegd worden welke gegevens verwerkt worden voor welk doel. Hierbij wordt vermeld dat niet videobeelden maar slechts verwerkte data opgeslagen worden.

Samenwerking Er is sprake van beperkte samenwerking: het beeldherkenningsysteem komt uit agrarische sector, waardoor de apparatuur hergebruikt wordt. Het is onbekend of andere gemeenten/ afvalophalers hiermee bezig zijn en er informatie/systemen/data gedeeld kan worden. De commissie adviseert dat de Dar samenwerking zoekt met andere partijen. Hierbij is te denken aan Rotterdam, waar een dergelijke ontwikkeling ook speelt.

Collectief belang Gebruik van het systeem vergroot de effectiviteit van het tegengaan van zwerfafval, en dat is een publiek belang. Bij andere toepassingen, zoals graffiti of parkeerdruk is wellicht geen of minder nadrukkelijk sprake van een collectief beleefd publiek belang. Bij elk nieuw doel moet een afweging 3

Adviescommissie Digitale Ethiek

Advies casus Vision voor zwerfafval Februari 2025

plaatsvinden of er additionele risico’s zijn. Verkopen van data dient volgens de commissie in de meerderheid van de gevallen geen publiek belang. Suggestie: Treed in contact met andere gemeenten die al werken met de technologie, om te kijken welke andere toepassingen het systeem dient, en wat de afweging daarvoor is geweest.

Duurzaamheid Voor duurzaamheid is het goed dat meer afval opgehaald wordt, en ook sneller. Bij pilot van 2 vuilniswagen is er een relatief beperkte voetafdruk, wanneer een bestaand beeldherkenningsmodel gebruikt wordt (wat het geval is). De voetafdruk kent 2 elementen: per wagen (30 Watt per wagen), en de centrale (cloud) infrastructuur. Bij lokale verwerking zal er weinig belasting zijn op de centrale infrastructuur. Het is evenwel onduidelijk wat de voetafdruk van het trainen van het model is. De technologie is op termijn ook inzetbaar voor andere publieke doelen, als bermonderhoud of onderhoud aan de infrastructuur, en dat komt ook ten goede aan duurzaamheid. Dit levert (nieuwe) datastromen op, waar per geval een nieuwe afweging en relevante toetsinggedaan moet worden.

Voorkomen van schade Het systeem zorgt niet voor schade voor personen, zolang niet andere gegevens verwerkt worden. Bij andere inzet, zoals voor parkeerdruk, parkeerovertredingen of drugsproblematiek, is schade aan personen denkbaar. De commissie wijst op het risico van een self-fulfilling prophecy: doordat in één wijk meer afval gedetecteerd wordt, kan het voor de hand liggen om meer te gaan controleren in die wijk, zodat daar nog meer gevonden wordt, maar een scheef beeld ontstaat.

Deel II – Rechtsstaat Privacy Zolang lokaal wordt verwerkt en gelabeld, en geen beelden opgeslagen worden is er geen privacy-risico. Wel zijn het risico op 'feature-creep' en een glijdende schaal aanwezig. Bij elke nieuwe functionaliteit waarin (persoons)gegevens verwerkt worden dient een geschikte en verplichte risicobeoordeling uitgevoerd te worden (bijv. PRI/DPIA/IAMA). Besef hiervan moet binnen alle 3 de betrokken organisaties leven: externe bedrijf, Dar en gemeente. 4

Adviescommissie Digitale Ethiek

Advies casus Vision voor zwerfafval Februari 2025

Menselijke autonomie De mogelijkheid voor burgers om persoonlijk te melden moet blijven bestaan, zoals de Meld & Herstel-app, en telefonisch melden. Uitlegbaarheid Verwachtingsmanagement bij inwoners is belangrijk, om agressie tegen medewerkers te voorkomen. Suggestie: overweeg ook om deze reden heldere statements op wagens, als "deze opname wordt niet bewaard".

Deel III - Bestuurskracht Wendbaarheid Het is de commissie niet duidelijk of de beeldherkenningsmodellen zelf getraind worden, bestaande modellen verfijnd worden, of dat bestaande beeldherkenningsmodellen worden geïntegreerd in een operationeel systeem. Door data inkoop en niet actuele data-vergaring is het lastiger om snel in te spelen op veranderingen, (als het ontstaan van nieuwe soorten afval of andere kleuren afvalzakken). Hiertoe is een feedback-loop wellicht wenselijk. Gemeente Nijmegen is momenteel geen leverancier om het model verder te trainen. De commissie kan zich voorstellen dat het hier in de toekomst wel van komt. Mocht dit het geval zijn dan kan dit nieuwe risico’s opleveren en deze moeten worden afgedekt.

Risicobewustzijn Het systeem kan andere informatiebronnen niet volledig vervangen. Schouwen en steekproeven blijven belangrijk. Indien het systeem voor een ander doel ingezet wordt en eventueel meer (persoons)gegevens nodig zijn kunnen andere risico’s ontstaan, die dan weer gemitigeerd moeten worden.

Veiligheid Het is een belangrijk aandachtspunt dat de aanwezigheid van camera's niet leidt tot agressie tegen Dar-medewerkers door burgers die er niet van op de hoogte zijn dat het doel van camera’s huisvuildetectie is.

Doelmatigheid De commissie schat in dat het systeem waarschijnlijk niet tot een goedkopere organisatie zal leiden, omdat eenzelfde aantal medewerkers nodig blijft, bovenop de inhuur van ontwikkelteam en technici. Wel zorgt het voor betere omgang met zwerfafval, en daarmee tot grotere tevredenheid. Het is van belang om duidelijke evaluatiecriteria op te stellen voor de pilot fase, bovenstaande kan daarin worden meegenomen. 5

Adviescommissie Digitale Ethiek

Advies casus Vision voor zwerfafval Februari 2025

Onafhankelijkheid Met de invoering van het systeem ontstaat afhankelijkheid van één commerciële partij, waardoor vendor lock-in ontstaat. Dat wil zeggen dat Dar waarschijnlijk niet langer over het Vision-systeem kan beschikken wanneer de commerciële partner ‘omvalt’ of de samenwerking beëindigd wordt. Bij opschaling na de pilotfase is het belangrijk om goede afspraken te maken over de lange-termijn beschikbaarheid van de gebruikte beeldherkenningsmodellen (escrow). Een mogelijkheid zou kunnen zijn dat Dar eigenaar wordt van het systeem, inclusief de gebruikte modellen. Suggestie: Dar en gemeente kunnen in samenwerking met andere afvalbedrijven en gemeenten kijken naar collectieve inkoop volgens de principes van Common Ground. Het ingekochte systeem kan wellicht ook open source gemaakt worden.

Controleerbaarheid Het is niet goed controleerbaar of daadwerkelijk geen beeldopnames opgeslagen worden. Suggestie: Controleer dit technisch periodiek, middels een verklaring van een onafhankelijk derde partij.

Toezicht Het is de commissie onduidelijk of en hoe toezicht geregeld is bij de inzet van dit systeem. Dit is een punt van aandacht voor de pilotfase. Menselijke eindverantwoordelijkheid Momenteel is het systeem bedoeld als aanvulling op de bestaande inzet van Darwerknemers, niet als vervanging. Dit zorgt voor een aanpassing van de werkwijze, maar mensen blijven eindverantwoordelijk. De ultieme verantwoordelijkheid ligt bij Dar, en niet bij de leverancier van het Vision-systeem.

6