Rapport Use case slimme deurbelcameras - SDT.pdf

6.12

Allereerst kan ook voor de vermijdelijke delen de vraag worden gesteld of de AVG wel ruimte biedt aan de gemeentelijke wetgever om, ter bescherming van persoonlijke

22

levenssfeer en persoonsgegevens van voorbijgangers, de (reeds verboden en aldus onrechtmatige) verwerking van persoonsgegevens nader te reguleren bij APV. Dat is zeker geen uitgemaakte zaak, omdat dat zou betekenen dat gemeenten iets reguleren dat volgens de AVG verboden is. 6.13

Daarbij komt dat de beoogde gemeentelijke verbodsbepaling en de daaraan gekoppelde handhaving in ieder geval niet mag neerkomen op een vorm van toezicht op en handhaving van de naleving van de AVG, waaronder artikel 6, eerste lid, aanhef en onder f, AVG. Het toezicht op de naleving van de AVG, waaronder de inzet van cameratoezicht door particulieren, is immers expliciet toebedeeld aan AP (artikel 51, eerste lid, AVG jo. artikel 6, tweede lid, UAVG). Zie ook Kamerstukken II 2017/18, 34 851, nr. 3, p. 23: “De verordening biedt de mogelijkheid om één of meerdere toezichthoudende autoriteiten op te richten. In Nederland is het toezicht op de gegevensbescherming belegd bij de Autoriteit persoonsgegevens. Nederland kent geen sectorspecifieke toezichthouders. Er is geen reden om hierin bij de uitvoering van de verordening verandering aan te brengen. Hierom wordt in het onderhavige wetsvoorstel de Autoriteit persoonsgegevens aangewezen als enige toezichthoudende autoriteit in de zin van de Verordening, in artikel 6, tweede lid, van de Uitvoeringswet. Van de gelegenheid van deze implementatiewet is gebruikgemaakt om ook in de wet de naamswijziging van College bescherming persoonsgegevens naar Autoriteit persoonsgegevens in het maatschappelijk verkeer door te voeren. In de Uitvoeringswet wordt hierom consequent gesproken van Autoriteit persoonsgegevens.

De Autoriteit persoonsgegevens is verantwoordelijk voor het toezicht op de naleving van de verordening, teneinde de grondrechten en fundamentele vrijheden van personen te beschermen en het vrije verkeer van persoonsgegevens binnen de Unie te vergemakkelijken. De Autoriteit persoonsgegevens is ook als enige, en daarmee leidende, toezichthouder verantwoordelijk voor de uitvoering van de samenwerking tussen toezichthoudende autoriteiten en voor de toetsing van de conformiteit van de toetsingskaders van verschillende autoriteiten (hoofdstuk VII van de verordening). De voorzitter van de Autoriteit persoonsgegevens is ook namens de nationale toezichthoudende autoriteit lid van het Europees Comité voor gegevensbescherming.” (onderstreping toegevoegd)

6.14

In het geval de gemeentelijke regulering van de inzet van slimme deurbelcamera’s enkel strekt tot de handhaving van de AVG en de bescherming van privacy in de buitenruimte, zijn wij van oordeel dat daarmee per definitie een inbreuk wordt gemaakt op de exclusieve toezicht- en handhavingsbevoegdheid die aan de AP is toebedeeld. Wij zien in zoverre geen (juridische) ruimte voor gemeenten om een deel van de toezichtstaak van de AP op zich te nemen.

6.15

Wij onderkennen dat er in de praktijk juridisch enige onzekerheid lijkt te bestaan over de juridische ruimte om cameratoezicht op de vermijdelijke delen van de openbare

23

weg te reguleren. Opvallend is bijvoorbeeld dat de AP wél de mening lijkt te zijn toegedaan dat de burgemeester enige mogelijkheid heeft om beperkingen en/of nadere eisen te stellen aan het filmen van de openbare weg door particulieren. Zie de Beleidsregels van de AP inzake cameratoezicht (Beleidsregels voor de toepassing van bepalingen uit de Wet bescherming persoonsgegevens en de Wet politiegegevens, openbare versie – 28 januari 2016), p. 40-41: “De burgemeester is belast met de handhaving van de openbare orde (artikel 172, lid 1, Gemeentewet). Ook indien private organisaties cameratoezicht hebben ingesteld op delen van openbare plaatsen, blijft de burgemeester verantwoordelijk voor de handhaving van de openbare orde op deze plaatsen. Op welke wijze de burgemeester invulling kan geven aan zijn verantwoordelijkheid, is afhankelijk van de situatie. Zo is het mogelijk dat de burgemeester (camera)toezicht instelt op de openbare plaatsen die mede door de private organisaties worden gefilmd. Een ander voorbeeld is dat de burgemeester eisen stelt aan de reikwijdte van het cameratoezicht op de openbare plaatsen door private organisaties of aan de wijze waarop betrokkenen over dit cameratoezicht moeten worden geïnformeerd.

Voorts geldt dat de burgemeester bevoegd is om overtredingen van wettelijke voorschriften die betrekking hebben op de openbare orde, te beletten of te beëindigen (artikel 172, lid 2, Gemeentewet). Zo kan de burgemeester optreden ingeval de bepalingen van een Algemene Plaatselijke Verordening worden overtreden door de inzet van het cameratoezicht door private organisaties.” (onderstreping toegevoegd) 6.16

Wij kunnen het hierboven aangehaalde standpunt van de AP, zonder nadere motivering, juridisch niet goed volgen. Wij stellen voorop dat de door de AP aangenomen bevoegdheid, om eisen en regels te stellen door de burgemeester aan het filmen van de openbare buitenruimte, in ieder geval geen betrekking kan hebben op het filmen van de onvermijdelijke delen van de openbare weg door particulieren. Door het beperken van het gerechtvaardigde belang om de onvermijdelijke delen van de openbare weg te filmen ter bescherming van personen en eigendommen, zou immers in strijd worden gehandeld met het verbod om categoraal het gerechtvaardigde belang van particulieren te beperken (zie randnr. 6.9).

6.17

Voor het vermijdelijke deel van de openbare weg ligt dit wellicht genuanceerder. Het gerechtvaardigde belang van een particulier strekt zich niet uit tot het filmen van de vermijdelijke delen van de openbare weg. Ten aanzien van de regulering van dergelijke onrechtmatige inzet van slimme deurbelcamera’s doet zich in ieder geval niet het juridische probleem voor dat een categorale inbreuk wordt gemaakt op het gerechtvaardigde belang. Ander motief?

6.18

Het bovenstaande zou genuanceerder kunnen liggen indien gemeenten bij toepassing van hun verordenende bevoegdheid een geheel ander motief (doelstelling) nastreven

24

dan de doelstellingen die de AVG nastreeft (privacy- en gegevensbescherming). Daarbij zou gedacht kunnen worden aan de doelstelling van de bescherming van de openbare orde. Wij betwijfelen echter op voorhand sterk of de gemeente toereikend kan motiveren dat het onrechtmatig filmen van de openbare weg per definitie een inbreuk maakt op de openbare orde binnen de gemeente. Daarvoor is noodzakelijk dat de gemeente onderbouwt dat het filmen van de openbare weg leidt tot een ‘concrete of dreigende verstoring van de openbare orde’ of tot ‘een strafbaar feit dat invloed heeft op de orde en rust in de gemeentelijke samenleving’36. Slechts dan zou immers gesteld kunnen worden dat het optreden tegen het filmen kwalificeert als de handhaving van de openbare orde dat van oudsher wordt gedefinieerd als (i) de daadwerkelijke voorkoming en beëindiging van zich concreet voordoende of dreigende verstoringen van de openbare orde enerzijds en (ii) de algemene, bestuurlijke voorkoming van strafbare feiten die invloed hebben op de orde en rust in de gemeentelijke samenleving anderzijds. Dat lijkt ons in algemene zin lastig te onderbouwen. Bovendien blijft ook bij toepassing van een geheel ander motief staan dat de gemeentelijke verordening niet (het doel van) de hogere regelgeving (op onaanvaardbare wijze) mag doorkruisen (zie hierna).

Vraag 2: Doorkruist de gemeentelijke verordening (het doel van) de hogere regelgeving (op onaanvaardbare wijze)37 6.19

Aangezien wij de kans groot achten dat de AVG uitputtend is bedoeld, en wij in het beschermen van de openbare orde geen overtuigend motief zien, wordt vooralsnog niet toegekomen aan de beantwoording van deze vraag. Het staat echter vast dat voor zover de regulering sec tot doel heeft om de naleving van de AVG te borgen en de privacy en gegevens van passanten te beschermen, het beoogde verbod en de handhaving daarvan waarschijnlijk in strijd komt met de AVG en het daaruit voortvloeiende exclusieve toezicht van de AP.

6.20

Zou de gemeente slagen in haar onderbouwing dat met de regulering van de onrechtmatige inzet van slimme deurbellen een openbaar ordebelang is gemoeid, dan verwachten wij dat bij gemeentelijke regulering van het onvermijdelijke deel sprake is van een doorkruising van (het doel van) de AVG. Bij het vermijdelijke deel is dat wellicht minder evident, al zal ook in dat geval het risico bestaan dat sprake is van een doorkruising van de AVG. Daarnaast dient, los van de AVG, te worden geborgd dat de APV-bepaling niet de verbodsbepalingen van het wetboek van Sr doorkruist die zien op het heimelijk opnemen van personen in de openbare ruimte. Ook dat kan een relevante bovengrens vormen. Zie beantwoording van vraag 7 hierna.

36 37

Kamerstukken II 2012/13, 33 582, nr. 3, p. 4. Zie wederom de Conclusie van P-G E.J. Hofstee van 2 juni 2020, ECLI:NL:PHR:2020:517, overweging 29; en verder o.a.: HR 24 september 2021, ECLI:NL:HR:2021:1360, r,o. 3.1.1-3.1.10; ABRvS 15 mei 2019, ECLI:NL:RVS:2019:1583, r.o. 2.2.

25

7

Wat is de reikwijdte van de gemeentelijke verordenende bevoegdheid, met name in relatie tot artikel 139b Sr en artikel 441b Sr en in het licht van de AVG? Zoals reeds toegelicht in paragraaf 6 is het sterk de vraag of gemeentelijke regulering een aanvulling mag vormen op de AVG. Als die drempel (toch) gehaald wordt, dan zal de gemeentelijke regelgeving óók binnen de grenzen van het Wetboek van Strafrecht (Sr) moeten blijven. In dat kader zal de APV-verbodsbepaling naar zijn aard en motief moeten verschillen van de verbodsbepalingen van artikel 139b en/of artikel 441b Sr. Deze bepalingen strekken sec tot het beschermen van de persoonlijke levenssfeer. Reeds dit verschil in motief maakt dat zich geen wezenlijk risico (meer) voordoet dat met de APV-verbodsbepalingen in strijd wordt gehandeld met de bovengrens van deze artikelen, mits een dergelijke APV-bepaling niet hetzelfde handelen reguleert. Wij lichten dit toe.

7.1

Het wetboek van Sr kent diverse bepalingen die zien op het verbieden van het opnemen van beelden of gesprekken die plaatsvinden op de openbare weg. Relevant in dit verband zijn onder meer artikel 139b Sr (het heimelijk opnemen van gesprekken buiten een woning, besloten lokaal of erf met een technisch hulpmiddel) en artikel 441b Sr (het heimelijk vervaardigen van afbeelding van personen op een voor het publiek toegankelijke plaats). Mocht gemeentelijke regulering een aanvulling op de AVG vormen, dan dient zoals gezegd nog te worden getoetst of het betreffende APVverbod qua bovengrens niet in strijd komt met bestaande strafbaarstellingen in Sr.

7.2

Wij stellen in dit verband voorop dat de strafbepalingen van Sr uitdrukkelijk niet zien op het rechtmatig gebruik van camera’s, waaronder slimme deurbelcamera’s, en aldus überhaupt niet ingrijpen in het gerechtvaardigde belang van particulieren om het onvermijdelijke deel van de weg te filmen. Daar komt voorts bij dat de APVverbodsbepaling geen kopie/dubbeling mag inhouden van een bestaande verbodsbepaling van het wetboek van Sr. In de APV dient dus een andere gedraging strafbaar te worden gesteld, met een ander motief. Zie de conclusie van AG Spronken van 2 november 2021, ECLI:NL:PHR:2021:1028: “8.3 Op zichzelf is de gemeentelijke regelgever vrij om het onderwerp van een hogere regeling aan te vullen, maar de gemeentelijke regeling mag niet met de hogere in strijd zijn. Aanvullen betekent ook dat de lagere regelgeving geen hogere regelgeving mag kopiëren. De gemeentelijke verordening moet dus een andere gedraging strafbaar stellen dan de hogere regeling, waarbij die gedraging wel aan de door de hogere regeling verboden gedraging mag raken. (…) 8.4 Voor de toepasselijkheid van art. 121 Gemeentewet en de beantwoording van de vraag of een gemeentelijke verordening een hogere regeling mag aanvullen, is het ook van belang of de verordening een onderwerp regelt waarin reeds door een hogere regeling is voorzien.

Er is sprake van eenzelfde onderwerp, indien het object van de hogere en de lagere regeling en het

26

motief of doel ervan hetzelfde zijn. Als het motief van de gemeentelijke verordening afwijkt van het motief van de hogere regeling, wordt aangenomen dat zij een ander onderwerp regelen en kunnen zij, in beginsel, naast elkaar bestaan. Dat motief kan blijken uit de tekst van de regeling, de rubricering van bepalingen (de kopjes in de verordening), de titel van het hoofdstuk in de verordening waarin de betreffende bepaling is opgenomen of uit bijvoorbeeld de considerans.” 7.3

Voor de beantwoording van de vraag van de VNG is aldus bepalend wat de reikwijdte en het motief is van de verbodsbepalingen in het wetboek van Sr.

7.4

Artikel 139b Sr luidt als volgt: “1. Met gevangenisstraf van ten hoogste drie maanden of geldboete van de derde categorie wordt gestraft hij die, met het oogmerk een gesprek dat elders dan in een woning, besloten lokaal of erf wordt gevoerd af te luisteren of op te nemen, dat gesprek met een technisch hulpmiddel heimelijk: 1°. anders dan in opdracht van een deelnemer aan dat gesprek afluistert; 2°. zonder deelnemer aan dat gesprek te zijn en anders dan in opdracht van zulk een deelnemer opneemt. 2. Artikel 139a, tweede lid, onder 1° en 3°, is van overeenkomstige toepassing.”

7.5

Dit artikel richt zich tegen het afluisteren en opnemen van een gesprek dat elders dan in een woning, besloten lokaal of erf wordt gevoerd, bijvoorbeeld op de openbare weg of in de auto. De verbodsbepaling strekt tot het beschermen van het privéleven van derden tegen bedreigingen die worden veroorzaakt door het gebruik van moderne afluister- en opname apparatuur.

7.6

Voor strafbaarstelling onder deze bepaling is vereist dat het afluisteren of opnemen heimelijk geschiedt. Of sprake is van heimelijkheid hangt af van de omstandigheden van het geval. In het algemeen zal goede zichtbaarheid van het technisch hulpmiddel, waarvan in geval van een slimme deurbelcamera sprake zal zijn, voor het opheffen van de heimelijkheid voldoende zijn. Daarbij wegen wij mee dat het een feit van algemene bekendheid is dat middels slimme deurbellen beelden en geluiden worden geregistreerd. Deze kenbaarheid wordt nog verder vergroot, als de aanwezigheid van een slimme deurbelcamera kenbaar wordt gemaakt door middel van stickers of waarschuwingsborden. Van belang daarbij is overigens wel dat duidelijk blijkt uit de stickers of enkel beelden of ook geluid geregistreerd wordt.

7.7

Een ‘gesprek’ heeft in de openbare ruimte een andere definitie dan in private sferen. De wetgever licht toe dat geluidsopnamen van een menigte niet onder de reikwijdte van dit artikel vallen, ook als daarin flarden van gesprekken zijn te onderscheiden.38 Dit maakt dat het opvangen van een gesprek door middel van een slimme deurbelcamera niet zonder meer leidt tot strafbare gedragingen.

38

Kamerstukken II 1967/68, 9419, nr. 3, p. 7.

27

7.8

Artikel 441b Sr luidt: “Met hechtenis van ten hoogste twee maanden of geldboete van de derde categorie wordt gestraft hij die, gebruik makende van een daartoe aangebracht technisch hulpmiddel waarvan de aanwezigheid niet op duidelijke wijze kenbaar is gemaakt, van een persoon, aanwezig op een voor het publiek toegankelijke plaats, wederrechtelijk een afbeelding vervaardigt.”

7.9

Wanneer het cameratoezicht zonder duidelijke aanduiding plaatsvindt ten aanzien van een voor het publiek toegankelijke ruimte39, levert dit een overtreding40 van artikel 441b Sr op. Ook deze verbodsbepaling strekt tot de bescherming van de persoonlijke levenssfeer. Voor deze verbodsbepaling geldt dat een live weergave van een persoon, door middel van een aangebrachte of geïnstalleerde camera, een strafbare gedraging oplevert.41 Ook deze verbodsbepaling strekt tot het beschermen van het privéleven van derden tegen bedreigingen die worden veroorzaakt door het gebruik van moderne afluister- en opname apparatuur.

7.10

Als het handhaven van de openbare orde als motief aan gemeentelijke regulering ten grondslag ligt, dan zal de APV-verbodsbepaling naar zijn aard en motief verschillen van de verbodsbepalingen van artikel 139b en/of artikel 441b Sr. Deze bepalingen strekken immers sec tot het beschermen van de persoonlijke levenssfeer. Daarmee zou het risico op strijd met de bovengrens van bovengenoemde bepalingen afnemen. Tegelijkertijd zal een gemeente die slimme deurbellen via de APV reguleert, goed moeten kunnen onderbouwen wat hun voorschrift toevoegt ten opzichte van deze strafrechtelijke verbodsbepalingen. Of een gemeente hierin slaagt, zal afhankelijk zijn van de insteek en feitelijke onderbouwing die zij geeft in het kader van de openbare orde.

8

Kan een verordening inspelen op nieuwe digitale ontwikkelingen ten opzichte van slimme deurbelcamera’s, zoals het verbieden van specifieke nieuwe features? Bij het verbieden van specifieke nieuwe features, zien wij dezelfde juridische belemmeringen en risico’s als beschreven bij paragraaf 6. Voor de beantwoording van deze vraag verwijzen wij dus naar paragraaf 6.

39

40 41

Een plaats is voor het publiek toegankelijk wanneer deze feitelijk voor een in beginsel onbeperkt aantal personen toegankelijk is, zoals de openbare weg. Daarnaast is een plaats voor het publiek toegankelijk wanneer deze weliswaar voor een bepaalde groep van personen openstaat, maar die groep in beginsel een onbeperkt aantal personen kan omvatten. Zie Kamerstukken II 2000/01, 27 732, 3, p. 5. Wij merken op dat artt. 139a-139d Sr misdrijven zijn. Kamerstukken II 2000/01, 27 732, 3, p. 7.

28

9

Is het mogelijk dat een gemeentelijke verordening specifieke productvoorschriften oplegt, zoals het gebruik van een afsluitbaar klepje dat moet worden opgetild bij het aanbellen of andere vormen van privacy-bydesign?

9.1

Voor de beantwoording van deze vraag verwijzen we naar paragraaf 6. Het maakt voor de ruimte in een gemeentelijke verordening om slimme deurbelcamera’s te reguleren niet uit of sprake is van een verbod of (slechts) van beperkingen in de zin van productvoorschriften. Voor de beantwoording van deze vraag verwijzen wij dus naar paragraaf 6.

29

10

Ethische analyse

10.1

Inleiding In aanvulling op de juridische analyse hiervoor zijn tevens de ethische risico’s van het gebruik van deurbelcamera’s geanalyseerd en de mogelijkheden om deze, al dan niet door middel van aanvullende regelgeving, te mitigeren. Dit hoofdstuk start met een toelichting op het hiervoor gehanteerde kader. Vervolgens wordt aan de hand van een vijftal deelvragen de ethische impact van het gebruik van deurbelcamera’s in kaart gebracht. In de paragraaf 10.3 vatten we de bevindingen uit de analyse samen en formuleren we een aantal conclusies en aanbevelingen. De in deze analyse overwogen ethische risico’s zijn geïdentificeerd o.b.v. een ethische voorstudie (opgenomen in Bijlage 1). Een ‘ethisch risico’ in het kader van technologiegebruik is een nadelig effect voor belanghebbenden dat mogelijk kan optreden als gevolg van het gebruik van de technologie.42 Aanvullend op dit begrip, maken we gebruik van een theoretisch kader dat behulpzaam is voor het begrijpen van de waardenspanningen rondom het gebruik van slimme deurbellen. In dit theoretisch kader figureren twee begrippen:

▪

▪

Responsible by design: Bij de beoordeling van het gebruik van deurbelcamera’s wordt de gedachte van responsible by design als uitgangspunt genomen. Dit houdt in dat voordat technologie wordt ingezet, er over ethiek, sociale impact en de relatie met de relevante wet- en regelgeving nagedacht moet worden.43 Door bij het ontwerp van digitale technologie over deze zaken na te denken, kunnen sommige ethische, sociale en juridische problemen voorkomen worden. Zonder het toepassen van responsible by design loopt men het risico dat die problemen zich (onverwachts) later in de levenscyclus van de technologie laten zien. Betekenisvolle, menselijke controle. Ten tweede speelt bij sommige ethische risico’s de vraag hoe we betekenisvolle, menselijke controle kunnen uitoefenen over de slimme deurbellen.44 De verschillende partijen die met het systeem interacteren, dienen via hun eigen ‘interface’ met het systeem een begrijpelijke mate van controle uit te kunnen oefenen. In de interactie met digitale technologie accentueert ‘betekenisvolle, menselijke controle’ het belang van de waarden respect, transparantie en zelfbeschikking. Telkens achten wij de volgende vraag ook relevant: wie moet hier de controle uitoefenen om welke belanghebbende te beschermen? En bovendien: welke grenzen kunnen er door burgers zelf effectief gesteld worden?

Beide begrippen ondersteunen (i) de identificatie van ethische risico’s en (ii) het formuleren van aanbevelingen t.a.v. de ethische risico’s. 10.1.1

De wenselijkheidsvragen Op basis hiervan zijn de vragen die in de ethische analyse worden behandeld: 1. Is het wenselijk om het gebruik van slimme deurbelcamera’s aan banden te leggen vanwege ethische informatiebeveiligingsrisico’s?

42

D.M. Douglas, J. Lacey, J., en D. Howard, “Ethical risk for AI.” AI and Ethics 5 (2024): 2189–2203. https://doi.org/10.1007/s43681-024-00549-9 43 Zie hiervoor: https://highberg.com/nl/insights/whitepaper-responsible-by-design-in-de-publieke-sector. 44 S. Umbrello, “Meaningful Human Control over Smart Home Systems: A Value Sensitive Design Approach,” HUMANA.MENTE Journal of Philosophical Studies 13, no.37 (2020): 40–65. https://iris.unito.it/retrieve/e27ce430-106c-2581-e053-d805fe0acbaa/315-Article%20Text-1017-1-1020200716%20%282%29.pdf.

30

2. 3. 4.

5.

Hebben slimme deurbelcamera’s onwenselijke ethische consequenties op sociaal vlak? Zijn er ethische risico’s m.b.t. het respecteren van belangen van passanten en omwonenden? Hoe groot is het risico van ‘function creep’,45 waarbij de toepassing verschuift naar surveillance of biometrische categorisering, en is dit een ethische grond voor aanvullende regulering? Zijn er technische aanpassingen van slimme deurbelcamera’s mogelijk die de ethische risico’s uit de eerdere vragen mitigeren?

Bij de beantwoording van deze vragen wordt met name gekeken naar ethische redenen die geen betrekking hebben op de handhaving van privacy en gegevensbescherming in het kader van de AVG. Hoewel alle vragen een relatie hebben met het idee responsible by design, ziet vraag (3) specifiek op het idee van betekenisvolle, menselijke controle. De in dit hoofdstuk gepresenteerde inzichten in ethische risico’s zijn primair gericht aan de Nederlandse gemeenten, maar zijn meervoudig bruikbaar. Behalve voor gemeenten kunnen aanbevelingen tevens waardevol zijn voor andere organisaties die regulering of maatregelen t.a.v. slimme deurbelcamera’s overwegen, zoals de AP. 10.2

Ethische analyse van wenselijkheidsvragen binnen het juridische kader Uit het Nationaal onderzoek percepties slimme deurbellen van Slimme Deurbellen Consortium en Ipsos komt naar voren dat respondenten voornamelijk slimme deurbellen hebben omdat ze ‘het fijn vinden om op afstand te kunnen zien wie er voor de deur staat’ en ‘het een veiliger gevoel geeft’ (respectievelijk 70% en 62% van de respondenten).46 Tegenover de hoofdredenen die er voor consumenten zijn om slimme deurbelcamera’s te gebruiken, plaatsen we in deze analyse een aantal ethische risico’s. Dit is niet alleen relevant voor de VNG, maar ook voor bezitters van slimme deurbelcamera’s en andere burgers. Te meer omdat uit hetzelfde onderzoek blijkt dat deze groepen nog weinig hebben nagedacht over de bijeffecten van slimme deurbelcamera’s. Uit de juridische analyse bleek dat de wetgeving die op het gebruik van de slimme deurbelcamera’s van toepassing is de gemeenten weinig ruimte geeft. Kort samengevat is de ruimte van de gemeente beperkt tot handhaven van het filmen van het vermijdelijke deel van de openbare weg, vanuit een ander motief dan handhaving van de AVG (bijvoorbeeld in het kader van de openbare orde). Los van deze bevoegdheidsvraag, kunnen er ook andere, meer ethische redenen zijn die het wenselijk maken om het gebruik van slimme deurbelcamera’s aan banden te willen leggen.

Deze redenen staan dan los van wat de camera precies waarneemt en hebben met name betrekking op de maatschappelijke effecten van het gebruik van slimme deurbelcamera’s, en laten zich niet reduceren tot louter privacy. Hierna worden vragen t.a.v. de volgende maatschappelijke waarden behandeld: ▪ Rechtvaardigheid; ▪ Respect; ▪ Saamhorigheid; 45

46

Bij ‘function creep’ verschuift de oorspronkelijke toepassing naar een andere toepassing, waarvoor weer andere (ethische) risico’s gelden. Nadere toelichting volgt in paragraaf 2.4. Slimme Deurbellen Consortium en Ipsos i&o, Nationaal onderzoek percepties slimme deurbellen, (juli 2025). https://privacyfirst.nl/wp-content/uploads/Rapport-onderzoek-Slimme-Deurbellen-Ipsos-IO.pdf.

31

▪ ▪ ▪

Transparantie; Veiligheid; en Vrijheid.

Deze publieke waarden komen tevens terug in de samenvattende matrix in par. 10.3. Verschillende partijen hebben wisselend belang bij het beschermen van bovenstaande waarden. In deze analyse beperken we ons tot de effecten ervan op de volgende groepen: ▪ Eigenaren van de slimme deurbelcamera’s; ▪ Overheden, zoals gemeenten, politie en justitie ▪ Leveranciers en ontwerpers van slimme deurbelcamera’s; ▪ Omwonenden; ▪ Passanten in de openbare ruimte.

Afbeelding 1: Belanghebbendenkaart van de slimme deurbelcamera uit (Torp Dideriksen, 2022) Iedere volgende paragraaf (10.2.1 t/m 10.2.5) behandelt een van de hoofdvragen gerelateerd aan een ethisch risico. De ethische analyse is t.b.v. de overzichtelijkheid op hoofdlijnen weergegeven. Voor een verdieping verwijzen wij naar Bijlage 1, de ethische voorstudie naar de ethische risico’s van slimme deurbelcamera’s. Deze studie is breder opgezet dan hier in de rapportage is weergegeven, namelijk zonder relatie met het juridische kader.47 Per vraag wordt het volgende besproken: ▪ Het ethische risico onderliggend aan de vraag; ▪ Voor wie het een risico is en waarom; ▪ Welke aanbevelingen voor het mitigeren van dit risico relevant zijn.

47

De bronnen die geraadpleegd zijn om de ethische analyse te motiveren (juli 2025), zijn gedeeltelijk terug te vinden in de ethische voorstudie. Tijdens de beantwoording van de hoofdvragen (september 2025) is hierop voortgebouwd, maar men heeft niet geschroomd aanvullende relevante informatie en bronnen toe te voegen wanneer dat relevant bleek.

32

10.2.1

Is het wenselijk is om het gebruik van slimme deurbelcamera’s aan banden te leggen vanwege ethische informatiebeveiligingsrisico’s? Informatiebeveiliging is een compliance domein op zichzelf. Gebrekkige informatiebeveiliging is echter tevens een bron van ethisch risico, voornamelijk voor degene wiens data of directe omgeving het betreft. Hier bespreken we het ethische risico dat optreedt als een kwaadwillende actor gebruik wil maken van de beelden van de deurbelcamera. Dit is relevant om na te gaan of er bij slimme deurbelcamera’s extra aandacht aan dit risico moet worden besteed. ETHISCH RISICO. (Misbruik van deurbelcamera bij gebrekkige informatiebeveiliging) Exploitatie van kwetsbaarheden in de informatiebeveiliging door een kwaadwillende actor. OMSCHRIJVING. In de afgelopen periode zijn slimme deurbelcamera’s meerdere keren in opspraak gekomen vanwege problemen met informatiebeveiliging.48 Een voorbeeld uit 2020 laat zien hoe een kwade actor misbruik kan maken van de positionering van de deurbel: de eigenaren van de camera zijn na een hackactie bedreigd en racistisch bejegend.49 Een voorbeeld uit 2022 is de kwetsbaarheid van de Ring-deurbel op het gebied van WiFi deauthenticatie.50 WiFi deauthenticatie is een hackingaanval waarbij een geauthentiseerde gebruiker wordt losgekoppeld en een kwade actor diens plaats inneemt.

Hypothetisch beschouwd kunnen ook passanten hiervan het doelwit zijn. Ook is er vaker sprake geweest van het delen van opnames van deurbelcamera’s met daarop gevoelige beelden, al dan niet middels hacking ontvreemd.51 De veiligheid van de deurbelmodellen die op dit moment worden (en zijn) verkocht vormt daarom een ethisch risico. Mogelijk leidt dit tevens tot een misdrijf of bedreiging van de openbare orde.52 Een voorbeeld van een voor de overheid relevant ethisch informatiebeveiligingsrisico is buitenlandse spionage door het hacken van deurbellen van (top)ambtenaren. Het risico op buitenlandse spionage is reëel, omdat er in toenemende mate sprake is van cyberdreigingen. Het op (grote) schaal aanwenden van de beelden van deurbelcamera’s zou voor een kwade actor waardevolle informatie kunnen opleveren. Ook is een gerichte cyberaanval op deurbellen van ambtenaren niet vergezocht; er is immers eerder misbruik gemaakt van persoonsgegevens van ambtenaren. Voorbeeld hiervan is het uitvoeren van hackingaanvallen op toegangspassen. RISICODRAGER. Bij gebrekkige informatiebeveiliging is het voornamelijk de bezitter van de deurbelcamera c.q. de gebruiker van de beelden die risico loopt. Dit omdat het zijn of haar data zijn die gestolen kunnen worden en deze persoon dus het doelwit zou kunnen zijn van mogelijke vervolgacties van de kant van de partij die over de beelden kan beschikken.

Degenen die vastgelegd worden op de beelden worden niet als grote risicodragers gezien (los van het privacyrisico dat voor hen speelt). Dit omdat het misbruik dat kwaadwillende actoren zouden kunnen maken van deze beelden zich beperkt tot situaties waarin opnames voor deze personen belastend zijn, wat alleen in uitzonderingssituaties het geval zal zijn. Naast bezitters van deurbellen zijn, zoals 48

David Buil-Gil, Steven Kemp, Stefanie Kuenzel, Lynne Coventry, Sameh Zakhary, Daniel Tilley en James Nicholson, “The digital harms of smart home devices: A systematic literature review,” Computers in Human Behavior 145 (2023): 107770. https://doi.org/10.1016/j.chb.2023.107770. 49 Buil-Gil, et al., “The digital harms of smart home devices: A systematic literature review.” 50 Mozilla, “Mozilla Publishes Ring Doorbell Vulnerability Following Amazon’s Apathy,” 6 juni 2023). https://www.mozillafoundation.org/en/blog/mozilla-publishes-ring-doorbell-vulnerability-followingamazons-apathy/. 51 S. A. Snijder, “How smart is your doorbell?” MSc Thesis (Technische Universiteit Delft, 2024). https://resolver.tudelft.nl/uuid:2005fccc-ddc6-4d2d-b05a-c068233752b3. 52 Het op grote schaal hacken van opnames deurbelcamera’s kan tevens een risico zijn m.b.t. Nederlands digitale autonomie. Omdat hier tot op heden hier nog weinig onderzoek naar is gedaan, laten we dit in deze analyse buiten beschouwing.

33

hierboven beschreven, ook de Nederlandse overheid en haar vertegenwoordigers risicodragers. AANBEVELING. Er zijn geen aanwijzingen dat slimme deurbelcamera’s informatiebeveiligingsrisico’s introduceren die nieuw zijn voor andere smart home systems.53 Hoewel waakzaamheid gepast is, is er geen reden voor regulering die specifiek gericht is op securityrisico’s m.b.t. de deurbelcamera’s.54 Het onderwerp ligt niet in de rede voor gemeentelijke regulering. De toelaatbare kwaliteit van de informatiebeveiliging is een onderwerp voor Nederlandse en Europese warenautoriteiten, niet een onderwerp voor gemeentelijke regulering. Los van die negatieve conclusie, is de positieve conclusie dat er meer bewustzijn gewekt mag worden over het kwaadwillende gebruik van slimme deurbelcamera’s dat voortkomt uit gebrekkige informatiebeveiliging. Het is verstandig om de kwaliteit van de informatiebeveiliging van slimme deurbelcamera’s te monitoren en als overheid burgers over basismaatregelen te informeren. VERDIEPING. Zie punt (3) in Bijlage 1. Zie voor ‘digitale autonomie’ punt (4). 10.2.2

Hebben slimme deurbelcamera’s onwenselijke ethische consequenties op sociaal vlak? Het gebruik van slimme cameradeurbellen staat niet los van de bredere ontwikkeling van de maatschappelijke sentimenten omtrent veiligheid. Zoals de focusgroepen van het onderzoek van Slimme Deurbellen Consortium en Ipsos duidelijk maken, is er sprake van een toenemende mate van gevoelens van onveiligheid en argwaan onder Nederlandse burgers over de veiligheid van hun woonomgeving, wat een van de hoofdredenen voor het gebruiken van een slimme cameradeurbel is.55 Het gebruik van een slimme cameradeurbel lijkt op het eerste oogpunt een oplossing voor de toenemende angst aangaande de buurt, maar kan ook leiden tot sociale spanningen. Hier gaat het volgende ethische risico over. ETHISCH RISICO. (Sociale erosie) Sociale erosie veroorzaakt door bijeffecten van de ‘blik van de deurbel’. OMSCHRIJVING. Er kan sprake zijn van het ethische risico van sociale erosie doordat men voor de veiligheid overmatig gaat vertrouwen op de deurbelcamera’s, in plaats van op het wederzijdse toezicht van buren en sociale controle. Het selectieve beeld van de deurbel en de veiligheid van een ‘blik op de weg’ kunnen een averechts effect hebben.

De perceptie van een afname van veiligheid heeft als effect dat men elkaar in toenemende mate wantrouwt en daardoor surveilleert, wat als bijeffect de vermindering van de sterkte van de lokale sociale cohesie heeft.56 Het kan bijdragen aan ede onterechte aanname dat mensen in de directe omgeving niet te vertrouwen zijn. Ook kunnen de deurbelcamera’s de indruk wekken dat ‘gevaarlijke vreemdelingen’ zomaar kunnen opduiken. Dit werkt volgens sommigen een ‘verkliksamenleving’57 in de hand, waarbij geïsoleerde buurtgenoten angstvallig vreemde voorvallen in hun buurt documenteren, interpreteren en delen. Dit kan tevens schadelijke effecten hebben op de mentale gezondheid van burgers, zo vermoedt men. Het effect van sociale erosie kan 53

Arnar Pétursson, “Ethical Hacking of a Ring Doorbell,” MSc Thesis in Computer Science (KTH Royal Institute of Technology, 2023). https://www.diva-portal.org/smash/get/diva2:1751192/FULLTEXT01.pdf. 54 Zie Bijlage 1 voor een aantal technische basismaatregelen voor leveranciers en gebruikers. 55 Slimme Deurbellen Consortium en Ipsos i&o, Nationaal onderzoek percepties slimme deurbellen, p. 28. 56 Thijs Turèl, “Smart doorbell cameras pose a danger to our society,” AMS Institute (16 januari 2024). https://www.ams-institute.org/news/smart-doorbell-cameras-pose-a-danger-to-our-society/. Zie voor een Nederlandse vertaling: Thijs Turèl, “Slimme deurbellen zijn een gevaar voor onze samenleving,” Trouw (16 januari 2024). https://www.trouw.nl/opinie/slimme-deurbellen-zijn-een-gevaar-voor-onzesamenleving~b0d84768/. 57 Privacy First, “De Verkliksamenleving,” (16 maart 2024), laatst bijgewerkt op 2 april 2025. https://privacyfirst.nl/artikelen/de-verkliksamenleving/.

34

daardoor geworteld zijn in (i) het idee dat er sprake is van massasurveillance; (ii) het idee veelvoudig geobserveerd te worden door omwonenden; of (iii) confirmatiebias aan de kant van de observerende eigenaar van de cameradeurbel. In de communicatie tussen burgers over slimme deurbelcamera’s spelen spanningen over vertrouwen, harmonie, veiligheid, autonomie en vrijheid een rol.58 RISICODRAGER. Dit ethische risico wordt gedragen door burgers, namelijk wanneer hun onderlinge sociale banden verslechteren of er vormen van angst door worden versterkt. AANBEVELING. Bij dit ethische risico is het twijfelachtig of aanvullende regulering een effectieve strategie is om het risico te mitigeren. Als aanbeveling kan worden gedacht aan het informeren van burgers over de mogelijke effecten van slimme deurbelcamera’s voor hun buurt. Een (landelijke) informatiecampagne of buurtbijeenkomsten en besprekingen zijn middelen die hiervoor gebruikt kunnen worden. Denk hierbij aan een advies om buren en omwonenden in te lichten over het gebruik van een deurbel en waarom daarvoor gekozen, of het maken van afspraken in de buurt over de richting van de cameralens en hoe lang opnames worden bewaard. Het onderzoek van het Slimme Deurbellen Consortium komt tot een soortgelijke conclusie onder de noemer van ‘Kennis verhogen’.

Tevens kan gedacht worden aan het introduceren van maatregelen die sociale cohesie moeten vergroten, losstaand van slimme deurbelcamera’s om het negatieve effect op de sociale cohesie te compenseren. VERDIEPING. Zie punt (5) in Bijlage 1. Zie ook de bespreking van het begrip ‘sousveillance’ in punt (2). 10.2.3

Zijn er ethische risico’s m.b.t. het respecteren van passanten en omwonenden? Naast privacy zoals bedoeld in de AVG, zijn er andere redenen om aan te denken als het aankomt op het respectvol behandelen van burgers. Hier behandelen we ‘zelfbeschikking’ en ‘uitlegbaarheid’. ETHISCH RISICO 1. (Ondermijning van zelfbeschikking) De zelfbeschikking van passanten en omwonenden wordt ondermijnd door het gebrek aan ‘opt-out’ of ‘opt-in’ mogelijkheden voor interactie met de blik van de slimme cameradeurbel. OMSCHRIJVING 1. Voor de vastlegging van (bezoekende) passanten is geen sprake van geïnformeerde toestemming. Noch is er sprake van een ‘opt-in’ mogelijkheid, waarbij de bezoeker of passant kiest wat er van haar wordt vastgelegd. De bezoeker of passant is overgeleverd aan de blik van de slimme deurbel, wat tegen diens wil kan zijn. Personen kunnen hierdoor een zogeheten ‘chilling effect’ ervaren: het vervreemdende gevoel tot object van observatie gemaakt te worden, dat er tevens toe kan leiden dat men zich anders gaat gedragen dan zonder de aanwezigheid van een camera het geval zou zijn. Het ethische risico is hier dat er sprake is van een gebrek aan betekenisvolle menselijke controle aan de kant van de bezoeker of passant.

Los van de relatie met privacy die dit begrip heeft, kan het uitoefenen van een registratieve actie zonder toestemming van betrokkene als niet respectvol worden beschouwd, omdat het inbreuk maakt op hun recht op zelfbeschikking. Dit is een ethisch risico dat zich momenteel op grootschalige basis manifesteert.59 ETHISCH RISICO 2. (Gebrek aan uitlegbaarheid) Er wordt niet aan de geobserveerde persoon uitgelegd wat de slimme cameradeurbel doet.

58 59

Snijder, “How smart is your doorbell?”. Zeming Chen, “A study of ethical issues in developing smart-home technologies,” Medium (28 april 2021). https://zc003.medium.com/a-study-of-ethical-issues-in-developing-smart-home-health-technologies2ff9f7369fea.

35

OMSCHRIJVING 2. Het is niet duidelijk voor de geobserveerde persoon (i) hoe hij of zij in beeld komt; (ii) wat er van hem of haar wordt geregistreerd en bewaard; (iii) wie nog meer toegang heeft tot de beelden. Het ethische risico is hier dat er sprake is van een gebrek aan uitlegbaarheid voor de geobserveerde persoon. Dit kan een onveilig gevoel opleveren en ervoor zorgen dat de persoon een interactie met de deurbel heeft die hij of zij niet had willen hebben in het geval hij of zij beter geïnformeerd was. RISICODRAGER 1 & 2. De risicodrager is in beide gevallen de burger in de rol van omwonende, passant of bezoeker van het huis met een slimme cameradeurbel. Het is namelijk zo dat de zelfbeschikking van deze persoon wordt genegeerd en dat diezelfde persoon niet volledig op de hoogte is wat de slimme cameradeurbel doet (of het aan staat, wat het vastlegt, etc.). AANBEVELING 1 & 2. Deze ethische risico’s hebben gedeeltelijk te maken met het responsible design van de slimme deurbelcamera’s zelf. Zonder aanpassingen aan de deurbellen kan hier moeilijk iets aan gedaan worden. Anderzijds is het verhogen van transparantie over wat gefilmd wordt en wat er met de beelden gebeurt een passend antwoord op het probleem van ‘uitlegbaarheid’.

Hierbij kan worden opgemerkt dat maatregelen die enerzijds vanuit privacy-oogpunt van belang zijn, tevens vanuit ethisch perspectief relevant zijn en dus tevens vanuit een ethisch risico gemotiveerd kunnen worden. Voorbeelden hiervan zijn het bieden van opt-out of opt-in mogelijkheden60 voor een geobserveerde persoon en het verschaffen van informatie over wat wordt opgenomen en hoe lang beelden bewaard worden. Aanbeveling voor het beperken van het ethische risico m.b.t. uitlegbaarheid is op het niveau van regulering van productvoorschriften van slimme deurbelcamera’s expliciet aandacht te hebben voor eisen op het gebied van geïnformeerde toestemming en uitlegbaarheid. Zie par. 10.2.5 voor een bespreking van (soms ad hoc) technische maatregelen die kunnen bijdragen aan het mitigeren van deze ethische risico’s. VERDIEPING 1 & 2. Zie punt (6) in Bijlage 1. 10.2.4

Hoe groot is het risico van ‘function creep’ en is dit een ethische grond voor aanvullende regulering? ETHISCH RISICO. (Function creep) De toepassing van slimme deurbelcamera’s verschuift naar een ander doel dan waarvoor de technologie bedoeld is. OMSCHRIJVING. Function creep is “een geleidelijke verschuiving van het doel van de technologie, zoals een verschuiving in de richting van meer opdringerigheid of controle.”61 De inzet van de deurbel is gebaseerd op de toepassing die ontwikkelaars voor ogen hebben, maar de oorspronkelijke bedoeling van de technologie laat mogelijkheden open voor het ‘mogelijke kwaad van de toekomst’, oftewel een schadelijke toepassing die mogelijk wordt gemaakt d.m.v. het huidige ontwerp.62 Nota bene dat het ontwerp van de deurbel bruikbaar kan zijn voor toepassingen die zowel ten goede als ten kwade kunnen uitpakken. Voorbeeld van function creep bij een slimme cameradeurbel zou kunnen zijn het aanwenden van de camerafunctionaliteit voor biometrische categorisatie of surveillance op grote schaal. Biometrische categorisatie,

60

Onder ‘opt-out’ verstaan we de beginsituatie waarbij de opname aan staat, maar de mogelijkheid om de opname te stoppen aanwezig is. Onder ‘opt-in; verstaan we de beginsituatie waarbij de opname uit staat, maar de mogelijkheid om opname te starten aanwezig is. 61 Centrum voor Ethiek en Gezondheid, Sensoren in de thuissituatie; de ethiek van e-health deel III, (2020). https://www.gezondheidsraad.nl/documenten/adviezen/2020/06/30/sensoren-in-de-thuissituatie. 62 Arne Berger, Albrecht Kurze, Anreas Bischof, Jesse Joshua Benjamin, Richmond Y. Wong en Nick Merrill, “Accidentally Evil: Questionable Values in Smart Home Co-Design,” Conference on Human Factors in Computing Systems (CHI ’23), April 23– 28, 2023. https://doi.org/10.1145/3544548.3581504.

36

zoals in de verboden categorie van de AI Act bedoeld,63 is mogelijk wanneer de vastgelegde opnamen worden gebruikt om geobserveerde personen in te delen in categorieën die te maken hebben met gevoelige eigenschappen zoals hun sekse, ras, leeftijd, etc. Bij surveillance op grote schaal zouden zowel de cloudaanbieder die de beelden van de deurbel verwerkt, als een overheidsorganisatie die toegang hiertoe kan afdwingen (bijvoorbeeld de politie), deze kunnen gebruiken om een omgeving te monitoren. In Nederland is door de politie het initiatief ‘Camera in Beeld’ gestart. Dit behelst het registreren per straat welke beveiligingscamera’s beschikbaar zijn, wie de eigenaar is en hoe lang de beelden worden bewaard. Burgers en bedrijven kunnen beveiligingscamera’s hiervoor op vrijwillige basis aanmelden.64 Beelden die deze camera’s maken kunnen dan worden opgevraagd in get geval deze voor onderzoek van waarde kunnen zijn. De politie is niet in staat live mee te kijken,65 wat bijvoorbeeld in Los Angeles wel het geval is.66 Een ander verschil is dat burgers hun camera’s vrijwillig aanmelden, in tegenstelling tot de onvrijwillige overname van de camerabeelden in Los Angeles. Tevens is het privacy- en gegevensbeschermingsrecht van Los Angeles niet gebonden aan de AVG en het EVR.

Dit zijn belangrijke, ethische verschillen, omdat in Nederland geen sprake is van actieve surveillance op basis van deze camerabeelden. Privacyorganisatie Bits of Freedom voert echter als bezwaar aan dat de politie door gebruik te maken van beelden van particuliere camera’s gebruik maakt van beelden die mogelijk onrechtmatig gemaakt zijn, omdat het filmen van de openbare weg door particulieren in principe niet is toegestaan. Bits of Freedom ziet Camera in Beeld daardoor als buitenwettelijke surveillance-infrastructuur van de politie67. RISICODRAGER. De risicodragers zijn bij de gevallen van function creep die hier overwogen worden de burgers, voornamelijk vanuit de rol van passant en omwonende. Echter kunnen er ook alternatieve functies optreden die nadelig zijn voor de eigenaar van de deurbel, zoals surveillance. AANBEVELING. De risicomitigering die bij function creep benodigd is, is sterk afhankelijk van de nieuwe toepassing die mogelijk wordt gemaakt. Ondanks de mogelijkheid dat function creep zich voordoet, is het op lokaal niveau reguleren van het gebruik van slimme deurbellen vooralsnog geen verstandige oplossing. Dit is zo omdat, gelijk met wat het geval is voor gebrekkige informatiebeveiliging, de gemeente niet gaat over het toelaten van consumentenproducten op de Nederlandse markt.

Echter zijn de voorbeelden van function creep geen fictie en vragen ze aldus wel om monitoring en risicomanagement op een landelijk niveau. De ethisch meest risicovolle toepassingen hebben te maken met het toepassen van machine learning (ML) op de opnames van de slimme deurbelcamera’s. Een algemene maatregel hierbij is actieve handhaving van de AI Act door de toezichthouders op deze wetgeving. In de voorbeelden die hierboven zijn gegeven – biometrische categorisatie en grootschalige surveillance – zou dit betekenen dat er toezicht dient te zijn op het hergebruik van data door derden (zie hier ook een raakvlak met de AVG). Het primaat voor het voorkomen van function creep ligt bij de toezichthouder en niet bij de gemeente. Een goede maatregel zou het regelmatig uitvoeren van producttesten op bestaande en nieuwe modellen deurbelcamera’s zijn, om zo kwetsbaarheden en risico’s op function creep vroegtijdig te onderkennen. Denk

63

Europese Commissie, “AI Act,” https://artificialintelligenceact.eu/ai-act-explorer/. https://www.politie.nl/informatie/hoe-werkt-camera-in-beeld.html 65 https://www.politie.nl/informatie/kijkt-de-politie-live-mee-met-mijn-camera.html. 66 D. Calacci, J. J. Shen, en A. Pentland, “The cop in your neighbor’s doorbell: Amazon ring and the spread of participatory mass surveillance,” Proc. ACM Hum.-Comput. Interact. 6, CSCW2 (2022). https://doi.org/10.1145/3555125. 67 NU.nl, “Videodeurbel pakt inbreker: politie kan beelden van 314.000 camera's opvragen,” (18 maart 2023). https://www.nu.nl/tech-wetenschap/6255431/videodeurbel-pakt-inbreker-politie-kan-beelden-van-314000cameras-opvragen.html.

64

37

hierbij aan het ethisch hacken van prominente modellen en het openbaar maken van resultaten of het verbieden van de verkoop op specifieke modellen als de resultaten tegenvallen. Vanuit de gedachte responsible by design dient gekeken te worden naar de onwenselijke mogelijkheden en hoe alternatieve oplossingen aan burgers geboden kunnen worden. Of dit mogelijk is, verschilt per manifestatie van function creep. VERDIEPING. Zie punt (4) in Bijlage 1. 10.2.5

Zijn er technische aanpassingen van slimme deurbelcamera’s mogelijk die de ethische risico’s uit de eerdere vragen mitigeren? Een van de bevindingen van het onderzoek van het Slimme Deurbellen Consortium en Ipsos is het volgende: “Slimmedeurbelbezitters zijn doorgaans niet geneigd om iets aan te passen aan hun slimme deurbel (zoals het monteren van een privacy schuif, of het veranderen van de instelling van de camera) om privacy-issues mee op te lossen. Nietslimmedeurbelbezitters [respondentengroep zonder slimme deurbel] vinden de aanpassing in groten getale wel een goed idee, net zoals veel stedelingen en jongeren.” Echter is er een aantal technische maatregelen mogelijk dat wel degelijk de hierboven benoemde ethische risico’s kan mitigeren. ▪

▪

▪

▪

Sticker ter informatie. MAATREGEL. Een sticker op de deur of bij de deurbel informeert de bezoeker of passant over de aanwezigheid van de slimme deurbelcamera. Mogelijk kan de sticker ook uitleg geven over de werking van de slimme deurbelcamera. Tevens kan dit bijdragen aan een geïnformeerde toestemming van de kant van de geobserveerde. EFFECT. Mitigeert de ethische risico’s ‘gebrek aan uitlegbaarheid’ en ‘ondermijning van zelfbeschikking’. Beweegbare afscherming van de lens.68 MAATREGEL Door een afscherming van de lens dient de bezoeker een handeling uit te voeren voordat de camera hem of haar kan filmen. De standaardinstelling is daardoor dat de bezoeker of passant niet wordt gefilmd zolang hij of zij de lens niet vrijmaakt. Dit houdt ook de optie open om uit beeld te blijven. EFFECT. Mitigeert het ethische risico ‘ondermijning van zelfbeschikking’. Visuele cue die aangeeft dat er gefilmd wordt.69 MAATREGEL. Een licht, geluid of beweging van het apparaat maakt aan een passant of bezoeker kenbaar dat hij of zij in beeld komt. EFFECT. Mitigeert gedeeltelijk het ethische risico ‘gebrek aan uitlegbaarheid’ omdat er een vorm van communicatie vanuit de deurbel wordt toegevoegd die aan een persoon duidelijk maakt wat de slimme cameradeurbel doet. Echter legt dit niet de werking van deurbel en het datagebruik van de deurbel uit. Anonimisering of blurring.70 MAATREGEL.

Gezichten en/of stemgeluid van (bezoekende) passanten worden automatisch wazig gemaakt of anderszins geanonimiseerd. EFFECT. Mitigeert het ethische risico ‘ondermijning van zelfbeschikking’. De relatie met de publieke waarde ‘privacy’ is dat een anonimiseringsmaatregel voorkomt dat persoonsgegevens worden vastgelegd.

68

Bijvoorbeeld: Responsible Sensing Lab, “Shutterring,” (z.d.). http://responsiblesensinglab.org/nl/projecten/shutterring/. 69 Zie voor voorbeelden: Torp Dideriksen, “Challenging the Concept of Smart Doorbells by Designing New Interactions Based on Privacy”; en Snijder, “How smart is your doorbell?”. 70 Zie voor voorbeelden Sofie-Amalie Torp Dideriksen, “Challenging the Concept of Smart Doorbells by Designing New Interactions Based on Privacy,” MSc Thesis (Technische Universiteit Delft, 2022). challenging_the_concept_of_smart_doorbells_thesis_report.pdf.

38

▪

Process consent. MAATREGEL. Het gaat hierbij om het vernieuwen van de geïnformeerde toestemming van de persoon om door de deurbel gefilmd te worden.71 Oftewel, de slimme deurbel verzoekt de bezoeker gedurende de interactie herhaaldelijk om toestemming. De interactie waarin toestemming wordt verleend kan gebaseerd zijn op spraak, waarbij de deurbel letterlijk om actualisering van de toestemming vraagt. Het is ook voorstelbaar dat op het filmen van de deurbel een timer zit, die na een bepaalde periode zorgt dat de deurbel stopt met filmen. In dat geval zou een bezoeker opnieuw op een activatieknop moeten drukken om opnieuw gefilmd te worden. EFFECT. Mitigeert het ethische risico ‘ondermijning van zelfbeschikking’. Heeft ook een relatie met privacy, namelijk dat de bezoeker meer controle uit kan oefenen over de vastlegging van persoonsgegevens dan voorheen.

AANBEVELING. Bovenstaande technische maatregelen zijn aantrekkelijk vanwege hun ethische effecten. Dit betekent echter niet dat lokale regelgeving de toepassing ervan kan voorschrijven. In het kader van het respecteren van omwonenden en passanten en het principe van uitlegbaarheid (dat ook bij AI-systemen een belangrijke rol speelt) zijn er wel productaanpassingen denkbaar die de ethische risico’s van ‘ondermijning van zelfbeschikking’ en ‘gebrek aan uitlegbaarheid’ mitigeren, zonder daarbij tot handhaving van de AVG te leiden. Kijkende naar de technische opties die in deze paragraaf zijn opgenomen, leiden een ‘beweegbare afscherming van de lens’ en ‘anonimisering of blurring’ direct tot privacybescherming. Echter lijkt dat niet het geval te zijn bij de opties ‘sticker ter informatie’, ‘visuele cue die aangeeft dat er gefilmd wordt’ of ‘process consent’, omdat deze opties gericht zijn op het communiceren over de werking van de deurbel en het respecteren van de zelfbeschikking van het geobserveerde individu in het algemeen. Een denkbare maatregel gericht op deze ethische risico’s is het kosteloos beschikbaar stellen (bijvoorbeeld door de gemeente) van informatiestickers of zelf te bevestigen beweegbare afschermingen voor de meest gebruikte modellen, begeleid door een (lokale) informatiecampagne.

Dit faciliteert het treffen van maatregelen door burgers zelf, zonder dat de gemeente als handhavende partij optreedt. Hierdoor kunnen zo veel mogelijk mensen de voordelen van de slimme deurbelcamera’s ervaren, terwijl tegelijkertijd ethische risico’s zoveel mogelijk beperkt worden. De maatregelen hebben namelijk als gevolg dat (bezoekende) passanten niet langer of in mindere mate de risicodragers zijn van de ethische risico’s ‘gebrek aan uitlegbaarheid’ en ‘ondermijning van zelfbeschikking’. Voor de ethische risico’s ‘sociale erosie’ en ‘function creep’ spelen deze technische maatregelen een minder grote rol. 10.3

Conclusie In deze paragraaf vatten we de bevindingen uit dit hoofdstuk samen. We starten met een overzicht van de effecten voor de verschillende groepen belanghebbenden. Vervolgens geven we een overzicht van de hierbij geconstateerde ethische risico’s en de waardenspanning die daarbij optreedt. Het laatste onderdeel van deze paragraaf (10.3.2) bevat een aantal afsluitende overwegingen.

71

Centrum voor Ethiek en Gezondheid, Sensoren in de thuissituatie; de ethiek van e-health deel III. Voor de geinteresseerden: zie ook het concept ‘consent printer’ uit Torp Dideriksen, “Challenging the Concept of Smart Doorbells by Designing New Interactions Based on Privacy.”

39

10.3.1

Publieke waarden en effecten op belanghebbenden Onderstaande matrix geeft voor verschillende groepen belanghebbenden de waardenspanningen weer die gerelateerd zijn aan de eerder beschreven ethische risico’s. De tabel maakt onderscheid tussen drie soorten impact: positief (+), negatief (-) en neutraal (+/-). Na de tabel wordt per belanghebbende kort het effectenprofiel toegelicht.

Publieke waarden / Belanghebben den

Rechtvaardig heid

Respe ct

Saamhorigh eid

Transparan tie

Veilighe id

Vrijhe id

Eigenaren

+/-

+/-

-

+/-

+

+

Overheden

+

+/-

+/-

+/-

+/-

+/-

Leveranciers en ontwerpers

+/-

+/-

+/-

+/-

+/-

+/-

Omwonenden en passanten

-

-

-

-

-

-

Tabel 1: Belanghebbenden- en waardenmatrix ▪

▪

▪

▪

72

Eigenaren: Eigenaren ervaren een verbetering van ‘Veiligheid’ vanwege hun toegenomen vermogen de omgeving te kunnen observeren. Ook qua vrijheid wordt een verbetering ervaren, omdat de slimme deurbel interactiemogelijkheden met bezoekers mogelijk maakt waarover eigenaren eerder niet beschikten. Voor eigenaren worden er positieve noch negatieve effecten ervaren m.b.t. ‘Rechtvaardigheid’, ‘Respect’ en ‘Transparantie’. Overheden: Uit de belanghebbenden- en waardenmatrix komt naar voren dat overheden zowel positief als negatief worden beïnvloed slimme deurbelcamera’s.72 Slimme deurbelcamera’s kunnen door overheidsorganisaties aangewend worden voor een positief effect op het gebied van ‘Rechtvaardigheid’ en ‘Veiligheid’, bijvoorbeeld wanneer beelden gebruikt worden voor verschaffen van informatie over een misdrijf (zoals het geval is in het kader van Camera in Beeld). Daarnaast is er in het kader van informatiebeveiligingsrisico’s zoals spionage en hacking sprake van een tweevormige negatieve invloed voor ‘Veiligheid’: ten eerste voor de binnenlandse veiligheid in het geval van een spionagedreiging of -poging, en ten tweede voor (top)ambtenaren, vertegenwoordigers van de overheid, in het geval van hacking van individuele deurbellen. Leveranciers en ontwerpers: Leveranciers en ontwerpers ervaren positieve noch negatieve effecten aangaande de in de matrix opgenomen publieke waarden.

Dit komt omdat zij de technologie ontwikkelen en leveren, maar vervolgens niet worden blootgesteld aan de interactie met de deurbel en alleen een commerciële relatie hebben met de overige belanghebbenden. Het gebrek aan effecten is niet verbazingwekkend, aangezien uit het voorgaande bleek dat leveranciers en ontwerpers niet door de geïdentificeerde ethische risico’s worden geraakt. Omwonenden en passanten: Voor de belanghebbendengroep ‘omwonenden en passanten’ zijn negatieve effecten op de gebieden van ‘Rechtvaardigheid’, ‘Respect’, ‘Saamhorigheid’, ‘Transparantie’, ‘Veiligheid’ en ‘Vrijheid’ waarneembaar. Voor ‘Rechtvaardigheid’ en ‘Vrijheid’ zijn de effecten te wijten aan de ondermijning van de zelfbeschikking van geobserveerde personen in

Zoals eerder gesteld is het mogelijk dat overheden risicodragers zijn op het vlak van digitale autonomie. Over dit risico is echter onvoldoende bekend en vraagt om vervolgonderzoek.

40

interactie met de deurbel. Voor ‘Saamhorigheid’ ligt de oorzaak bij het chilling effect in toenemende mate geobserveerd te worden: in de eigen buurt kan men zich in mindere mate op zijn of haar gemak voelen. ‘Veiligheid’ wordt ook negatief geraakt door ‘de blik van de deurbel’, omdat omwonenden, bezoekers en passanten zich onveilig kunnen voelen onder de blik van de deurbel en het mogelijk is dat kwaadwillende actoren de blik van de deurbel misbruiken ten koste van deze groep. Wat ‘Respect’ en ‘Transparantie’ betreft, wordt deze groep negatief geraakt omdat er informatie over de werking van de slimme deurbel niet toegankelijk is voor deze groep (gebrek aan uitlegbaarheid) en de geobserveerden onvoldoende worden geïnformeerd om respectvol te kunnen worden benaderd door de deurbel. Een laatste onderdeel van het negatieve effect op ‘Rechtvaardigheid’ is de spanning met overheden, die middels vordering van de camerabeelden mogelijk toegang hebben tot onrechtmatige observaties van omwonenden en passanten op de openbare weg. Een aantal observaties zijn waardevol voor de ethische afwegingen over de ethische risico’s en effecten op publieke waarden in het licht van deze effecten voor de belanghebbenden. De ethische risico’s worden voornamelijk door omwonenden, passanten en soms de eigenaren zelf gedragen.

Ten eerste is het duidelijk geworden dat de ethische baten van de eigenaren op de gebieden van ‘Veiligheid’ en ‘Vrijheid’ liggen. Deze baten gaan echter ten koste van ‘Saamhorigheid’ en ‘Rechtvaardigheid’ in relatie met andere belanghebbenden (omwonenden en passanten). Ten tweede is het zo dat er binnen het waardenprofiel van leveranciers en ontwerpers geen waardenspanning aanwezig is. Wat wel opvallend is, is de asymmetrie tussen enerzijds leveranciers en ontwerpers, die nauwelijks risico dragen, en anderzijds passanten en omwonenden, die negatief geraakt worden bij alle publieke waarden. De leveranciers en ontwerpers kunnen profiteren van de groeiende vraag naar slimme deurbelcamera’s zonder drager te zijn van een ethisch risico. Ten derde valt te zien dat overheden zowel ethische risico’s lopen, als ethische baten hebben. Deze baten lijken niet direct ten koste te gaan van de ethische lasten van de risicodragers, behalve in het geval van het gebruik van onrechtmatig verkregen camerabeelden; dan is er sprake van een negatief gevolg voor ‘Rechtvaardigheid’ bij omwonenden en passanten. Ten vierde kan het gesteld worden dat de voornaamste risicodragers degenen blijken te zijn die de meeste negatieve effecten ervaren bij alle publieke waarden, namelijk omwonenden en passanten.

Echter blijkt uit het onderzoek van het Slimme Deurbellen Consortium dat voorbeeldgroepen onder de passanten zich hier (nog) niet per se van bewust zijn.73 Tot slot volgt uit de vorige vier observaties dat de ethische baten voor eigenaren en overheid ten koste gaan van bezoekers, omwonenden en passanten. Hier zien we een twee waardenspanningen. De eerste is een botsing tussen de negatieve effecten op ‘Rechtvaardigheid’, ‘Respect’, ‘Saamhorigheid’, ‘Transparantie’ en percepties van ‘Veiligheid’ en ‘Vrijheid’ voor omwonenden en passanten, en de positieve effecten op ‘Vrijheid’ en ‘Veiligheid’ voor eigenaren van de slimme deurbelcamera’s. De tweede is een botsing tussen de positieve effecten op ‘Veiligheid’ en ‘Rechtvaardigheid’ voor overheden en de negatieve effecten op ‘Veiligheid’ en ‘Rechtvaardigheid’ voor omwonenden en passanten.

73

Zie Slimme Deurbellen Consortium en Ipsos i&o, Nationaal onderzoek percepties slimme deurbellen, p. 6: over het gebrek aan negativiteit in de houding en leereffect na discussie bij respondenten die voor (vrijwilligers)werk aan de deur komen.

41

10.3.2

Ethische risico’s en concluderende overwegingen Voortbouwend op de effecten op publieke waarden, gerelateerd aan de verschillende belanghebbenden, worden in Tabel 2 de ethische risico’s van slimme deurbelcamera’s weergegeven. Op basis van wie de risicodragers per risico zijn en de hierbij geraakte publieke waarden, formuleren we een aantal concluderende overwegingen. Deze overwegingen focussen op wat er mogelijk lijkt om de ethische risico’s te adresseren. Ethisch risico