Rapport Use case slimme deurbelcameras - SDT.pdf

Primaire risicodrager(s)

Geraakte publieke waarde(n)

Aanbevelingen

Misbruik van deurbelcamera bij gebrekkige informatiebeveiliging

Eigenaren; overheden

Veiligheid

-Monitoren van de kwaliteit van informatiebeveiliging; -Informeren van burgers over technische basismaatregelen.

Sociale erosie

Eigenaren; omwonenden

Saamhorigh eid

-Kennis bij burgers verhogen over de ethische risico’s van slimme deurbelcamera’s in de sociale sfeer; -Burgers ondersteunen bij het faciliteren van gesprekken over het gebruik van slimme deurbelcamera’s -Het treffen van maatregelen die sociale cohesie bevorderen.

Ondermijning van zelfbeschikking

Omwonenden en passanten

Rechtvaardi gheid; Vrijheid

-Het introduceren van technische of procesmatige verbeteringen van de deurbel, gericht op het faciliteren van een interactie tussen deurbel en geobserveerde.

Gebrek aan uitlegbaarheid

Omwonenden en passanten

Respect; Transparanti e

-Het introduceren van technische of procesmatige verbeteringen van de deurbel, gericht op het informeren van de geobserveerde over de werking van de deurbel.

Function creep

Overheden; eigenaren; omwonenden en passanten

Transparanti e; Vrijheid, Rechtvaardi gheid

-Toezicht op slimme deurbelcamera’s op productniveau. -Voorlichting over het gebruik van slimme deurbelcamera’s.

Tabel 2: Samenvatting van de bestudeerde ethische risico’s

42

De geïdentificeerde ethische risico’s, waardenspanningen en waardenasymmetrie leiden tot aanvullende inzichten over de vraag in hoeverre het mogelijk is het gebruik van slimme cameradeurbellen op gemeentelijk niveau te reguleren en welke aanvullende maatregelen wenselijk zijn. Belangrijk is dat gemeenten zich daar bewust van zijn. Deze ethische risico’s laten zich immers slechts ten delen oplossen door juridische maatregelen. De concluderende aanbeveling is dat gemeenten onderzoeken welke maatregelen aanvullend op het juridisch kader helpen om ethische risico’s van het gebruik van deurbelcamera’s te beheersen. Nota bene dat de ethische overwegingen ook voor andere organisaties in het overheidsdomein nuttig kunnen blijken. De voorliggende perspectieven zijn gericht aan gemeenten, maar kunnen ook voor een organisatie zoals de AP relevant zijn voor het formuleren van handhavingsmogelijkheden en het treffen van maatregelen. De ethische overwegingen, ethische risico’s en inzichten in de impact of belanghebbenden en publieke waarden zijn dus meervoudig bruikbaar. Als onderbouwing van deze concluderende aanbeveling dienen de aanbevelingen die per ethisch risico zijn gedaan in par. 10.2 hierboven.

Deze aanbevelingen zijn niet juridisch van aard, maar kunnen vanuit ethisch perspectief aanknopingspunten zijn voor mogelijke regulering, rekening houdend met de daarbij geldende wettelijke beperkingen, die in de juridische analyse zijn besproken. De verschillende ethische risico’s vragen om diverse antwoorden vanuit de overheid en de maatschappij. Echter zijn niet alle risico’s geschikt om gemitigeerd te worden middels gemeentelijke regulering en handhaving. Bij het introduceren van aanvullende productvoorschriften gloort wel een mogelijkheid voor regulering die, vanwege de geraakte waarden respect, rechtvaardigheid en transparantie, en de ethische risico’s aangaande ondermijning van zelfbeschikking en gebrek aan uitlegbaarheid, het verdient om nog nader onderzocht te worden. Voornamelijk de risico’s die gelden voor omwonenden en passanten en hun relatie met de eigenaren van de deurbel vragen om een respons, waarbij het belangrijk is dat lokale overheden waar nodig samenwerken met toezichthouders om maatregelen te treffen en voorlichting vorm te geven. Om kort te gaan adviseert de adviesfunctie daarom om als gemeente of andere aan regulering denkende organisatie niet alleen naar de juridische mogelijkheden te kijken, maar ook naar wat er daarnaast mogelijk is om de overblijvende ethische risico’s te mitigeren.

11

Afsluitend

11.1

Tot zover onze analyse. Voor een overzicht van onze conclusies, verwijzen wij u naar de managementsamenvatting in hoofdstuk 3 van dit rapport.

43

12

Disclaimer Dit onderzoeksrapport is opgesteld voor en in opdracht van het Ministerie van Binnenlandse Zaken. Anderen dan de opdrachtgever kunnen aan dit onderzoeksrapport geen rechten ontlenen. Jegens anders dan de opdrachtgever zijn de opstellers dan ook onder geen enkele omstandigheid aansprakelijk. Niet is uitgesloten dat dit rapport onjuistheden of onvolkomenheden bevat of dat de inhoud van dit rapport inmiddels is achterhaald. Als u advies wenst over een onderwerp dat aan de orde komt in dit rapport, dient u steeds uw eigen (juridische) adviseur te raadplegen. Op dit rapport zijn de algemene voorwaarden van Pels Rijcken & Droogleever Fortuijn N.V. van toepassing, te raadplegen via https://www.pelsrijcken.nl/algemene-voorwaarden.

*********

44

Bijlage 1 1. Toelichting bij deze bijlage Highberg heeft een ethisch vooronderzoek verricht ter voorbereiding op het verlenen van een ethisch advies aan de VNG over de adviesvraag welke ethische bezwaren er bestaan ten aanzien van slimme deurbellen die gericht zijn op de openbare weg, t.b.v. het schetsen van de ethische omgeving van de gewenste beperking van het gebruik van slimme deurbelcamera’s. De voorstudie is een bijlage bij het uiteindelijke advies en levert zowel verbreding als verdieping op van het onderwerp. Om een breed beeld te kunnen geven van de ethische risico’s en overwegingen t.a.v. slimme deurbelcamera’s volgt deze bijlage de volgende structuur: ▪ §2: Inleiding van de ethische voorstudie. De vraagstellingen en de gebruikte ethische begrippen worden geïntroduceerd en toegelicht. Vervolgens worden in de overige paragrafen specifieke (clusters van) ethische risico’s uiteengezet en besproken: ▪ §3: Ethische risico’s gerelateerd aan informatiebeveiliging. ▪ §4: Function creep, onverantwoord hergebruik voor surveillance en inbreuk op digitale autonomie. ▪ §5: Sociale erosie en mentale gezondheid. ▪ §6: Respect en het doordenken van (sociale groepen) burgers als stakeholders. Bij deze ethische voorstudie is een beschouwende bespreking het uitgangspunt. Echter kan en mag niet de illusie van een volledig waardenvrije bespreking gewekt worden.

Een aantal morele aannames liggen ten grondslag aan de bespreking die niet zullen worden verdedigd, wat een filosofische exercitie zou worden, maar waarvan wordt aangenomen dat de doelgroep ze deelt. Namelijk: (i) het is onwenselijk als kwaadwillenden gemakkelijk informatiebeveiligingskwetsbaarheid kunnen exploiteren; (ii) niet-proportionele, overmatige surveillance moet vermeden worden; (iii) digitale autonomie is een maatschappelijke waarde die het beschermen waard is; (iv) sociale erosie is onwenselijk, aangezien sterke relaties tussen burgers onderling bijdraagt aan een veerkrachtige democratie; (v) de mentale gezondheid van burgers dient beschermt te worden; (iv) respectvolle interactie met en inclusie van burgers (wanneer relevant) is van belang bij de introductie van nieuwe vormen van overheidshandelen. 2. Inleiding en situering van de vraag De ethische vragen die betrekking hebben op deurbelcamera’s gaan over de wenselijkheid van het gebruik van private camera’s gericht de openbare ruimte. We articuleren deze vragen in termen van ethische risico’s: dit zijn de nadelige effecten voor belanghebbenden die mogelijk kunnen optreden dankzij het gebruik van de technologie.74 De ethische risico’s vangen verschillende perspectieven, die teruggevoerd kunnen worden op maatschappelijke waarden.

Denk hierbij aan (in louter alfabetische volgorde) gezondheid, privacy, rechtvaardigheid, respect, saamhorigheid, solidariteit en veiligheid. Op voorhand kunnen we ook stellen dat er ethische voordelen zijn. Denk bijvoorbeeld de afschrikkende werking die camera’s hebben op inbrekers, of, zoals een voorbeeld uit Trouw over de diefstal van hondenbrokken illustreert, levert dit type

74

D.M. Douglas, J. Lacey, J., en D. Howard, “Ethical risk for AI.” AI and Ethics 5 (2024): 2189–2203. https://doi.org/10.1007/s43681-024-00549-9

45

deurbellen ook waardevolle informatie op over misdrijven.75 De relaties tussen de slimme deurbelcamera’s en deze waarden worden in wat volgt nader onderzocht. Het centrale perspectief dat in de ethische studie wordt aangeboden wordt geïnformeerd door drie begrippen. ▪ Ten eerste nemen wij bij de beoordeling van het gebruik van deurbelcamera’s de gedachte van responsible by design als uitgangspunt. Deze gedachte houdt in dat voordat technologie wordt ingezet er over ethiek, sociale impact en de relatie met de relevante wet- en regelgeving nagedacht moet worden.76 Aan de wieg van het ontwerp is het nuttig dat men deze zaken vertegenwoordigd heeft, zodat zij het uiteindelijke product kunnen informeren en de manifestatie van sommige ethische, sociale en juridische problemen op voorhand voorkomen kan worden. Zonder ‘verantwoordelijk te zijn per ontwerp’ loopt men het risico dat die problemen zich (onverwachts) later in de levenscyclus van de technologie laten zien. In wat volgt worden geïdentificeerde ethische risico’s gelabeld met ‘responsible by design’ om aan te geven dat ze betrekking hebben op een negatief gevolg dat bij het ontwerp van de technologie mogelijk afgevangen had kunnen worden.

▪

Ten tweede speelt bij sommige ethisch risico’s de vraag hoe we betekenisvolle, menselijke controle kunnen uitoefenen over de slimme deurbellen.77 De verschillende partijen die met het systeem interacteren, dat een onderdeel uitmaakt van een netwerk van andere informatie gedreven systemen, dienen over hun eigen ‘interface’ met het systeem een begrijpelijke mate van controle uit te kunnen oefenen. Hierbij is het belangrijk respect en zelfbeschikking te bewaken. Telkens achten wij de volgende vraag ook relevant: wie moet hier de controle uitoefenen om welke belanghebbende te beschermen? En bovendien: welke grenzen kunnen er door burgers zelf effectief gesteld worden? In wat volgt worden geïdentificeerde ethische risico’s gelabeld met ‘betekenisvolle, menselijke controle’ om duidelijk te maken dat ze betrekking hebben op de banden aan een slimme cameradeurbel waarvan men zou willen dat ze door een belanghebbende naar wens gelegd kunnen worden.

▪

Ten derde is er een begrip dat centraal staat in de verandering van de relaties tussen de burger en de overheid, de burger en commerciële partijen en burgers onderling vanwege de introductie van de slimme deurbelcamera: sousveillance. Sousveillance is het tegenovergestelde van surveillance, namelijk het ‘observeren van onder’. De cameradeurbel is niet de enige sousveillancetechnologie waarover burgers kunnen beschikken. Smartphones en draagbare camera’s kunnen ook als observatiemiddelen ‘van onderen’ aangewend worden. De introductie van monitoringstechnologie bij de voordeur van de burger doet de machtsrelatie met andere partijen veranderen, zowel met externe partijen als met omwonenden en familieleden. De burger wordt in staat

75

Eline van Suchtelen, “Slimme deurbel filmt diefstal van hondenbrokken,” Trouw (12 november 2023). https://www.trouw.nl/nieuws/slimme-deurbel-filmt-diefstal-van-hondenbrokken~b6ea333e/. 76 Zie hiervoor: https://highberg.com/nl/insights/whitepaper-responsible-by-design-in-de-publieke-sector. 77 S. Umbrello, “Meaningful Human Control over Smart Home Systems: A Value Sensitive Design Approach,” HUMANA.MENTE Journal of Philosophical Studies 13, no.37 (2020): 40–65. https://iris.unito.it/retrieve/e27ce430-106c-2581-e053-d805fe0acbaa/315-Article%20Text-1017-1-1020200716%20%282%29.pdf.

46

gesteld de omgeving te observeren en te dataficeren. Commerciële partijen stellen de burger hiertoe in staat. Zowel burgers als overheden worden het object van deze observaties. Dit doet de bestaande machtsrelaties tussen burgers en overheid en burgers onderling veranderen. Oftewel: de macht om te observeren is niet langer voorbehouden aan bijv. de overheid, maar is nu toegankelijk geworden voor de burger. Dit heeft twee soorten disciplinerende effecten. Het eerste disciplinerende effect is interpersoonlijk en heeft betrekking op burgers onderling. De groeiende aanwezigheid van de blikken van anderen in de openbare ruimte die ze traverseren – los van of de aanwezigheid van deze blikken legaal is – leidt namelijk tot de inhibitie van gedrag aan de kant van de burger. 78 Dit kan niet alleen plaatsvinden tussen eigenaren van de deurbel, omwonenden, passanten en deur-tot-deurprofessionals zoals pakketbezorgers, maar ook tussen leden van hetzelfde huishouden.79 Het tweede disciplinerende effect heeft betrekking op de relatie tussen burger en overheid.

Sousveillance kan de vertegenwoordigers van de overheid disciplineren omdat ze vaker geobserveerd en gedocumenteerd worden door burgers, wat een bewustzijn van het eigen handelen afdwingt.80 De disciplinerende effecten van sousveillance worden gebruikt in de discussie van de ethische risico’s om de totstandkoming en werking van deze risico’s te kunnen verklaren. De verschuiving van bestaande machtsrelaties kunnen als ethisch informatief worden beschouwd t.a.v. het beoordelen van de mate van onwenselijkheid van een ethisch risico.

Voordat het bespreken van individuele ethische risico’s aanvangt, dient er te worden opgemerkt dat er in deze voorstudie niet expliciet wordt uitgeweid over de privacyrisico’s van ethische deurbellen, al zijn deze wel significant. Dit wordt niet gedaan, omdat de privacyrisico’s reeds welbekend zijn, door bestaande wetgeving worden geadresseerd en door Pels Rijcken zijn getoetst in haar juridische ad vies. Ook merken wij het bestaan van openbare richtlijnen omtrent privacy en deurbelcamera’s op. Beschouw bijvoorbeeld de Richtlijn camera’s bij het eigen huis van de Autoriteit Persoonsgegevens (AP): o “stel de camera goed af; o informeer mensen over de camera; o bewaar de beelden kort of helemaal niet; o deel de beelden niet; o blur (geautomatiseerd) gezichten van voorbijgangers; o beveilig de camerabeelden; o respecteer de privacyrechten van de mensen die u filmt.”81

78

Thomas Mollema, Joost Wijffels, Marin Beijerbacht, Lieke Dom en Joris Joziasse, “Citizens, Surveillance and Sensing Responsibly,” Utrecht University and Responsible Sensing Lab (2022). https://responsiblesensinglab.org/storage/files/cb8e366f-2e10-4bc2-b6d7-be3a391a0f1e/DRH--­ PubVersion_Group3_CrowdManagement-DataEthicalConsultation.pdf; Steve Mann, “"Sousveillance": inverse surveillance in multimedia imaging,” in Proceedings of the 12th annual ACM international conference on Multimedia (MULTIMEDIA '04) (2004): 620–627. https://doi.org/10.1145/1027527.1027673. 79 Zie Murray Goulden en Lewis Cameron, “The role of mundane resistance in the spectacular failure of the smart home,” Big Data & Society (2025). https://doi.org/10.1177/20539517251361120 80 Mollema et al., “Citizens, “Surveillance and Sensing Responsibly.” 81 Autoriteit Persoonsgegevens, “Camera’s bij het eigen huis,” laatst bijgewerkt op 8 april 2025. https://www.autoriteitpersoonsgegevens.nl/themas/cameratoezicht/cameragebruik-in-en-om-hethuis/cameras-bij-het-eigen-huis

47

Wie op zoek is naar goede samenvattingen van de privacyrisico’s van slimme deurbelcamera’s kan goede startpunten vinden in de voetnoot bij deze zin.82 N.B. dat in het vervolg wel een aantal aan privacy gerelateerde ethische risico’s worden uitgelicht, losstaand van de privacyrechten van een individu zoals vastgelegd in de AVG/GDPR, namelijk respect (in de vorm van geïnformeerde toestemming en controle). Tot slot een woord vooraf over de structuur van de volgende paragrafen. Hieronder is in elke paragraaf een ethische voorstudie gedaan m.b.t. specifieke ethische risico’s. Iedere paragraaf bestaat uit een samenvatting van relevante elementen uit de vakliteratuur, die gezamenlijk een algemene indruk verschaffen van de besproken ethische risico’s. 3. Ethische risico’s gerelateerd aan informatiebeveiliging De initiële ethische vraag uit het Plan van aanpak gerelateerd aan informatiebeveiliging (security) betrof hoe makkelijk kwaadwillende partijen gebruik kunnen maken van de ‘blik van de deurbel’. Het ethische risico dat hier speelt is de veiligheid van de informatie en situatie van stakeholders. Dit risico is gerelateerd aan responsible by design. Samenvattend betreft het de manifestatie van schadelijke consequenties vanwege een kwetsbaarheid van de informatiebeveiliging van de deurbel.

Als Internet of Things (IoT) toepassingen, zijn slimme deurbellen namelijk verbonden met het internet. Dat betekent dat ze ook extern benaderd kunnen worden voor het aftappen van datastromen, het hacken van de functies van de deurbel of voor andere soorten manipulatie.83 Op grote schaal worden de deurbellen ingezet, waardoor het web van relaties tussen stakeholders waarmee geïnterfereerd kan worden door een kwade actor zich snel uitbreidt. De veiligheid van de deurbelmodellen die op dit moment worden (en zijn) verkocht vormt daarom een ethisch risico. De risicodragende belanghebbenden zijn t.a.v. dit risico divers. Denk hierbij aan de eigenaren van de deurbel, omwonenden en passanten. Een studie naar of een Ring deurbel nieuwe IoT-bedreigingen met zich meebrengt, concludeerde dat er in 2023 geen sprake was van openstaande bedreigingen aangaande dit veelgebruikte model, dan wel dat het model geheel nieuwe veiligheidsrisico’s introduceert (afgezet tegen een gehele smart home situatie).84 Er is echter wel reden voor een blijvende waakzaamheid t.a.v. de veiligheid van de digitale deurbellen. Ten eerste omdat geen enkel digitaal systeem niet te hacken valt. Ten tweede omdat er in het afgelopen decennium zorgwekkende voorbeelden zijn geweest van Ring-camera’s die gehackt zijn.

Een voorbeeld uit 2020 laat zien hoe een kwade actor misbruik kan maken van de positionering van de deurbel: de eigenaren van de camera zijn na een hackactie bedreigd en op een racistische manier verbaal misbruikt.85 Verder is een nog belangrijker veiligheidsrisico het op grote schaal lekken of slecht beveiligd lekken van data over deurbeleigenaren, passanten en omwonenden. Vanwege de in het verleden ondermaatse informatiebeveiliging is het mogelijk dat data over de dagelijkse levenspatronen van deurbeleigenaren, passanten en omwonenden onrechtmatig in handen van derden is gekomen. Hierbij krijgt het ethisch risico het

82

Zie voor een laagdrempelige introductie: S. Keith, “Beware Of The Hidden Risks Of Smart Thermostats and Doorbells,” Privacy Hive Blog (17 mei 2024). https://blog.privacyhive.ai/your-home-is-your-sanctuary-nota-surveillance-zone-beware-of-the-hidden-risks-of-smart-thermostats-and-doorbells/. 83 David Buil-Gil, Steven Kemp, Stefanie Kuenzel, Lynne Coventry, Sameh Zakhary, Daniel Tilley en James Nicholson, “The digital harms of smart home devices: A systematic literature review,” Computers in Human Behavior 145 (2023): 107770. https://doi.org/10.1016/j.chb.2023.107770. Zie p. 9. 84 Arnar Pétursson, “Ethical Hacking of a Ring Doorbell,” MSc Thesis in Computer Science (KTH Royal Institute of Technology, 2023). https://www.diva-portal.org/smash/get/diva2:1751192/FULLTEXT01.pdf. 85 Buil-Gil, et al., “The digital harms of smart home devices: A systematic literature review.”

48

karakter van beïnvloeding en het inspelen op vastgelegde data over individuen door derde partijen. (Zie hierover ook §4). Basismaatregelen die zowel betrekking hebben op de leverancier als de gebruiker van de deurbellen om te voorkomen dat dergelijke situaties zich voordoen, zijn onder andere: het treffen van maatregelen zodat data niet direct toegankelijk middels het internet; het instellen van multi-factor authentication; het instellen en onderhouden van firewalls; het weerhouden van de toegang tot de data aan medewerkers en derde partijen; het adequaat versleutelen van de verstuurde datastroom; en het hanteren van een veilig WiFi-wachtwoord. 4. Function creep, onverantwoord hergebruik voor surveillance en inbreuk op digitale autonomie In deze paragraaf wordt er gereflecteerd op meerdere ethische risico’s. Ten eerste is er het ethische risico van function creep: “een geleidelijke verschuiving van het doel van de technologie, zoals een verschuiving in de richting van meer opdringerigheid of controle.”86 Een voorbeeld van function creep bij een slimme cameradeurbel zou het aanwenden voor biometrische categorisatie kunnen zijn. Een toepassing van deze technologie is geïnformeerd door de toepassing die ontwikkelaars voor ogen hebben.

Bij het inzetten van deze technologie die nu niet in de verboden categorie van de AI Act valt,87 is waakzaamheid nog steeds van toepassing, omdat het oorspronkelijke ontwikkelscenario niet per se rekening hoeft te hebben gehouden met het ‘mogelijke kwaad van de toekomst’.88 Function creep heeft betrekking op het idee van betekenisvolle menselijke controle omdat we het willen kunnen voorkomen en heeft ook betrekking op responsible by design omdat de meest risicovolle alternatieve aanwendingen bij het ontwerp van de technologie reeds geanticipeerd kunnen worden. Ondanks dat de slimme deurbelcamera initieel niet voor biometrische categorisatie is bedoeld, kan de camera, of de resulterende datastroom, daar na introductie wel voor wordt gebruikt. Het devies van het AP is, zoals hierboven eerder benoemd is: “blur (geautomatiseerd) gezichten van voorbijgangers”. Echter lijkt uit dit voorschrift te volgen dat dit niet de default instelling is van iedere cameradeurbel. Daaruit volgt op haar beurt dat er wel degelijk gegevens door het apparaat worden vastgelegd die het doel van biometrische identificatie zouden kunnen dienen. Dit illustreert hoe het risico van de function creep richting onverwachtse doeleinden met kwade bedoelingen of nare effecten van kracht is. Een nog realistischer voorbeeld van function creep is het onrechtmatige hergebruik van data.

Op voorhand kunnen verschillende vormen van hergebruik geïdentificeerd worden.

1. Ten eerste hergebruik door kwade actoren (zie ook §3 hierboven). 86

Centrum voor Ethiek en Gezondheid, Sensoren in de thuissituatie; de ethiek van e-health deel III, (2020). https://www.gezondheidsraad.nl/documenten/adviezen/2020/06/30/sensoren-in-de-thuissituatie. 87 Europese Commissie, “AI Act,” https://artificialintelligenceact.eu/ai-act-explorer/. 88 Arne Berger, Albrecht Kurze, Anreas Bischof, Jesse Joshua Benjamin, Richmond Y. Wong en Nick Merrill, “Accidentally Evil: Questionable Values in Smart Home Co-Design,” Conference on Human Factors in Computing Systems (CHI ’23), April 23– 28, 2023. https://doi.org/10.1145/3544548.3581504. Zie het volgende, tekenende citaat: “We offer “questionable values” as a conceptual shorthand to describe when taken for granted, “good” values for a smart home are violated. We argue that questionable values are 1) afforded by designer’s assumptions and fallacies; 2) premediated by existing smart IoT material; 3) normalized by the predominance of technosolutionist narratives, around dominant workplace values, embedding logics of power and dominance into design and engineering. Our proposal is this: We urge designers and engineers to make space for questionable values, to embrace and thus anticipate the spectrum along which heterogenous and homogenous values are contended.

Thus empowering designers and engineers to better “look around corners,” anticipating tomorrow’s concerns and forestalling the worst of their harms.”

49

2. Ten tweede hergebruik door de eigenaren van de cameradeurbel, denk hierbij bijvoorbeeld aan het uploaden op het sociale mediaplatform Neighbors of het delen in een WhatsAppgesprek.

3. Ten derde hergebruik door overheden, zoals Politie, gemeenten of Justitie. 4. Ten vierde de aanbieder van de cameradeurbel, bijvoorbeeld Amazon. AVG-gerelateerde privacyrisico’s spelen voor ieder van de vier groepen. Een ethisch risico gerelateerd aan hergebruik is niet-proportionele en onrechtmatige, grootschalige surveillance. Het hergebruik kan hierbij uitgevoerd worden door zowel de aanbieder als door een overheidsorganisatie. Beschouw ter illustratie de beschrijving van Calacci, et al. over de surveillancesituatie in Los Angeles: …it is impossible to walk around many neighborhoods in Los Angeles without being recorded by a Ring-affiliated device. Over 2,000 law enforcement agencies partner with Amazon Ring, giving these departments unprecedented access to surveillance videos and community networks.89 In dit voorbeeld werken overheid en aanbieder samen om grootschalige surveillancemogelijkheden te realiseren. Voor zover bekend is er in Nederland (nog) geen sprake van dergelijke samenwerkingen tussen de Nationale Politie en een aanbieder. Echter zou de aanwezigheid van meer dan een miljoen (!) surveillanceposities in Nederland wel aanleiding kunnen geven van een function creep van een onschuldige toepassing zoals het aannemen van pakketjes op afstand en het communiceren met bezoekers, naar een minder onschuldige toepassing zoals grootschalige surveillance.

Eigenaren, omwonenden en passanten worden namelijk op kwetsbare manieren vastgelegd: de herhaaldelijk terugkerende patronen uit hun dagelijks leven kunnen eruit worden afgeleid en gebeurtenissen die bijvoorbeeld als compromitterend kunnen worden geïnterpreteerd worden ook geregistreerd. De surveillant kan in theorie gericht misbruik maken van een data-overwicht over burgers met dergelijke rollen, bijvoorbeeld door gericht in te spelen op patronen waarvan burgers zich wellicht niets eens bewust zijn. Een nuttig idee dat ons in staat stelt om over dit ethische risico na te denken is de ‘surveillance-assemblage’. Denk hierover als het verweven raken van publieke en private actoren, waarbij data over bezoekers, maar ook de straat, buren en passanten, gedeeld worden met commerciële partijen.90 Hierbij wordt een aspect van het dagelijks leven gedataficeerd op een manier die tot voor kort niet mogelijk was.91 De blik van (commerciële) organisaties krijgt een systematische toegang tot de openbare en private ruimten rondom woonadressen. Tot slot is het waardevol om te reflecteren op een gerelateerd ethisch risico: inbreuk op de Nederlandse digitale autonomie. In het kader van slimme deurbelcamera’s is hier tot op heden geen onderzoek naar gedaan. Een intuïtie t.a.v.

dit ethische risico is dat het zich kan manifesteren als er sprake is van (systematisch) hergebruik van de gelogde data door de aanbiedende partij buiten de Europese grenzen en wetgeving om, zonder

89

D. Calacci, J. J. Shen, en A. Pentland, “The cop in your neighbor’s doorbell: Amazon ring and the spread of participatory mass surveillance,” Proc. ACM Hum.-Comput. Interact. 6, CSCW2 (2022). https://doi.org/10.1145/3555125. 90 Binnenlands Bestuur, “Hoogleraar waarschuwt voor ‘AI-mateloosheid’” (1 augustus 2025). https://www.binnenlandsbestuur.nl/digitaal/hoogleraar-waarschuwt-voor-ai-mateloosheid. 91 Marc Schuilenburg, “Making Surveillance Public.” https://beroepseer.nl/wpcontent/uploads/2024/01/verkorte_oratie_marc_schuilenburg_making_surveillance_public.pdf.

50

dat er hierbij sprake is van een expliciete overeenkomst tussen deze aanbieder en organen van de Rijksoverheid. Het leunen op extra-Europese software- en productleveranciers in het kader van de ontwikkeling, levering en hosting van de cameradeurbel maakt het ethische risico onverminderd relevant. De profiterende partij zou bij dit hergebruik de aanbieder zijn, waarbij de risicodragers de Rijksoverheid en de gedataficeerde burgers zouden zijn. Een contemporaine variant van inbreuk op de Nederlandse digitale autonomie betreft de dataopslag buiten de EU. Zowel de inbreuk op de digitale autonomie als niet-proportionele en onrechtmatige, grootschalige surveillance zijn gerelateerd aan betekenisvolle, menselijke controle over het hergebruik en de voorwaarden van gebruik van de data van slimme deurbelcamera’s. 5. Sociale erosie en mentale gezondheid Er kan sprake zijn van het ethische risico van sociale erosie doordat men overmatig gaat vertrouwen de deurbelcamera’s voor veiligheid, in plaats van op het wederzijdse toezicht van buren. In wat volgt, wordt er stilgestaan bij de verschillende facetten van dit ethische risico en de wederkerige relatie met een ander ethisch risico: de mogelijk negatieve effecten op de mentale gezondheid van burgers.

Door de toename van surveillance in het dagelijks leven en het gevoel van de burger in toenemende mate bekeken te worden, treden onwenselijke psychologische gevolgen op. Allereerst kan er over deze hoofdzakelijk sociale dimensie van de ethische aspecten van het deurbellenvraagstuk worden opgemerkt dat de alomtegenwoordigheid van de deurbel twee surveillance-gerelateerde effecten heeft die ten grondslag liggen aan de veranderingen in sociale dynamieken: (1) normalisering; en (2) softening. Normalisering houdt in dat de praktijk van het surveilleren van de omgeving tot het dagelijks leven gaat behoren: het wordt een routine-activiteit, die burgers zowel uitvoeren als ondergaan. Er is sprake van softening wanneer vormen van surveillance minder “zichtbaar en opdringerig” worden.92 De blik van de deurbel wordt voor mensen zowel normaal als gemakkelijker te ondergaan dan andere vormen van surveillance. Geënt op de normalisering en softening werkt een lokaal surveillancenetwerk van deurbelcamera’s mogelijk sociale erosie in de hand. Een paar voorbeelden hiervan kunnen behulpzaam zijn bij het verkrijgen van een voorstelling van hoe sociale erosie in werking kan treden. Het selectieve beeld van de deurbel en de veiligheid van een ‘blik op de weg’ kunnen een averechts effect hebben.

In een artikel van het AMS Institute wordt geobserveerd: “Paradoxically, some users of these doorbells feel less secure. They observe everything happening around their house and discuss it anxiously in neighborhood WhatsApp groups. Their subjective sense of security decreases, while objectively it remains unchanged.”93 De perceptie van veiligheidsverlies heeft een sterk effect op de sociale cohesie. Het draagt bij aan een kijk op de buurt als op een omgeving waarin mensen

92

Schuilenburg, “Making Surveillance Public”; zie ook: Jamie Field, “Amazon’s Ring: How Smart Home Cameras Produce A Consumer Policing Model,” PhD-thesis (University of Texas, 2023). https://utdir.tdl.org/server/api/core/bitstreams/e5a6d361-d7fd-4099-b9ee-83dc325d53a4/content. 93 Thijs Turèl, “Smart doorbell cameras pose a danger to our society,” AMS Institute (16 januari 2024). https://www.ams-institute.org/news/smart-doorbell-cameras-pose-a-danger-to-our-society/. Zie voor een Nederlandse vertaling: Thijs Turèl, “Slimme deurbellen zijn een gevaar voor onze samenleving,” Trouw (16 januari 2024). https://www.trouw.nl/opinie/slimme-deurbellen-zijn-een-gevaar-voor-onzesamenleving~b0d84768/.

51

niet te vertrouwen zijn en waar ‘gevaarlijke vreemdelingen’ zomaar kunnen opduiken. Dit werkt volgens sommigen een ‘verkliksamenleving’94 in de hand waarbij geïsoleerde buurtgenoten angstvallig de vreemde voorvallen in hun buurt documenteren, interpreteren en delen. Wat is hier precies aan de hand? Onderzoekers naar de effecten van Amazon’s Ring deurbel op de Amerikaanse samenleving vermoeden dat er sprake is van een “observers effect”: “it may incur on new generations of Americans growing up in neighborhoods that are constantly surveilled”, schrijven zij, en dit zou “the potential to perpetuate suburban neighborhood fears” kunnen hebben.95 Doordat de technologische middelen om de eigen omgeving op een directere wijze te kunnen controleren d.m.v. surveillance worden (onterechte) angsten omtrent de omgeving versterkt. De mogelijkheid te kunnen kijken maakt het in dit geval mogelijk vaker bevooroordeelde interpretaties te geven aan wat men eerder nooit kon bekijken.

In een column uit The Guardian schrijft Wisemann tekenend: These pricks of paranoid light that watch them as they walk home, that broadcast a darkened street to their family’s phones, that make the world seem suspicious and full of dread simply by capturing a night scene through a fisheye lens, what impact does it have on their understanding of equality, or safety, or identity, or youth? Trust takes time to earn, but falls away in seconds.96 Een waarde met de naam ‘saamhorigheid’, en waarden zoals ‘vertrouwen’ en ‘solidariteit’ zijn hier in het geding. De bestaande sociale structuren die het inrichten van het lokale leven a.d.h.v. deze waarden mogelijk maken, zouden wel eens brozer kunnen zijn dan we ons realiseren.97 Het is lastig om het argument dat dit burgers meer controle geeft over het dagelijks leven d.m.v. signaleren en communiceren op afstand op te zien wegen tegen de negatieve ethische effecten op saamhorigheid, solidariteit en het onderliggende vertrouwen. Sociale erosie lijkt gerelateerd aan de effecten op de mentale gezondheid van burgers. Tussen de twee onderwerpen kan een wederkerige relatie worden gelegd. Enerzijds heeft sociale erosie psychologische effecten. Anderzijds leidt een psychologisch effect zoals een paranoïde relatie aangaande de buurt, mogelijk gemaakt door het continu kunnen observeren van de omgeving, tot sociale erosie.

Een systematisch vooroordeel, zoals een raciaal vooroordeel or een vooroordeel m.b.t. criminaliteit, kan door de observaties verlopend middels het kanaal van de deurbel, (onterecht) bevestigd worden. 94

Privacy First, “De Verkliksamenleving,” (16 maart 2024), laatst bijgewerkt op 2 april 2025. https://privacyfirst.nl/artikelen/de-verkliksamenleving/. 95 Calacci, Shen en Pennland. 96 E. Wisemann, “Is it time to ring the alarm on internet door cameras? The Guardian (9 februari 2025). https://www.theguardian.com/world/2025/feb/09/is-it-time-to-ring-the-alarm-on-internet-door-cameras. 97 Zie voor verdieping op het gebied van de manifestatie van door vooroordelen gevoede sociale angsten: Mark Cote, Williams Seymour, Jennifer Pybus en Dalia Mariasin, “A Review on the Risks and Psychological Harms Presented by Consumer IoT Products,” (UK Government Department for Science Innovation and Technology, 2023). https://assets.publishing.service.gov.uk/media/672b676dfbd69e1861921c21/A_review_of_the_risks_and_p sychological_harms_presented_by_consumer_IoT_products_-_Cote_et_al.pdf. Cote et al. schrijven: “Racial Discrimination and Profiling: This is compounded by the fact that Amazon has entered agreements with UK police forces such as in Wiltshire, where police have asked residents to register their doorbells to provide footage when there are burglaries. As Wollaston (2021) reported, these kinds of police partnership can lead to and exacerbate racial discrimination and profiling.

For example, in 2019 the US, Vice magazine looked at over 100 videos posted on the ‘Neighbors app’ and the majority were all people of colour and fuel “racial anxieties” (Wollaston, 2021).”

52

Dit wordt ‘confirmatiebias’ genoemd: de tendens de eigen vooroordelen bevestigd te zien in toekomstige observaties. Overgaand op een bespreking van mentale gezondheid, is het allereerst relevant om terug te denken aan de massale surveillance die in de vorige paragraaf is benoemd. De psychologische gevolgen van deurbelcamera’s voor eigenaren en omwonenden, door directe interactie met de camera, of indirect gestimuleerd door de deurbellen door de effecten van sociale erosie, zouden kunnen wortelen in bijvoorbeeld (i) het idee dat er sprake is van massasurveillance; (ii) het idee veelvoudig geobserveerd te worden door omwonenden; of (iii) confirmatiebias aan de kant van de observant middels de cameradeurbel. In een andere column van The Guardian was niet sociale erosie, maar de psychologische gevolgen voor eigenaren van de deurbellen het onderwerp. Zo schreef Mahdawi dat “Video doorbell derangement syndrome – the symptoms of which include paranoia, anxiety and a compulsion to snoop on your neighbours – is an alarmingly easy condition to develop”.98 Deze psychologische conditie zou wijdverbreider kunnen zijn dan men nu zich nu voorstelt, en kan op voorhand beschouwd worden als een katalysator van sociale erosie.

Het ethische risico is hier dat psychologische kwetsbaarheid van de eigenaar van de deurbel – de surveillant van de omgeving – hem of haar onbedoeld parten kan gaan spelen. Observatie van de directe omgeving voorkomen (denk aan het verzoek van de AP om de camera niet op de openbare weg te richten) is hierdoor dus van belang. Dit verschilt uiteraard per installatiesituatie van de deurbel. Zie ook S. A. Snijder, “How smart is your doorbell?” MSc thesis (Technische Universiteit Delft, 2024), (https://resolver.tudelft.nl/uuid:2005fccc-ddc6-4d2d-b05ac068233752b3) voor een uitgebreide bespreking van de spanningen in de interactie tussen burgers omtrent slimme deurbelcamera’s. Wat relevant is om te benoemen, is dat Snijder beperkende en stimulerende factoren identificeerde voor gesprekken tussen burgers over slimme deurbellen. Beperkende factoren zijn: het hebben van weinig kennis over de werking van de deurbellen; confrontatie vermijdend zijn; de effectiviteit van de deurbellen niet inzien; zich afzijdig en onwetend houden m.b.t. de discussie; weinig om de discussie geven; en niet willen uitdragen een slimme deurbelcamera te hebben.

Stimulerende factoren zijn: openlijk kunnen interacteren met de deurbelcamera; er veel last van hebben; blootstelling aan media over slimme deurbelcamera's; het meemaken van een concrete aanleiding (zoals diefstal); het terloops hebben besproken van een deurbelcamera; het goede voorbeeld van anderen kunnen volgen; en een goede relatie hebben met andere buurtbewoners. 6. Respect en het doordenken van (sociale groepen) burgers als stakeholders In deze laatste paragraaf worden de begrijpelijkheid van de sensor en het ontbreken van ‘opt-out’ mogelijkheden voor passanten en bezoekers als ethische risico’s besproken. Onderliggend aan beide onderwerpen is de waarde ‘respect’. Burgers waarderen als stakeholder in de praktijken rondom de cameradeurbel is de eerste stap richting het respecteren van hun waardigheid en hun belangen m.b.t. dit vraagstuk. Dit vertaalt zich naar de twee onderwerpen die betrekking hebben op het respecteren van burgers en hun relatie met de sensor: (1) transparantie omtrent en uitlegbaarheid van de werking van de sensor; en (2) respectvolle opt-out mogelijkheden.

53

1.

2.

Begrijpelijkheid van de sensor. De functie van een slimme deurbelcamera hoeft niet voor iedereen voor zich te spreken. Het kan voor een interactor onduidelijk zijn (i) hoe hij of zij in beeld komt; (ii) wat er van hem of haar wordt geregistreerd en bewaard; (iii) met wie communicatie mogelijk is via het apparaat. Het ethische risico is hier dat er sprake is van een epistemische asymmetrie tussen de observant (eigenaar, overheid, aanbieder) en het observandum (burger). ‘Epistemische asymmetrie’ wil hier zeggen: in een relatie tussen twee partijen heeft de ene partij kennis die de andere niet heeft, wat kan leiden tot het ontstaan van leed, schade of een kwetsbaarheid bij een van de partijen. In dit geval weet de observerende partij hoe de geobserveerde partij in beeld komt en wordt vastgelegd en hergebruikt. De geobserveerde partij is hier niet van op de hoogte. Van deze asymmetrie kan met name bij kwetsbare sociale groepen effectief misbruik gemaakt worden.98 Om dit te verhelpen kunnen er manieren bedacht worden om de interactie tussen burger en sensor te supplementeren met aanvullende uitleg over de werking (het apparaat kondigt dit aan) of door op een andere manier transparant te zijn over waar de sensor toe dient, wat het vastlegt, etc.

Het anticiperen op de kennisasymmetrie tussen observeren en geobserveerd worden is een onderwerp dat geadresseerd had kunnen worden middels responsible by design. Respectvolle op-out mogelijkheden. De slimme deurbelcamera’s starten hun werking na ingedrukt te worden of staan permanent te filmen in een standbymodus. Echter is er voor de vastlegging van bezoekers en passanten dus geen sprake van een geïnformeerde toestemming van de bezoeker of passant. Het ethische risico is hier dus dat er sprake is van een gebrek aan betekenisvolle menselijke controle aan de kant van de bezoeker of passant. Los van de relatie met privacy die dit begrip heeft, kan het uitoefenen van een registratieve actie zonder toestemming van een passant of bezoeker als niet respectvol worden beschouwd. Dit maakt namelijk inbreuk op hun zelfbeschikking. Daardoor is dit een ethisch risico dat zich momenteel op grootschalige basis manifesteert.99 Samenvattend: het verkrijgen van toestemming van de bezoeker of passant op een respectvolle manier is benodigd.

Er zijn middelen en (deel)oplossingen voorhanden die betrekking hebben op het mitigeren van dit ethische risico. Denk hierbij bijvoorbeeld aan een voice assisent functie die de passant of bezoeker om toestemming vraagt om een opname te starten. Denk ook aan een fysiek middel zoals de Shutterring,100 een opbouwschuifje voor de cameralens die eerst van de camera afgeschoven moet worden voordat men zichtbaar is. Deze afscherming van het opgenomen worden, beveiligt de zelfbeschikking van de bezoeker of passant over de keuze wel of niet opgenomen te willen worden. Gerelateerd aan het verkrijgen van toestemming is het idee van ‘process consent’ ook interessant om te overdenken. Het gaat hierbij om het vernieuwen van de geïnformeerde toestemming van de interactor met de deurbel

98

Lottelise Torgersen Bergsrud en Abita Vaseeharanathan, “Surveillance in Smart Cities: A Case Study of Ethical Implications for Vulnerable Groups,” MSc Thesis (Norges teknisk-naturvitenskapelige universitet, 2024). https://hdl.handle.net/11250/3160931. 99 Zeming Chen, “A study of ethical issues in developing smart-home technologies,” Medium (28 april 2021). https://zc003.medium.com/a-study-of-ethical-issues-in-developing-smart-home-health-technologies2ff9f7369fea. 100 Responsible Sensing Lab, “Shutterring,” (z.d.). http://responsiblesensinglab.org/nl/projecten/shutterring/.

54

gedurende de doorlopende interactie met de deurbel.101 Ook kan men denken aan het blurren van gezichten als default instelling voor de slimme deurbelcamera’s of aan het beperken van de reikwijdte van het zicht van de camera tot een minimum (zeg één tot twee meter), waarbij de scherpte van het beeld afneemt naarmate de afstand groter wordt. Een laatste vorm van mitigering heeft betrekking op het verantwoord ontwerpen van wijken. Wanneer er op voorhand wordt nagedacht over de afstand tussen de deur en het begin van de openbare weg, kan er voorkomen worden dat deurbelcamera’s passanten onbedoeld kunnen vastleggen.

101

Centrum voor Ethiek en Gezondheid, Sensoren in de thuissituatie; de ethiek van e-health deel III.

55