Bijlage 5 - Whitepaper Advies inrichting LMV.pdf

Whitepaper Advies Inrichting Laagdrempelige Meldvoorziening

Publiek-Private Samenwerking Online Content Moderatie

Introductie Op verzoek van het ministerie van Justitie en Veiligheid (Project Online Content Moderatie) is onder coördinatie van ECP een nieuwe publiek-private samenwerking (PPS)1 ingericht over online content moderatie waarin overheid, internetsector en civil society gelijkwaardig met elkaar in overleg treden. 2 Deze PPS geeft gevraagd en ongevraagd advies aan de overheid over onderwerpen die van belang zijn voor de deelnemende partijen, of waar zij eveneens een belangrijke rol in spelen. Naar aanleiding van initiatieven 3 vanuit de Tweede Kamer heeft de minister voor Rechtsbescherming een onderzoek laten uitvoeren naar de introductie van een voorziening voor burgers om content verwijderd te krijgen van het internet. 4 De uitkomst van het onderzoek5 was dat het huidig juridisch instrumentarium volstaat om dit soort content aan te pakken, maar dat daarvoor meer naar de privaat- en bestuursrechtelijke mogelijkheden dient te worden gekeken. Overkoepelend werd geadviseerd om te investeren in het verbeteren van informatievoorziening aan benadeelden, in het bijzonder op het punt van de route die zij kunnen volgen voor het (laten) verwijderen van onrechtmatige online content.

Ongeveer gelijktijdig met het aankondigen van bovengenoemd onderzoek werd door kamerlid Van Nispen een motie ingediend6 waarin de regering werd verzocht “te zorgen voor een laagdrempelige voorziening, waar slachtoffers van internetcriminaliteit en ernstige privacyschendingen zich kunnen melden voor snel en goed advies, de privacyschending op internet snel namens hen beëindigd kan worden en zo mogelijk een aanvang kan worden gemaakt met het strafrechtelijk traject”. De motie werd kamerbreed aangenomen. Het Project Online Content Moderatie (PrOCoM), een interdepartementaal project dat ondergebracht is bij het ministerie van Justitie en Veiligheid (JenV), is gevraagd om uitvoering te geven aan de motie Van Nispen. Hiertoe is “het tot stand brengen van een laagdrempelige voorziening voor burgers voor het kunnen melden van onrechtmatige online content” als projectresultaat geformuleerd. De LMV geeft indien nodig ook advies of verwijst melders door naar de juiste instantie. Nederland kent reeds een aantal (deels vanuit JenV gesubsidieerde) meldpunten die zich richten op specifieke vormen van strafbare content, te weten het Meldpunt Kinderporno (onderdeel van de stichting Offlimits) en Meld.Online Discriminatie (MOD).

Met het tot stand brengen van een laagdrempelige meldvoorziening (LMV) voor onrechtmatige content wordt het spectrum verbreed van content die gemeld kan worden met het doel die verwijderd te krijgen. Die verbreding is beoogd volledig in lijn te zijn met de nieuwe wet digitale diensten (Digital Services Act – DSA) die zich richt op het tegengaan van “illegale content”, in de Nederlandse context te interpreteren als zowel strafbare content (online inhoud die in strijd is met bepalingen uit wetboek van strafrecht) als Publiek-private samenwerking online content moderatie - ECP | Platform voor de InformatieSamenleving 1

2https://ecp.nl/project/publiek-private-samenwerking-online-content-moderatie/

3

Initiatiefnota van Kamerlid Koopmans van 5 april 2018: Onderlinge privacy (Kamerstuk 34 926, nr.2). 4 Kamerbrief over de reactie op het verzoek van het lid Van Toorenburg, gedaan tijdens de Regeling van werkzaamheden van 14 januari 2020, over het bericht ‘Criminele Telegramgroepen jagen op namen en adressen agenten’” (Kamerstuk II 2019-20, 29 628, nr. 938). 5 WODC-onderzoek (1 september 2020): “Voorziening voor verzoeken tot snelle verwijdering van

onrechtmatige online content”. 6

Kamerstukken II 2022-23, 34 602, nr. 3.

2 van 16

onrechtmatige content (online handelingen die als onrechtmatige daad ex art 6:162 BW zijn aan te duiden). Daarbij is de ambitie dat deze LMV zal worden gecertificeerd door de ACM als betrouwbare flagger in de zin van artikel 21 van de DSA. Hiervoor is vereist dat een entiteit specifieke expertise en bevoegdheid heeft voor het opsporen, identificeren en melden van illegale inhoud. Momenteel wordt er een pilot gedraaid bij Helpwanted 7 (samen met o.a. het Meldpunt Kinderporno8 onderdeel van Offlimits9). Doel van de pilot is om in beeld te brengen of er aanvullend op andere door de overheid gefinancierde voorzieningen behoefte is aan een laagdrempelige meldvoorziening voor online onrechtmatige content, welke vormen van content dit betreft, wie er melden, hoe de opvolging van de verzoeken is door internetbedrijven, wat er voor een laagdrempelige meldvoorziening nodig is om hieraan adequaat uitvoering te geven, en of Helpwanted de geëigende partij is om de definitieve laagdrempelige meldvoorziening onder te brengen. Bij de keuze van JenV voor Helpwanted in de samenwerking van de pilot is gekeken naar reeds opgebouwde ervaring met typen content, de NTD-procedure en de doelgroep.

Op deze punten sluit Helpwanted aan bij het beoogde model van een laagdrempelige meldvoorziening waar slachtoffers melding kunnen maken van online content die hen in de persoon raakt met als doel om dit verwijderd te krijgen. Op verzoek van de klankbordgroep van de PPS online content moderatie is de werkgroep ‘laagdrempelige meldvoorziening’ opgericht. Deze werkgroep adviseert PrOCoM over hoe deze laagdrempelige meldvoorziening het beste in te richten op een wijze dat deze werkbaar en effectief is voor alle betrokken partijen binnen de kaders van de DSA. Dit advies is zeer belangrijk omdat draagvlak vanuit alle betrokken partijen voor de uiteindelijke werkwijze van de LMV essentieel is voor het uiteindelijke daadwerkelijke nut ervan voor de burger. In aanloop naar de realisatie van een nieuwe meldvoorziening, dient namelijk goed in beeld te worden gebracht wat de reikwijdte van een dergelijk meldpunt dient te zijn (welke vormen van illegale content er gemeld kunnen worden), hoe meldingen worden beoordeeld en hoe eventuele verwijderverzoeken worden afgehandeld. Dit advies dient als één en ondeelbaar advies. Het whitepaper begint met een beschrijving van de inrichting van de Laagdrempelige meldvoorziening, waarbij de focus ligt op het definiëren van verschillende typen content die binnen deze structuur opgenomen dienen te worden.

Hierin wordt onderscheid gemaakt tussen content waarvan de LMV zelf in staat zou moeten zijn om de onrechtmatigheid van content te beoordelen en content waarvan externe partijen deze beoordeling zullen doen. Vervolgens wordt de focus verlegd naar het ecosysteem van de LMV, waarin de relaties tussen verschillende betrokken partijen worden belicht. Tenslotte worden de aanbevelingen uiteengezet ter advisering en overweging.

7 Helpwanted | Home 8 Meldpunt Kinderporno - Home (meldpunt-kinderporno.nl) 9 Offlimits | Home

3 van 16

Definities Tussenhandelsdienst Een "tussenhandelsdienst" volgens de DSA (artikel 2, lid 10) omvat diverse diensten. Ten eerste, "mere conduit"-diensten waarbij informatie die door een afnemer van de dienst wordt verstrekt, wordt doorgegeven via een communicatienetwerk of toegang wordt verleend tot een communicatienetwerk. Ten tweede, "caching"-diensten waarbij informatie die door een afnemer van de dienst wordt verstrekt, automatisch, tussentijds en tijdelijk wordt opgeslagen in een communicatienetwerk, met als enig doel om de latere doorgifte van die informatie aan andere afnemers van de dienst doeltreffender te maken. Tot slot, "hosting"-diensten die bestaan uit de opslag van door een afnemer van de dienst verstrekte informatie op diens verzoek.

Online onrechtmatige content Online onrechtmatige content wordt in het plan van aanpak betreffende de pilot bij Helpwanted omschreven als “content die op basis van de vereisten van artikel 6:162 BW als onrechtmatig kan worden beoordeeld. Een onrechtmatige daad kan ontstaan door een inbreuk op een recht, een handelen of nalaten in strijd met een wettelijke plicht of door handelen in strijd met de maatschappelijke betamelijkheid.” Naast online onrechtmatige content valt ook strafbare content op basis van het Wetboek van Strafrecht onder online illegale content.

Verwijderverzoek In dit advies wordt vaak gerefereerd aan een ‘verwijderverzoek’ vanuit de beoogde betrouwbare flagger rol van de laagdrempelige meldvoorziening of andere organisaties. Het is goed om te benadrukken dat dit een verzoek betreft om content te verwijderen/ontoegankelijk te maken nadat geoordeeld is dat de content als illegaal kan worden beschouwd in de zin van de DSA. De laagdrempelige meldvoorziening richt zich daarbij vooral op beoordeling van evidente onrechtmatigheid. Indien het meldpunt twijfelt of bepaalde content als evident onrechtmatig wordt beschouwd, kan worden gekeken naar de algemene voorwaarden van de betreffende tussenhandelsdienst. Is de inhoud of gedraging volgens die algemene voorwaarden niet toegestaan, dan kan het meldpunt alsnog besluiten een verwijderverzoek te doen, onder duidelijke vermelding van de grondslag daarvan. De partij die de melding ontvangt, beoordeelt vervolgens de melding en kan overgaan tot het verwijderen of ontoegankelijk maken van de inhoud met inachtneming van de grondrechten van de afnemers van de dienst, waaronder het recht op vrijheid van meningsuiting en op informatie. Het is ook mogelijk dat de beoordeling van de tussenhandelsdienst anders uitvalt dan die van het meldpunt. In een dergelijk geval dient de tussenhandelsdienst aan het meldpunt terug te koppelen waarom geen uitvoering is gegeven aan het verwijderverzoek.

4 van 16

Inrichting laagdrempelige meldvoorziening Er zijn verschillende manieren waarop burgers melding kunnen doen van schadelijke content. Dat kan bijvoorbeeld rechtstreeks bij een dienstenaanbieder zelf, door naar de politie te stappen of een specifiek meldpunt om hulp te vragen. Om het voor burgers makkelijker te maken om hulp te krijgen, wordt er een nieuwe brede laagdrempelige meldvoorziening ingericht in aanvulling op de bestaande mogelijkheden om content te melden. Dit laat onverlet dat tussenhandelsdiensten eigen meldingsmogelijkheden hebben en dit in veel gevallen de snelste optie kan zijn. Maar soms komen mensen er niet op eigen kracht uit, is het probleem heel complex en is de hulpvraag breder dan enkel verwijderen, of krijgt men geen respons van tussenhandelsdienst. Dan biedt de LMV uitkomst. In de PPS zijn verschillende soorten content de revue gepasseerd en is besproken hoe de LMV met desbetreffende meldingen om zou moeten gaan. Er is brede consensus dat burgers met al hun vragen en meldingen terecht moeten kunnen bij de LMV. Afhankelijk van de vraag en beoordeling van de melding wordt advies geboden (zoals om melding te doen bij de politie, verwijzing naar hulporganisatie) en kan een verwijderverzoek (of meerdere) worden uitgestuurd. Het doel van de LMV is om melders bij de hand te nemen en te helpen met hun hulpvraag.

In die zin is de LMV het nationale vertrouwde meldpunt en hulpmiddel voor burgers die online te maken hebben met schadelijk gedrag en hulp zoeken. De LMV kijkt naar verschillende soorten content. Indien de LMV oordeelt dat de content als evident onrechtmatig kan worden beschouwd in de zin van de DSA, dan kan de LMV een verwijderverzoek doen bij de betreffende tussenhandelsdienst. Indien evidente onrechtmatigheid niet vastgesteld kan worden kan de LMV zich bij twijfel over de rechtmatigheid ook baseren op de algemene voorwaarden van tussenhandelsdiensten voor het doen van een verwijderverzoek indien de content in strijd is met de AV van de betreffende tussenhandelsdienst. Immers, de LMV zal in de samenwerking met tussenhandelsdiensten bekend raken met hun algemene voorwaarden. Zo wordt een burger die melding doet optimaal bijgestaan. De LMV dient het wel duidelijk aan te geven wanneer een verwijderverzoek op basis van de algemene voorwaarden gedaan wordt. Standaardisering van communicatie biedt helderheid en zal ook door de PPS worden opgepakt. Deze werkwijze is daarnaast in lijn met de huidige praktijk waarbij Helpwanted als bestaande betrouwbare flagger voor enkele online platforms reeds meldingen doet bij die online platforms als de content vermoedelijk onverenigbaar is met hun algemene voorwaarden.

Tenslotte wordt in paragraaf 62 van het Explanatory Memorandum van de DSA benadrukt dat deze functie moet blijven bestaan: ‘[...] De regels van de onderhavige verordening mogen aanbieders van onlineplatforms niet beletten gebruik te maken van betrouwbare flaggers of soortgelijke mechanismen om snel en betrouwbaar op te treden tegen inhoud die onverenigbaar is met hun algemene voorwaarden [...]’10.

10 L_2022277NL.01000101.xml (europa.eu)

5 van 16

Externe expertise Overeenkomstig met de DSA dient de LMV expertise te hebben voor het beoordelen van onrechtmatige content. Indien specifieke expertise niet bij de LMV aanwezig is, dient de samenwerking te worden aangegaan met externe partijen die deze wel hebben. Een voorbeeld hiervan is Meld.Online Discriminatie (MOD) 11 die specifieke expertise (reeds 10 jaar actief en ISO 9001 en 27001 gecertificeerd) heeft op het beoordelen van meldingen van online (groeps)discriminatie. Het uitgangspunt zou moeten zijn dat voor burgers een enkele melding bij een van de door de overheid gefinancierde voorzieningen volstaat, en dat zij niet van het ene meldpunt naar het andere worden verwezen. Het minimaliseren van het aantal betrouwbare flaggers is van waarde voor de betrokken partijen en de effectiviteit van het stelsel. Doorverwijzen kan uiteraard wel wanneer een melding gericht zou moeten zijn aan een toezichthouder of wanneer ondersteuning door een professionele hulporganisatie is geïndiceerd. In dit kader biedt de PPS ruimte om de samenwerking tussen de verschillende door de overheid gefinancierde voorzieningen te optimaliseren, zodat de samenhang van het meldpuntenlandschap zo goed mogelijk aansluit op de behoeften van burgers. Er zijn ook situaties waarbij bestaande toezichthouders en of andere overheidsorganisaties het primaat hebben bij het behandelen van dit soort problematiek.

Meldingen die onder toezicht vallen van de Nederlandse Voedsel- en Warenautoriteit (NVWA)12 of het Commissariaat voor de Media (CvdM)13 zullen in de meeste gevallen volledig overgedragen worden, waarna deze (overheids)partijen verder zelf verantwoordelijk zijn voor de opvolging en het versturen van een eventueel verwijderverzoek. Andere partijen kunnen uiteraard ook altijd meldingen die zij binnenkrijgen die niet binnen hun expertisegebied vallen doorzetten naar de LMV. Bij de inrichting van het stelsel hanteren we de volgende uitgangspunten: 1. De burger die meldt moet centraal staan, en niet de werkwijze van de betrokken organisaties. Dat betekent dat de route naar hulp laagdrempelig, overzichtelijk en in het belang van het individu is ingericht. 2. De LMV is ingericht voor burgers (individuen). 3. Er wordt scherp onderscheid gemaakt tussen verwijderverzoeken op basis van de DSA en verwijderverzoeken op basis van algemene voorwaarden aan tussenhandelsdiensten. 4. De betrouwbare flagger status kent vanuit de DSA een hoge drempel 14: de organisatie moet over uitmuntende expertise en kennis beschikken, omgeven zijn door voldoende financiële waarborgen en de processen goed ingericht hebben. De status van betrouwbare flagger wordt door de ACM toegekend binnen een specifiek expertisegebied op basis van wettelijke vereisten.15 5.

Voor de procesgang hanteren we als onderliggende categorisering (zie triage meldingen): 11

Home | Meld.Online Discriminatie

12 Home | NVWA

13 Home - Commissariaat voor de Media (cvdm.nl)

14

De beschermde titel van betrouwbare flagger volgt per definitie uit artikel 61 van de DSA en de certificering door de Autoriteit Consument & Markt 15 Artikel 22, lid 2, DSA.

6 van 16

a. Evident onrechtmatige content b. Content waarvan er twijfel bestaat over de evidente onrechtmatigheid, maar waar wel sprake is van strijdigheid met de algemene voorwaarden van een tussenhandelsdienst c. Ter bespreking d. Doorverwijzing/hulpvraag/irrelevant 6. Conform de DSA, blijft de uiteindelijke beoordeling van a, b of c altijd de verantwoordelijkheid van de tussenhandelsdienst. Bij a) is er, ook conform de DSA, slechts sprake van prioritering. 7. Conform de DSA inzetten op zo min mogelijk (gesubsidieerde) trusted flaggers met als doel om een hoge kwaliteit en schaalbaarheid te waarborgen.

Functies LMV samengevat: Naar aanleiding van de discussies, identificeert de PPS vier functies voor de LMV. Op basis van de meldingen die binnenkomen, moet de LMV hulp kunnen bieden door haar notice-and-action functie (middels een verwijderverzoek), schakelfunctie, hulpfunctie en signaleringsfunctie. Bij onrechtmatige online content zal de LMV vanuit haar betrouwbare flagger status verwijderverzoeken kunnen versturen naar de betreffende tussenhandelsdienst om de content offline te krijgen. Indien content niet met zekerheid als evident onrechtmatig beoordeeld kan worden maar wel zeer vermoedelijk onverenigbaar is met de algemene voorwaarden van een platform kan de LMV een verwijderverzoek versturen onder verwijzing naar de algemene voorwaarden. Deze notice-and-action functie van de LMV geldt voor content waar de LMV de juiste expertise voor heeft of extern voor heeft aangezocht.

Er zijn twee scenario's denkbaar. Omdat het de voorkeur heeft dat de burger zo min mogelijk wordt doorverwezen heeft het de voorkeur dat externe expertise wordt aangezocht en de LMV vervolgens een verwijderverzoek doet en de melding zoveel mogelijk afhandelt. Indien deze werkwijze (nog) niet ingericht is, dan wordt de melding via de schakelfunctie volledig doorgeschakeld naar de externe organisatie. Indien er nog geen expertise is ingericht, dan dient deze duurzaam te worden ondergebracht bij

7 van 16

de LMV om versnippering te voorkomen. Zoals beschreven onder “Externe expertise” heeft de werkgroep verregaandere ideeën over kansen in de samenwerking van de LMV met andere door de overheid gefinancierde voorzieningen. De LMV zal ook moeten schakelen met toezichthouders zoals de Nederlandse Voedselen Warenautoriteit (NVWA) en de Autoriteit Financiële Markten (AFM) indien meldingen daar aanleiding toe geven. Het is belangrijk om in contact te staan met meldpunten en organisaties waar meldingen gedaan kunnen worden van onrechtmatige online content om niet onnodig tijd te verliezen. Om slachtoffers goed te begeleiden in het proces is terugkoppeling vanuit deze organisaties over de uiteindelijk gezette stappen van groot belang. Vaak is het verwijderen van online content slechts een urgent subonderdeel van een bredere hulpvraag. Daarnaast kan de LMV ook meldingen ontvangen die waarvan de content niet als mogelijk onrechtmatig of onverenigbaar met algemene voorwaarden wordt beoordeeld. De LMV dient melders in deze gevallen via een hulpfunctie te helpen en informeren over mogelijke vervolgstappen en adviseren over bij welke hulppartijen mensen terecht kunnen. Hoewel de LMV zich in principe richt op het individu, zouden er wel patronen, nieuwe fenomenen en mogelijke hiaten geïdentificeerd kunnen worden in de meldingen.

De LMV dient periodiek en, indien relevant, ad hoc te reflecteren op dergelijke ontwikkelingen middels een signaleringsfunctie. Daarnaast kan dit inzicht geven in de problematiek en helpen met het actualiseren van voorlichtings- en bewustwordingscampagnes. Voor tussenhandelsdiensten kan het daarnaast nuttig zijn op de hoogte te worden gebracht bij veel meldingen over een bepaalde klant of gebruiker. De invulling van deze signaleringsfunctie dient ook verder vorm krijgen in de praktijk.

8 van 16

Randvoorwaarden Toegankelijkheid en anonimiteit Naast de functies van de LMV is het van groot belang dat de LMV toegankelijk is en laagdrempelig benaderd kan worden. Dat kan worden bewerkstelligd door een passende tone-of-voice te bieden (inclusief visuele toelichting) en de mogelijkheid om op verschillende manieren (bijvoorbeeld via chat, telefoon en mail) contact te zoeken. Alle Nederlanders dienen bij de LMV terecht te kunnen. Van alle Nederlanders hebben 4,5 miljoen een beperking of chronische ziekte 16. De toegankelijkheid van de LMV dient daarom hierop te worden ingericht, zodat bijvoorbeeld ook personen met auditieve en visuele beperkingen en laaggeletterden hun weg weten te vinden. Ook heeft de praktijk uitgewezen dat het belangrijk is dat de LMV de mogelijkheid biedt voor anonieme meldingen. De mogelijkheid om anoniem melding te doen zorgt voor een veilige omgeving voor slachtoffers waardoor de drempel verlaagd wordt om melding te doen en mensen melding kunnen doen voor een ander. Daarnaast kan iemand ook schadelijke content tegenkomen die niet direct op jezelf betrekking heeft, maar die je wel wilt melden. In sommige gevallen zal echter identificatie nodig zijn om de identiteit van het slachtoffer te bevestigen om onrechtmatigheid vast te kunnen stellen (zo zijn privacyovertredingen vaak persoonsgebonden).

Zo staat in de DSA in artikel 50 omschreven: “Voor sommige soorten gemelde informatie kan de identiteit van de persoon of de entiteit die een melding doet nodig zijn om te bepalen of de betrokken informatie illegale inhoud vormt, zoals werd beweerd”17. Ook dient er gecontroleerd te worden of het slachtoffer zelf ook achter deze melding staat indien het niet om een bewindvoerder gaat. De pilotfase van de LMV zal helderheid bieden over anoniem melden en welke mogelijke extra maatregelen daarbij genomen zullen moeten worden.

Ecosysteem De LMV bevindt zich in een ecosysteem van meldpunten, ministeries, politie, toezichthouders, hulppartijen, platformen en Internet Service Providers. De LMV dient in nauw contact te staan met deze partijen om effectief samen te werken en melders te ondersteunen. Bij Offlimits is door deze drie organisaties en hun jarenlange samenwerking met de sector al veel kennis van het bestaande ecosysteem en indien de LMV ondergebracht zal worden bij Offlimits zal deze kennis goed benut kunnen worden. Het advies is om in gesprek te blijven met verschillende stakeholders met betrekking tot de beoordeling van content maar ook preventie en andere mogelijke relevante partijen. In de bijlage staat een overzicht van partijen betrokken bij de PPS online content moderatie. Het is zaak en deeltaak van de PPS online content moderatie dat alle partijen binnen het netwerk weten naar welke partij zij kunnen doorverwijzen en om de LMV

16 Wat is digitale toegankelijkheid? | Digitoegankelijk 17 L_2022277NL.01000101.xml (europa.eu)

9 van 16

onder de aandacht te brengen. De LMV dient dit contact in te richten en vorm te geven aan de hand van de eerdergenoemde uitgangspunten. Om de kwaliteit van de beoordelingen te waarborgen is het advies om naast de LMV ook een expertgroep in te richten zoals de huidige vergelijkingscommissie. Deze expertgroep kan helpen met het bepalen en bewaken van kaders aan de hand van casuïstiek. Vertegenwoordiging vanuit platformen in deze expertgroep zou van toegevoegde waarde zijn met hun kennis over de problematiek en de werkwijze van platformen.

Financiële borging In deze whitepaper wordt het ideale scenario geschetst voor de inrichting van de landelijke laagdrempelige meldvoorziening. Om een dergelijke organisatie duurzaam vorm te geven zijn voldoende voorzieningen en middelen nodig. Het doel is om de burger een blijvend instrument te bieden voor hulpvragen, daar past voldoende financiële zekerheid bij. De nieuwe organisatie krijgt bovendien een brede set van taken in een dynamische online omgeving. Het verdient daarom de aanbeveling om bij de start minimaal een financiële borging te bieden voor meerdere jaren. Dit zorgt er ook voor dat de juiste expertise kan worden aangezocht en behouden. Aan het einde van deze periode volgt een evaluatie.

10 van 16

Aanpak binnenkomende meldingen Binnen het proces van de verwerking van meldingen kunnen verschillende stappen geïdentificeerd worden. Allereerst zal ingeschat moeten worden of de onrechtmatigheid van content beoordeeld kan worden door de LMV of dat hier externe expertise voor nodig is. Om het soort content en de mogelijke onrechtmatigheid vast te stellen, is er relevante informatie nodig over verschillende contextuele factoren van de content. Hierin staan het topic, de vindplaats, grondslag en het individu centraal. Op basis van deze informatie kunnen meldingen ingedeeld worden in verschillende categorieën. De LMV – indien Offlimits dit gaat doen en deze door de ACM gecertificeerd wordt als betrouwbare flagger - zal zelf de onrechtmatigheid vast moeten kunnen stellen van (overwegend) seksueel grensoverschrijdend gedrag, waaronder in ieder geval beeldmateriaal van kindermisbruik (zowel van jonge kinderen bij het Meldpunt Kinderporno als bijvoorbeeld waarmee tieners onder druk gezet worden bij Helpwanted), online stalking, cyberpesten, toxicity, doxing, ongewenst online benaderd voor seks, misbruik online omgeving (nepprofiel/hacken), foto/video via mobiel verspreid, foto/video online, aanzet tot zelfbeschadiging, suïcide, mensenhandel (indien expertise aanwezig) en chantage/bedreiging (sextortion).

In deze gevallen moet de LMV zelfstandig in staat zijn de inhoud te beoordelen en indien onrechtmatigheid wordt vastgesteld over te gaan tot een notice-andaction/verwijderverzoek aan de desbetreffende tussenhandelsdienst. Wanneer een melding meerdere categorieën betreft, dient de LMV rekening te houden met prioritering van de tussenhandelsdiensten en duidelijk te communiceren over de aard van de melding. Slachtoffers van onrechtmatige online content kunnen daarnaast ook geadviseerd worden door de LMV om aanvullend contact op te nemen met de politie of een andere hulppartij voor professionele hulpverlening. Voor content binnen de categorie aanzet tot zelfbeschadiging kunnen slachtoffers bijvoorbeeld voor verdere hulp (naast mogelijke verwijdering van content) doorverwezen worden naar 113. Desinformatie is in principe niet onrechtmatig en de LMV dient de melder – indien het niet onder een andere vorm van onrechtmatige content valt – alleen te adviseren om zelf melding te doen bij de tussenhandelsdienst. Om versnippering te voorkomen, dient de expertise voor nieuwe vormen van onrechtmatige online content waar zowel intern als extern nog geen expertise voor is ingericht duurzaam ondergebracht te worden bij de LMV. Het gesprek dient blijvend te worden gevoerd over welke vormen van onrechtmatige content binnen dit stelsel geadresseerd moeten worden.

Met snelle technologische ontwikkelingen dient de LMV ook goed in staat te zijn om in te spelen op actuele problematiek. Wel moet er zorgvuldig om te worden gedaan met de aanvraag tot certificering als betrouwbare flagger in de zin van de DSA aangezien deze een specifieke expertise vereist.18 Deze expertise moet worden bepaald en vastgesteld, en vervolgens moet met de ACM worden besproken dat hier een uitbreiding plaatsvindt.

18 DSA (Art 61) L_2022277NL.01000101.xml (europa.eu)

11 van 16

Triage meldingen Voor de interne categorisering van meldingen is er gesproken over vier verschillende mogelijke acties. Deze acties zijn gebaseerd op de bestaande werkwijze van Offlimits. Categorie A – Verwijderverzoek op basis van de DSA – betreft de content waarvan de LMV evidente onrechtmatigheid vast kan stellen op basis van expertise. Dit betreft de categorie waar de LMV een trusted flagger status voor zal aanvragen en dus ook over zou moeten gaan tot een verzoek tot snelle verwijdering. Categorie B – Verwijderverzoek op basis van AV – omvat de content waarvan evidente strijdigheid met het recht twijfelachtig is maar waarvan het sterke vermoeden is dat het wel strijdig is met algemene voorwaarden van de tussenhandelsdienst. Voor deze meldingen kan de LMV een verwijderverzoek op basis van de algemene voorwaarden versturen naar de betreffende tussenhandelsdiensten. Zowel categorie A als B vallen onder de notice-andaction functie van de LMV en de basis. Daarnaast kunnen er meldingen binnenkomen bij de LMV over content die niet in de bovenstaande categorieën geplaatst kunnen worden. Enerzijds kunnen dit meldingen zijn waar zowel in het recht als in de algemene voorwaarden nog geen duidelijkheid over bestaat.

Binnen categorie C – in gesprek – wordt content waar nog geen duidelijkheid over is, besproken en stelt de LMV in staat om vanuit haar signaleringsfunctie nieuwe fenomenen te duiden die kunnen leiden tot slachtofferschap. Categorie D – schakelen externe partij of niets ondernemen – omvat de meldingen van content waar de LMV zelf geen verwijderverzoek voor kan sturen. De LMV kan deze meldingen echter wel doorsturen naar andere partijen die de juiste expertise hebben, zoals andere betrouwbare flaggers, externe toezichthouders, of overheidspartijen. Ook kunnen melders worden doorverwezen naar een passende hulppartij. Voor deze categorie van meldingen zijn de schakel- en hulpfunctie van de LMV relevant. Het hulpveld is zeer breed en divers is en het is goed om te benoemen dat dit een minimale lijst is. Organisaties zoals de politie of de huisarts kunnen ook een aangewezen hulppartij zijn maar nu is er gekozen voor algemene partijen. Er zijn daarnaast tal van kleine organisaties die zich specialiseren in doelgroepen en hulpvragen.

Beoordeling Intern Onderwerp

Beoordeling intern

Actie naar tussenhandelsdienst*

Hulppartij***

Seksueel materiaal van kinderen (Het betreft hier meldingen van sextortion van minderjarige melders of het ongewenst verspreiden van naaktbeelden van minderjarigen)

Onrechtmatig

Verwijderverzoek DSA

o.a. Politie, Centrum Seksueel Geweld, Fier

Onverenigbaar met AV

Verwijderverzoek AV

Online stalking

Onrechtmatig

Verwijderverzoek DSA

Meldpunt Kinderporno

Politie

12 van 16

Onverenigbaar met AV

Verwijderverzoek AV

Slachtofferhulp Nederland Meld Misdaad Anoniem

Cyberpesten

Toxicity

Doxing

Ongewenst online benaderd voor seks (grooming)

Onrechtmatig

Verwijderverzoek DSA

Slachtofferhulp Nederland

Onverenigbaar met AV

Verwijderverzoek AV

Onrechtmatig

Verwijderverzoek DSA

Onverenigbaar met AV

Verwijderverzoek AV

Onrechtmatig

Verwijderverzoek DSA

Politie

Onverenigbaar met AV

Verwijderverzoek AV

Slachtofferhulp Nederland

Onrechtmatig

Verwijderverzoek DSA

Politie

Onverenigbaar met AV

Verwijderverzoek AV

Slachtofferhulp Nederland

Kindertelefoon Kindertelefoon

Fier Centrum Seksueel Geweld Foto/video via mobiel verspreid

Foto/video online

Chantage/bedreiging (sextortion)

Onrechtmatig

Verwijderverzoek DSA

Slachtofferhulp Nederland

Onverenigbaar met AV

Verwijderverzoek AV

Onrechtmatig

Verwijderverzoek DSA

Onverenigbaar met AV

Verwijderverzoek AV

Onrechtmatig

Verwijderverzoek DSA

Politie

Onverenigbaar met AV

Verwijderverzoek AV

Take it Down (<18)

Centrum Seksueel Geweld Slachtofferhulp Nederland Centrum Seksueel Geweld

Stop NCII (>18) Misbruik online omgeving/Hacken

Onrechtmatig

Verwijderverzoek DSA

Politie

Onverenigbaar met AV

Verwijderverzoek AV

Slachtofferhulp Nederland

Zelfbeschadiging en de aanzet daartoe

Onrechtmatig

Verwijderverzoek DSA

113

Onverenigbaar met AV

Verwijderverzoek AV

Kindertelefoon

Suïcide en de aanzet daartoe

Onrechtmatig

Verwijderverzoek DSA

113

Onverenigbaar met AV

Verwijderverzoek AV

Mensenhandel (indien expertise aanwezig)

Onrechtmatig

Verwijderverzoek DSA

Politie

Onverenigbaar met AV

Verwijderverzoek AV

Fier Slachtofferhulp Nederland

Desinformatie**

Checken of het in een andere categorie valt.

13 van 16

* Op basis van de proportionaliteit/subsidiariteit maakt de LMV een inschatting naar welke tussenhandelsdienst de melding het beste verstuurd kan worden. Naar het voorbeeld van de NTD-regeling wordt de melding verstuurd naar de entiteit die ‘zo dicht mogelijk bij de content zit’. Deze partij behoudt het recht tot het maken van een andere keuze dan aan hen verzocht wordt aangezien het een verwijderverzoek betreft en geen bevoegd gegeven bevel. ** Desinformatie: Indien de desinformatie onder een andere categorie valt kan deze beoordeeld worden door de LMV, anders is er geen vervolgactie gewenst vanuit de LMV *** Hulppartij waarnaar doorverwezen kan worden als de hulpvraag niet gaat over de verwijdering van content of waarin het hulpaanbod van Helpwanted anderszins niet voorziet.

Beoordeling extern Onderwerp

Schakelen met

Hulppartij**

Opruiing

Bij acute situatie: politie

Politie

(groeps)discriminatie en/of oproepen tot geweld

Meld.Online Discriminatie (MOD)

Slachtofferhulp Nederland

Intellectueel eigendom

BREIN

Fraude en oplichting

LMIO, Fraude Helpdesk & ACM

Gereguleerde verkoop goederen en diensten

NVWA/AFM/KSA/ILT/IGJ

Online marketing gericht op minderjarigen

CvdM

Sluikreclame

CvdM

Slachtofferhulp Nederland

*Het is gewenst dat de externe partijen terugkoppelen over vervolgacties ** Hulppartij die aanvullende hulp kan bieden wat verder geen betrekking heeft op het komen tot verwijdering van content.

14 van 16

Conclusies en aanbevelingen Om de meldvoorziening daadwerkelijk laagdrempelig te laten zijn is het belangrijk om deze in te richten als one-stop-shop. Burgers dienen met al hun vragen en meldingen terecht te kunnen bij de LMV. Daarom moet het een toegankelijk en benaderbaar meldpunt worden voor iedereen. De LMV zal zich richten op het beoordelen van meldingen over verschillende soorten content, waarbij de focus ligt op het ondersteunen van slachtoffers, het signaleren van nieuwe trends en het schakelen met externe expertise wanneer nodig. De LMV opereert binnen een ecosysteem van samenwerkende partijen zoals ministeries, politie, meldpunten, hulppartijen en de internetsector. Samenwerking en communicatie met deze stakeholders zijn van essentieel belang om een effectieve aanpak te waarborgen. Naast haar notice-and-action functie, dient de LMV ook een schakelfunctie, hulpfunctie en singaleringsfunctie te vervullen. Het uitgangspunt is om voor de beoordeling van meldingen zoveel mogelijk interne expertise te benutten of externe expertise in te roepen waarna een eventueel verwijderverzoek verstuurd kan worden vanuit de LMV naar de betreffende tussenhandelsdienst. Indien er geen interne expertise aanwezig is of externe expertise ingeroepen kan worden, zal de LMV moeten schakelen met een andere partij die de juiste expertise heeft.

Vaak is het verwijderen van content deel van een bredere hulpvraag, daarom dient de LMV met haar hulpfunctie ondersteuning te bieden bij aan alle burgers die melding doen bij de LMV onafhankelijk van de uiteindelijke beoordeling met betrekking tot de rechtmatigheid van content. Met technologische ontwikkelingen en daarmee veranderende problematiek, biedt de signaleringsfunctie van de LMV waardevolle inzichten voor de aanpak van online onrechtmatige content. Daarnaast adviseren we ook dat vanuit de signaleringsfunctie de LMV periodiek updates geeft over het type meldingen, aantallen en andere significante trends aan relevante partijen in het ecosysteem, van de sector en hulppartijen tot de media en de politiek. Zodat de goede informatie bij eenieder aanwezig is om preventie, samenwerking, hulp en wetgeving continu te kunnen blijven verbeteren. Om de bovenstaande functies goed uit te voeren en het recht op de vrijheid van meningsuiting te waarborgen, dient de LMV onafhankelijk te zijn en los van de overheid te opereren. Hoewel het ministerie van Justitie en Veiligheid de grootste subsidieverstrekker zal zijn, dient de LMV controlemechanismen in te richten om de onafhankelijkheid te beschermen. Uiteindelijk ligt het eindoordeel bij de tussenhandelsdiensten waardoor de LMV ook gelimiteerde controle heeft over de uiteindelijk beslissingen.

De rapportageverplichtingen spelen hierin een belangrijke rol en transparantie over de werkwijze van de LMV en de binnenkomende meldingen is cruciaal. Ook het behoud van de vergelijkingscommissie biedt hierin uitkomst. Het gesprek over de implementatie van de DSA en de LMV zal ook in het vervolg moeten blijven plaatsvinden bij de PPS online content moderatie. Op neutrale voet met elkaar in gesprek over hoe het gaat en wat er verbeterd zou kunnen worden is erg belangrijk voor het vertrouwen en de effectiviteit van de LMV. We adviseren dan ook een aantal keren per jaar een evaluatie in te plannen over de implementatie van de DSA, waaronder de LMV. Hier kunnen ook nieuwe trends en verschillende vraagstukken besproken worden om zo op actuele problematiek in te spelen.

15 van 16

Bijlage Op verzoek van de klankbordgroep van de PPS online content moderatie is de werkgroep ‘laagdrempelige meldvoorziening’ opgericht. De leden van de werkgroep hebben meegedacht over hoe deze laagdrempelige meldvoorziening het beste kan worden ingericht, zodat deze werkbaar en effectief is voor alle betrokken partijen binnen de kaders van de DSA. De adviezen van de werkgroep zijn tot stand gekomen door een zorgvuldige weging van de uiteenlopende belangen van de betrokken private en publieke partijen, met oog voor operationele uitvoerbaarheid en effectiviteit. En beogen daarmee de bestuurlijke en politieke besluitvorming te vereenvoudigen. De inhoud vertegenwoordigt geen bestaand overheidsbeleid, maar dient als bijdrage aan beleidsvorming.

Leden van de werkgroep Laagdrempelige Meldvoorziening: • •

• • • • • • • •

Amsterdam Internet Exchange (AMS-IX) Project Online Content Moderatie (PrOCoM)* o Ministerie van Justitie en Veiligheid o Ministerie van Binnenlandse Zaken en Koninkrijksrelaties Het Nederlands Security Meldpunt/Abuse IO Meta Meld.Online Discriminatie (MOD) Offlimits SIDN Snap TikTok Voorzitter/secretaris: ECP | Platform voor de InformatieSamenleving

*Het Project Online Content Moderatie (PrOCoM) is een interdepartementaal project dat is geïnitieerd door het ministerie van Justitie en Veiligheid. Het project wordt verder ondersteund door het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, ministerie van Economische Zaken en Klimaat, Openbaar Ministerie, politie, en de Vereniging van Nederlandse Gemeenten (VNG). PrOCoM heeft als doel een publiekprivaat kader te bieden waarbinnen burgers, de overheid en de internetsector actief en effectief kunnen handelen bij online materiaal dat strafbaar is, schade toebrengt of maatschappelijk ongewenste effecten met zich meebrengt.

Bij vragen over dit advies kunt u contact opnemen via onlinecontentmoderatie@ecp.nl

16 van 16