Bijlage 3 - Beantwoording vragen commissie AZ 231123.docx

Bijlage 3 bij raadsinformatiebrief Online leefwereld jongeren In deze bijlage worden enkele vragen beantwoord naar aanleiding van de vergadering van 23 november 2023 over de 'voortgangsbrief online mediabedrijven'. De vragen zijn samengevoegd op onderwerp. De informatie komt overeen met de beantwoording van motie 343 van de leden Abdi c.s. van PvdA, GroenLinks, D66, VOLT, CDA, BIJ1 en DENK. Deze vragen hebben betrekking op: 1. Hulp en ondersteuning voor slachtoffers en betrokkenen 2. Expose-groepen op Telegram 3. Samenwerking met scholen 4. Campagne cybercrime 5. Platforms 6. Meldpunten 7. Nationale en Europese samenwerking 1. Hulp en ondersteuning voor slachtoffers en betrokkenen  Hoe zorgen we dat de doelgroepen ook weten waar ze terecht kunnen voor hulp? Slachtoffers van online seksueel geweld kunnen contact opnemen met onder andere Helpwanted (onderdeel van Offlimits en dagelijks bereikbaar tussen 7:00 - 23:00), het Centrum Seksueel Geweld of de politie. Vanuit deze organisaties wordt gekeken waar het slachtoffer behoefte aan heeft en wordt warm doorverwezen naar de juiste hulp. De aanpak van online seksueel geweld is een belangrijke focus van het programma tegen Seksuele Intimidatie en Seksueel Geweld (SISG). Het doel is om slachtofferschap en daderschap te voorkomen, te herkennen en ondersteuning te bieden als het toch gebeurt.

Er wordt vanuit het programma SISG aanvullend ingezet op:  voorlichtingsaanbod aan jongeren;  zichtbaarheid van het hulpaanbod;  deskundigheidsbevordering van professionals en;  ondersteuning van ouders. De raadsinformatiebrief over de concrete inspanningen van het programma SISG en de bijbehorende voortgangrapportage zijn ter kennisname aan de Commissie AZ van 18 april 2024 aangeboden. Het programma SISG heeft in voorgaande jaren campagnes ondersteund van het Centrum Seksueel Geweld en de hulplijnen Helpwanted en Stop it Now om meer bekendheid te geven. Er is eerder bijvoorbeeld een boost gegeven aan de campagne ‘Het stopt bij jou’ van Helpwanted. Jongeren kregen op sociale media de boodschap om ongewenste materiaal niet door te sturen, een melding te maken of bij een volwassen om hulp te vragen. In samenwerking met Stop it Now! geeft het programma SISG een vervolg aan de campagne ‘Kijk jij weleens naar kinderporno?’ om het kijken naar en verspreiden van seksueel beeldmateriaal van minderjarigen te stoppen. Samen met Offlimits wordt er verkend welke aanvullende publiekscampagnes in 2024 in Amsterdam ingezet kunnen worden. Daarnaast werken we als gemeente aan een bredere samenwerking met Offlimits. Het vergroten van de bekendheid van het Helpwanted is een van de doelstellingen (zie onder 7.2 Samenwerking Helpwanted). 2.

Expose-groepen op Telegram Wat kan het college doen tegen zogenaamde Expose-groepen op Telegram? Hoe gaan we daar op scholen mee om, en hoe informeren wij ouders hierover? Het Openbaar Ministerie (OM) en de politie kennen weinig wettelijke mogelijkheden voor het tegengaan van zogenaamde expose-groepen op Telegram. Telegram reageert momenteel op geen enkele manier op formele of informele verzoeken om informatie of moderatie. Het ziet er wel naar uit dat Telegram onder Belgisch toezicht komt te staan. Het Belgisch Instituut voor Post en Telecommunicatie (BIPT) mag naar verwachting toezicht houden. Dit toezicht is het directe gevolg van de Digital Services Act (meer 

informatie over deze wet vindt u onder punt 5). Volgens die regels moeten sociale media ook vertegenwoordigd zijn in Europa. Het BIPT kan optreden als de wet wordt overtreden door boetes op te leggen. Gebruikers van de hele EU kunnen hun klachten over Telegram indienen bij het BIPT. Hoe dit proces wordt vormgegeven is op dit moment nog niet bekend. Wat doen we als gemeente?  Samenwerken op dit thema met ketenpartners. Zo kunnen jongerenwerkers deelnemen aan Telegram groepen en jongeren aan spreken op hun online gedrag. Jongerenwerkers mogen online jongeren benaderen, zolang zij zich kenbaar maken als jongerenwerker. Ook als er sprake is van andere (zware) problematiek waar hulpverlening voor nodig is kunnen zij een hulpverlener betrekken en samen kijken wat er nodig is.  Als scholen vragen hebben over exposing, dan kan de gemeente vanuit de aanpak schoolveiligheid scholen hierop adviseren/ondersteunen. Zie hieronder meer toelichting over de samenwerking met scholen. Met betrekking tot de ouders; zie toelichting onder het kopje 1. 'Hulp en ondersteuning voor slachtoffers en betrokkenen'. 3. Samenwerking met scholen We werken samen met scholen op de volgende manieren:  Vanuit de Amsterdamse aanpak Schoolveiligheid (afd.

Onderwijs) is er ook specifiek aandacht voor het ondersteunen van scholen op het gebied van online:  Zij hebben een schoolveiligheidskaart ontwikkeld voor scholen. De schoolveiligheidskaart helpt scholen inzicht te krijgen in hun hulpvraag bij schoolveiligheidsvraagstukken, onder andere op het thema online veiligheid. Op het thema online veiligheid wordt interessante (landelijke) kennis via websites gedeeld. De schoolveiligheidskaart is verspreid onder de v(s)o- scholen en de mbo-instellingen. Hierin staat o.a. de verwijzing naar het Stappenplan Sexting - Hulpmiddelen om snel te handelen. Daarin staat info wat je als school kunt doen als er een naaktfoto of seksueel getint filmpje van een leerling rondgaat. Schoolveiligheidskaart: Def versie_ Digitale kaart Schoolveiligheid.pdf  Indien scholen vragen hebben over specifieke lokale interventies of aanbieders, verwijst de schoolveiligheidskaart op het gebied van online veiligheid naar de projectleiders Jeugd- en Veiligheid van het stadsdeel. Zij kunnen scholen ondersteunen in het formuleren van hun hulpvraag en hier passend aanbod bij proberen te vinden.  Als scholen breder aan de slag willen met gezonde relationele en seksuele vorming, dan kunnen scholen ondersteuning krijgen via Gezonde School Amsterdam (GGD).

Scholen kunnen ondersteuning krijgen bij het samenstellen van een passend pakket van lesprogramma's en aanvullend preventief aanbod. Online weerbaarheid wordt in vrijwel alle lesprogramma's meegenomen.  De gemeente biedt trainingen aan voor schoolteams over de leefwereld van jongeren, waar online een onderdeel van is.  De gemeente zet op zo'n 40 v0-scholen jongerenwerkers in om verbinding te leggen tussen de verschillende leefwerelden van jongeren: thuis, straat, online en school.  De gemeente heeft poster Zicht op Online ontwikkeld, omdat scholen behoefte hadden aan meer informatie over de online leefwereld van jongeren. Deze poster is gepresenteerd en uitgedeeld aan de v(s)o-scholen. Ook wordt hierbij een gespreksstarter gemaakt (door Orion, Ihub en Garage2020), zodat docenten concrete handvatten krijgen om met leerlingen het gesprek aan te gaan over wat ze meemaken en zien in de onlinewereld.  Scholen kunnen de ROSA-regisseurs van het Actiecentrum Veiligheid en Zorg consulteren bij casussen met complexe problematiek waaronder seksueel grensoverschrijdend gedrag.  Middels het Convenant Digitaal Bewustzijn Online leefomgeving werken we ook samen met partners in de stad, waaronder scholen. Dit partnernetwerk zet zich in voor digitale weerbaarheid en mentale en fysieke gezondheid van jongeren.

4. Campagne Cybercrime Hoe gaat campagne preventie cybercrime eruitzien? Hoe staat het Amsterdamse model om kinderen op te leiden tot cyberagent? Zijn er genoeg digitale wijkagenten in Amsterdam aanwezig? Er wordt hier verwezen naar de samenwerking met het platform HackShield, Junior Cyber Agents. Dit platform is nog steeds actief, o.a. in de OBA met HackShield in de Bieb (dit is een combinatie van Augmented Reality en een online spel). Dit wordt landelijk bij 30 aangesloten bibliotheken aangeboden. In Amsterdam zijn er op dit moment 1.835 Junior Cyber Agents tussen de 8 en 12 jaar. De doelgroep waarmee we in 2021 zijn gestart groeit uit dit model, daarom is inmiddels ook daaropvolgende pakket HackShield In De Klas gelanceerd. Dit lesprogramma is gratis beschikbaar online voor alle scholen en bestaat uit acht modules die klassikaal op het digibord in de klas gespeeld kunnen worden. Hierin worden thema’s behandeld zoals desinformatie, phishing, online identiteit en gedragsgrenzen. 

 Wat betreft de vraag over de digitale wijkagenten Er is op 1 februari 2024 door het Regionaal Bestuurlijk Overleg vastgesteld dat er aan ieder basisteam in Amsterdam een digitale wijkagent wordt toegevoegd. Dit betekent in Amsterdam dat er straks 14 digitale wijkagenten zijn. De werving en aanstelling van deze agenten start in de loop van 2024 en loopt door in 2025. Wijkagenten richten zich op de online gebiedsgebonden politiezorg en gedigitaliseerde criminaliteit (online surveilleren, monitoren van open bronnen, signaleren in het kader van het handhaven en het begrenzen van ontoelaatbare online gedragingen). Cybercrime is onderdeel van het opleidingsbudget. 5. Platforms De rol van platforms werd vanuit diverse kanten belicht. Hier zijn ze onderverdeeld op de gestelde vragen.  Platforms en het voorkomen van risico's online en inzicht in de meldingen  Wat kunnen sociale media platforms doen om zich actief in te zetten om risico's online leefwereld te kunnen voorkomen?  Inzicht in de meldingen die bij sociale media platforms binnenkomen. Welke acties doen zij? Sinds 25 augustus 2023 geldt de Digital Service Act (DSA) voor de negentien allergrootste online platforms en zoekmachines.

Dankzij de DSA moeten grote online platforms risico’s periodiek beoordelen die voortvloeien uit de werking en het gebruik van hun dienst, alsook uit mogelijk misbruik door de afnemers van de dienst. Dit zijn risico’s die voortvloeien uit het ontwerp, de werking en het gebruik van hun diensten. De platforms zijn verplicht passende assende maatregelen te nemen om deze risico’s te beperken. De risico’s zijn: 1. verspreiding van illegale inhoud via hun diensten; 2. effecten op de fundamentele rechten van gebruikers zoals het recht op vrijheid van meningsuiting, het recht op privéleven maar ook het recht op non-discriminatie, eerbiediging van de rechten van het kind, enzovoort; 3. effecten op democratische processen (denk aan de Cambridge Analytica affaire); 4. effecten op de volksgezondheid, minderjarigen en gendergerelateerd geweld. De platforms zijn verplicht om passende maatregelen te nemen om deze risico’s te beperken. Voorbeelden hiervan zijn:  Platform gebruikers moeten illegale content eenvoudig kunnen melden. Bijvoorbeeld door middel van een contactformulier op de website. Online platforms moeten een melding onderzoeken. Daarnaast moeten online platforms informeren of ze aan deze melding consequenties hebben verbonden.  Samenwerking met Trusted flaggers (zie ook bij Ad 2).  Opstellen van gedragscodes.  Stoppen van schadelijke advertenties.

  

Tegengaan van verspreiding van desinformatie, zeker wanneer deze ingezet wordt om economisch voordeel te behalen ten koste van kwetsbare groepen. Tegengaan van het gebruik van bots en nepaccounts. Ook nemen platforms zoals TikTok stappen om betere datasets beschikbaar te stellen voor (onafhankelijk)wetenschappelijk onderzoek naar bijvoorbeeld de impact van sociale media op jongeren.

Regulering & toezicht De negentien zeer grote online platforms vallen onder rechtstreeks toezicht van de Europese Commissie. De zeer grote online platforms moeten aan strengere regels voldoen - dan de overige kleinere online platforms - om systeemrisico' s in te perken. Landelijk wordt er binnen rond de waarborging van online kinderrechten actief gewerkt aan het reguleren van bedrijven via Europese wetgeving. Belangrijke bestaande wettelijke kaders die minderjarigen beschermen, zijn de Europese Algemene Verordening Gegevensbescherming (AVG), de herziene richtlijn audiovisuele mediadiensten (AVMSD) en de DSA. De autoriteit Consument & Markt en Autoriteit Persoonsgegevens gaan in Nederland toezicht houden op de DSA. Maar zij zijn pas bevoegd als de nationale wet die dit regelt in werking treedt. De nationale wetgeving blijft namelijk leidend als het gaat om wat wordt bestempeld als illegale content en de strafbaarheid ervan. Naar verwachting is dit in de loop van 2024. Zij zijn ondertussen wel al actief als digitale dienstencoördinator en kunnen meldingen ontvangen en doorsturen. Als techbedrijven de nieuwe regels overtreden, kunnen ze in de toekomst een boete verwachten van maximaal zes procent van hun totale omzet. Als ze de DSA meermaals overtreden, kunnen ze zelfs een verbod krijgen om te opereren op de Europese markt.

Het Rijk geeft in de ‘Kamerbrief kinderrechten en digitalisering' van 14 juni 20231 terecht aan dat de mate van effectiviteit van deze bepalingen echter wel afhangt van de uitvoering die hieraan wordt gegeven door de online platforms. Amsterdam wil momenteel, binnen haar cirkel van invloed, er samen met partners voor zorgen dat online platforms gelijk invulling geven aan de wettelijke bepalingen. Er wordt momenteel actief opvolging gegeven aan de samenwerking tot nu toe en nieuwe activiteiten ondernomen. Er is in ieder geval aandacht voor:  Hoe we bijvoorbeeld kunnen samenwerken rondom bewustwording, projecten op het gebied van digitale geletterdheid en communicatie. De platforms hebben aangegeven dat zij actief met Amsterdam willen samenwerken aan campagnes en deze ook lokaal onder de aandacht willen brengen.  Wat er nodig is m.b.t. samenwerking met andere relevante partijen, waaronder het Rijk, VNG, Europa, kennisinstellingen en maatschappelijke organisaties.  Samenwerken aan een sterkere signaleringsfunctie, passende preventieprogramma’s op herstel en nazorg en ook de online zichtbaarheid (engagement) van publieke dienstverlening op de online platforms.  Hoe de moderatie en afhandeling van het flaggen verloopt en meer inzicht te krijgen of er voldoende capaciteit is op nationaal niveau met focus op (regio) Amsterdam in samenwerking met Offlimits.

We starten binnenkort een Amsterdamse pilot: versterking van Helpwanted als lokale meldvoorziening. Onder kopje 7.2. vindt u hier meer informatie over.  Momenteel loopt in opdracht van het ministerie van Justitie en Veiligheid ook een andere pilot. Het gaat om de pilot “Laagdrempelige Meldvoorziening (LMV)” voor het verwijderen van onrechtmatige content. Bij onrechtmatige content kan het gaat om smadelijke teksten en beelden maar ook om andere vormen van privacy-schending, auteursrechtelijke kwesties, haat 1 https://www.rijksoverheid.nl/documenten/kamerstukken/2023/07/14/kamerbrief-over-online-kinderrechten



zaaiende- en racistische uitlatingen of vormen van cyberstalking. De verbreding naar het kunnen melden van onrechtmatige content is in lijn met de nieuwe Digital Services Act (DSA).2 Deze pilot is onderdeel van het Project Online Content Moderatie3 (PrOCoM). De bevindingen van de pilot worden meegenomen bij de uiteindelijke doorontwikkeling van een laagdrempelige meldvoorziening (waarschijnlijk Helpwanted). Eind juni worden de resultaten van deze pilot gedeeld. Dit jaar wordt er een nieuwe vervolgbijeenkomst ingepland met de platforms. Daar nodigen we, indien relevant, een aantal partners voor uit waaronder maatschappelijke organisaties, kennisinstellingen en jongeren zelf.

Moderatie van Nederlandstalige content De content die online verwijderd wordt, wordt voor een groot deel geautomatiseerd afgehandeld. Dit houdt in dat de moderatie op basis van technologie (AI) zorgt voor een sein om de content en of account te verwijderen. Hierbij vindt altijd nog een menselijke verificatie plaats om te controleren of dat de automatisering haar werk goed heeft gedaan. Per platform zijn de gebruiksvoorwaarden anders en er zijn verschillen in wat is toegestaan. Op dit moment zien we bijvoorbeeld dat op een aantal platforms er actief veel nep-nieuws wordt verspreid. Zowel de Europese Commissie als de Rijksoverheid maken zich daar zorgen over en zetten zich in voor regulering. De Gemeente Amsterdam werkt met hen samen, maar handhaaft niet zelf. We brengen deze problematiek wel actief onder de aandacht van de platforms samenwerking met de Rijksoverheid. 6. Meldpunten 6.1. Motie  Verbinden aan een lokaal meldpunt verbinden waar centrale registratie mogelijk is.  De meldingen lokaal verzamelen op scholen in aanvulling op landelijke organisaties. Dit is opgenomen in de beantwoording van motie 343 van de leden Abdi c.s. van PvdA, GroenLinks, D66, VOLT, CDA, BIJ1 en DENK. 7. Nationale en Europese samenwerking  Trekt Amsterdam op met andere Europese steden? We focussen ons in eerste instantie op landelijke samenwerking.

Via het landelijk Centrum voor Criminaliteitspreventie en Veiligheid (CCV) en het Ministerie van Justitie en Veiligheid (JenV) zit de gemeente Amsterdam samen met de VNG in de landelijke klankbordgroep van PrOCoM. Dit is een publiek-privaat kader waarin burgers, overheid en de internetsector makkelijker kunnen handelen bij online materiaal dat strafbaar is, schade toebrengt of maatschappelijk ongewenste effecten met zich meebrengt. Onder de deelnemers zijn ook platforms zoals Meta, Snapchat en TikTok. Eén van de speerpunten is het toegankelijker maken van een landelijke en laagdrempelige meldvoorziening voor de burger, zodat zij onrechtmatige online content kunnen melden. De groei van het aantal meldingen bij Offlimits met 35% is er overduidelijk grote behoefte aan een dergelijk meldpunt. Op 20 juni 2024 organiseert PrOCoM haar jaarcongres, waar de voortgang en resultaten gepresenteerd zullen worden. Vanuit het CCV en JenV ligt er een voorstel om in 2024 een conferentie te organiseren voor en door Europese steden over deze thematiek, zoals: online opruiing en hate speech in stedelijke omgevingen, bewustwording op digitale geletterdheid en weerbaarheid, samenwerking tussen overheden, techbedrijven en burgers en de privacybescherming en data-governance. Amsterdam participeert graag.

Daarnaast is de online leefwereld onderdeel van de Europese bestuurlijke prioriteiten agenda vanuit de gemeente. Daarin zoeken we actief samenwerking met Europa (en het Rijk).

Tot slot is Amsterdam onderdeel van de Cities Coalition for Digital Rights. Dit is een netwerk van 60 internationale (waaronder ook Europese) steden, die elkaar helpen op het gebied van digitale beleidsvorming. We werken samen en wisselen kennis en informatie uit om gemeenschappelijke digitale vraagstukken op te lossen en de mensenrechten in stedelijke digitale omgevingen te bevorderen. Amsterdam zal actief samenwerking opzoeken rondom dit thema om kennis uit te wisselen.