RIB Online Leefwereld Jongeren.pdf

Raadsinformatiebrief

Aan:

Behandeld door

De leden van de gemeenteraad van Amsterdam 13 juni 2024 Openbare Orde & Veiligheid, ICT & Digitale Stad, Jeugd(-zorg), Jongerenwerk, Regelgeving & Handhaving, Zorg en Maatschappelijke Ontwikkeling Femke Halsema, Alexander Scholtes Digitalisering, Innovatie & Informatie (bestuurszaken.dii@amsterdam.nl)

Onderwerp

Online leefwereld jongeren

Datum Portefeuille(s)

Portefeuillehouder(s):

Geachte leden van de gemeenteraad, Amsterdam staat wereldwijd bekend om haar vrijheid in denken en handelen. Dit is een kernwaarde waar we trots op zijn en die we willen behouden. Helaas zien we dat de groeiende invloed van de digitale wereld deze vrijheid onder druk zet, vooral voor onze jongeren. De impact van de online leefwereld op jongeren Jongeren groeien grotendeels online op. In een omgeving die hun dagelijks leven en ontwikkeling sterk beïnvloedt. Het biedt hen mogelijkheden om te communiceren, leren, groeien, geïnspireerd te raken en verbonden te blijven, wat hun algehele ontwikkeling en welzijn bevordert. Maar de keerzijde van online opgroeien wordt ook steeds duidelijker: er zijn steeds meer negatieve effecten. In deze brief belichten we een aantal van deze 'online fenomenen' op het gebied van veiligheid, gezondheid en onderwijs. Voor een completer overzicht verwijzen wij u naar bijlage 1. Veiligheid De impact die de online leefwereld heeft op de veiligheid van jongeren, is groot. Dit wordt ook nog extra onderstreept door het onderzoek en zwartboek dat door het raadslid Abdi (PvdA) op 13 maart jl. is gepresenteerd.

Vooral jongeren in een omgeving met veel onveiligheid, waar er veel zorgen zijn over bijvoorbeeld geld en waar het vertrouwen in hulpinstanties laag is, zijn vatbaarder om slachtoffer (en dader) te worden van online (aangejaagde) haat, geweld en criminaliteit. Hiermee vergroot de online leefwereld de ongelijkheid tussen groepen jonge mensen. We zien onder andere de volgende fenomenen als het gaat om veiligheid: ▪

▪

Online haat We zien dat individuen in toenemende mate te maken krijgen met online discriminatie, haatberichten, bedreigingen en intimidatie. Online aangejaagd geweld Conflicten beginnen regelmatig aan de hand van online pesterijen, beledigingen, bedreigingen of provocaties. Het geweld dat daaruit voortkomt, wordt vastgelegd en vervolgens tijdens of na het incident gedeeld op sociale media. Het online publiek is niet alleen een groep passieve toeschouwers, maar zij dragen met opjuttende reacties vaak actief bij aan de escalatie van het conflict.

Gemeente Amsterdam, raadsinformatiebrief

▪

▪

▪

Datum 13 juni 2024 Pagina 2 van 8

Wantrouwen richting de overheid, polarisatie en radicalisering Algoritmes trekken jongeren in een bubbel van eenzijdige en extreme berichten, wat kan leiden tot haat en extremistische denkbeelden. Seksuele afpersing Online shaming en pesten komt vaak voor, met name richting jonge meisjes. In extreme gevallen zijn jongeren slachtoffer van sextortion: met naakt- of verhullende foto’s als chantagemiddel worden slachtoffers soms langdurig afgeperst. Vaker komt het voor dat privé foto’s of video’s (al dan niet met deepfake- technologie gemaakt) worden verspreid onder kennissen, vrienden of familie als wraakactie of om de slachtoffers te exposen. Drugscriminaliteit Jongeren lijken het “normaal” vinden dat drugs via sociale media wordt aangeboden en verkocht. Ook worden jongeren via chatgroepen geronseld voor criminele “klusjes” en kan de online verheerlijking van criminaliteit als een katalysator werken voor een eigen criminele carrière.

De mentale en fysieke gezondheid van jongeren Bij een groeiende groep kinderen leidt het gebruik van sociale media tot problemen met mentale en/of fysieke ontwikkeling, waaronder: ▪

▪

▪

Game- en socialemediaverslaving Sociale media kan verslavend werken door het ontwerp van de platformen; het beloningsmechanisme in de hersenen worden voortdurend geactiveerd door het ontvangen van onvoorspelbare beloningen zoals berichten en notificaties en de ‘oneindige scroll’. Dit kan leiden tot verstoorde nachtrust, lager zelfbeeld, concentratieverlies en stress. Zelfbeeld Onrealistische schoonheidsidealen op sociale media en advertenties van cosmetische klinieken beïnvloeden vooral meisjes negatief. Brokkelbrein Mobiele telefoons vragen veel van onze aandacht en een veelheid aan informatie in een korte tijd. Vooral voor kinderen die hier al op een jonge leeftijd aan worden blootgesteld, lopen het risico dat hun brein daardoor belangrijke verbindingen niet legt en minder goed ontwikkelt.

Onderwijs We zien dat sociale media een sterk katalyserende werking kunnen hebben op veiligheidsvraagstukken, waardoor deze snel kunnen escaleren. Dit gebeurt ook op scholen. Daarnaast blijkt uit de Staat van het Onderwijs 2024 dat het veelvuldig gebruik van smartphones een negatieve invloed kan hebben op het concentratievermogen, de schoolprestaties en de sociaal-emotionele ontwikkeling van jongeren. Op scholen heeft de online wereld impact op: ▪

Veiligheid in en om school Scholen zien dat het online ronselen voor het dealen van drugs, het verkopen van lachgas, of het aanzetten tot haat en geweld een negatieve invloed hebben op de veiligheid in en om de school. Gevechten die op het schoolplein worden uitgevochten kennen hun oorsprong in online uitlokkingen en vernederingen, buiten het zicht van ouders en docenten. Georganiseerde misdaad weet jongeren online te ronselen voor criminele activiteiten – zaken die jongeren op hun beurt de school weer mee in nemen en andere klasgenoten mee kunnen beïnvloeden.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

▪

▪

Datum 13 juni 2024 Pagina 3 van 8

Cyberpesten Het aantal kinderen dat gepest wordt stijgt en het gebeurt steeds vaker, buiten het zich van ouders en docenten, online via sociale media of in groepsapps. Het houdt niet op na schooltijd maar het gaat 24/7 door. Afname in concentratievermogen en schoolprestaties VO-scholen zien dat het veelvuldig gebruik van smartphones onder leerlingen leidt tot verminderde concentratie in de klas, lagere cijfers en verminderde taal- en leesvaardigheid (Staat van het Onderwijs 2024). Sinds 1 januari 2024 is het gebruik van mobiele telefoons in de klas niet meer toegestaan op middelbare scholen. Vanaf het nieuwe schooljaar (2024-2025) is het niet-educatief gebruik van mobiele telefoons en ook tablets of smartwatches in 2024 niet meer toegestaan in de klas op basisscholen en het (voortgezet) speciaal (basis) onderwijs.

Door de snelle technologische ontwikkelingen komen er ook steeds weer andere uitdagingen bij. Denk bijvoorbeeld aan de rol en ontwikkeling van kunstmatige intelligentie (AI). Het wordt lastiger om echt van nep te kunnen onderscheiden en makkelijker om binnen mum van tijd (en voor weinig geld) een 'deepfake' te ontwikkelen. Gezamenlijke verantwoordelijkheid We zien het als onze maatschappelijke verantwoordelijkheid om ervoor te zorgen dat jongeren zich veilig kunnen ontwikkelen tot veerkrachtige, vrije individuen. De online leefwereld moet in dienst van jongeren staan, en niet andersom. Maar dat kunnen we niet alleen. Het is van cruciaal belang dat we als samenleving gezamenlijk de verantwoordelijkheid nemen om dit aan te pakken. In de eerste plaats zien we een verantwoordelijkheid van Sociale Media Platforms om kwetsbare groepen, zoals jongeren te beschermen. Zij dienen hun platformen op een ethische manier te ontwerpen. Door bijvoorbeeld te stoppen met functionaliteiten die schermtijdverslaving in de hand werken en door te stoppen met algoritmen die schadelijke content vaker vertonen. Daarnaast zien we een belangrijke rol weggelegd voor opvoeders en professionals die met jongeren werken. Bij het begeleiden van jonge gebruikers; zowel met oog op schermgebruik als wat ze zien op sociale media.

Ze kunnen jongeren informeren over de risico's, hen begrenzen, helpen gezonde gewoonten te ontwikkelen rondom het gebruik van technologie en door zelf het goede voorbeeld te geven. En natuurlijk hebben wij als stad zelf ook onze verantwoordelijkheid. En die nemen we ook. Onze jongeren verdienen een internet dat hen beschermt en een stad die hen hierin ondersteunt. Wat doen wij om jongeren online te beschermen? Op dit moment wordt er binnen de gemeentelijke organisatie vanuit verschillende directies gewerkt aan dit thema. Meer specifiekere informatie over wat er op dit moment gedaan wordt binnen de gemeente is voor de leesbaarheid opgenomen in bijlage 1. Hierin vindt u het resultaat van een inventarisatie die u eerder is toegezegd. En hoewel er vanuit verschillende portefeuilles hard wordt gewerkt willen we nog forser inzetten op deze problematiek en een voortrekkersrol innemen. Actieplan We werken vanuit het college aan een ambitieus breder actieplan waarover we u dit jaar nog willen informeren. We gaan op verschillende niveaus en vanuit verschillende portefeuilles interveniëren. We zoeken intensiever de samenwerking met elkaar, jongeren, opvoeders en partners in de stad

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 13 juni 2024 Pagina 4 van 8

op. We gaan beter aansluiten op de online leefwereld, leren wat werkt en nodig is en hoe we ons als gemeente tot dit onderwerp verhouden. Dit vraagt om samenwerking met Amsterdammers, continu meebewegen met signalen uit de stad (on- en offline) en (mogelijk) radicale maatregelen. Hieronder vindt u een aantal voorbeelden waar we aan werken en/of zaken die wij overwegen/onderzoeken: ▪ We gaan ons actief uitspreken voor wet- en regelgeving die de rechten en belangen van jongeren beschermt in de online wereld. We zetten ons in voor afspraken met platformen om bijvoorbeeld het chronologische algoritme en hoge privacy settings de standaard te maken voor jongeren. De verslavingsgevoelige componenten in het ontwerp moeten eveneens aangepakt worden. ▪ We gaan (internationale) samenwerking bevorderen: we zoeken samenwerking met andere internationale steden die vergelijkbare uitdagingen hebben met grote platforms. Door kennis en ervaringen uit te wisselen en gezamenlijk op te treden, kan de invloed van de stad worden vergroot. ▪ Jongerenparticipatie: we gaan jongeren actief betrekken bij onder andere beleid en activiteiten rond dit thema. Bijvoorbeeld bij het ontwerpen van oplossingen die bijdragen aan het tegengaan van negatieve fenomenen. Zij weten immers zelf het beste wat voor hen werkt. ▪ We onderzoeken hoe technologie kan helpen bij het tegengaan van negatieve fenomenen.

Denk bijvoorbeeld aan de vraag neerleggen bij platformen voor een verkenning naar een vorm van leeftijdsverificatie waarbij privacy wordt gewaarborgd. ▪ We gaan met jongeren, ouders en professionals in gezamenlijke ontwerpsessies aan de slag met mijlpalen rondom het online opgroeien. Denk aan het krijgen van je eerste telefoon of het moment dat kinderen op sociale media gaan. We onderzoeken hoe de gemeente kan voorzien in de behoefte van verschillende doelgroepen. Wat hebben jongeren zelf nodig? Hoe kunnen wij opvoeders hierbij ondersteunen? En wat zouden we wel/niet moeten ontwikkelen aan interventies of instrumenten? ▪ We onderzoeken hoe we, met waarborging van privacy, beter online vertegenwoordigd en online aanwezig kunnen zijn om tijdig in te kunnen grijpen en zo excessen op straat en in en rondom school te voorkomen. ▪ We onderzoeken, samen met opvoeders en scholen, welke interventies wij als stad kunnen inzetten om smartphonegebruik onder jongeren te verminderen. Zou het bijvoorbeeld in Amsterdam wenselijk en haalbaar zijn om te kiezen voor een smartphone verbod op alle Amsterdamse onderwijsinstellingen (ook MBO/HBO/Universiteit) en/of plekken die jongeren regelmatig bezoeken? ▪ We bieden ouders actiever handelingsperspectief en instrumenten om hun kinderen te begeleiden en te beschermen; We gaan ouders actief helpen bij het digitale ouderschap.

▪ We volgen trends en ontwikkelingen en bouwen aan een infrastructuur waardoor wij als stad snel(ler) kunnen reageren en inspelen. ▪ We zetten ons in voor de vereenvoudiging van aangifte bij online seksueel geweld en zorgen dat hulpaanbod goed georganiseerd is voor slachtoffers. We werken samen met de organisatie Offlimits aan meer inzicht en de zichtbaarheid van Helpwanted, een laagdrempelige meldvoorziening voor grensoverschrijdend online gedrag (afdoening motie 343.23). Laagdrempelige meldvoorziening voor onrechtmatige en/of onwenselijke content In de vergadering van de gemeenteraad van 7 juni 2023 heeft uw raad bij de behandeling van de raadsinformatiebrief over wapenproblematiek motie 343.23 van raadsleden Abdi c.s. van PvdA,

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 13 juni 2024 Pagina 5 van 8

GroenLinks, D66, VOLT, CDA, BIJ1 en DENK aangenomen. Het college geeft als volgt uitvoering aan de motie. 1. Laagdrempelige meldvoorziening We komen tegemoet aan uw wens voor een verkenning naar een laagdrempelige meldvoorziening voor de verwijdering van strafbare, onrechtmatige en/of onwenselijke online content. Dit doen we door samen met het bestaande landelijk meldpunt Helpwanted te starten met een pilot om het voor Amsterdamse slachtoffers makkelijker te maken om dergelijke content te melden. Naar verwachting starten we hier na de zomer mee. Helpwanted is onderdeel van Offlimits, het expertisecentrum richt zich op bewustwording, preventief aanbod en (praktische) hulp aan slachtoffers en plegers, waaronder het verwijderen van illegaal beeldmateriaal. Helpwanted is een gratis hulplijn voor slachtoffers van online (seksueel) grensoverschrijdend gedrag en geweld, en voor ouders/verzorgers, omstanders en professionals. Helpwanted geeft praktische hulp, persoonlijk advies en helpt als trusted flagger bij het verwijderen van strafbare content. We zien Helpwanted als een geschikte partner voor deze pilot om hun ervaring als trusted flagger, goede samenwerking met platforms zoals Snapchat, TikTok en Meta (Instagram en Facebook), en de snelle en warme doorverwijzing naar eventuele hulp door partijen zoals de politie, het Centrum Seksueel Geweld of 113.

Toelichting pilot met de gemeente Amsterdam De pilot is nog in voorbereiding en bestaat in ieder geval uit: ▪ Dataverzameling over de aard en omvang van de Amsterdamse meldingen om daar lessen uit te trekken om de (gemeentelijke) aanpak aan te scherpen op het gebied van 1) preventie/voorlichting, 2) contentmoderatie en 3) organisatie van een basisinfrastructuur als het gaat om opsporing en vervolging, hulpaanbod voor slachtoffers en wet- en regelgeving. Waarbij de anonimiteit van het melden ten alle tijden gewaarborgd dient te blijven. ▪ Publiekscommunicatie gericht op jongeren, professionals in het onderwijs en jongerenwerk, en ouders/verzorgers om hen te informeren over de mogelijkheden om beeldmateriaal online te melden en verwijderen. ▪ Extra capaciteit bij Helpwanted om de meldingen op te kunnen vangen. ▪ Samenwerking met de platforms Meta, Snapchat en TikTok. De inzichten en uitkomsten van de samenwerking bieden ook handvatten voor de ambtelijke organisatie. Prioritering van inzet en activiteiten worden duidelijker en hiermee ondersteund. We hopen hiermee ook bij te dragen aan een structurele aanpak en meer inzet vanuit het Rijk op dit thema. 2.

Binnen VNG-verband te pleiten voor goede afspraken Samenwerking met de Vereniging van Nederlandse Gemeenten (VNG) met betrekking tot dit thema doen we met name via het landelijk Centrum voor Criminaliteitspreventie en Veiligheid en het ministerie van Justitie en Veiligheid. De gemeente Amsterdam zit samen met de VNG in de landelijke klankbordgroep van Project Online Content Moderatie (PrOCoM). Onder de deelnemers zijn ook sociale media platforms zoals Meta, Snapchat en TikTok. PrOCoM is een publiek-private

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 13 juni 2024 Pagina 6 van 8

samenwerking dat een kader biedt waarin burgers, overheid en de internetsector makkelijker kunnen handelen bij online materiaal dat strafbaar is, schade toebrengt of maatschappelijk ongewenste effecten met zich meebrengt. Doelen PrOCoM PrOCoM heeft vier operationele doelen: • het opzetten van een vaste overlegstructuur met verschillende overheden en de internetsector over hun rol in het verwijderen van schadelijke content; • de pilot ‘Laagdrempelige Meldvoorziening (LMV)’ voor het verwijderen van onrechtmatige content bij Helpwanted (zie toelichting hieronder) als basis voor de whitepaper voor een advies voor de inrichting van een nationale laagdrempelige meldvoorziening. • het ontwikkelen van handelingskaders en instrumenten voor gemeenten, bijvoorbeeld bij openbare orde verstoringen die online ontstaan; • het opbouwen en up-to-date houden van kennis en kunde over de problematiek en nieuwe fenomenen. Bestaande pilot ‘Laagdrempelige landelijke meldvoorziening’ Een onderdeel van PrOCoM is de pilot ‘Laagdrempelige Meldvoorziening ’ voor het verwijderen van onrechtmatige content, waar Helpwanted in 2023 mee is gestart. Bij onrechtmatige content kan het gaat om smadelijke teksten en beelden maar ook om andere vormen van privacyschending, auteursrechtelijke kwesties, haatzaaiende- en racistische uitlatingen of vormen van cyberstalking.

Deze pilot heeft als doel dat burgers sneller en beter onrechtmatige online content te kunnen melden. HelpWanted kan door de uitbreiding van de bereikbaarheid, verbreding van thematiek en verbreding van doelgroep haar taak als landelijk meldpunt beter vervullen. De verbreding naar het kunnen melden van onrechtmatige content is in lijn met de nieuwe wet digitale diensten (Digital Services Act, DSA). De DSA richt zich op het tegengaan van ‘illegale content', dat gaat om zowel strafbare content (online inhoud die in strijd is met bepalingen uit het wetboek van strafrecht) als onrechtmatige content (online handelingen die als onrechtmatige daad ex art 6:162 BW zijn aan te duiden). Voor meer informatie over de DSA verwijzen wij u graag naar bijlage 3. Onlangs is de whitepaper ‘Advies Inrichting Laagdrempelige Meldvoorziening’ verschenen, waarin PrOCoM adviseert over hoe de nationale overheid deze laagdrempelige meldvoorziening zo in kan richten dat deze werkbaar en effectief is voor alle betrokken partijen binnen de kaders van de DSA (zie bijlage 5). Zodra we meer informatie kunnen delen over de uitkomsten van onze eigen Amsterdamse pilot en de opvolging van de pilot ‘Laagdrempelige Meldvoorziening’ vanuit het Rijk, informeren wij u hier zo snel mogelijk over. Het college beschouwt hiermee de motie als afgedaan.

Beantwoording vragen en inventarisatie In uw vergadering van 23 november 2023 is toegezegd de vragen naar aanleiding van de 'voortgangsbrief online mediabedrijven' van raadsleden Abdi (Pvda) en Broersen (Volt) te beantwoorden. In bijlage 3 wordt specifiek ingegaan op deze vragen om zo antwoord te kunnen geven op de zaken die niet al behandeld/beantwoord zijn in bovenstaande uiteenzetting.

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Datum 13 juni 2024 Pagina 7 van 8

Deze vragen hebben betrekking op: 1. Hulp en ondersteuning voor slachtoffers en betrokkenen 2. Expose-groepen op Telegram 3. Samenwerking met scholen 4. Campagne cybercrime 5. Platforms 6. Meldpunten 7. Nationale en Europese samenwerking Ook is u tijdens deze vergadering een inventarisatie toegezegd. Naast een overzicht van preventieve maatregelen en inzet zijn hier ook een aantal andere activiteiten opgenomen die betrekking hebben op de online leefwereld van jongeren. Het college beschouwt de toezeggingen hiermee als afgedaan. Tot slot Hoewel we als college vastbesloten zijn om onze rol te vervullen in deze gezamenlijke strijd voor een gezonde en veilige online leefomgeving zijn we ons ook bewust dat de digitale wereld ook volop mogelijkheden voor kinderen en jongeren biedt. Wanneer het goed is georganiseerd, kan er online veilig geëxperimenteerd worden met heel veel verschillende onderwerpen en kunnen jongeren er belangrijke (sociale, creatieve en technische) vaardigheden ontwikkelen. Juist met deze online uitdagingen onderstreept het college het belang van kinderen en jongeren die veerkrachtig opgroeien, met problemen en risico’s leren omgaan en een informeel netwerk hebben waarop ze kunnen terugvallen. We hopen u hiermee voldoende te hebben geïnformeerd. Met vriendelijke groet, Namens het college van burgemeester en wethouders van de gemeente Amsterdam,

Femke Halsema Burgemeester

Alexander Scholtes Wethouder ICT & Digitale Stad

Marjolein Moorman Wethouder Onderwijs en Jeugd(zorg)

Sofyan Mbarki Wethouder Jongerenwerk

Een routebeschrijving vindt u op amsterdam.nl

Gemeente Amsterdam, raadsinformatiebrief

Bijlagen 1. Overzicht online fenomenen 2. Inventarisatie/overzicht 3. Beantwoording vragen 4. Kamerbrief over online kinderrechten 5. Whitepaper ‘Advies Inrichting Laagdrempelige Meldvoorziening’

Een routebeschrijving vindt u op amsterdam.nl

Datum 13 juni 2024 Pagina 8 van 8