Gemeenteraad Presentatie - versie defi Raad.pdf

Kennissessie: Informatiebeveiliging, Privacy, AI en algoritmes Andrea van Gent & Sander Brabander Clint Reinders, Cemre Karso

Agenda • 16.00 – 16.50: Versterken lokale democratie in een digitale wereld • 17.00 – 17.30: Hoe gaan we om met kunstmatige intelligentie en algoritmes en welke ethische dilemma’s zijn er? • 17.30 – 17.45: Toelichting nieuwe richtlijnen (addendum) apparaat gebruik Dordtse raad • Vanaf 17.45: Uitloop en hulp bij veilig werken op de iPad

1. Versterken van de lokale democratie in een digitale wereld (Digitale) beïnvloeding, informatiebeveiliging en sociale media-gebruik

Democratische principes onder druk door digitalisering Digitalisering raakt alle vlakken van het maatschappelijke leven Ontwikkelingen gaan steeds sneller Overheden en burgers dreigen grip te verliezen De macht van ‘big data’ en ‘big tech’

Hoe advertenties op Sociale Media stemgedrag kunnen beïnvloeden

Casus: Brexit door Facebook?

Ebbw Vale - Wales • Opvallend hoog percentage ‘leave’ stemmers • ‘Leave’ campagne was rechts, Ebbw Vale is links • Tientallen miljoenen EU geld geïnvesteerd • Bevolking noemt angst voor immigranten en vluchtelingen als reden, die zijn er nauwelijks in Ebbw Vale • Wat is er aan de hand?

Facebook maakt (gedwongen) advertenties openbaar Britse burgers geconfronteerd met nepnieuws advertenties over toetreding Turkije tot de EU Regelgeving doelbewust omzeilt door tussenpartijen, toezicht schiet tekort Hoe eerlijk zijn verkiezingen als mensen hun stem baseren op nepnieuws?

Casus: Hack 72 Duitse gemeentes

Wat gebeurde er? • 72 Duitse gemeentes raakten in november 2023 onbereikbaar na aanval op gemeentelijke ITdienstverlener SIT • Digitale dienstverlening kwam volledig tot stilstand • 1,7 miljoen burgers (indirect) getroffen • Twee maanden na de hack was de dienstverlening nog maar mondjesmaat opgestart

Dit raakt u ook!

Grote maatschappelijke- en economische impact

Wat de raad kan doen: • Advies VNG: Organiseer het maatschappelijk debat • Advies VNG: Verken weerbaarheid bij uw achterban (ondersteunde initiatieven) • De raad wordt via de reguliere P&C cyclus en de jaarlijkse ENSIA* geïnformeerd

ENSIA = Eenduidige Normatiek Single Information Audit • Alle gemeenten verantwoorden zich over informatiebeveiliging middels ENSIA • Verantwoording op basis van de ‘Baseline Informatiebeveiliging Overheid’ (BIO) en het gebruik van de Geo-basisregistraties • ENSIA helpt gemeenten in één keer verantwoording af te leggen over informatieveiligheid • Collegeverklaring inclusief 'oordeel' externe auditor bijlage bij Jaarrekeninng

Hoe kunt u zich weren? • Herken ‘phishing’ (voorbeeld journalisten die raadsleden hadden gepakt via Twitter) • Herken misinformatie en doe aan feitencontrole • Gebruik uw mobiele en ICT apparatuur veilig

Hoe gaan we om met kunstmatige intelligentie en algoritmes? En welke ethische dilemma’s zijn er?

Wat is Kunstmatige Intelligentie? •

Software om taken uit te voeren of problemen op te lossen (algoritmen) o

•

Bijv. Google/Amazon zoekresultaten, Facebook/LinkedIn berichten op je feed, advertenties die je op alle apps ziet, etc.

Patronen herkennen en beslissingen ondersteunen en/of nemen(machine learning) o

Bijv. Schaken tegen computers, spam filters, gezichtsherkenning, automatisering, etc.

•

Generatieve AI; kan teksten, afbeeldingen, audio en

•

andere content genereren (bv. Chat GPT) Door meer te oefenen werken ze steeds beter (trainen)

Bekende voorbeelden van Kunstmatige Intelligentie (AI) • • • • • •

Gepersonaliseerde aanbevelingen (bijv. Facebook, Spotify & Google) Virtuele assistenten (bijv. Siri, Alexa & Google) Slimme sensoren van (zelfrijdende) auto's (bijv. Tesla & Kia)

Één voorbeeld van AI en algoritmen in Dordt: Chatbot Gem

Grote kansen, grote maatschappelijke risico's • AI Verordening: EU werkt aan regelgeving • Rijksoverheid: Commerciële AI’s zoals ChatGPT verboden voor rijksambtenaren • GPT-NL: Het Nederlandse taalmodel komt eraan (Overheid, TNO, NFI & SURF)

Forse ethische vraagstukken!

Dit raakt u ook

Ontwikkelingen gaan heel snel

Aantal voorbeelden van wat u kunt doen met AI • Samenvatten beleidsstukken en agenda's voor raadsvergaderingen • Vertalen van/naar Nederlands • Teksten inkorten, herschrijven of controleren op (spel)fouten • Teksten laten genereren/maken

Samenvatting raadsinformatiebrief (1)

Samenvatting raadsinformatiebrief (2)

Wat zijn de risico’s? • Afhankelijkheid van een hulpmiddel waarvan de kwaliteit en feitelijke juistheid van het resultaat niet gegarandeerd wordt en kán worden • Persoonlijke gegevens en vertrouwelijke informatie kunnen worden gebruikt om de systemen te trainen o Dit kan terug komen in de resultaten van andere gebruikers (datalekken)

Hoe maakt u verantwoord gebruik van AI? • Gezien de nieuwigheid en snelheid van de ontwikkelingen zijn er nog weinig vertrouwde partijen • Maak altijd een bewuste keuze of het gebruik van toegevoegde waarde is • Verwerk, gebruik en voer géén persoonsgegevens of vertrouwelijke documenten in (Samsung datalekken) • Controleer en verifieer altijd het resultaat!

3. Toelichting nieuwe richtlijnen apparaat gebruik

Veilig werken met de iPad (1) • Zakelijk en privé altijd gescheiden houden op mobiele en ICT apparatuur • Sociale media apps beveiligen • Veilig mailen met Gmail of Proton • Gebruik geen Chinese & Russische apps vanwege privacy en beveiligingsissues (bijv. TikTok, WeChat, AliExpress, VKontakte en CapCut).

Veilig werken met de iPad (2) • Automatisch downloaden van de laatste iOS en apps updates • Gebruik een wachtwoord of Face/Touch ID • Automatisch vergrendelen • Find My iPad • App rechten beheren • Verstandig gebruik maken van wifi (gebruik géén publieke wifi netwerken, en alleen eigen hotspots gebruiken) • Gebruik Safari browser • Back-ups via de iCloud

Dank u wel! Zijn er vragen?