Presentatie Breda dataethiek IrisMuis compressed 10-2
Tekst van het document
Technologie en de rol van de raad Breda, donderdag 10 februari 2022 Iris Muis Data ethiek coördinator Utrecht Data School iris@dataschool.nl
Utrecht Data School Universiteit Utrecht www.dataschool.nl
Design kan gedrag sturen
3
Design is niet neutraal
4
Technologie is niet neutraal
By Laflor / getty images
5
Technologie bevat waarden, en kan waarden aantasten
6
“Hey, DataAlexa, waar moet een nieuwe speeltuin?” by Oran Viriyincy
Wat schuilt achter de data-visualisatie?
Leefbarometer
Welke aannames worden gemaakt, welke waardering krijgen de verschillende indicatoren?
De platformsamenleving Platform-aanbieders zijn machtige bemiddelaren van vraag & aanbod, informatie en aandacht De nieuwe platformbedrijven stellen publieke waarden ter discussie
Fernando van der Vlist 2016
9
AI en Big Data Algoritmes zijn complex: wat zijn de trainingsdata, welke aannames bevat een algoritme, wie zijn de ontwikkelaars, wie zijn de gebruikers, wat is de sociale impact? Algoritmes veranderen! Context is belangrijk!
10
We built this city on rock 'n roll shared values
Wat zijn randvoorwaarden voor AI en big data in het bestuur van onze stad? Hoe kan de digitale transitie legitiem plaats vinden? Welke waarden bevat onze slimme stad?
11
Voorbeelden van succesvolle algoritmen • • • • •
Voorspellen van zwerfafval Voorspelling onderhoud van gemalen Bodemdaling monitor Trajectcontrole en parkeerbeheer En meer!
12
Data-onderzoek naar probleemadressen • • • • •
Inventarisatie bestaand onderzoek Definitie indicatoren Risicoprofielen (ca 70 locaties) Domein-experts controleren resultaten (20 locaties) Bezoek door medewerker levert bij 19 van de 20 adressen resultaat op
13
De rol van de raad Ø De raad stelt kaders vast en hoofdlijnen van beleid; Ø De raad controleert uitvoering van beleid; Ø De politieke afweging is ook nodig bij vragen omtrent digitalisering!
14
Hulpmiddelen speciaal voor gemeenteraden
Rathenau Instituut: Raad weten met digitalisering
15
De Digitale Raadgever • Uitwerking van het denkraam van Rathenau. • Praktische handreiking om raadsleden te
helpen tot een afgewogen en onderbouwd besluit te komen bij raadsvoorstellen met digitale technologie. • Interactieve website, te bezoeken op een
telefoon, tablet of laptop. • Link:
https://dataschool.nl/samenwerken/datawerkp laats/producten-en-tools/de-digitaleraadgever-concept/ 16
De DataWijzer • Aanleiding: disbalans in
informatievoorziening gemeenteraad en ambtenaren; en herkennen van publieke waarden in discussies over digitalisering. Geen technische kennis nodig voor afweging maatschappelijke impact. • Doorklikbare PDF, het beste te bekijken op
een tablet. • Link: https://dataschool.nl/datawijzer/
Aansluitend bij de raadscyclus De fasen in de Digitale Raadgever en de DataWijzer sluiten aan bij de raadscyclus: • Beeldvorming: vooral informatie vragen; niet alle vragen nodig. • Oordeelsvorming: een overstijgend denkkader voor in de fractie. • Besluitvorming: een waardenafweging, op basis van politieke waarden.
18
Casus druktemonitor
Wat zou u voor raadsvragen kunnen stellen over deze casus, als deze gepresenteerd wordt in de raad?
•
Druktemonitor om bezoekersmanagement, spreiding en drukte in te kunnen zien
•
Overheidsorganisatie in samenwerking met bedrijf A
•
Bedrijf A gebruikt data van andere apps en 'telt' mensen via GPS locaties
Casus druktemonitor Burgers en communicatie • Kunnen burgers ervoor kiezen om niet mee te doen? Hoe toegankelijk is dit? • Hoe gaat de gemeente om met kritische vragen die over dit project gesteld zouden kunnen worden? • Hoe worden de resultaten van dit onderzoek gemonitord en gecommuniceerd?
Wat zou u voor raadsvragen kunnen stellen over deze casus, als deze gepresenteerd wordt in de raad?
Publieke waarden • Welke waarden zijn verwerkt in dit voorstel? • Wat zijn (neven) effecten van dit voorstel? • Passen alternatieve instrumenten beter in uw partijprogramma met betrekking tot het behalen van het gestelde beleidsdoel? • Welk beeld van de overheid impliceert dit voorstel?
Groepsgesprek Hoe wordt het waardenvraagstuk aangepakt in uw organisatie? Wat zou hierin de ideale situatie zijn? Wat is er nodig om dat te bereiken?
22
• •
•
Infrastructuren, capaciteiten, vaardigheden Organisaties (bv gemeenten; verschillend in capaciteiten, aandacht) Burgers (verschillende niveaus, mogelijkheden en betrokkenheid om te participeren)
23
Uitdaging: informatieasymmetrie •
Ambtenaren < aanbieders van data- en AI producten
•
Volksvertegenwoordigers < ambtenaren / college
•
Burgers < ambtenaren, aanbieders, volksvertegenwoordigers en college 24
Open digitale samenleving •Vierde macht (media) •Delen van de bevolking die wél bekwaam zijn met digitale techniek en vraagstukken •Advocacy en NGO’s •Wetenschap
25
Dilemma's voor in de fractie
Hoe nu verder
?
•
Hoe kunnen raadsleden en fractiemedewerkers zich verder ontwikkelen op dit onderwerp?
•
Hoe kan de raad kaders opstellen om deze digitale ontwikkelingen te sturen en controleren?
•
Kaders voor controle of om kansen te benutten?
•
Procesaanpak: ethische commissie? 26