1 Rapport Rathenau Instituut - Raad weten met digitalisering

•

•

• •

•

Rechten Bijvoorbeeld het eigendomsrecht op data, recht op toegang tot data, recht op inzage in wat er met data gebeurt, recht op uitleg en motivatie van een op basis van data genomen beslissing; Regels Bijvoorbeeld ten aanzien van welke data mogen worden verzameld en opgeslagen, wat met data wel en niet mag worden gedaan, waarvoor algoritmen mogen worden gebruikt, aan welke voorwaarden algoritmen moeten voldoen; Initiatief en ontwikkeling Bijvoorbeeld het in eigen beheer ontwikkelen van digitale instrumenten, dan wel het uitbesteden daarvan; het in eigen hand houden van het gebruik, dan wel het onderbrengen daarvan bij een externe (publieke of private) partij; Geld Bijvoorbeeld budgetten voor ontwikkeling of voor beheer en onderhoud, het businessmodel; Organisatie en procedures Bijvoorbeeld een loket voor vragen en toelichting, een ombudsman voor klachten, een systeem voor kwaliteitscontrole, een toedeling van verantwoordelijkheden, een klachtenprocedure, een procedure voor herstel van fouten; Toezicht en handhaving Bijvoorbeeld een afspraak over informatieverstrekking aan de raad, een systeem om te registreren en te meten of het beleid werkt zoals verwacht, of beoogde effecten optreden, of er neveneffecten zijn of fouten gesignaleerd en gecorrigeerd worden.

Stap 3. Onderzoek de maatschappelijke impact: breng naast de beoogde voordelen ook de risico’s en mogelijke neveneffecten in kaart

Voordelen van het gebruik van digitalisering: De beoogde voordelen van de inzet van digitalisering liggen doorgaans met name in een verhoging van de effectiviteit van het gevoerde beleid. De belofte is dat meer data en slimmere algoritmen helpen doeltreffender te werken. Daarnaast wordt efficiëntieverbetering vaak beoogd: bestaande doelen zouden met minder kosten en inspanningen gerealiseerd kunnen worden. Effectiever en efficiënter komt in de praktijk soms neer op sneller, soms op preciezer, soms op goedkoper. Maar in sommige gevallen komen door inzet van data en algoritmen ook nieuwe mogelijkheden en voordelen binnen bereik.

Raad weten met digitalisering

60

Risico’s en mogelijke neveneffecten: Daar staat tegenover dat het verzamelen en verwerken van gedetailleerde en gevoelige data op gespannen voet kan staan met privacy. Bovendien kan het in kaart brengen van groepen mensen stigmatiserende en discriminerende effecten hebben. Van het verzamelen van data kan een signaal uitgaan in de richting van burgers, een blijk van hoe de gemeente haar inwoners ziet. Het kan de boodschap overbrengen dat de gemeente burgers eerder vanuit wantrouwen benadert (de burger wordt gezien als opportunist), dan vanuit vertrouwen (de gemeente: dat zijn wij). Het kan de autonomie van burgers ondermijnen. Ook kan de inzet van digitale technologie implicaties hebben voor de economische structuur en het karakter en de organisatie van werk. Het kan de professionele autonomie van mensen aantasten, het kan noodzaken tot bij- of omscholing, het kan economische activiteiten van karakter doen veranderen of van de markt doen verdwijnen. Stap 4. Ga de impact van verschillende interventies na: hoe kun je met de interventiemogelijkheden de digitalisering zo beïnvloeden dat de beoogde effecten gerealiseerd worden, en de ongewenste neveneffecten beperkt?

De inzet van digitale technologie leidt tot effecten, waarvan sommige beoogd zijn en andere een bonus (een positief neveneffect) of een malus (een onwenselijk bijeffect). Welke effecten en neveneffecten in welke mate optreden, is afhankelijk van hoe digitale technologie wordt ingezet: welke data worden verzameld, wat wordt ermee gedaan, hoe steken algoritmen in elkaar, en dergelijke. Hoe digitale technologie wordt ingezet, is een kwestie van sturen. Het hangt af van hoe de ‘knoppen’ staan. In deze stap gaat het erom na te gaan hoe het draaien aan de knoppen (uit stap 2) effect heeft op de impact van digitalisering (uit stap 3). Als dat duidelijk is, kan gezocht worden naar manieren om digitalisering zo in te regelen, dat wenselijke impact gemaximaliseerd wordt, zonder dat onwenselijke impact een onaanvaardbaar niveau bereikt. Stap 5. Kies: maak afwegingen, maak een keuze waarop te sturen en bepaal bijbehorende interventies

Voor raadsleden is het zaak na te gaan wat ze van de verschillende effecten vinden en hoe ze deze tegen elkaar afwegen. Bijvoorbeeld, in hoeverre rechtvaardigt een grotere kans op het voorkomen van fraude een inbreuk op

Raad weten met digitalisering

61

de privacy van mensen met een uitkering? In welke mate is datagestuurd werken een inbreuk op de professionele autonomie van hulpverleners en in hoeverre is dat acceptabel, als daarmee de zorg of de maatschappelijke ondersteuning verbetert? Welke mate van stigmatisering is acceptabel om de veiligheid te vergroten? Als eenmaal helder is wat de effecten van digitalisering zijn en wat je daar als raadslid van vindt, dan kun je vervolgens de geïdentificeerde ‘knoppen’ gebruiken om erop te sturen.

Raad weten met digitalisering

62

© Rathenau Instituut 2020 Verveelvoudigen en/of openbaarmaking van (delen van) dit werk voor creatieve, persoonlijke of educatieve doeleinden is toegestaan, mits kopieën niet gemaakt of gebruikt worden voor commerciële doeleinden en onder voorwaarde dat de kopieën de volledige bovenstaande referentie bevatten. In alle andere gevallen mag niets uit deze uitgave worden verveelvoudigd en/of openbaar gemaakt door middel van druk, fotokopie of op welke wijze dan ook, zonder voorafgaande schriftelijke toestemming. Open Access Het Rathenau Instituut heeft een Open Access-beleid. Rapporten, achtergrondstudies, wetenschappelijke artikelen, software worden vrij beschikbaar gepubliceerd. Onderzoeksgegevens komen beschikbaar met inachtneming van wettelijke bepalingen en ethische normen voor onderzoek over rechten van derden, privacy, en auteursrecht. Contactgegevens Anna van Saksenlaan 51 Postbus 95366 2509 CJ Den Haag 070-342 15 42 info@rathenau.nl www.rathenau.nl

Bestuur van het Rathenau Instituut Mw. G. A. Verbeet Prof. dr. Noëlle Aarts Drs. Felix Cohen Dr. Hans Dröge Dr. Laurence Guérin Dr. Janneke Hoekstra, MSc Prof. mr. dr. Erwin Muller Drs. Rajash Rawal Prof. dr. ir. Peter-Paul Verbeek Dr. ir. Melanie Peters – secretaris

Het Rathenau Instituut stimuleert de publieke en politieke meningsvorming over de maatschappelijke aspecten van wetenschap en technologie. We doen onderzoek en organiseren het debat over wetenschap, innovatie en nieuwe technologieën.