Rapport Opwaarderen - borgen van publieke waarden in de digitale samenleving
Tekst van het document
Rathenau Instituut
Opwaarderen Borgen van publieke waarden in de digitale samenleving
Rapport
Bestuur van het Rathenau Instituut
mw. G.A. Verbeet (voorzitter) prof. dr. E.H.L. Aarts prof. dr. ir. W.E. Bijker prof. dr. R. Cools dr. J.H.M. Dröge dhr. E.J.F.B. van Huis prof. dr. R.M. Letschert prof. dr. ir. P.P.C.C. Verbeek prof. dr. M.C. van der Wende dr. ir. M.M.C.G. Peters (secretaris)
Opwaarderen Borgen van publieke waarden in de digitale samenleving
Linda Kool, Jelte Timmer, Lambèr Royakkers en Rinie van Est
Rathenau Instituut
5
Rathenau Instituut Anna van Saksenlaan 51 Postadres: Postbus 95366 2509 CJ Den Haag Telefoon: 070-342 15 42 E-mail: info@rathenau.nl Website: www.rathenau.nl Uitgever: Rathenau Instituut
Redactie: Science stories Illustraties: Rikkers Infographics Foto cover: iStock Opmaak: Rathenau Instituut Druk: Rathenau Instituut
Bij voorkeur citeren als: Kool, L., J. Timmer, L. Royakkers en R. van Est, Opwaarderen - Borgen van publieke waarden in de digitale samenleving. Den Haag, Rathenau Instituut 2017 Het Rathenau Instituut heeft een Open Access beleid. Rapporten, achtergrondstudies, wetenschappelijke artikelen, software worden vrij beschikbaar gepubliceerd. Onderzoeksgegevens komen beschikbaar met inachtneming van wettelijke bepalingen en ethische normen voor onderzoek over rechten van derden, privacy, en auteursrecht. © Rathenau Instituut 2017 Verveelvoudigen en/of openbaarmaking van (delen van) dit werk voor creatieve, persoonlijke of educatieve doeleinden is toegestaan, mits kopieën niet gemaakt of gebruikt worden voor commerciële doeleinden en onder voorwaarde dat de kopieën de volledige bovenstaande referentie bevatten. In alle andere gevallen mag niets uit deze uitgave worden verveelvoudigd en/of openbaar gemaakt door middel van druk, fotokopie of op welke wijze dan ook, zonder voorafgaande schriftelijke toestemming.
6
Opwaarderen
Voorwoord Op mijn dagboek zat een slotje. Ik kon schrijven wat ik wilde want niemand die het zag. Digitalisering maakt hier een einde aan. Je e-reader leest over je schouder mee en weet welke passages je interessant vindt. En het speelgoed van je kind is tegenwoordig zo smart dat de fabrikant via internet meeluistert. Is dat erg? Ja. De voor u liggende studie ' Opwaarderen - Borgen van publieke waarden in de digitale samenleving' toont hoe de verregaande digitalisering van de samenleving fundamentele ethische en maatschappelijke vragen oproept. Het laat zien dat de overheid, de toezichthouders, het bedrijfsleven en de samenleving nog niet voldoende zijn toegerust om met deze nieuwe vragen om te gaan. Daardoor komen belangrijke publieke waarden en mensenrechten als privacy, gelijke behandeling, autonomie en menselijke waardigheid onder druk te staan. Het Rathenau Instituut deed dit onderzoek naar aanleiding van de 'motie Gerkens' (Eerste Kamer, 23 september 2014). De senaat vermoedde dat belangrijke waarden in het geding zijn bij digitalisering. Ons onderzoek bevestigt dit. Het Rathenau Instituut is dertig jaar geleden opgericht om onderzoek te doen naar nieuwe wetenschap en technologie en hoe die de samenleving beïnvloeden. Destijds was automatisering een belangrijk issue. Nu spreken we van digitalisering.
Vorig jaar analyseerden we de invloed van deze ontwikkeling op de arbeidsmarkt en publiceerden we onder andere over big data, data in het medische domein en digitale coaches. Nu onderzochten we breed welke technologieën de komende jaren naar verwachting de digitale samenleving verder vormgeven, welke maatschappelijke en ethische uitdagingen die ontwikkelingen oproepen en in hoeverre de omgang van die uitdagingen al maatschappelijk en politiek geagendeerd is en ook institutioneel verankerd. We identificeren blinde vlekken, schrijven welke acties nodig zijn en gaan in op de eventuele rol van een commissie. Ik wil hierbij de Eerste Kamer bedanken voor hun kennisvraag. Daarnaast dank ik de medewerkers van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties en de begeleidingscommissie: Corien Prins, Jeroen van den Hoven, Inez de Beaufort, Victor Bekkers, Heleen Janssen en Meine Henk Klijnsma. We hopen dat onze studie verhelderend en activerend werkt in de toekomstige discussies. De dagboeken van nu zijn digitaal. Het slotje is weg. Maar we staan niet machteloos. Met de juiste acties vanuit overheid, bedrijfsleven en maatschappelijk middenveld kunnen we op een verantwoorde manier de digitalisering verder vormgeven. Melanie Peters Directeur Rathenau Instituut
Rathenau Instituut
7
Samenvatting De verregaande digitalisering van de samenleving roept fundamentele ethische en maatschappelijke vraagstukken op. Overheid, bedrijfsleven en samenleving zijn nog niet adequaat uitgerust om met deze nieuwe vragen om te gaan. Daardoor komen belangrijke publieke waarden en mensenrechten als privacy, gelijke behandeling, autonomie en menselijke waardigheid onder druk te staan. Grote inspanningen in alle geledingen van de overheid en maatschappij zijn nodig om de digitalisering van de samenleving in goede banen te leiden. Maar we staan niet machteloos, met de juiste acties vanuit overheid, bedrijfsleven en maatschappij, kunnen we de digitale samenleving een verantwoorde opwaardering geven. Motie Gerkens: onderzoek wenselijkheid commissie Internetbots manipuleren het politieke debat voor de presidentiële verkiezingen in de Verenigde Staten, bankmedewerkers verliezen in groten getale hun baan nu computers hun taken overnemen en softwareprogramma’s helpen rechters de kans te berekenen dat een verdachte weer de fout in gaat, maar blijken ongemerkt te discrimineren. Digitale technologie reikt tot in de haarvaten van de samenleving en roept overal fundamentele maatschappelijke en ethische vragen op.
Hoe kunnen we met deze vragen omgaan en de mogelijkheden die digitalisering de maatschappij biedt optimaal benutten? Het Rathenau Instituut deed op verzoek van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties en de Eerste Kamer onderzoek naar deze vraag. Dit naar aanleiding van een motie ingediend in de Eerste Kamer van het lid Gerkens (motie Gerkens 23 september 2014). De motie verzoekt de regering het Rathenau Instituut te vragen ‘de wenselijkheid van een commissie die kan adviseren over de ethische kant van de digitalisering van de samenleving’ te onderzoeken. De motie verwijst daarbij naar de opkomst van het Internet of Things dat zowel voor kansen als bedreigingen zorgt. Uit de motie blijkt dat bij de Kamer het gevoel leeft dat bij digitalisering belangrijke waarden in het geding zijn, aangezien zij niet alleen spreekt van technologische effecten van digitalisering, maar ook van ‘maatschappelijke, sociaal juridische en sociaal psychologische‘ effecten. Voorliggend onderzoek van het Rathenau Instituut ondersteunt die observatie van de Kamer.
Onderzoeksvragen Het Rathenau Instituut onderzocht welke technologieën de komende jaren naar verwachting de digitale samenleving verder vormgeven, welke maatschappelijke en ethische uitdagingen die ontwikkelingen oproepen en in hoeverre de omgang van die uitdagingen ook institutioneel verankerd is (oftewel, de governance van ethische en maatschappelijke uitdagingen rond digitalisering). Het gaat daarbij om vragen als: welke kwesties pakken bestaande Nederlandse instituties wel of niet op, en op welke manier? Zijn er blinde vlekken ten aanzien van de omgang met (nieuwe) ethische en maatschappelijke kwesties? Welke rol kan een commissie daarin spelen?
8
Opwaarderen
De nieuwe digitaliseringsgolf De begrippen digitalisering en Internet of Things refereren aan een groot cluster van digitale technologieën, zoals robotica, kunstmatige intelligentie en algoritmen en big data, digitale platformen, biometrie, persuasieve technologie, augmented reality en virtual reality. Samen zorgen zij voor een nieuwe golf van digitalisering. Steeds meer onderdelen uit de fysieke wereld krijgen een virtuele representatie. Daardoor ontstaat op steeds meer plekken een continue terugkoppeling tussen de fysieke en de virtuele wereld, waarmee producten of diensten direct worden aangepast op basis van analyse van digitale gegevens (zie figuur 1). Figuur 1 Nieuwe fase in de digitale samenleving
Rathenau Instituut
Rathenau Instituut
9
Publieke waarden in het geding De nieuwe golf van digitalisering leidt aldus tot een wereld waarin continu terugkoppelen en realtime (bij)sturen een steeds belangrijker uitgangspunt is van diensten. Belangrijke publieke waarden als gelijke behandeling, privacy, autonomie en menselijke waardigheid komen daardoor onder druk te staan, blijkt uit onze analyse. Ook recente nieuwsberichten maken dit duidelijk. Zo blijken softwareprogramma’s die rechters in de Verenigde Staten bijstaan door de kans te berekenen dat een verdachte opnieuw de fout ingaat, in sommige gevallen te discrimineren. De inzet van software om te bepalen waar extra politie-inzet nodig is, kan leiden tot een selffulfilling prophecy: daar waar meer politie is, ziet men meer vergrijpen. Die gegevens neemt de computer weer mee in haar analyse, waardoor het programma verwacht dat er op die locatie meer criminaliteit zal zijn. Datasurveillance kan leiden tot onbewuste beïnvloeding van de eigen identiteit en zogenaamde ‘filter bubbels’ waarin gebruikers alleen suggesties voor nieuws, informatie en contacten krijgen die passen bij hun voorgaande gedrag, keuzes en interesses.
Tot slot stelt de inzet van robots en software in de zorg, rechtspraak, bankwezen en andere sectoren de urgente vraag wat we aan robots willen overlaten en wat de minimale menselijke betrokkenheid moet zijn om te kunnen spreken van bijvoorbeeld betekenisvolle, menswaardige zorg of betekenisvol verantwoordelijkheid afleggen. Daar komt bij dat publieke diensten in toenemende mate afhankelijk zijn van software die door private partijen ontwikkeld wordt, waardoor het lastig te achterhalen is welke keuzes de software maakt, en welk effect dat heeft. Zal de rechter of dokter in de ene provincie die gebruik maakt van systeem X tot andere uitspraken komen dan een andere rechter of dokter die gebruik maakt van systeem Y? Blinde vlekken in het governancelandschap De nieuwe digitaliseringsgolf brengt dus nieuwe ethische en maatschappelijke uitdagingen met zich mee. Hierbij zijn belangrijke publieke waarden in het geding die nauw verwant zijn aan grond- en mensenrechten. Dat roept de vraag op of onze huidige wettelijke kaders en toezichtsarrangementen voldoende zijn toegerust om deze fundamentele rechten adequaat te beschermen. Het Rathenau Instituut onderzocht in deze studie de ethische en maatschappelijke uitdaging van digitalisering en in hoeverre de omgang met nieuwe maatschappelijke en ethische kwesties institutioneel verankerd is.
Het bracht in een uitgebreide analyse in kaart, welke actoren voor welke kwesties aandacht vragen en welke acties zij nemen om deze uitdagingen het hoofd te bieden. Daarbij is gekeken naar de rol van de wetenschap (welke kwesties signaleren zij), de rol van grond- en mensenrechten, de rol van het maatschappelijk middenveld en de rol van politiek en bestuur bij agendavorming, beleidsbepaling en –uitvoering. Onze analyse van het governancelandschap laat zien dat de bescherming van publieke waarden op dit moment sterk tekort schiet. Digitalisering leidt tot conceptuele verwarring over welke regels gelden en over hoe deze moeten worden toegepast. In sommige gevallen zien we dat bestaande kaders daardoor (aanvankelijk) niet worden toegepast terwijl deze wel van toepassing zijn. In andere gevallen zien we dat digitalisering vraagt om nieuwe kaders over hoe belangrijke waarden worden geborgd in de digitale samenleving. Op verschillende onderdelen van het landschap zien we dat er blinde vlekken zijn ontstaan (zie figuur 2): –
Vertaling van nieuwe maatschappelijke en ethische vraagstukken naar beleid, interdepartementale afstemming en coördinatie op digitalisering, en het politieke debat over die nieuwe vraagstukken.
10
Opwaarderen
–
Borging van grond- en mensenrechten in de digitale samenleving.
–
Versterken van toezichthouders en zorgen voor onderlinge afstemming tussen toezichthouders.
–
Nieuwe verantwoordelijkheden van ontwikkelaars van digitale diensten en producten.
–
Organiseren van maatschappelijk tegengeluid: versterken maatschappelijk middenveld, kennis en vaardigheden van burgers en maatschappelijk debat over digitalisering.
Figuur 2 Blinde vlekken in het governancelandschap
Rathenau Instituut
Het gaat op al deze punten met name over de nieuwe prangende maatschappelijke en ethische vraagstukken die de inzet van kunstmatige intelligentie, robotica en het Internet of Things oproepen, bijvoorbeeld over gelijke behandeling, menselijke waardigheid, verantwoordelijkheid en ongelijke machtsverhoudingen tussen consumenten en bedrijven of tussen burgers en overheden. Denk aan digitale dienstverleners (bijvoorbeeld in de deeleconomie of sociale media) met een dominante marktpositie, waarvoor gebruikers nauwelijks alternatieven hebben en waarvan zij steeds afhankelijker zijn voor inkomsten of informatie. Op deze gebieden zijn governancestructuren nog niet uitgekristalliseerd blijkt uit ons onderzoek: het maatschappelijk debat moet zich hier nog meer vormen, en in het politiek-bestuurlijke domein worden gesignaleerde kwesties niet omgezet in concrete beleidsacties. Op het gebied van privacy en de bescherming van persoonsgegevens is dit governancesysteem meer gevormd. Hoewel ook hier fundamentele vragen blijven spelen, hebben burgers, overheid en bedrijfsleven steeds meer aandacht voor privacybescherming. De verantwoordelijke toezichthouder krijgt meer mogelijkheden en ook op Europees niveau is de
Rathenau Instituut
11
regelgeving aangescherpt. Verschillende overheidsprogramma’s en programma’s van het maatschappelijk middenveld zetten in op het stimuleren van digitale vaardigheden en veilig digitaal gedrag. Maar voor de impact van digitalisering op publieke waarden als gelijke behandeling, menselijke waardigheid en autonomie is slechts beperkt aandacht. Opwaarderen: Actieprogramma voor een verantwoorde digitale samenleving Digitale innovaties ontwikkelen zich razendsnel. Digitalisering dringt door tot in de haarvaten van de samenleving. De voortdurende technische upgrades creëren tal van nieuwe mogelijkheden voor economie en samenleving. Maar het leidt ook tot fundamentele maatschappelijke en ethische vragen. Essentiële publieke waarden komen door de digitalisering van de samenleving onder druk te staan. Alle sectoren van de samenleving krijgen te maken met digitaliseringsvraagstukken en bijbehorende ethische en maatschappelijke uitdagingen. Het is tijd om de fundamentele impact van digitalisering op de samenleving te onderkennen en ervoor te zorgen dat publieke waarden en grondrechten in het digitale tijdperk worden geborgd. Dat vraagt om een upgrade, of opwaardering, van het governancesysteem. Deze opwaardering verwijst naar de benodigde versterking van het governancelandschap, door het structureel borgen van maatschappelijke en ethische waarden.
Deze opwaardering vereist dat alle partijen in de maatschappij in actie komen om digitalisering in goede banen te leiden. Het is onverantwoordelijk om als overheid, bedrijfsleven en als maatschappij van de fundamentele impact van digitalisering weg te kijken. Bij al deze actoren liggen zodoende verantwoordelijkheden om met de maatschappelijke en ethische aspecten van digitalisering om te gaan. Het startschot dient te worden gegeven door de overheid, maar het bedrijfsleven en het maatschappelijk middenveld behoren tegelijkertijd stappen te ondernemen. Onze centrale conclusie is dan ook dat de Eerste Kamer terecht haar zorgen uit over de ethische en maatschappelijke impact van digitalisering in de motie Gerkens. De Eerste Kamer vraagt zich daarbij af in hoeverre het wenselijk is om een commissie in te stellen die kan adviseren over de ethische kanten van de digitale samenleving. Onze analyse laat zien dat om essentiële publieke waarden te borgen, het governancelandschap op het terrein van de maatschappelijke en ethische aspecten van digitalisering op meerdere plekken substantieel dient te worden versterkt. Een commissie alleen kan de blinde vlekken in het governancelandschap niet oplossen.
Een complex probleem als de versterking van het governacelandschap vereist dat alle partijen hun verantwoordelijkheid nemen en zich gezamenlijk inzetten voor de borging van publieke waarden in de digitale samenleving. Met het instellen van een commissie bestaat tevens het risico dat problemen in de praktijk bij de commissie worden ‘geparkeerd’ en partijen in het veld en op politiekbestuurlijk niveau een (te) afwachtende houding aannemen. Bovendien heeft voorliggende studie het voorwerk van een dergelijke commissie reeds uitgevoerd. De studie brengt in kaart welke maatschappelijke en ethische digitaliseringsvraagstukken op ons afkomen, en waar in het governancelandschap blinde vlekken liggen om die vraagstukken het hoofd te bieden. Het biedt tevens handelingsperspectieven voor alle betrokken partijen om het governancelandschapte versterken.
12
Opwaarderen
De belangrijkste boodschap van het Rathenau Instituut is dan ook dat de overheid, het bedrijfsleven en het maatschappelijk middenveld nu actie dienen te ondernemen om het governancelandschap te versterken en zo publieke waarden in de digitale samenleving te kunnen blijven borgen. We stellen een vijftal acties voor waarmee beleidsmakers, bedrijven en maatschappelijke organisaties het governancelandschap verantwoord kunnen opwaarderen: 1.
Stel een interdepartementale werkgroep in die toewerkt naar een kabinetsvisie op de omgang met de maatschappelijke en ethische betekenis van digitalisering, en zorgt voor politiek-bestuurlijke coördinatie.
2.
Versterk de rol en positie van toezichthouders.
3.
Stel een “Digitaliseringsakkoord” op om commitment en verantwoordelijkheden van bedrijven, overheid, en maatschappelijke actoren omtrent de borging van publieke waarden in de digitale samenleving vast te leggen.
4.
Organiseer een nationale dialoog over de betekenis van digitalisering voor de borging van publieke waarden
5.
Zorg voor periodieke politieke discussie in Eerste en Tweede Kamer over de governance van maatschappelijke en ethische digitaliseringsvraagstukken.
Elke actie valt uiteen in een aantal specifieke actiepunten die we hieronder toelichten. 1. Stel een interdepartementale werkgroep in die toewerkt naar een kabinetsvisie op de omgang met de maatschappelijke en ethische betekenis van digitalisering Actiepunten voor de interdepartementale werkgroep: –
Zorg voor coördinatie van en overkoepelende visievorming op de maatschappelijke en ethische impact van digitalisering en de borging van publieke belangen.
–
Verken hoe grondrechten in het digitale tijdperk kunnen worden geborgd. Hierbij is het van belang om verbinding te zoeken met en oog te houden voor initiatieven op Europees niveau, bijvoorbeeld bij de Raad van Europa.
Coördinatie en visievorming De vertaling van de gesignaleerde ethische een maatschappelijke vraagstukken naar een coherent en domeinoverstijgend beleid verloopt moeizaam. Een interdepartementale werkgroep is nodig om toe te werken naar een kabinetsvisie op de governance van maatschappelijke en ethische digitaliseringsvraagstukken, en deze op integrale en strategische wijze binnen de overheid te beleggen. De werkgroep kan zorgen voor coherentie van de vraagstukken die beleidsoverstijgend zijn. De werkgroep kan er ook voor zorgen dat het besef van de betekenis van digitalisering voor de borging van publieke waarden groeit binnen de overheid, en dat verschillende ministeriële departementen gestimuleerd worden om de betekenis van nieuwe maatschappelijke en ethische vragen op hun terrein te doordenken en te adresseren. Borging van grondrechten Het politiek-bestuurlijke domein heeft de verantwoordelijkheid om de betekenis van digitalisering voor de borging van grondrechten te monitoren. Discussies in Nederland concentreerden zich op de
Rathenau Instituut
13
vraag of en hoe, het recht op privacy, vertrouwelijke communicatie en de vrijheid van meningsuiting aangepast zouden moeten worden in het licht van digitalisering. Recent zijn er initiatieven op Europees niveau genomen (bijvoorbeeld door de Raad van Europa, maar ook door het Europees Parlement). Die onderzoeken wat de opkomst van technologieën als AI, robotica, en het Internet of Things betekenen voor de bescherming van fundamentele rechten. Voor biotechnologie en gentechnologie is bijvoorbeeld in 1997 op initiatief van de Raad van Europa een apart verdrag opgesteld (Verdrag van Oviedo). Ondanks het brede toepassingsbereik van het Europees Verdrag voor de Rechten van de Mens (EVRM), achtte de Raad van Europa het destijds noodzakelijk om zich expliciet te richten op ontwikkelingen in de bio- en gentechnologie. Nu speelt de vraag of er een vergelijkbaar verdrag nodig is voor de bescherming van grondrechten met betrekking tot de nieuwe golf van digitalisering (Van Est & Gerritsen nog te verschijnen). Ook Nederland dient de betekenis van digitalisering voor grondrechten te verkennen, en kennis te nemen van (en verbinding te zoeken met) de Europese initiatieven die lopen op dit gebied. Ook hier ligt een taak voor de interdepartementale werkgroep. 2. Versterk rol en positie toezichthouders Actiepunten: –
Toezichthouders: neem kennis van nieuwe maatschappelijke en ethische vraagstukken.
–
Toezichthouders: verken hoe vanuit het huidige mandaat invulling gegeven kan worden aan deze nieuwe vraagstukken: welke regels zijn van toepassing, welke instrumenten hebben toezichthouders tot hun beschikking, welke capaciteit/kennis is nodig?
–
Toezichthouders: stem in gezamenlijk overleg af wie waar verantwoordelijk voor is, en treed waar nodig gezamenlijk op.
–
Overheid: bouw voorwaarden in, en vervul de rol van launching customer.
Alle toezichthouders krijgen te maken met nieuwe digitaliseringsvraagstukken, of het nu gaat om kwesties als privacy, discriminatie, machtsverhoudingen, of om menselijke waardigheid. Alle toezichthouders dienen zich te oriënteren op de vraag, hoe zij op hun terrein praktisch vanuit hun huidige mandaat invulling kunnen geven aan nieuwe ethische en maatschappelijke digitaliseringsvraagstukken. Daarbij is onderlinge afstemming van groot belang. Doordat digitalisering verschillende sectoren doorkruist, zal het handhavingsdomein van verschillende toezichthouders regelmatig overlappen. Toezichthouders dienen daarom overleg te voeren over de manier waarop zij worden geconfronteerd met digitalisering, hoe het toezicht wordt georganiseerd en waar verantwoordelijkheden van verschillende toezichthouders liggen. Oriëntatie op digitale vraagstukken wil niet per se zeggen dat er een nieuwe toezichthouder of nieuwe wet- en regelgeving nodig is. Vaak biedt bestaande wet- en regelgeving al een kader, zoals de Algemene Verordening Gegevensbescherming een kader biedt om automatische beslissingen door algoritmen onder de loep te nemen. Soms zullen het huidige mandaat en de instrumenten van een toezichthouder voldoende zijn, soms zal aanpassing nodig zijn.
Bij het versterken van de positie van de toezichthouders dient men bovendien voor ogen te houden dat het niet alleen draait om het kennisnemen van nieuwe vraagstukken, en capaciteit opbouwen om deze vraagstukken op te pakken, maar ook om de vraag of de randvoorwaarden voldoende
14
Opwaarderen
aanwezig zijn om dat te kunnen doen. De overheid kan normerende kaders opstellen waaraan de aanschaf, ontwerp en inrichting van systemen moeten voldoen, en waar toezichthouders en handhavers op kunnen toetsen. Bijvoorbeeld door vast te stellen, hoe een software-ontwikkelaar verantwoording kan afleggen over de werkwijze van complexe algoritmen, zodat softwareontwikkelaars dat in het ontwerp van het systeem inbouwen. Op deze manier wordt duidelijk welke systemen in welke situaties aan bepaalde transparantievoorwaarden moeten voldoen. Dat speelt nog sterker wanneer het gaat om (semi)publieke diensten en digitale systemen in de zorg, het onderwijs, het rechtssysteem en dergelijke. De overheid dient daar op te treden als hoeder van publieke belangen. Door toenemende servitization (zie hoofdstuk 3) zijn systemen van publieke diensten steeds vaker in handen van private partijen, waardoor overheid, toezichthouders en handhavers vaak onvoldoende zicht hebben op en onvoldoende mogelijkheden hebben om controle uit te oefenen op de werking en effecten van deze systemen. Het moet mogelijk zijn om de inrichting van het systeem en de uitwerking daarvan te controleren. De overheid dient zich hiervan bewust te zijn bij de aanbesteding van digitale systemen, en hiertoe van tevoren voorwaarden voor op te stellen. 3.
Stel een “Digitaliseringsakkoord” op om commitment en verantwoordelijkheden van bedrijven, overheid, en maatschappelijke actoren omtrent de borging van publieke waarden in de digitale samenleving vast te leggen. Actiepunten voor het Digitaliseringsakkoord: –
Bedrijven: zet de zorgplicht centraal om rekening te houden met maatschappelijke en ethische vraagstukken van digitale producten en diensten.
–
Bedrijven en brancheorganisaties: zorg voor een praktische invulling van de zorgplicht via
–
Bedrijven, brancheorganisaties en wetenschap: verken en leer van bestaande tools en
gedragscodes. structuren die het bedrijfsleven kunnen helpen om met ethische impacts om te gaan. Privacy impact assessments kunnen als voorbeeld dienen voor een ethical impact assessment. –
Overheid en wetenschap: investeer via onderzoeksfinanciering en innovatiebeleid in verkenning en aanpak maatschappelijke en ethische implicaties van nieuwe technologie.
–
Overheid: onderzoek hoe tegengeluid van niet-gouvermentele organisaties en burgers kan worden versterkt (bijvoorbeeld met class actions, of door te onderzoeken in hoeverre het wenselijk is het verbod grondwettelijke toetsing op te heffen).
–
Overheid, bedrijven en maatschappelijk middenveld: meer inzetten op digitale vaardigheden in het onderwijs (jongeren en professionals).
–
Overheid, bedrijven en maatschappelijk middenveld: verbreed mediawijsheid (inzicht in werking nieuwe technologie).
In samenwerking met de overheid zullen het bedrijfsleven, het maatschappelijk middenveld en burgers tevens stappen moeten ondernemen om publieke waarden in de digitale samenleving, nu en in de toekomst, te kunnen borgen. Dat kan via een “Digitaliseringsakkoord” waarin partijen vastleggen hoe zij de digitale samenleving samen een ‘humaan gezicht’ kunnen geven. Voor het opstellen van een Digitaliseringsakkoord is het van belang dat er draagvlak is bij bedrijven en deelnemende stakeholders. Voor het proces kan gekeken worden naar de aanpak die is gevolgd bij de totstandkoming van eerdere akkoorden, zoals het Energieakkoord.
Rathenau Instituut
15
Belang van een Digitaliseringsakkoord Het realiseren én uitvoeren van een dergelijk akkoord is van cruciaal belang voor Nederland. Maatschappelijke en ethische kwesties worden, net als bij biotechnologie, belangrijke succes- en faalfactoren voor innovatie. Het niet tijdig inspelen op het beschermen van publieke waarden, kan het vertrouwen van consumenten en burgers schaden en leiden tot falende innovaties en kostbare trajecten. Met het op een juiste manier borgen van publieke waarden in toekomstige ICT-innovaties kan Nederland een gidsland worden en kansen creëren voor het Nederlandse bedrijfsleven. Actiepunten in het Digitaliseringsakkoord In een “Digitaliseringsakkoord” dienen verantwoordelijkheden van verschillende partijen te worden gedefinieerd en vastgelegd. Een belangrijk onderdeel van een dergelijk akkoord vormen de verantwoordelijkheden van bedrijven. ICT-ontwikkelaars dienen doordrongen te zijn van de maatschappelijke en ethische impact van hun producten, en dienen zich in te spannen voor het beschermen van mensenrechten en grondrechten. De verantwoordelijkheid van bedrijven om mensenrechten te respecteren, zijn onder andere opgenomen in de Richtlijnen voor Multinationale Ondernemingen van de OESO.
Bedrijven dienen zich actief in te spannen om risico’s op schendingen van mensenrechten door henzelf of partijen in hun keten te onderkennen, en waar mogelijk schendingen te voorkomen. Via gedragscodes van brancheorganisaties kan praktische uitwerking worden gegeven aan deze internationale standaarden. Ze geven richting aan de omgang met maatschappelijke en ethische vragen. Leer van bestaande structuren en tools op het gebied van dataprotectie, zoals privacy impact assessments en privacy by design. Zo kan een ethical impact assessment bijvoorbeeld een middel zijn om maatschappelijke en ethische knelpunten anders dan privacy in een vroege fase van productontwikkeling zichtbaar te maken. De overheid kan hier een rol spelen door in haar onderzoeksfinanciering en innovatiebeleid nadrukkelijk ruimte te maken voor maatschappelijke en ethische implicaties van nieuwe technologie. Daarnaast dient het Digitaliseringsakkoord aandacht te besteden aan het bevorderen van ‘technologisch burgerschap’ o.a. door het stimuleren van digitale vaardigheden. Dat kan concreet vorm krijgen door in het onderwijs mediawijsheid te verbreden, en ruimte te maken voor programmeren en andere digitale vaardigheden. Dat geldt niet alleen voor het basis- en voorgezet onderwijs voor de burgers van de toekomst, maar juist ook voor het onderwijs van de professionals van nu.
Van de zorg tot aan het gerechtelijk systeem is het van belang dat professionals kennis nemen van de invloed van de nieuwe digitaliseringsgolf op publieke waarden. Tot slot is het van belang dat het akkoord vastlegt hoe het tegengeluid van niet-gouvernementele organisaties (ngo’s) en burgers beter kan worden ondersteund, bijvoorbeeld met zogenaamde class actions, of door de wenselijkheid van het opheffen van het verbod op grondwettelijke toetsing te onderzoeken.
16
Opwaarderen
4. Versterken technologisch burgerschap middels een maatschappelijke dialoog Actiepunten: –
Overheid, bedrijven en maatschappelijk middenveld: ondersteun technologisch burgerschap door een nationale dialoog over nieuwe maatschappelijke en ethische digitaliseringsvraagstukken te organiseren.
De maatschappelijke discussie over de maatschappelijke en ethische betekenis van de nieuwe digitaliseringsgolf is vooralsnog beperkt, met name over de nieuwe vraagstukken als gelijke behandeling, menselijke waardigheid, autonomie en nieuwe machtsverhoudingen tussen bedrijven en consumenten, bedrijven en overheden, en tussen burgers en overheden. Dat betekent dat er een belangrijke taak ligt in het organiseren van een nationale dialoog over deze ontwikkelingen. De overheid dient hiertoe het startschot te geven, maar een maatschappelijke dialoog kan alleen succesvol zijn in samenwerking met het veld. De uitvoerende verantwoordelijkheid voor het organiseren van de dialoog zal niet bij de overheid liggen, maar zij is wel de initiator en aanjager. Er kan gebruik worden gemaakt van de ervaring die is opgedaan met de organisatie van eerdere dialogen, zoals de maatschappelijke dialoog nanotechnologie. De dialoog vormt samen met het stimuleren van digitale vaardigheden (zie hierboven) de kern van technologisch burgerschap. Technologisch burgerschap houdt in dat burgers zich bewust zijn van de technologische cultuur waarin ze leven, en begrijpen op welke manier technologie invloed op hen uitoefent (Van Est 2016).
Een ‘technologisch burger’ is geïnformeerd over de werking van technologie, kan kritisch nadenken over die werking en de betekenis daarvan voor zijn leefwereld, en kan op basis daarvan kiezen welke technologie hij wel of niet kan of wil gebruiken. Dat betekent bijvoorbeeld dat mensen begrijpen hoe profilering en zelflerende algoritmes werken en hoe dat hen beïnvloedt, en dat ze in staat zijn zich te verweren tegen ongewenste invloeden, en alternatieven kunnen kiezen. Technologisch burgerschap vraagt daarom om het vergroten van het maatschappelijk bewustzijn en het stimuleren van de meningsvorming over de invloed en betekenis van de nieuwe digitaliseringsgolf. 5. Zorg voor periodieke politieke discussie in de Eerste en Tweede Kamer over de governance van maatschappelijke en ethische digitaliseringsvraagstukken. Actiepunten: –
Periodieke discussie over de governance van maatschappelijke en ethische digitaliseringsvraagstukkem.
Een overkoepelende kabinetsvisie over de omgang met maatschappelijke en ethische betekenis van digitalisering brengt met zich mee dat het onderwerp ook periodiek op de politieke agenda komt te staan. Daarmee wordt invulling gegeven aan de geconstateerde behoefte in het parlement aan een structurele discussie over maatschappelijke en ethische digitaliseringsvraagstukken. Die behoefte blijkt uit oproepen vanuit het parlement, waarbij de Eerste en Tweede Kamer de regering regelmatig verzoeken om een integrale visie te vormen op gebieden als privacy, of de rol van ethiek in innovatiebeleid. De motie Gerkens (zie kader 6.1) en de motie Ester c.s. (Kamerstukken I, 20132014, 33750 XIII) zijn daar voorbeelden van. Motie Ester verzoekt het Ministerie van Economische
Rathenau Instituut
17
Zaken om jaarlijks te rapporteren over de rol van ethiek in het innovatiebeleid, en probeert daarover een structureel terugkerende politiek-ethisch debat in de Eerste Kamer mogelijk te maken. Tot nu toe wordt het politieke debat met name gedreven door incidenten. Door het onderwerp periodiek (liefst commissieoverstijgend) op de Kameragenda te zetten ontstijgt het debat het huidige gefragmentariseerde en incidentele karakter, en kan worden bezien of de ondernomen acties om het governancelandschap te versterken ook daadwerkelijk vruchten hebben afgeworpen: is het landschap voldoende versterkt? Zijn er nieuwe blinde vlekken ontstaan? En zijn er aanvullende acties gewenst?
18
Opwaarderen
Inhoudsopgave Voorwoord
6
Samenvatting
7
1
20
2
3
4
Inleiding 1.1
De motie Gerkens
20
1.2
De context van de motie
20
1.3
Onderzoeksvragen en aanpak
21
1.4
Leeswijzer
24
De nieuwe digitale golf
26
2.1
Inleiding
26
2.2
Middelen om te digitaliseren
27
2.3
Objecten van digitalisering
30
2.4
De digitale wereld
41
2.5
De vier werelden bijeen: een nieuwe fase in de digitale samenleving
43
2.6
Tot slot
45
Maatschappelijke en ethische issues van digitalisering
46
3.1
Inleiding
46
3.2
Materiële wereld
48
3.3
Biologische wereld
57
3.4
Socio-culturele wereld
63
3.5
Digitale wereld
69
3.6
Conclusie
74
Governance in historisch perspectief
79
4.1
Inleiding
79
4.2
Jaren 1970: maatschappelijke en ethische zorgen over wetenschap en technologie
4.3
81
Jaren 1980: institutionalisering van maatschappelijke en ethische omgang met wetenschap en technologie
82
4.4
Jaren 1990: vermaatschappelijking en regulering van de bio-ethiek
84
4.5
Jaren 2000: onderzoek, signalering en debat over ethiek en bio- en nanotechnologie
4.6
88
Jaren 2010: behoefte aan reflectie op en debat over maatschappelijke en ethische aspecten van innovatie
92
4.7
Noodzaak voor een breed perspectief op het governance-ecosysteem
92
4.8
Raamwerk voor het governance-ecosysteem
95
4.9
Tot slot: Langetermijndynamiek van het governance-ecosysteem
100
19
Rathenau Instituut
5
6
Blinde vlekken in het governancelandschap
102
5.1
Inleiding
102
5.2
Rol van de wetenschap
103
5.3
Rol van grond- en mensenrechten
104
5.4
Rol van maatschappelijke actoren
107
5.5
Agendavorming
111
5.6
Beleidsvorming en -bepaling
114
5.7
Beleidsuitvoering
118
5.8
Conclusie
120
Conclusie: Borgen van publieke waarden in de digitale samenleving
125
6.1
Inleiding
125
6.2
Een nieuwe digitale golf: digitalisering als cybernetisering
126
6.3
Publieke waarden in het geding
128
6.4
Lessen uit het verleden
129
6.5
Blinde vlekken in het governancelandschap voor ethische en maatschappelijke digitaliseringsvraagstukken
6.6 6.7
130
Opwaarderen: een actieprogramma voor een verantwoorde digitale samenleving
132
Tot slot
139
Bibliografie
141
Appendix A: Uitgebreide analyse governance-ecosysteem
155
Inleiding
155
Grond- en mensenrechten
156
Wetenschap
160
Maatschappelijke actoren en debat
163
Agendavorming
171
Beleidsvorming en -bepaling
177
Beleidsuitvoering
190
Bibliografie
196
Appendix B: De betekenis van publieke governance
203
Governance als maatschappelijke sturing
203
Governance van publieke vraagstukken
203
Governance als de vormgeving van interactie tussen overheid en maatschappij
204
Meta-governance van het governance-ecosysteem
205
Relevante vragen vanuit governanceperspectief
205
Bibliografie
207
Appendix C: Geraadpleegde experts
208
Over de auteurs
209
20
Opwaarderen
1 Inleiding 1.1
De motie Gerkens
Met de motie Gerkens c.s. van 23 september 2014 verzocht de Eerste Kamer de regering ‘het Rathenau Instituut te vragen een onderzoek te doen naar de wenselijkheid van een commissie die kan adviseren over de ethische kant van de digitalisering van de samenleving’ (zie Kader 1). De motie werd ingediend door de SP, en ondertekend door D66, VVD, CDA, GroenLinks en de PvdA. Zoals verzocht in de motie Gerkens heeft het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) het Rathenau Instituut gevraagd onderzoek te doen naar de vraag die in de motie wordt gesteld. Naar aanleiding van deze motie brengt het Rathenau Instituut deze studie uit, waarin het maatschappelijke en ethische vragen omtrent de digitalisering van de samenleving in kaart brengt en onderzoekt in hoeverre de signalering en monitoring van die vragen ook institutioneel verankerd is.
Kader 1.1 Motie van het lid Gerkens c.s. voorgesteld op 23 september 2014 De Kamer, gehoord de beraadslagingen, constaterende, dat de digitale technologie met the Internet of Things alles en iedereen met elkaar zal verbinden; constaterende, dat deze niet te stuiten ontwikkeling kansen zal bieden voor de maatschappij, maar ook bedreigingen; overwegende, dat de effecten van deze digitale ontwikkeling op de maatschappij niet alleen een technologische, maar ook een maatschappelijke, sociaal juridische en sociaal psychologische is; verzoekt de regering het Rathenau Instituut te vragen een onderzoek te doen naar de wenselijkheid van een commissie die kan adviseren over de ethische kant van de digitalisering van de samenleving, en gaat over tot de orde van de dag. Ondertekend door Eerste Kamerleden Gerkens, Franken, K.G. de Vries, Strik, Duthler, Van Boxtel.
1.2
De context van de motie
De motie Gerkens c.s. werd ingediend tijdens een debat in de Eerste Kamer over privacy en toezicht op de inlichtingen- en veiligheidsdiensten in september 2014. Het debat vond plaats ongeveer een jaar nadat de NRC berichtte over via Edward Snowden verkregen documenten over de werkwijze van de Nederlandse inlichtingendiensten. 1 Tegelijk verwijst de motie naar het Internet
1
Op 30 november 2013 berichtte NRC over een intern NSA-verslag waaruit zou blijken dat de AIVD inbrak op servers van internetfora en daarbij de gegevens van alle deelnemers onderschepte. NRC.nl: AIVD hackt internetfora, ‘tegen wet in’, 30 november 2013
Rathenau Instituut
21
of Things en de bredere maatschappelijke, sociaal juridische en sociaal psychologische effecten van de ontwikkeling van digitalisering. De vraag in de motie naar een commissie vatten we op als een meta-vraag (zie paragraaf 1.3 Onderzoeksvragen en aanpak). Er spreekt een zorg uit of de huidige institutionele en wettelijke kaders en vormen van toezicht voldoende zijn uitgerust om de uitdagingen van de digitaliserende samenleving het hoofd te bieden. Deze achterliggende zorg is leidend bij de aanpak van deze studie en de conclusies van dit rapport. De motie verzoekt de regering om het Rathenau Instituut onderzoek te laten doen naar de ethische aspecten van digitalisering. De vraag in de motie sluit aan bij de taakstelling van het Rathenau Instituut en haar inhoudelijke expertise. Al dertig jaar brengt het Rathenau Instituut de ethische en maatschappelijke betekenis van automatisering – later spreekt men van digitalisering – in kaart. 2 Het Rathenau Instituut heeft expliciet de taak dit te doen voor het parlement, om zo politieke oordeelsvorming mogelijk te maken. 3 Voor het Rathenau Instituut is digitalisering de laatste jaren een zeer belangrijk thema geweest dat op talloze wijzen is geagendeerd.
Er zijn verschillende ontwikkelingen aan de orde gekomen, zoals het Internet of Things, robotica, biometrie, slimme mobiliteit, big data, digitale platformen, en digitalisering in de gezondheidszorg, verzekeringswereld en het boerenbedrijf. 4 De vraag in de motie brengt dus een groot deel van het onderzoek van het Rathenau Instituut van de afgelopen jaren samen.
1.3
Onderzoeksvragen en aanpak
De centrale vraag van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties is: in hoeverre het wenselijk is om een commissie in te stellen die kan adviseren over de ethische kant van de digitalisering van de samenleving? Om deze vraag te kunnen beantwoorden, stellen we de verschillende deelvragen op. Ze hebben betrekking op digitalisering, ethische en maatschappelijke kwesties en de governance van die kwesties. In deze paragraaf lichten we per onderzoeksvraag onze aanpak toe.
2
Het instituut komt voort uit de ‘commissie Rathenau’ die in 1979 de regering moest adviseren over de maatschappelijke gevolgen van automatisering. De commissie, voorgezeten door Gerhart Rathenau, voormalig directeur van het Natlab van Philips, adviseerde om de gevolgen van nieuwe technologie voortaan systematisch in kaart te brengen. Aan die aanbeveling werd gehoor gegeven met de oprichting van NOTA, de Nederlandse Organisatie voor Technologisch Aspectenonderzoek, later omgedoopt tot Rathenau Instituut.
3
Zie het instellingsbesluit, wetten.overheid.nl/BWBR0026157/2009-07-24, 24 juli 2009, waarin staat: ‘Het instituut heeft als taak bij te dragen aan het maatschappelijke debat en de politieke oordeelsvorming over vraagstukken die samenhangen met of het gevolg zijn van wetenschappelijke en of technologische ontwikkelingen waaronder de ethische, de maatschappelijke, de culturele en de wettelijke aspecten daarvan. Het instituut levert in het bijzonder bijdragen aan de politieke oordeelsvorming in de beide Kamers van de Staten-Generaal en in het Europese parlement.’ Het Instituut doet dat onder andere door context te bieden en beleidsopties te presenteren.
4
Zie o.a. Beyond control: Consumer privacy in the Internet of Things (2016), Digitalisering van dieren (2016), De meetbare mens (2016), De robotsamenleving (2015), Verzekeren in de data-gedreven samenleving (2015), Dicht op de huid (2015), De data-gedreven samenleving (2015), Eerlijk advies (2014), De Kracht van platformen (2014), Tem de robotauto (2014), Intieme technologie (2014), Op advies van de auto (2013), Voorgeprogrammeerd (2012), Overal robots (2012), Check-in, check-out (2010), Databases (2010), Het glazen lichaam (2008), Van privacyparadijs tot controlestaat (2007).
22
Opwaarderen
Digitalisering: De motie spreekt van de digitalisering van de samenleving. De eerste stap van dit onderzoek is daarom om meer inzicht te krijgen in wat die digitalisering behelst. Dit doen we middels twee onderzoeksvragen: –
Welke relevante technologische ontwikkelingen ondersteunen het proces van digitalisering van de samenleving?
–
En op welke wijze zal de digitalisering van de samenleving de komende tien tot vijftien jaar onder invloed van nieuwe technologieën mogelijk vorm krijgen?
Op basis van literatuuronderzoek schetsen we hoe digitalisering in de afgelopen zes decennia vorm heeft gekregen. We laten zien hoe steeds meer aspecten van de ‘analoge’ maatschappij digitaliseren. We beschrijven dit aan de hand van drie werelden: de materiële wereld, de biologische wereld en de socio-culturele wereld. Vervolgens beschrijven we de groeiende ‘digitale wereld’. Per wereld selecteren we twee technologiegebieden (acht in totaal) waarvan we verwachten dat ze de komende tien tot vijftien jaar vormgeven aan de digitaliserende samenleving: robotica, biometrie, persuasieve technologie, digitale platformen, augmented reality, virtual reality en sociale media, kunstmatige intelligentie en algoritmen en big data. We kiezen deze acht gebieden omdat ze de reikwijdte van de impact van de nieuwe digitaliseringsgolf weergeven. De technologiegebieden vormen het uitgangspunt voor de volgende deelvraag. Ethische en maatschappelijke kwesties: Als duidelijk is welke technologiegebieden de komende jaren de digitale samenleving zullen vormgeven, kunnen we onderzoeken welke ethische en maatschappelijke vragen deze technologieën oproepen. De volgende deelvraag luidt dan ook: –
Welke maatschappelijke en ethische kwesties roept de digitaliserende samenleving op?
We spreken hier over ethische en maatschappelijke vraagstukken. De motie Gerkens spreekt over de ethische kanten van de digitaliserende samenleving. In de toelichtende tekst (zie kader 1) wordt duidelijker wat de Eerste Kamer daarmee voor ogen heeft: de toelichting spreekt over ‘maatschappelijke, sociaal juridische en sociaal psychologische’ effecten van digitale ontwikkelingen. Uit deze toelichting spreekt een brede opvatting van ethiek. Daarom benaderen we ethiek in deze studie ook breed. We definiëren ethiek in deze studie als de systematische reflectie op moraal, oftewel het geheel van normen en waarden dat feitelijk bestaat in een samenleving. We bezien ethiek dus niet als iets dat alleen op individueel niveau speelt, maar ook op maatschappelijk niveau. Daarom zullen we in deze studie steeds kijken naar ethische én maatschappelijke kwesties die de digitaliserende samenleving oproept. We brengen deze in kaart op basis van een uitgebreide studie van de wetenschappelijke literatuur daarover. We laten per technologiegebied zien welke kwesties daar spelen en hoe ze zich manifesteren. Governance: De motie vraagt naar de wenselijkheid van een commissie die kan adviseren over de ethische aspecten van de digitaliserende samenleving.
Zoals hierboven genoemd, duidt die vraag op een achterliggende zorg in de Eerste Kamer of de huidige wettelijke kaders, toezichtsarrangementen en maatschappelijke weerbaarheid nog voldoende zijn om opkomende ethische en maatschappelijke
Rathenau Instituut
23
kwesties rondom digitalisering het hoofd te bieden. In deze studie bezien we de vraag in de motie dan ook vanuit deze achterliggende vraag. We onderzoeken hoe de governance van ethische en maatschappelijke kwesties in de digitaliserende samenleving vorm krijgt en of die adequaat is. We willen zicht krijgen op welke kwesties bestaande instituties wel of niet oppakken, op welke manier: zijn er blinde vlekken ten aanzien van de omgang met (nieuwe) ethische en maatschappelijke kwesties? De vervolgvraag is welke rol een commissie zou kunnen spelen. We dienen daarom ook inzicht te krijgen in wat voor soort commissies er bestaan rondom ethische en maatschappelijke kwesties van technologie en hoe we de rol van een commissie kunnen begrijpen. De laatste deelvragen luiden daarom: –
Hoe kunnen we de governance van maatschappelijke en ethische kwesties van technologische ontwikkelingen begrijpen, en welke rol spelen commissies daarbij?
–
Hoe krijgt de governance van maatschappelijke en ethische kwesties van de digitaliserende samenleving op dit moment vorm? Welke kwesties worden goed of minder goed opgepakt en zijn er blinde vlekken te identificeren?
–
Welke rol kan een commissie spelen in het brede governance-ecosysteem van de digitaliserende samenleving?
Governance is een meerduidig concept. In Appendix B introduceren we een aantal inzichten en begrippen uit de literatuur die behulpzaam zijn bij het nadenken over de governance van de maatschappelijke en ethische aspecten van wetenschap en technologie. Voor onze aanpak is het van belang dat we een onderscheid maken tussen de governance en meta-governance van ethische en maatschappelijke problemen. Governance betreft kort gezegd het collectief besturen van maatschappelijke problemen in onze samenleving (voor een uitgebreide definitie zie Appendix B). Het draait om vragen als: –
Welke publieke problemen zijn gesignaleerd en politiek geagendeerd?
–
Welke belangen of waarden zijn goed of minder goed gearticuleerd?
–
Hoe discussiëren diverse actoren in de samenleving over deze problemen?
–
Wie is daarbij wel of niet en meer of minder betrokken?
Meta-governance geeft aan dat de collectieve besturing van publieke problemen plaatsvindt in een governance-ecosysteem, oftewel in een verzameling van instituties, bestuurlijke en maatschappelijke processen en actoren. Meta-governance geeft de opbouw, structuur en werking van het governance-ecosysteem weer en draait om vragen als: –
Welke instituties zijn er om te discussiëren over publieke problemen en deze politiek aan te kaarten?
–
Op welke manieren vindt afstemming plaats tussen publieke en private actoren?
–
Op welke wijze worden publieke waarden institutioneel geborgd?
–
Welke instituties zijn er door de jaren heen opgebouwd om dat te doen?
In deze studie willen we zicht krijgen op de governance en de meta-governance van maatschappelijke en ethische kwesties die ontstaan door digitalisering. Dat doen we op twee
24
Opwaarderen
manieren. Allereerst kijken we hoe we in algemene zin het governance-ecosysteem in Nederland ten aanzien van maatschappelijke en ethische kwesties van technologie kunnen begrijpen. Hiervoor stellen we een algemeen conceptueel raamwerk op, gebaseerd op een overzicht van governancemechanismen die in Nederland de afgelopen halve eeuw zijn ontstaan op vier technologische gebieden: biotechnologie, ICT, mensgebonden onderzoek en dierexperimenten. Dit historisch overzicht maakt ook duidelijk wat voor soort commissies in het verleden zijn ingesteld rondom ethische en maatschappelijke kwesties op deze terreinen, en welke rol zij vervulden binnen het governance-ecosysteem. Vervolgens gebruiken we het algemene conceptuele raamwerk om zicht te krijgen op de manier waarop het governance-ecosysteem van ethische en maatschappelijke kwesties rondom digitalisering vorm krijgt. Via deskresearch brengen we in kaart welke partijen deel uitmaken van het ecosysteem, welke publieke problemen zij signaleren (en welke niet), in hoeverre deze problemen politiek zijn geagendeerd, en hoe beleidsmatig om wordt gegaan met de gesignaleerde problemen. We hebben in deze analyse gekeken naar activiteiten tot oktober 2016. Op basis daarvan kunnen we concluderen waar mogelijk blinde vlekken liggen in het huidige governanceecosysteem en welke rol een commissie zou kunnen spelen.
We merken op dat het Rathenau Instituut onderdeel is van het governance-ecoysteem rondom maatschappelijke en ethische kwesties van technologie en van digitalisering. Zoals hierboven vermeld heeft het Rathenau Instituut als expliciete taak publieke en politieke meningsvorming over wetenschap en technologie te stimuleren. In de analyse van het ecosysteem benoemen we daarom ook de activiteiten van het Rathenau Instituut. Naast literatuuronderzoek en deskresearch hebben we voor dit onderzoek gesprekken gevoerd met diverse deskundigen en betrokkenen (zie Appendix C voor het overzicht van geraadpleegde experts). De bevindingen van deze studie zijn daarnaast voorgelegd en besproken met een begeleidingscommissie, bestaande uit zes mensen met wetenschappelijk en politiek-bestuurlijke ervaring (zie Appendix C). Het Rathenau Instituut is verantwoordelijk voor de bevindingen in dit rapport. Tot slot is dit rapport, volgens de kwaliteitsprocedures van het Rathenau Instituut, intern ter review voorgelegd.
1.4
Leeswijzer
De onderzoeksvragen met betrekking tot digitalisering, maatschappelijke en ethische aspecten en governance werken we in de volgende hoofdstukken stapsgewijs verder uit. Hoofdstuk 2 beschrijft hoe digitalisering de afgelopen halve eeuw is verlopen en welke technologiegebieden naar verwachting de komende jaren van invloed zullen zijn op de digitale samenleving. Deze technologiegebieden zorgen voor een nieuwe technologische golf en luiden een nieuwe fase van de digitale samenleving in. Waar digitalisering aanvankelijk bestond uit het op grote schaal verzamelen van gegevens over de materiële, biologische en sociale wereld, richt digitalisering zich nu op de grootschalige analyse én toepassing van die gegevens. Dat maakt realtime interventies en (bij)sturing mogelijk. Denk bijvoorbeeld aan de nieuwsfeeds van sociale
Rathenau Instituut
25
mediagebruikers, die sociale mediabedrijven real-time ‘op maat’ aanpassen, op basis van de verzameling en analyse van het surfgedrag van diezelfde sociale mediagebruikers. Deze cybernetische loop is kenmerkend voor de huidige fase van digitalisering. Hoofdstuk 3 brengt in kaart welke maatschappelijke en ethische kwesties de nieuwe technologische golf momenteel oproept. We bespreken per technologiegebied de meest urgente kwesties en illustreren deze aan de hand van actuele voorbeelden. Duidelijk wordt dat maatschappelijke en ethische kwesties rondom digitalisering niet alleen betrekking hebben op privacy en veiligheid, maar nieuwe fundamentele vragen op roepen met betrekking tot onder andere rechtvaardigheid, gelijke behandeling, autonomie en menselijke waardigheid. Wie heeft bijvoorbeeld zicht op welke keuzes de software van sociale mediabedrijven maakt om bepaalde nieuwsberichten wel of niet te tonen? Welke taken willen we overlaten aan robots, en welke niet? Hoofdstuk 4 laat zien hoe we het governance-ecosysteem ten aanzien van maatschappelijke en ethische kwesties van technologie kunnen begrijpen. Het hoofdstuk blikt circa een halve eeuw terug op hoe we in Nederland zijn omgegaan met ethische en maatschappelijke kwesties rondom biotechnologie, ICT, mensgebonden onderzoek en dierexperimenten.
Het overzicht laat zien welke commissies er zijn geweest op deze gebieden en wat voor type commissies dat waren. Aan de hand van het historisch overzicht stellen we een algemeen conceptueel raamwerk op hoe het governance-ecosysteem in Nederland ten aanzien van maatschappelijke en ethische kwesties van technologie eruit ziet. Daarin onderscheiden we vier domeinen: grond- en mensenrechten, wetenschap, maatschappij en politiek en bestuur. In hoofdstuk 5 gebruiken we het conceptueel raamwerk om zicht te krijgen op de wijze waarop het governance-ecosysteem van ethische en maatschappelijke kwesties rondom digitalisering momenteel vorm krijgt. De analyse richt zich op Nederland, maar benoemt ook enkele relevante ontwikkelingen in het buitenland. Op basis van deskresearch brengen we in kaart welke activiteiten diverse organisaties en actoren voorstellen, voorbereiden, initiëren of uitvoeren om in te spelen op de maatschappelijke en ethische uitdagingen rondom digitalisering. We zetten ook op een rij welke commissies er op dit terrein reeds zijn of welke commissies door diverse organisaties zijn voorgesteld. Op verschillende plekken in het governancelandschap identificeren we blinde vlekken. Hoofdstuk 6 bevat de conclusie van de studie. We blikken kort terug op de deelvragen en vatten de belangrijkste bevindingen van deze studie samen.
We concluderen dat de verregaande digitalisering van de maatschappij fundamentele ethische en maatschappelijke vraagstukken oproept. Overheid en samenleving zijn op dit moment niet adequaat uitgerust om met deze thematiek om te gaan. Om publieke waarden en grondrechten in het digitale tijdperk nu en in de toekomst te kunnen borgen vraagt om een upgrade, of opwaardering, van het governancesysteem. Deze opwaardering vereist dat alle partijen – overheid, bedrijfsleven en maatschappelijk middenveld – nu in actie komen om digitalisering in goede banen te leiden. We stellen daarom een actieprogramma voor om op een verantwoorde manier vorm te geven aan de digitale samenleving.
26
Opwaarderen
2
De nieuwe digitale golf
2.1
Inleiding
Dit hoofdstuk beschrijft hoe we de voortdurende digitalisering van de samenleving kunnen begrijpen. Wat is er de afgelopen zes decennia gedigitaliseerd, wat zijn de effecten van die digitalisering, en hoe ziet de toekomstige digitale samenleving eruit? We trachten niet om een volledig beeld te schetsen van alles dat digitaliseert, maar de lezer een gevoel te geven van wat digitalisering inhoudt. We kijken daarbij zowel naar het verleden (welke relevante technologische ontwikkelingen hebben het proces van digitalisering ondersteund) als naar de toekomst (welke relevante technologische ontwikkelingen geven de komende vijf tot tien jaar de digitale samenleving vorm?). Dit laatste levert een selectie op van acht technologiegebieden op. In het volgende hoofdstuk vormen deze gebieden het uitgangspunt voor de analyse van ethische en maatschappelijke kwesties die de digitale samenleving oproept. We beginnen dit hoofdstuk met een beknopt historisch overzicht van ontwikkelingen in de microelektronica en de telecommunicatie: belangrijke technieken, of middelen, om te digitaliseren (paragraaf 2.2). Dan laten we zien hoe steeds meer gebieden uit de ‘analoge’ maatschappij digitaliseren. We onderscheiden daarbij drie ‘werelden’ die het object van digitalisering zijn: de materiële wereld, de biologische wereld, en de socio-culturele wereld (paragraaf 2.3).
Voor iedere wereld beschrijven we belangrijke mijlpalen van digitalisering. Vervolgens beschrijven we de almaar uitdijende digitale wereld (paragraaf 2.4). Per wereld selecteren we twee technologiegebieden voor de analyse van maatschappelijke en ethische kwesties. In paragraaf 2.5 brengen we de vier werelden bijeen: welke nieuwe fase in de ontwikkeling van de digitaliserende samenleving is waar te nemen? Tot slot vatten we in paragraaf 2.6 de belangrijkste bevindingen uit dit hoofdstuk samen.
Kader 2.1 Digitalisering Digitaliseren betekent letterlijk ‘[informatie, red] omzetten in digitale vorm ([in, red] nullen en enen)’ (Van Dale). Denk bijvoorbeeld aan een VHS-videoband die in digitale vorm wordt omgezet en zo is af te spelen op een computer. Of aan een foto die wordt gescand en door de computer vertaald wordt in pixels. Anno 2016 kennen we steeds meer digitale producten en diensten, zoals digitale muziek, streamingsdiensten of de digitale bankrekening. Inmiddels is duidelijk dat digitalisering niet slechts het omzetten van een analoog proces in bits en bytes behelst. Met het omzetten van informatie in digitale vorm krijgt namelijk informatie ook andere eigenschappen, en zijn er nieuwe dingen mogelijk. In 1995 schreef Nicholas Negroponte Being Digital waarin hij aangaf dat digitalisering informatie makkelijker te transporteren, manipuleren en te integreren is. Rond die tijd gaan diverse wetenschappers, waaronder Manuel Castells in zijn klassieker The Rise of the Network
27
Rathenau Instituut
Society digitalisering (het netwerk) zien als dé dominante organisatiestructuur voor de samenleving die bestaande manieren van productie, ervaring, macht en cultuur zal veranderen (Castells 1995; Van Dijk 1997). Tien jaar later beschreef Benkler (2006) in The Wealth of Networks hoe informatietechnologie nieuwe vormen van samenwerking mogelijk maakt met fundamentele veranderingen voor economie en maatschappij als gevolg. ICT, en de daaruit voortvloeiende digitalisering, wordt – net zoals stoom of elektriciteit – op ontelbare manieren ingezet. Daarom spreekt men ook wel van een generieke technologie (general purpose technology) (Bresnahan & Trajtenberg 1995). Die technologie maakt niet alleen vele nieuwe producten mogelijk, maar heeft op den duur invloed op tal van maatschappelijke processen. De invloed van informatietechnologie en digitalisering op de samenleving wordt alom herkend. Maar de manier waarop de digitale samenleving vorm krijgt, wordt niet uitsluitend wordt bepaald door (digitale) technologie. Samenleving en technologie beïnvloeden elkaar op complexe wijze. In deze studie gaan we ervan uit dat maatschappelijke, economische, politieke en technologische processen elkaar wederzijds beïnvloeden (Misa et al. 2003).
Dat betekent dat, hoewel we ons hier beperken tot een beschrijving van de technologische ontwikkelingen, we ervanuit gaan dat de verdere ontwikkeling van de digitaliserende samenleving wordt beïnvloed door bestaande normen, regels, instituties, infrastructuur, en dat digitale technologie op haar beurt diezelfde normen, regels, instituties en infrastructuur beïnvloedt.
2.2
Middelen om te digitaliseren
5
In deze paragraaf beschrijven we hoe digitalisering de afgelopen halve eeuw heeft vorm gekregen. We besteden daarbij aandacht aan de achterliggende techniek die digitalisering mogelijk maakt. Dat zijn bijvoorbeeld apparatuur (hardware), software , en telecommunicatie en infrastructuur; kortom informatie- en communicatietechnologie (ICT). Dit doen we door middel van een beknopt historisch overzicht van ontwikkelingen in de micro-elektronica en telecommunicatie (zie figuur 2.1). In kader 2.1 geven we kort verschillende positioneringen en conceptualiseringen van het begrip digitalisering weer, om aan te geven dat digitalisering niet slechts een instrumentele verandering behelst, maar er met digitalisering fundamentele veranderingen in economie en maatschappij plaatsvinden.