Rapport Opwaarderen - borgen van publieke waarden in de digitale samenleving

5

Deze paragraaf biedt een beknopt historisch overzicht van ontwikkelingen in de micro-elektronica en telecommunicatie. Voor uitgebreide overzichtswerken zie bijvoorbeeld Van den Bogaard et al. (2008): De eeuw van de computer: de geschiedenis van de informatietechnologie in Nederland.

28

Opwaarderen

Figuur 2.1 Overzicht middelen voor digitalisering

Rathenau Instituut

In de jaren veertig en vijftig legden doorbraken in de micro-elektronica en de telecommunicatie een belangrijke technologische basis voor digitalisering. Die doorbraken waren onder meer de eerste programmeerbare computer (1941) en de eerste op silicium gebaseerde transistor (1954). Een transistor dient om elektronische signalen mee te versterken of te schakelen. De transistor is de fundamentele bouwsteen van iedere chip, en staat daarmee aan de basis van iedere ICT-

Rathenau Instituut

29

toepassing. De afgelopen vijftig jaar verdubbelde het aantal transistors op een chip ongeveer iedere anderhalf tot twee jaar. Deze trend van miniaturisering en het tempo waarin de innovatie plaatsvindt, wordt de Wet van Moore genoemd, en heeft de afgelopen zes decennia geleid tot steeds kleinere, krachtigere en betaalbaardere computers. 6 De eerste computers in de jaren vijftig waren enorme kolossen en werden vooral gebruikt door defensie en in de wetenschap voor ingewikkelde rekentaken. Ook banken begonnen deze ‘mainframe computers’ te gebruiken. In de jaren zestig werden de computers stapsgewijs kleiner en deed de ‘minicomputer’ – zo groot als een koelkast – zijn intrede. Een doorbraak kwam in 1971 met de microprocessor van Intel. Deze was slechts enkele millimeters groot, maar even krachtig als hun reusachtige neven uit de jaren vijftig. Zo konden de toen nog kleine bedrijfjes Apple en Microsoft nog kleinere computers ontwerpen die los van een mainframe op een bureau konden staan. Maar pas in de jaren tachtig deed informatietechnologie op brede schaal zijn intrede in de maatschappij, met de komst van de Personal Computer (PC) van IBM. Al snel deed de PC op vele werkvloeren zijn intrede, met tekstverwerking en spreadsheet als de belangrijkste toepassingen, en in de jaren daarna ook bij gezinnen thuis.

In de jaren negentig volgde de opkomst van mobiele telefonie en het internet. Ook begint in deze periode de digitalisering en convergentie van bestaande infrastructuren, zoals de kabel en de ether voor diensten als telefonie, radio en tv. De gevolgen van dit digitaliseringsproces zijn al snel overal merkbaar: in de zakelijke dienstverlening – de muziekhandel, de reisbranche, de logistiek, de detailhandel – en in semipublieke sectoren als het onderwijs, mobiliteit en de zorg. De groeiende beschikbaarheid van internet wereldwijd versterkt globalisering. Dat maakt het outsourcen, offshoren en automatiseren mogelijk van aanvankelijk productiewerk en later ook kenniswerk (Van Est & Kool 2015). Na de eeuwwisseling ontwikkelde het internet zich van een passief, informatie gevend medium (web 1.0) naar een interactief medium waaraan gebruikers op allerlei manieren kunnen bijdragen (web 2.0): via het geven van reacties, eigen content plaatsen en het taggen en beoordelen van content van anderen. Het web wordt een ‘platform voor datamanagement’, vooral door de inzet van de verbondenheid en collectieve intelligentie van gebruikers (O’Reilly 2005). Sociale netwerksites als MySpace, Hyves en Facebook komen op, en andere sociale media zoals YouTube en Twitter.

Met de opkomst van smartphones en andere mobiele apparaten als tablets, samen met de verdere ontwikkeling van snelle, draadloze internetverbindingen en cloudtoepassingen, zijn het internet en de bijbehorende online diensten inmiddels niet meer weg te denken uit de economie en maatschappij.

6

De Wet van Moore is gebaseerd op een voorspelling uit 1965 van Gordon Moore. Hij voorspelde dat het aantal transistors op een microchip, en daarmee de rekenkracht van computers, elke twee jaar zou verdubbelen, terwijl de kosten gelijk zouden blijven. Vijftig jaar later blijkt deze voorspelling nog steeds op te gaan. Er bestaat discussie hoe lang de Wet van Moore nog stand houdt. De verwachting is dat chips als ze circa vijf nanometer groot zijn hun fysieke grens hebben bereikt. Daarna stappen fabrikanten wellicht over naar 3D-chips (gestapelde chips). Een volgende stap zijn chips die niet meer gebaseerd zijn op siliconen, maar op optische, nano of biologische principes. IBM presenteerde bijvoorbeeld in 2015 een neurosynaptische chip, TrueNorth.

30

Opwaarderen

In de jaren na 2010 zien we de uitrol van 4G-netwerken, de opkomst van het Internet of Things (zie paragraaf 2.3) en steeds meer online toepassingen die gebruikmaken van een vorm van kunstmatige intelligentie, zoals spraakherkenning of betere zoekfunctionaliteit. In 2011 wint de supercomputer van IBM voor het eerst het tv-spelletje Jeopardy! en in 2016 wint Google’s AlphaGo het zeer complexe spel Go van een menselijke expert. 7 Voor 2020 en de jaren daarna is de verwachting dat het 5G-netwerk wordt uitgerold, er nieuwe soorten snellere chips komen en er doorbraken ontstaan op het gebied van quantum computing. 8 In figuur 2.1 hebben we deze verwachtingen als onzekere toekomstige mijlpalen opgenomen.

2.3

Objecten van digitalisering

ICT en digitalisering is anno 2016 alomtegenwoordig in onze samenleving. Daarbij maakt ICT ook verbinding met andere technologiegebieden, zoals nanotechnologie, biotechnologie en neurotechnologie. Deze zogenoemde NBIC-convergentie is sinds eind jaren negentig steeds duidelijker zichtbaar. Digitalisering dringt zo door tot ieder aspect van ons leven: technologie nestelt zich in ons (bijvoorbeeld via hersenimplantaten), tussen ons (via sociale media als Facebook), weet steeds meer over ons (via big data en technieken als emotieherkenning), en weet zich steeds beter te gedragen als ons (robots en software vertonen intelligent gedrag en kunnen emoties nabootsen). Het Rathenau Instituut spreekt daarom in 2014 van de intiem-technologische revolutie (Van Est 2014). De verwevenheid van ICT met andere technologieën maakt duidelijk dat allerlei verschillende aspecten uit ons leven digitaliseren. In dit hoofdstuk kunnen we echter niet al deze aspecten uitputtend behandelen. We maken daarom onderscheid tussen drie ‘werelden’: 1. de materiële wereld (zoals het productieproces, de openbare ruimte en ons huis); 2.

de biologische wereld (zoals het menselijk lichaam, het brein en ons gedrag);

3.

de socio-culturele wereld (zoals communicatie, culturele producten en organisaties)

We beschrijven voor iedere wereld belangrijke mijlpalen van digitalisering, en nog te verwachten technologische innovaties in 2020 en 2030 (zie figuur 2.2). Op basis daarvan selecteren we per wereld steeds twee technologiegebieden die de digitale samenleving naar verwachting de komende vijf à tien jaar vorm zullen geven. De werelden krijgen allemaal een virtuele representatie in de digitale wereld. Deze groeiende digitale wereld beschrijven we in paragraaf 2.4. Het onderscheid tussen de drie werelden is een conceptueel onderscheid. In de praktijk zijn ze sterk verweven met elkaar, en overlappen ze elkaar. We beschrijven de werelden daarom steeds met een focus op het object van digitalisering. Dat betekent bijvoorbeeld dat we digitalisering van muziek behandelen in de socio-culturele wereld; we kijken naar muziek als cultureel product, als object van digitalisering. Dat neemt niet weg dat muziek fysieke dragers en instrumenten kent, en een fysiek productie- en distributieproces. Muziek heeft dus ook een plaats in de materiële wereld.

7 8

bbc.com/news/technology-35785875, Een quantum computer maakt gebruik van de wetten van de quantumfysica en rekent met zogenaamde qubits. In tegenstelling tot de bits van een normale computer kunnen qubits op hetzelfde moment 0 en 1 zijn. Dat maakt het mogelijk om een berekening, die normaal gesproken uit elkaar opvolgende stappen bestaat, in één keer uit te voeren. Dat geeft een quantum computer radicale nieuwe mogelijkheden en een ongekende rekensnelheid.

31

Rathenau Instituut

De digitalisering van het materiële proces heeft niet alleen grote impact gehad op de muziekindustrie, maar ook onze culturele beleving van muziek beïnvloedt. Die invloed beschrijven we in de socio-culturele wereld. Ook het menselijk gedrag kent overlap tussen de biologische wereld en de socio-culturele wereld. Vanuit het bovengenoemde onderzoeksperspectief plaatsen we gedrag in de biologische wereld; we kijken naar gedrag als onderdeel van ons ‘mens zijn’ dat nu digitaliseert. Dat neemt niet weg dat gedrag naast biologische en psychologische factoren, sociale en culturele invloeden kent. Figuur 2.2 Overzicht mijlpalen van de digitalisering van de materiële, biologische en socio-culturele wereld

Rathenau Instituut

32

Opwaarderen

Materiële wereld De materiële wereld digitaliseert op allerlei manieren. Robots zien we niet meer alleen in de fabriek, maar komen we ook daarbuiten tegen. Camera’s monitoren snelwegen, straten en stations. Apparaten in ons huis (slimme tv, slimme energiemeter) staan continu in verbinding met het internet en onze smartphone dragen we dag en nacht bij ons. In deze paragraaf illustreren we de digitalisering van de materiële wereld door te kijken naar 1) het productieproces, 2) de leefomgeving en openbare ruimte en 3) ons huis. Productieproces Een belangrijke stap in de digitalisering van het productieproces is de intrede van mechanische robotarmen eind jaren zeventig in de maakindustrie. In de jaren tachtig en negentig drong ICT door als middel om het productieproces te optimaliseren en verspilling van bijvoorbeeld materiaalgebruik tegen te gaan. 9 De inzet van ICT ging hand in hand met de globalisering van de economie. Het werd steeds belangrijker om niet alleen het productieproces, maar ook de gehele keten te optimaliseren. Het verder opknippen van productietaken in deeltaken leidde tot zowel specialisering (outsourcing) als verplaatsing (offshoring). Ook maatwerk werd mogelijk. Klanten kunnen steeds vaker producten als sportschoenen zelf ontwerpen en online bestellen.

De producten worden pas gemaakt na bestelling door de klant; ICT, in de vorm van flexibele computergestuurde productieprocessen, maakt just-in-time productie en massapersonalisatie (of mass customisation) mogelijk (zie Van Est & Kool 2015). Sinds de jaren 2000 is het productie- en dienstenproces met nieuwe digitale middelen steeds nauwkeuriger te volgen. Er komt meer zicht op consumentengedrag en de manier waarop producten buiten de poort van de fabriek worden ingezet. De inzet van bijvoorbeeld RFID, GPS en videocamera’s leidt bijvoorbeeld tot high-resolution management (Subirana et al. 2006, p. 11), of precisiemanagement. Dataverzameling en technieken voor monitoring en analyse staan daarin centraal. Er komt onder invloed van big data steeds meer informatie beschikbaar over alle onderdelen van de waardeketen, waardoor die nog efficiënter te organiseren is. Via continue monitoring van onderdelen van bijvoorbeeld auto’s of treinen kunnen onderhoudskosten verlaagd worden. Zo ontstaat een slim wagenpark of treinenpark. De mogelijkheden tot dataverzameling, monitoring en analyse komen samen in toekomstbeelden die onder de noemer ‘slim’ of Internet of Things naar voren worden geschoven – een Internet of Everything: slimme energienetwerken, smart mobility (onder andere de zelfsturende auto), digitale oliewinning, robotmijnbouw, smart farming en slimme steden.

De inzet van een nieuwe generatie robots is een andere manier om het productieproces verder te optimaliseren. De capaciteiten van robots nemen toe, dankzij betere zichtsystemen (bijvoorbeeld door het gebruik van 3D-camera’s), betere navigatiesystemen en vorderingen in de kunstmatige intelligentie. In de maakindustrie zijn robots niet meer weg te denken. De autonome fabriek is in Japan inmiddels werkelijkheid geworden, waar in de FANUC-fabriek robots een maand zonder toezicht kunnen werken (Royakkers & Van Est 2015). Ook buiten de fabriek laten robots zich meer zien. Voorbeelden daarvan zijn onbemande vliegtuigen (drones) en zelfsturende auto’s, 9

Het zogenoemde lean management principe, oorspronkelijk ontwikkeld in Japan.

Rathenau Instituut

33

dienstrobots in de zorg of de horeca, of huishoudelijke robots, zoals de robotstofzuiger. Wereldwijd ontstaan discussies over hoe robotica en kunstmatige intelligentie het werk van mensen in de toekomst zullen beïnvloeden (Ford 2015; Van Est & Kool 2015; Went et al. 2015; Brynjolfsson & McAfee 2014). Digitale fabricatietechnologieën zoals 3D-printing vertroebelen de scheidslijn tussen digitale en materiële productieprocessen nog verder. Geavanceerde 3D-scanningstechnologieën maken het mogelijk om fysieke objecten om te zetten in eindeloos reproduceerbare digitale 3D-modellen. De schaal waarop materialen kunnen worden gecreëerd verschuift van micro, naar nano en atomair niveau: ‘We're on the threshold of the third digital revolution, one in which matter and information merge,’ stelt MIT-professor Gershenfield (Anthes 2006). In onderzoeksprojecten experimenteren wetenschappers met het printen van bloedvaten en organen. In 2013 werd een ontwerp voor een 3D-printbaar pistool online geplaatst. 10 Leefomgeving en openbare ruimte Ook de leefomgeving digitaliseert op allerlei manieren. Aan het eind van de jaren negentig introduceren gemeenten en bedrijven beveiligingscamera’s in openbare ruimtes en bedrijventerreinen. In Nederland was Ede in 1997 de eerste gemeente die camera’s plaatste.

In de jaren daarna volgen camera’s ons wegennet, het openbaar vervoer en private ruimtes zoals winkels en bedrijven. Tegelijk met camera’s doet ook andere digitale apparatuur zijn intrede in de openbare ruimte, zoals navigatie-apparaten, de ov-chipkaart en digitale stationspoortjes (Van ’t Hof et al. 2010). Door middel van smartphones, mobiel internet en sociale media raken de fysieke en virtuele wereld steeds nauwer met elkaar verweven. Sociale media, dating sites en andere diensten gaan locatie actief gebruiken als onderdeel van hun diensten (bijvoorbeeld bij geo-tagging, en ‘inchecken’ op locaties, of aan spellen gebaseerd op geografische elementen (‘geo-caching’). Deze verwevenheid krijgt een nieuwe dimensie met de introductie van technieken als virtual reality en augmented reality (zie verder de socio-culturele wereld). Onder de vlag van ‘de slimme stad’ digitaliseert onze leefomgeving de komende jaren nog verder: via allerlei sensoren kunnen overheden, bedrijven en bewoners gedetailleerd inzicht krijgen in processen in de stad. Telecombedrijven kunnen bijvoorbeeld op basis van de connecties die telefoons maken met hun zendmasten inzicht geven in hoe mensen zich door steden verplaatsen. Burgers kunnen met zelfgebouwde sensoren meten hoe verkeersstromen de plaatselijke luchtkwaliteit beïnvloeden.

De slimme stad belooft een duurzame en comfortabele leefomgeving zonder files, energieverspilling of ongure steegjes. ‘Slim’ in deze context betekent dat ICT – software, sensoren en het internet – een digitale laag over de stad heen legt. Deze laag zorgt voor continue gegevensstromen, waarmee gemeenten gedrag van bewoners, verkeersdeelnemers of inbrekers kunnen monitoren of (bij)sturen. Een mogelijke toepassing kan bijvoorbeeld een slim riool zijn, dat bijhoudt welke bacteriën, biomarkers of virussen aanwezig zijn, zodat een mogelijke ziekte-

10

‘The liberator’ werd online beschikbaar gesteld door het bedrijf Defense Disbtributed en werd na 2 dagen offline gehaald door de Amerikaanse overheid (maar is wel op internet terug te vinden via p2p-sites).

34

Opwaarderen

uitbraak te voorspellen valt voordat mensen daadwerkelijk ziek worden, 11 of een slimme lantaarnpaal die zelf bepaalt wanneer hij aan gaat, met lichtkleuren de gemoedstoestand van voorbijgangers kan beïnvloeden en mogelijk agressie kan voorkomen, en met camera’s voorbijkomend verkeer monitort. 12 Huis Ook ons huis ontkomt niet aan de digitalisering. Via het Internet of Things krijgen allerlei huishoudelijke apparaten een internetadres. Ze worden ‘aan het net’ gehangen en krijgen sensoren, rekenkracht en communicatiemogelijkheden. Voorbeelden hiervan zijn slimme thermostaten die verbonden zijn met de energieleverancier en digitaal inzicht bieden in ons energieverbruik ten opzichte van anderen, of een slimme TV die ons kijkgedrag analyseert en ons op basis daarvan tips voor andere programma’s geeft. Ook Barbie heeft inmiddels een microfoon en een internetverbinding. 13 Het begrip Internet of Things stamt uit begin 2000, toen elektronicafabrikant LG een koelkast presenteerde die zijn inhoud zelf inventariseerde en automatisch contact zocht met de supermarkt om nieuwe voorraden te bestellen. 14 De term kreeg wereldwijd aandacht toen de Internationale Telecommunications Unit (ITU 2005) van de Verenigde Naties een rapport uitbracht over het onderwerp. Tien jaar later begon de visie van het Internet of Things werkelijkheid te worden.

Verschillende marktbureaus verwachten de komende jaren een enorme groei van producten die verbonden zijn aan het internet. Gartner (2015) voorspelde in 2020 13,5 miljard verbonden objecten (op de consumentenmarkt), tegen 3 miljard in 2015. Ook de OESO schatte dat consumenten in Westerse landen in 2022 14 miljard connected devices in huis zullen hebben. Dat komt neer op ongeveer vijftig objecten per huishouden (OESO 2013). Selectie technologiegebieden Uit deze paragraaf komen twee centrale technologieën naar voren die naar verwachting een belangrijke rol zullen spelen bij het vormgeven van de digitale samenleving de komende jaren: ontwikkelingen in de robotica en het Internet of Things / slimme omgevingen (zie tabel 2.1).

11 12

Momenteel ontwikkeld door MIT Senseable City Lab, zie underworlds.mit.edu Zoals in Eindhoven in het Living Lab Stratumseind 2.0’ realiseert, zie brainport.nl/high-tech-systems-materials/living-lab-laat-ander-licht-schijnen-opstratumseind

13

De pop neemt gesprekken op, en verstuurt die naar de cloud. Kunstmatige intelligentie helpt bij de analyse van het gesprek, en kiest op basis daarvan een passend antwoord. Eind 2015 kwam Barbie negatief in het nieuws doordat het mogelijk bleek de opgenomen gesprekken te hacken.

14

Het concept dat LG in 2000 presenteerde werd in 2016 werkelijkheid. Op de CES-beurs presenteerde Samsung de slimme koelkast voor de consumentenmarkt die in de loop van 2016 daadwerkelijk te koop zal zijn (inclusief bijbehorende diensten) in Zuid-Korea.

35

Rathenau Instituut

Tabel 2.1 Selectie technologiegebieden materiële wereld

Technologiegebied

Omschrijving

Robotica

Robots kunnen steeds complexere taken uitvoeren. Ze krijgen beter zicht (3D-beeld), kunnen beter navigeren en zich bewegen, en slimmer interacteren met mensen. Robots zijn nu te vinden in fabriekshallen, maar de verwachting is dat sociale robots een rol zullen gaan spelen in kantoren, schoolgebouwen, ziekenhuizen, restaurants en de thuisomgeving.

Internet of Things en

Objecten worden in toenemende mate uitgerust met een internetverbinding,

slimme omgevingen

sensoren, rekenkracht en communicatiemogelijkheden. Zo verzamelt het object gegevens over zijn omgeving, die het kan delen met andere objecten (machine 2 machine communicatie) om processen aan te sturen, of in de cloud analyseert om informatie of diensten ‘op maat’ aan te bieden.

Rathenau Instituut

Biologische wereld In de afgelopen zes decennia digitaliseerde ook de biologische wereld. Gedrag, emoties, lichaamsfuncties en het menselijk DNA waren steeds beter te vangen in bits en bytes en door software te analyseren. Het genetisch materiaal van de mens is in de afgelopen jaren digitaal in kaart gebracht, en kan ook bewust worden aangepast. Via smart wearables verzamelden gebruikers en bedrijven biologische gegevens zoals hartslag, ademhalingsfrequentie, lichaamstemperatuur en voedings- en slaappatronen. En in de toekomst bieden onze oorschelp, looppatroon, stemgeluid, houding, ademhaling, hartslag en zelfs de manier waarop we typen nieuwe manieren om mensen te identificeren. In deze paragraaf illustreren we de digitalisering van de biologische wereld door te kijken naar 1) het menselijk lichaam 2) het brein en 3) het menselijk gedrag. Lichaam De digitalisering van het lichaam begon decennia geleden met de inzet van medische apparatuur die het lichaam ‘digitaal’ kunnen uitlezen. Aanvankelijk gebeurde dat via technieken als röntgenbeelden en CT-scans, of bloedglucosemeters voor diabetici. Een belangrijke ontwikkeling voor de digitalisering van de ‘code’ van het lichaam was het Human Genome Project. Het project startte in 1990 en bracht de structuur van het menselijk DNA in kaart.

Bij aanvang schatte men dat dit circa vijftien jaar zou duren, maar door de enorme vooruitgang in de gebruikte DNAanalysetechnieken – mede mogelijk gemaakt door de snelle ontwikkeling in computerrekenkracht en opslagcapaciteit – was al in 2000 een eerste ruwe kaart gereed. In de jaren daarna werd het mogelijk om DNA-materiaal ook aan te passen. Recent is dit door de CRISPR-editing techniek goedkoper, sneller en gemakkelijker geworden (zie kader 2.2). De techniek brengt omstreden toekomstbeelden over designerbaby’s een stap dichterbij.

36

Opwaarderen

Kader 2.2 CRISPR In de afgelopen jaren is het uitlezen van het menselijk genoom steeds makkelijker geworden met ontwikkelingen in genome-sequencing-technologie. Het aanpassen van genetische informatie was echter tot voor kort nog een moeilijke opgave. De ontwikkeling van de CRISPR-Cas9-technologie (vaak kortweg CRISPR genoemd) heeft daarin voor veel opschudding gezorgd. De CRISPR-technologie maakt gebruik van het natuurlijke afweersysteem van bacteriën. Wanneer bacteriën worden geïnfecteerd met een virus bouwen ze een deel van dat virus in hun eigen DNA in om het in de toekomst te kunnen herkennen. Wetenschappers pasten het systeem zo aan dat ze kunnen selecteren welk stukje DNA wordt ingebouwd en waar dat in het DNA gebeurt. Bovendien kan de techniek naast bacteriën ook op dieren en mensen worden toegepast. Op deze manier maakt CRISPR maakt het makkelijker, sneller en goedkoper om de genen van bacteriën, planten, dieren en mensen aan te passen.

Ook buiten het laboratorium is de digitalisering van het lichaam zichtbaar. In de gezondheidszorg wordt gebruikgemaakt van de techniek om snel en goedkoop DNA af te lezen (Next Generation Sequencing). De techniek helpt klinisch-genetische centra bij het vinden van een oorzaak bij een ziektebeeld. Er zijn hoge verwachtingen over het bieden van gezondheid op maat door meer kennis over iemands DNA-profiel, maar voorlopig is dit nog toekomstmuziek (Vrijenhoek & Radstake 2016). Sinds 2006 kunnen mensen via commerciële diensten als 23andMe inzicht krijgen in hun eigen genetisch profiel en in mogelijke erfelijke aanleg voor aandoeningen en eigenschappen zoals kaalheid of blindheid. Naast genetische informatie zien de we digitalisering van het lichaam ook op allerlei andere vlakken. De huidige generatie smartphones en apps bieden hulp aan mensen om zelf hun bloeddruk, glucose, hartslagvariabiliteit en stressreacties te monitoren. Van toekomstige generatie digitale coachingsapparaten wordt verwacht dat ze met behulp van kleinere en betere sensoren de psychofysiologische staat van gebruikers voortdurend kunnen monitoren (Kool et al. 2014). Brein Ook (delen) van ons brein digitaliseren. Zo helpt neuro-imaging-technologie in het lab om cognitieve processen in kaart te brengen.

Wetenschappers werken met behulp van deep brain stimulation (DBS) aan breinimplantaten om bijvoorbeeld de trillingen van Parkinsonpatiënten te verminderen. Een geïmplanteerde neurostimulator, stuurt elektrische pulsen naar een elektrode die operatief is aangebracht in de hersenen, al naargelang de stoornis op een specifieke plek. In 2011 hadden hier al meer dan 70.000 parkinsonpatiënten gebruik van gemaakt (Bronstein et al. 2012). Wetenschappers werken ook aan andere toepassingen van DBS, bijvoorbeeld om depressie te verhelpen. In het consumentendomein komen brain-computer interfaces op de markt waarmee gebruikers zelf hun hersengolven kunnen analyseren en hun cognitieve vermogens proberen te verbeteren. Do-it-yourself neuro-enhancers proberen met elektrische golven hun eigen breincapaciteit te vergroten of trainen hun concentratie met feedback over patronen in hun hersengolven (Burkeman 2014).

Rathenau Instituut

37

Emotieherkenningstechnologie leert onze emoties steeds beter herkennen. De software voor dat doel is de laatste jaren zoveel vooruit gegaan dat computers gemiddeld beter zijn dan mensen in het herkennen van een valse emotie (Andrade 2014; Li et al. 2015). Ook gezichtsherkenningstechnologie verbetert snel. De beste algoritmen herkennen gezichten inmiddels net zo goed als mensen dat doen (Harris 2015). Gezichts- en emotieherkenning zijn onderdeel van een reeks nieuwe identificatiemogelijkheden op basis van het menselijk lichaam, naast bekende methoden als de vingerafdruk en de irisscan (Janssen et al. 2014). Gedrag De laatste jaren ontdekken wetenschappers en bedrijven dat er ook allerlei informatie uit ons digitale surfgedrag valt af te leiden. Dit komt door de combinatie van de aanwezigheid van grote hoeveelheden digitale, persoonlijke gegevens én slimme software om die gegevens te analyseren. Facebookprofielen geven bijvoorbeeld informatie over seksuele geaardheid of politieke voorkeuren (Kosinski et al. 2013). Watson van IBM heeft genoeg aan een A4’tje tekst om een persoonlijkheidsanalyse van de auteur te maken. En het recruitment bedrijf Entelo scout talentvolle programmeurs op basis van wat ze op het internet posten (Peck 2013). In de digitale wereld gaan we nader in op de inzet van big data en slimme software.

Na het herkennen en het analyseren van menselijk gedrag, is het beïnvloeden van gedrag een volgende stap (zie kader 2.3). Denk aan Facebook’s emotiestudie, waarbij bleek dat het tonen van positieve of negatieve informatie de stemming van gebruikers beïnvloedt. Gebruikers gaan hierdoor zelf ook meer positieve of negatieve posts plaatsen. De studie leidde tot grote ophef onder gebruikers toen bekend werd dat zij ongemerkt onderdeel waren van een experiment (Adam et al. 2014). Ook het ongemerkt personaliseren van zoekgedrag door zoekmachines als Google is een voorbeeld van subtiele beïnvloeding (Van ’t Hof et al. 2012).

Kader 2.3 Persuasieve technologie Persuasieve technologie maakt gebruik van inzichten uit de psychologie, gedragswetenschappen en mens-computerinteractie, om systemen te ontwerpen die gebruikers aanzetten tot gedragsverandering (Fogg 2002). Dit soort technologische gedragsbeïnvloeding – ook wel nudging genoemd – wordt steeds geraffineerder. Zo wordt er gekeken naar gepersonaliseerde beïnvloedingsstrategieën, waarbij gebruikers worden beïnvloed met het soort argumentatie waar zij gevoelig voor zijn (Kaptein 2015; Kaptein & Eckles 2012). Met ambient feedback kijken onderzoekers hoe mensen op een laag cognitief bewust niveau zijn te beïnvloeden met elementen uit hun omgeving, zoals licht of kleur. Onderzoek naar laagcognitieve beïnvloeding met kleur laat zien dat dit een effectieve strategie kan zijn. Systemen die feedback geven met behulp van kleur over het energieverbruik lijken effectiever dan op cijfers gebaseerde feedback (Maan et al. 2011; Ham et al. 2009).

Selectie technologiegebieden Uit deze paragraaf komen verschillende technologieën naar voren die naar verwachting de komende jaren de digitale samenleving verder zullen vormgeven. Een aantal daarvan wordt uitvoerig besproken in het medisch ethische, en bio-ethische domein, waaronder CRISPR en deep

38

Opwaarderen

brain stimulation (zie bijvoorbeeld Van Est et al. 2014; Van Est et al. 2016). We richten ons hier daarom vooral op de gebieden die zich buiten het medische domein bevinden. Dat zijn 1) de snelle verbeteringen op het gebied van gezichtsherkenning en andere lichaamskenmerken (multimodale biometrie), en 2) de groeiende inzet van persuasieve technologie in het consumentendomein (zie tabel 2.2). Andere in deze paragraaf besproken technologieën hebben betrekking op het analyseren van menselijk gedrag via data analytics. Deze technieken bespreken we bij de digitale wereld (paragraaf 2.4). Tabel 2.2 Selectie technologiegebieden biologische wereld

Technologiegebied

Omschrijving

Persuasieve technologie

Persuasieve technologie heeft als doel om het menselijk gedrag te beïnvloeden en te veranderen. De methoden voor beïnvloeding worden steeds subtieler.

Multimodale biometrie

Biometrie is een manier om mensen uniek te identificeren, met behulp van verschillende identifiers van het menselijk lichaam: vingerafdruk, iris, stemgeluid, gezicht, oorschelpen, hartritme of looppatroon. De toekomstverwachting is dat door het combineren van deze verschillende modaliteiten, het identificeren van mensen makkelijker wordt. De technologie kent ook andere toepassingen, bijvoorbeeld als beveiliging.

Rathenau Instituut

Socio-culturele wereld Het groeiende gebruik van ICT betekent ook digitalisering van interacties tussen mensen; tussen mensen onderling en tussen mensen en organisaties. Digitalisering dringt door in ons sociale en culturele leven: shoppen, muziek luisteren, contact met vrienden, actie voeren, het vinden van dates doen we in toenemende mate online. Zelfs na de dood kunnen onze digitale profielen op diensten als LivesOn 15 nog voor ons blijven praten. Het onderscheid tussen offline en online is steeds moeilijker te maken. Ook organisaties digitaliseren: steeds meer klantcontact verloopt geheel digitaal en er ontstaan nieuwe, digitale disruptieve organisatiemodellen waarbij het organiseren en toegang geven tot producten en diensten belangrijker is dan het zelf maken of eigenaar zijn van die producten of diensten. Het inmiddels beroemde citaat van Tom Goodwin, vicepresident van Havas Media, laat het succes van deze nieuwe organisatiemodellen zien: ‘Uber, the world’s largest taxi company, owns no vehicles. Facebook, the world’s most popular media owner, creates no content. Alibaba, the most valuable retailer, has no inventory. And Airbnb, the world’s largest accommodation provider, owns no real estate. Something interesting is happening.’ Goodwin (2015).

In deze paragraaf illustreren we de digitalisering van de socio-culturele wereld door te kijken naar 1) de digitalisering van communicatie en cultuur en 2) digitalisering van organisatiemodellen.

15

liveson.org/connect.php

Rathenau Instituut

39

Communicatie en cultuur De komst van sociale media en andere online diensten eind de jaren negentig en na de eeuwwisseling hebben grote impact op onze manier van communiceren. De diensten verwerven een steeds belangrijkere rol in onze cultuur en bij het vormgeven van onze identiteit. Zie bijvoorbeeld Boyd (2014) over het leven van de genetwerkte jeugd, het werk van Turkle over de impact van het scherm op ons leven en relaties (Turkle 2015; 2011) of van Carr over mogelijke andere (meer oppervlakkige) werking van ons brein door het internet (2010). We vergroeien met onze smartphone, die dé verbinding vormt tussen het fysieke en virtuele leven. Floridi et al. (2014) kenmerken dit als onlife: het onderscheid tussen offline en online leven is niet meer te maken; ze zijn één geworden. Recente ontwikkelingen in virtual reality en augmented reality dragen ook bij aan deze versmelting. Via virtual reality (VR) kunnen gebruikers virtuele ervaringen ‘echter’ of beter voelen. Gamemakers passen de techniek toe om gamers meer op te laten gaan in hun spel. Ook andere domeinen maken gebruik van VR, zoals de zorg voor het revalideren van een lichamelijke handicap of in het leger om militairen te trainen. Via augmented reality (AR) kunnen gebruikers real-time extra informatie krijgen.

Denk bijvoorbeeld aan de app Layar die huizenzoekers ter plekke informatie geeft over een bepaald huis dat zij in de omgeving zien. Ook in de professionele omgeving biedt de techniek mogelijkheden. Een monteur kan bijvoorbeeld terwijl hij aan het werk is via zijn slimme bril opzoeken hoe een bepaalde handeling ook alweer moest en een chirurg kan continu informatie krijgen over vitale functies van zijn patiënt. Ook culturele producten en diensten digitaliseren: muziek, boeken, films en spellen zijn geheel digitaal te maken, te distribueren, te beluisteren, te lezen, te bekijken en te spelen. Slimme aanbevelingstechnologie, gebruikmakend van big data en inzichten uit de kunstmatige intelligentie, helpt mensen bij het maken van een keuze uit het enorme aanbod. De snelle ontwikkeling van kunstmatige intelligentie zorgt ervoor dat software ook dingen kan die we tot voor kort als exclusief ‘menselijk’ beschouwden. Zo kan software (in beperkte mate) journalistieke bijdragen schrijven in domeinen als sport of de financiële beurzen. Watson, de slimme computer van IBM, wint taalspelletjes als Jeopardy! en als chef won hij in 2015 de Horecava Innovation Award. Software componeert ook symfonieën die experts niet van menselijke topcomponisten kunnen onderscheiden (Steiner 2012).

Organisatiemodellen De interactie tussen organisaties en consumenten verloopt eveneens steeds meer geheel digitaal. Daardoor veranderen ook organisatiemodellen. Er zijn steeds meer webwinkels zonder fysieke winkel en organisaties proberen steeds vaker contact te leggen met hun klanten via digitale kanalen (Twitter, chat, mail, apps). Ook de overheid hanteert sinds een paar jaar als uitgangspunt ‘digitaal als het kan, persoonlijk als het moet’ (BZK 2013). Vanaf de eeuwwisseling ontstonden er digitale organisatiemodellen die een centrale rol speelden in het organiseren en faciliteren van transacties in de economie en maatschappij (Kreijveld et al. 2014). Zo ging er een innovatieve impuls uit van appstores doordat softwareontwikkeling via dit platform toegankelijk werd voor kleine onafhankelijke spelers. Onderdeel van het succes is het innemen van een strategische positie tussen verkoper en koper, zoals Apple zich met iTunes

40

Opwaarderen

tussen de artiesten, platenmaatschappijen en consument heeft geplaatst (Kreijveld et al. 2014). Vanaf 2010 ontstaan er radicale nieuwe organisatievormen door deze digitale platformen. Voorbeelden zijn Airbnb en Uber die in enkele jaren zijn uitgegroeid tot grote economische spelers, die hun respectievelijke branches drastisch verstoren. Ismail et al. (2014) spreken van exponentiële organisaties die zo min mogelijk vaste medewerkers en zo veel mogelijk personeel op afroep willen hebben, optimaal gebruikmaken van de gratis diensten van een digitale gemeenschap, maximaal gebruikmaken van geautomatiseerde algoritmen en zo min mogelijk kapitaalgoederen in eigen bezit hebben. Een ander voorbeeld van een digitaal platform is de blockchaintechnologie. Deze technologie maakt het mogelijk om zogenaamde autonome organisaties te ontwikkelen: organisaties die volledig uit bits en bytes bestaan. De technologie kan een set van afspraken en taken automatiseren en zo de functie van een bepaalde organisatie overnemen (zie kader 2.4).

Kader 2.4 Blockchain De blockchain is bekend als het achterliggende technisch protocol waarop de virtuele munt Bitcoin is gebaseerd. Simpel gezegd werkt de blockchain als een virtueel kasboek, dat alle transacties tussen gebruikers vastlegt. Het kasboek wordt op alle computers die deel uitmaken van het blockchainnetwerk bijgehouden en is met slimme cryptografie versleuteld. Elke nieuwe transactie wordt door heel het netwerk verspreid en gecontroleerd. Het principe achter het blockchainprotocol kan allerlei soorten afspraken vastleggen. Daardoor wordt het mogelijk om contracten of zelfs volledige organisaties – Distributed Autonomous Organisations (DAOs) – te automatiseren. Een voorbeeld is een webhostingbedrijf dat websitedomeinen verkoopt: in de software wordt vastgelegd dat als voor een bepaald moment, een bepaalde partij, een bepaald bedrag betaalt op een bepaalde rekening, dat het eigenaarschap van domeinnaam X dan overgaat naar die partij. Of een verzekering: de blockchain zou de afspraak kunnen automatiseren dat mensen een bepaald bedrag in een pot storten en in geval van een ongeval een schadevergoeding krijgen.

Selectie technologiegebieden Uit deze paragraaf behandelen we twee centrale technologiegebieden die naar verwachting de komende jaren de digitale samenleving vormgeven: 1) de verdere ontwikkeling van sociale media, onder andere via technieken als virtual reality en augmented reality, en 2) digitale platformen inclusief blockchaintechnologie (zie tabel 2.3).

41

Rathenau Instituut

Tabel 2.3 Selectie technologiegebieden socio-culturele wereld

Technologiegebied

Omschrijving

Sociale media (incl. VR

Via sociale media en onze smartphone versmelten het virtuele en fysieke leven. Een

en AR)

volgende stap voor deze versmelting is het toepassen van virtual reality en augmented reality

Digitale platformen

Digitale organisatiemodellen vormen een steeds belangrijkere rol in het organiseren

(incl. blockchain)

en faciliteren van transacties in de economie en maatschappij. Overal ontstaan nieuwe digitale platformen die verstorend werken voor ‘oude’ organisatiemodellen.

Rathenau Instituut

2.4

De digitale wereld

De vorige paragraaf beschreef hoe vele aspecten uit de materiële, biologische en socio-culturele wereld inmiddels een digitale representatie hebben gekregen. Dat leidde tot een almaar groeiende digitale wereld. In deze paragraaf illustreren we de digitale wereld door te kijken naar 1) big data en algoritmen en 2) kunstmatige intelligentie. Big data en algoritmen In 2011 berekende consultancybedrijf IDC dat het digitale omniversum bestond uit 1,8 ‘zettabytes’. Omgerekend in Apple iPad’s komt dat neer op genoeg tablets om een Chinese muur van te bouwen, twee keer zo hoog als het origineel (IDC 2011). Sindsdien is de omvang van de digitale wereld exponentieel gegroeid en lijkt zijn eigen ‘wet van Moore’ te kennen: elke twee tot drie jaar verdubbelt de hoeveelheid data (Mayer-Schonberger & Cukier 2013b; IDC 2014); een fenomeen dat inmiddels bekend staat als ‘big data’. 16 De data zijn bijvoorbeeld afkomstig van camera’s, smartphones, tablets en andere draagbare apparaten, of van browsers en sociale netwerken. Elke dag uploaden gebruikers bijvoorbeeld meer dan tien miljoen nieuwe foto’s naar Facebook. Andere databronnen zijn clouddiensten, en de toenemende toepassing van sensoren in producten en machines, die non-stop in verbinding staan met het internet.

Die almaar uitdijende digitale wereld betekent ook dat we steeds afhankelijker zijn van slimme algoritmen (software) om informatie te halen uit alle bits en bytes. Dataverzamelingen en dataanalyses worden steeds complexer van aard. Bedrijven en overheden zetten (zelflerende) software vaker in om processen efficiënter te laten verlopen, bijvoorbeeld op de beurs, bij het verstrekken van krediet, bij het opsporen van fraude, of bij het reguleren van content op sociale media. 17 Dat gaat niet altijd goed, en het kan lastig zijn om te achterhalen op basis van welke informatie software

16

Er is geen eenduidige definitie van big data. Sommigen verwijzen naar de kernmerken van big data: volume, variety en velocity (de 3 V’s) (Gartner 2011). Voora anderen gaat het naast hoeveelheid ook om de combinatie van die datahoeveelheden en software die bijvoorbeeld op basis van patroonherkenning en correlaties onverwachte – waardevolle – verbanden kan vinden.

17

Bij het reguleren van content op websites en fora bepaalt software automatisch wat wel en niet door de beugel kan (zoals discriminerende teksten of hatelijke uitlatingen). De Russische internetcriticus Yevgeni Morozov stelde in 2014 dat de software van Silicon Valley daarmee de samenleving een nieuw soort conservativiteit oplegt, waarbij algoritmes bepalen wat cultureel wel of niet is toegestaan (Morozov 2014).

42

Opwaarderen

tot een bepaald inzicht is gekomen. Naarmate software vaker automatisch beslissingen neemt, neemt het belang van controle op die systemen toe. Ook hier kan technologie een rol spelen. Met WatsonPaths probeert IBM bijvoorbeeld een medisch beslissingssysteem te creëren dat uitleg kan geven over welke informatie en bronnen het systeem geraadpleegd heeft, en welke paden het heeft verkend bij het komen tot een antwoord (IBM 2013). Kunstmatige intelligentie Dataminingtechnieken (data analytics) en kunstmatige intelligentie (met name technieken als deep learning) profiteren enorm van de grote hoeveelheden gegevens die de afgelopen jaren beschikbaar zijn gekomen (zie kader 2.5). De data vormen trainingsbestanden voor zelflerende software: hoe meer data de software krijgt, hoe slimmer die wordt. De gezichtsherkenningssoftware van bedrijven als Facebook en Google verbetert zo snel dankzij de vele foto’s die gebruikers elke dag uploaden. Ook vertaalsoftware verbetert doordat het kan putten uit een groot aantal officiële vertaalde documenten, van de Verenigde Naties en de Europese Commissie (Mayer-Schonberger & Cukier 2013).

Kader 2.5 Deep learning Deep learning is een vorm van machineleren die zwaar leunt op statistisch rekenwerk en neurale netwerken en mede mogelijk wordt door de opkomst van big data (The Economist 2015). In plaats van te proberen de regels te definiëren die een computer moet gebruiken om bijvoorbeeld taal te ‘begrijpen’, maken computerwetenschappers gebruik van de toenemende hoeveelheden data om software verbanden of regels te laten ontdekken. Via deep learning abstraheren computers informatie op basis van verschillende lagen van neurale netwerken. Bij beeldverwerking krijgt de eerste laag bijvoorbeeld ruwe beelden te zien, die contrast en kleuren probeert te identificeren. Een tweede laag combineert die informatie en zoekt naar meer abstracte observaties, zoals randen of schaduwen. De volgende laag kijkt of het daarmee ogen, lippen of oren kan identificeren, waardoor het willekeurige gezichten kan herkennen (The Economist 2015). Nu leren deze modellen nog met behulp van mensen, die aangeven of een beeld een gezicht is of niet, maar er wordt ook gewerkt aan unsupervised learning waarbij de software leert op basis van zelfexploratie en zelfcorrectie.

Selectie technologiegebieden Uit deze paragraaf komen twee centrale technologiegebieden naar voren die naar verwachting de komende jaren de digitale samenleving vormgeven: 1) big data en algoritmen en 2) kunstmatige intelligentie. Veel van de technologiegebieden die werden behandeld in de voorafgaande paragrafen leunen (deels) op de vooruitgang in kunstmatige intelligentie en big data (tabel 2.4).

43

Rathenau Instituut

Tabel 2.4 Selectie technologiegebieden digitale wereld

Technologiegebied

Omschrijving

Big data en algoritmen

Om informatie (verbanden en patronen) te halen uit de groeiende digitale wereld, zijn algoritmen steeds belangrijker.

Kunstmatige

Kunstmatige intelligentie – het geven van een vorm van intelligentie aan een systeem

intelligentie (deep

– ondersteunt allerlei technologische toepassingen (bijvoorbeeld in de robotica,

learning)

taalverwerking of slimme omgevingen), en vindt haar weg in steeds meer softwaretoepassingen.

Rathenau Instituut

2.5

De vier werelden bijeen: een nieuwe fase in de digitale samenleving

In het voorgaande hebben we de objecten van digitalisering besproken. De materiële wereld, de biologische en de sociale wereld zijn de afgelopen jaren steeds verder gedigitaliseerd, met een almaar uitdijende digitale wereld tot gevolg. Waar digitalisering aanvankelijk begon met het verzamelen van gegevens over (delen van) de materiële, biologische en sociale wereld, is het nu mogelijk om deze gegevens op grote schaal te analyseren en de opgedane kennis direct weer toe te passen in de fysieke wereld. Een treinfabrikant kan bijvoorbeeld via sensoren zijn treinenpark monitoren, preventief onderhoud plegen en tegelijkertijd zijn technici aanstuurt. Of de zelfsturende auto die gebruik maakt van digitale kaarten en met elke meter die hij rijdt ook informatie toevoegt aan die digitale kaart, en zo de kaart verbetert. Of datasurveillance, waarin bedrijven acties van gebruikers volgen, profileren en op basis daarvan real-time ‘passende’ informatie, producten of prijzen tonen (zie figuur 2.3). Er ontstaan door de verknoping van de vier werelden continue feedback-loops tussen de fysieke en digitale wereld die op allerlei terreinen zichtbaar zijn: het productieproces, de omgeving, het lichaam, en ons gedrag.

Hoewel digitalisering al decennialang aan de gang is, is het recent steeds makkelijker geworden om op steeds gedetailleerder niveau, real-time in te interveniëren in de fysieke wereld. Daarmee lijken ze een nieuwe fase in de ontwikkeling van de digitale samenleving in te luiden; een fase waarin een cybernetische loop ontstaat tussen de fysieke en de digitale wereld (zie figuur 2.3). Dat betekent dat processen in de fysieke wereld worden gemeten, die hieruit voortkomende data wordt geanalyseerd, en er vervolgens real-time op gedetailleerd niveau wordt ingegrepen. Het effect van de interventie kan vervolgens weer worden gemeten, geanalyseerd en worden bijgesteld om weer een volgende cyclus van de cybernetische loop te doorlopen. We zien daarmee een terugkeer van het zogenaamde ‘cybernetische denken’ dat in de jaren ’50 en ’60 in de belangstelling stond. De basisgedachte van de cybernetica is dat biologische, sociale en cognitieve processen begrepen kunnen worden in termen van informatieprocessen en -systemen, en dus ook digitaal zijn te programmeren en aan te sturen (de Mul 1999). Inmiddels staat sturing met ICT weer volop in de schijnwerpers. Overal ontstaan toekomstvisies over slimme omgevingen

44

Opwaarderen

gericht op digitale sturing: slimme steden, slimme energienetwerken, slimme fabrieken, ziekenhuizen, kantoren, huizen enzovoorts. Digitale sturing biedt de samenleving en de individuen in die samenleving allerlei kansen: van goedkoper of duurzamer produceren, tot het vroegtijdig opsporen of voorkomen van ziektes. Maar het leidt ook tot zorgen, bijvoorbeeld over het manipuleren van menselijk gedrag en over wat ons mens maakt. In het volgende hoofdstuk gaan we dieper op deze ethische en maatschappelijke kwesties in. Figuur 2.3 Cybernetische feedback-loop tussen de digitale en fysieke wereld

Rathenau Instituut

45

Rathenau Instituut

2.6

Tot slot

De centrale vraag in dit hoofdstuk was hoe we de digitalisering van de samenleving kunnen begrijpen. We brachten de middelen om te digitaliseren in kaart, zoals computers, software en het internet, en lieten zien hoe nieuwe objecten uit onze omgeving digitaliseren. Steeds meer delen uit de materiële wereld, de biologische wereld en de socio-culturele wereld krijgen een virtuele representatie in de digitale wereld. Tot slot blijkt dat digitalisering geen nieuwe ontwikkeling is, maar dat – nu er zoveel zaken uit ons leven gedigitaliseerd zijn – er een nieuwe fase in de digitale samenleving lijkt aangebroken: een continue feedback-loop en interactie tussen de fysieke en virtuele wereld, die real-time interveniëren mogelijk maakt. We selecteerden acht technologiegebieden die naar verwachting de komende jaren de digitale samenleving zullen vormgeven (zie tabel 2.5). In het volgende hoofdstuk gebruiken we deze technologiegebieden om de maatschappelijk en ethische kwesties zij oproepen te analyseren. Tabel 2.5 Selectie technologiegebieden

Materiele wereld

Biologische wereld

Socio-culturele wereld

Digitale wereld

Robotica

Persuasieve technologie

Platformen

Kunstmatige intelligentie

Internet of Things

Multimodale biometrie

VR/AR en sociale media

Big data en algoritmen

Rathenau Instituut

46

Opwaarderen

3

Maatschappelijke en ethische issues van digitalisering

3.1

Inleiding

De digitalisering van de samenleving verlegt de grenzen van ons kunnen en biedt allerlei mogelijkheden, maar daagt ook onze morele grenzen uit. In dit hoofdstuk beschrijven we welke maatschappelijke en ethische vragen er door de digitalisering van de samenleving worden opgeroepen. 18 Dat doen we aan de hand van voorbeelden uit de in het vorige hoofdstuk geselecteerde technologiegebieden: Internet of Things, robotica, biometrie, persuasieve technologie, virtual & augmented reality, digitale platformen, big data, slimme algoritmen en kunstmatige intelligentie. Onze beschrijving is daarmee niet uitputtend maar geeft een beeld van de verschillende soorten maatschappelijke en ethische issues die opkomen als gevolg van digitalisering. We benaderen ethiek als de systematische reflectie op moraal, het geheel van normen en waarden die feitelijk bestaan in een samenleving (zie kader 3.1). We zien ethiek dus niet als iets dat alleen op individueel niveau speelt, maar kijken vanuit de ethische waarden in een samenleving (zowel individueel als maatschappelijk).

Kader 3.1: Ethische en maatschappelijke vragen In dit hoofdstuk gaan we in op de maatschappelijke en ethische kwesties die door de digitalisering worden opgeroepen. Wat ethiek precies is, is geen makkelijke kwestie. Ethiek definiëren we hier als de systematische reflectie op moraal, het geheel van normen en waarden die feitelijk bestaan in een samenleving. Een dergelijke reflectie kan de vaardigheid vergroten om met morele problemen die samenhangen met de digitalisering om te gaan. Door de ontwikkelingen binnen de geselecteerde technologiegebieden zal onze samenleving steeds verder digitaliseren. Dit roept de vraag op hoe we deze digitale samenleving op een maatschappelijk en ethisch verantwoorde manier vorm kunnen geven. We zullen aan de hand van de geselecteerde technologiegebieden laten zien dat er bij het digitaliseren van de samenleving veel ontwikkelingen zijn die op gespannen voet lijken te staan met ethische waarden, zoals privacy en autonomie. Dit hoofdstuk brengt die ethische waarden in kaart. De vervolgvraag is dan hoe we deze ethische waarden kunnen waarborgen oftewel hoe we diverse relevante waarden zo goed mogelijk kunnen beschermen. Die governancevraag staat centraal in het volgende hoofdstuk.

18

We erkennen de vele positieve impacts die de ontwikkeling van digitalisering heeft. Omdat het doel van deze tekst is om zicht te krijgen op de plekken waar ethische en maatschappelijke waarden in het geding zijn zullen hier vooral de situaties worden besproken waar digitalisering mogelijk onwenselijke impacts heeft.

47

Rathenau Instituut

In lijn met het vorige hoofdstuk structureren dit hoofdstuk door te kijken naar welke vraagstukken in de materiële (paragraaf 3.2), biologische (paragraaf 3.3), socio-culturele (paragraaf 3.4) en de digitale wereld (paragraaf 3.5) naar voren komen. Het overzicht is niet uitputtend, maar geeft een beeld van de meest prominente vraagstukken en de ontwikkeling die hierin plaatsvind. In onze analyse van de wetenschappelijke literatuur over de technologieën kwamen enkele thema’s telkens terug. Deze thema’s – privacy, autonomie, veiligheid, controle over technologie, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen – hebben we gebruikt om de bespreking in dit hoofdstuk te structureren (zie tabel 3.1). De verschillende ethische en maatschappelijke kwesties manifesteren zich per technologisch gebied op verschillende manieren. Privacy krijgt bijvoorbeeld in de context van robotica een andere invulling dan in de context van virtual reality. Niet elk thema wordt bij iedere ontwikkeling uitgediept; we richten ons op de kenmerkende kwesties die een bepaalde technologie laat zien binnen de overkoepelende trend van digitalisering. Tot slot (paragraaf 3.6) vatten we samen welke ethische en maatschappelijke vraagstukken de nieuwe digitaliseringsgolf nadrukkelijk op de kaart zet.

We geven kort aan hoe de in dit hoofdstuk gevonden kwesties gerelateerd zijn aan belangrijke waarden zoals die zijn vastgelegd in internationale verdragen. De inzichten over de ethische en maatschappelijke vraagstukken koppelen we aan de inzichten over ontwikkeling van digitalisering uit hoofdstuk 2. Aan de hand van de verschillende fasen in de cybernetische loop – verzamelen, analyseren, en toepassen (zie figuur 2.3 in hoofdstuk 2) – zien we verschillende ethische en maatschappelijke vragen naar voren komen. Dat geeft een beeld van welke kwesties in de komende jaren samenhangen met de ontwikkeling van technologie om aandacht vragen. Tabel 3.1 Maatschappelijke en ethische thema's

Thema

Vraagstukken

Privacy

Gegevensbescherming, privacy, digitaal huisrecht, mentale privacy, surveillance, doelverschuiving

Autonomie

Keuzevrijheid, vrijheid van meningsuiting, manipulatie, paternalisme

Veiligheid

Informatieveiligheid, identiteitsfraude, fysieke veiligheid

Controle over technologie

Controle en inzicht in algoritmen, verantwoordelijkheid, onvoorspelbaarheid

Menselijke waardigheid

Dehumanisatie, instrumentalisering, de-skilling, de-socialisatie, werkeloosheid

Rechtvaardigheid

Discriminatie, uitsluiting, gelijke behandeling, stigmatisering

Machtsverhoudingen

Oneerlijke concurrentie, uitbuiting, relatie consument-bedrijf

Rathenau Instituut

Methodiek Het onderzoek van de beschrijving van de ethische en maatschappelijke kwesties die door de digitalisering worden opgeroepen is uitgevoerd via een literatuurstudie.

19

Per technologiegebied is

gezocht naar wetenschappelijke literatuur vanaf 2010 met behulp van zoekmachines zoals Google

19

Veel dank zijn we verschuldigd aan Luca van der Heide, die de relevante literatuur voor deze literatuurstudie heeft verzameld.

48

Opwaarderen

Scholar en Scirus, en met behulp van de PiCarta-database. Per technologiegebied hebben we in combinatie met de term van het technologiegebied (of gerelateerde termen en synoniemen van dit technologiegebied) de volgende zoektermen ingevoerd: ethics, ethical, moral, morality, normative, of normativity. Dit resulteerde ongeveer in zo’n honderd publicaties per technologiegebied. Aan de hand van een eerste screening is dit per technologiegebied gereduceerd tot zo’n twintig à veertig wetenschappelijke publicaties die als meest relevant werden beschouwd voor dit onderzoek. Aan de hand van deze selectie zijn per technologiegebied de belangrijkste ethische en maatschappelijke kwesties beschreven die in de literatuur worden genoemd. De lijst van ethische kwesties is zoals gezegd zeker niet uitputtend, maar toont wel welke ethische kwesties gerelateerd aan de digitalisering van de samenleving kunnen ontstaan en welke als meest urgent en problematisch worden aangemerkt in de wetenschappelijke literatuur. Behalve van wetenschappelijke publicaties is gebruikgemaakt van allerlei kranten en nieuwssites om bepaalde vraagstukken te illustreren aan de hand van aansprekende voorbeelden uit het nieuws.

3.2

Materiële wereld

3.2.1

Internet of Things

Internet of Things (IoT) is gebaseerd op een wereldwijd netwerk dat de fysieke wereld met de virtuele wereld van het internet integreert. Door de opkomst van het IoT staan we aan het begin van een nieuw tijdperk, waar objecten en mensen in de materiële wereld kunnen worden gemonitord, en waar objecten en mensen automatisch informatie kunnen uitwisselen. Zo kan de wekker niet alleen een persoon wekken maar tegelijkertijd het koffieapparaat aanzetten voor het maken van verse koffie bij het ontbijt, of geeft de koelkast aan wanneer van een product de houdbaarheidsdatum is verstreken, of past de verlichting in de kamer zich aan op wat er gebeurt in een videospel dat er op dat moment gespeeld wordt.

20

Veel technologiebedrijven verwachten dat IoT in de toekomst alomtegenwoordig zal zijn in ons dagelijks leven. Veel technologieën die we in dit hoofdstuk beschrijven maken in zekere zin deel uit van het IoT. Zo maakt een augmented-reality-bril gebruik van het internet om gebruikers real-time extra informatie te geven over hun omgeving, en kan een biometrische camera gekoppeld zijn aan een online database om gezichten te herkennen.

Privacy: digitaal huisrecht Door IoT worden steeds meer gegevens over ons uitgewisseld, zonder dat we daar echt zicht op hebben of controle over hebben (Barbry 2012; Peppet 2014; Romana et al. 2013). De 46 pagina’s tellende privacyhandleiding die behoort bij de slimme tv van Samsung vertelt dat Samsung registreert waar, wanneer, hoe en hoe laat je de tv hebt aanstaan. De tv heeft ook een camera voor gezichtsherkenning en een microfoontje voor spraakherkenning. In de privacyhandleiding waarschuwt Samsung om op te letten voor wat je zegt in de buurt van de tv: ‘Please be aware that if your spoken words include personal or other sensitive information, that information will be among

20

youtube.com/watch?v=1Y3MQrcekrk

Rathenau Instituut

49

the data captured and transmitted to a third party.’ Dit leidde tot aardige ophef (Gibbs 2015). Het voorbeeld laat zien dat er ongewild toestemming wordt gegeven om bepaalde data te gebruiken, omdat mensen niet in staat zijn om de gehele handleiding te begrijpen of omdat last hebben van zogenaamde toestemmingsvermoeidheid (consent fatigue) vanwege de grote hoeveelheid toestemmingen die ze moeten geven over het gebruik van data die apparaten opvangen (Pereira, Benessia & Curvelo 2013). Dit roept de vraag op waar de verantwoordelijkheid ligt in dit proces: mag van de gebruiker worden verwacht dat hij van elk apparaat de voorwaarden uitpluist? Of ligt er ook een verantwoordelijkheid bij de producenten van al die apparaten? Zouden zij niet zorg moeten dragen voor een bepaalde redelijke verwachting van privacy. Door IoT zijn we in feite overal te volgen en dit kan leiden tot een enorme transparantie ten koste van onze privacy. In de meeste gevallen zijn de gegevens die door slimme tandenborstels, thermostaten, televisies, koelkasten en wasmachines worden verzameld eigendom van de producent en niet van de gebruiker. De eigen woning, die we beschouwen als ons privédomein, wordt hierdoor transparant, omdat processen in de woning kunnen worden gemonitord via de IoTapparaten in de woning.

De scheiding tussen huis en buitenwereld vervaagt waarbij de muren en gordijnen het huis niet langer beschermen tegen pottenkijkers. Koops en Prinsen (2005) pleitten er daarom voor burgers te beschermen tegen deze digitale inkijk, en burgers naast fysiek huisrecht ook digitaal huisrecht te geven. Dat zou moeten zorgen voor bescherming tegen waarneming van buitenaf met technische hulpmiddelen, zodat burgers een plaats hebben waar zij ‘bij uitstek onbevangen zichzelf kunnen zijn’ (Koops & Prinsen 2005, p. 630). De vraag rijst hoe burgers controle kunnen houden over de datastromen met allerlei persoonlijke gegevens die ontstaan in het IoT. De hoeveelheid gegevens neemt toe, terwijl het maken van een geïnformeerde keuze lastiger wordt omdat veel slimme apparaten functioneren op de achtergrond en niet altijd een makkelijk toegankelijk scherm hebben voor instellingen of privacynotificaties. Een oplossing die wordt genoemd is een digitale privacyassistent; een programma waarin de gebruiker zijn privacyvoorkeuren aangeeft en waarmee de gebruiker de instellingen beter en makkelijker kan managen. Tegelijkertijd zien sommige experts vanuit de industrie en de wetenschap ook dat het bewust uitoefenen van controle over de vele stromen persoonsgegevens in het IoT-tijdperk niet meer praktisch haalbaar is (Eskens et al. 2016).

De verantwoordelijkheid voor het managen van de informatiestromen wordt nu vooral bij het individu gelegd, maar er is ook een verschuiving zichtbaar waarbij de verantwoordelijkheid meer bij producenten komt te liggen. Een verantwoorde informatiehuishouding wordt dan onderdeel van het afleveren van een deugdelijk product. De verantwoordelijkheid van producenten kan bijvoorbeeld gaan over het controleren welke apparaten wel of niet met elkaar mogen communiceren. Een koelkast hoeft bijvoorbeeld niet te communiceren met de auto van de buurman. Een oplossing voor huishoudelijke apparatuur zou kunnen zijn dat deze apparaten alleen met elkaar kunnen communiceren via een gesloten netwerk ‘een persoonlijke cloud der dingen’. Een wereldwijd web heb je voor deze apparaten niet echt nodig. Een dergelijke benadering waarbij voor een privacybeschermend ontwerp wordt gekozen, wordt ook wel privacy by design genoemd. Daarnaast maakt een perspectief op privacy dat verder gaat dan controle over informatie, het ook mogelijk om na te denken over andere aspecten van privacy, zoals de vrijheid om niet gemonitord te worden en de vrijheid om een eigen identiteit te ontwikkelen (Zureik et al. 2010). Hoe beïnvloedt een slimme TV die continu monitort bijvoorbeeld de