3 Magazine Digitale Stad.pdf

Agenda Digitale Stad Magazine 2020

Titel

Digitale stad 2.0

Voorwoord Het internet en het gebruik van digitale technologie is onderdeel van ons dagelijkse leven. Het brengt ons veel, zoals gemak, liefde en informatie. Maar het zorgt er ook voor dat onze privacy, vrijheid van meningsuiting en democratie onder druk staan. Deze rechten wil de gemeente Amsterdam, zo goed als we kunnen, beschermen. Ook willen we dat Amsterdammers dezelfde kansen hebben en hun toekomst zelf kunnen vormgeven. Dat betekent ook dat we toenemende digitale ongelijkheid tegen willen gaan. Om te zorgen dat al onze inwoners evenveel profiteren van het internet is het belangrijk dat iedereen die mee wil doen, mee kan doen. Wij zijn er stellig van overtuigd dat basale mensenrechten ook in de digitale wereld moeten worden gerespecteerd. Amsterdam kan dat niet alleen: of dat nou gaat om privacy of de manier waarop data wordt verzameld en uitgewisseld. We hebben de wereld en op zijn minst Europa nodig om ruimte te bieden aan alternatieve oplossingen voor de grote platformen en om regels te formuleren waardoor we online veiligheid en privacy zeker kunnen stellen. Samen met steden als Helsinki, Barcelona en New York werken wij aan de erkenning en bescherming van digitale rechten van burgers via de coalitie van Steden voor Digitale Rechten.

We komen op voor mensenrechten op internet zoals privacy, bescherming van data, gelijke toegang tot veilig internet en digitale geletterdheid voor iedereen. De Coalitie bestaat inmiddels uit meer dan 60 steden. Er worden gezamenlijk afspraken gemaakt over de omgang met platformen, bijvoorbeeld over voorwaarden over het datagebruik van platformen. In dit magazine laten wij zien hoe wij Amsterdammers laten profiteren van digitale mogelijkheden en wat we doen om hun rechten te beschermen. Samengevat richten we ons op: 1. Het verantwoord inzetten van data en technologie 2. Het tegengaan van digitale ongelijkheid 3. Het toegankelijk maken van de dienstverlening Ook laten we u kennis maken met mensen die hier ieder op hun eigen manier een bijdrage aan leveren. Ik wens u veel leesplezier!

Touria Meliani Wethouder Digitale Stad Op deze foto ziet u Wethouder Meliani na het uitdelen van laptops en internet aan vrouwen uit Nieuw-West. De gemeente Amsterdam deelt tijdens de COVID-19 crisis opgeknapte laptops en WiFi uit aan ouderen en minima. Beeld: Anne Reinke

2

3

Inhoudsopgave

Wil je direct naar een interview? Klik op de koppen of paginanummers. 03 Voorwoord 06 Overzicht Agenda Digitale Stad: wat gaan we doen? 08 Is de stem van de burger wel luid genoeg in de lobby voor digitale rechten? Interview met Evelyn Austin van Bits of Freedom, Laura Vermeulen van de Datavakbond en Europarlementariër Paul Tang. 10 Redactioneel artikel over de Coalitie Digitale Rechten

Speerpunt 1: Verantwoord inzetten van data en technologie 14 Introductie 17 Eerlijke kunstmatige intelligentie (AI) in de stad Vier Amsterdamse experts over de niveaus waarop de stad met dit thema bezig is. 20 Morele en ethische beslissingen bij gebruik van data Interview met Douwe Schmidt, bestuurslid van Bureau Tada.

4

22 Innovatie vindt plaats op het snijpunt van kunst en wetenschap Interview met Dr. Denis Roio, oprichter van Dyne.org en CTO van DECODE.

38 Amsterdam als platform voor en van Amsterdammers Column van Ger Baron, Chief Technology Officer (CTO) van Amsterdam.

24 Hoe ontwerpen we de oren en ogen van de stad? Interview met Thijs Turèl van AMS Institute over het Responsible Sensing Lab.

39 Publicroam: gratis, veilig en eenvoudig internet voor inwoners en bezoekers Een interview met Amsterdammers.

26 Het stimuleren, waarborgen en handhaven van openbaarheid van informatie Interview met Sofie Bustraan, informatiecommissaris van de gemeente Amsterdam. 28 Datagedreven werken Over de samenwerking tussen gemeente Amsterdam en het CBS. 30 Tech Road map Hoe kiest Amsterdam tech?

Speerpunt 2: Tegengaan digitale ongelijkheid 34 Introductie 36 Digitale ongelijkheid: een nare paradox Interview met Christine Dedding, associate professor Participatie & Co-creatie bij de afdeling Metamedica van het Amsterdam UMC.

40 Over het vergroten van kansengelijkheid op de arbeidsmarkt door technische opleidingen- en banen toegankelijk te maken voor Amsterdammers. Redactioneel artikel over TechConnect. 42 Over wat de bibliotheek kan betekenen in een digitaliserende samenleving Interview met Sacha van Tongeren, projectleider van OBA NEXT. 44 Creatieve en technologische oplossingen voor de toekomst, bedacht door kinderen Over Designathon Works en de Global Children’s Designathon. 46 Als de schoonheid van kunst en de kracht van technologie bij elkaar komen Interview Clayde Menso 48 Column van Viktor Frölke, schrijver en filosoof

Speerpunt 3: Toegankelijk maken van de dienstverlening

52 Introductie 54 Mijn Amsterdam: een persoonlijke, digitale omgeving voor Amsterdammers Interview met Programmamanager Kim Westerweel en User Researcher Marloes Meerburg-Versteegen. 56 Technologie voor een schone, hele en veilige stad Interview met Sander Siegmann en Naim Aarras 58 Een digitale identiteit voor alle Amsterdammers Interview met Mark Fonds, projectleider digitale identiteit bij de gemeente Amsterdam. 60 Betrekken Amsterdammers bij het vormgeven van de (online) dienstverlening Interview met John Roozemond, projectleider bij Cordaan. 62 Art-ups zorgen voor een inclusieve cultuursector Interview met John Heemsbergen van Art-up.

Algemeen 64 Raakvlakken in kaart 66 Terugblik 68 Activiteiten 2020 71 Colofon

5

Terug naar de inhoudsopgave

Agenda Digitale Stad Wat doen we in 2020?

Ambitie

Iedere Amsterdammer profiteert van de mogelijkheden van digitalisering in een stad waarin onze (digitale) rechten zijn beschermd.

Werkwijze Snelle (digitale) ontwikkelingen creëren uitdagingen en vragen waarvoor geen pasklare oplossingen bestaan. Dit vraagt om creativiteit, samenwerking en innovatie. Actief betrekken we Amsterdammers, wetenschappers, creatieven en andere steden bij onze zoektocht naar antwoorden. Samen met hen gaan we op ontdekkingstocht via labs, onderzoek, experiment en kunst en cultuur. Om vanuit onze waarden ontwerp en methodieken toe te passen op vraagstukken rondom technologie en data. En om middels verbeelding de impact van digitalisering op het leven van de Amsterdammer te tonen. De digitale wereld kent geen grenzen. Om onze ambities te behalen zijn we actief op verschillende niveaus; van lobby activiteiten richting Europa tot het versterken van buurtinitiatieven in de stad. Deze benadering vormt de rode draad binnen al onze activiteiten. Collectief kunnen we zo bepalen wat Amsterdammers het beste past en maken we ons minder afhankelijk van de macht van grote techbedrijven. We nodigen iedereen die een bijdrage wil leveren aan een vrije, inclusieve digitale stad van harte uit om hier samen met ons aan te werken. Mail naar innovatie@amsterdam.nl voor meer informatie.

6

Terug naar de inhoudsopgave

Waarden

Focus

Vrij

Het beschermen van digitale rechten en Amsterdammers laten profiteren van digitale mogelijkheden. Dat doen we door ons te richten op:

Amsterdamse waarden zijn: vrijheid, openheid, toegankelijkheid en barmhartigheid. Jezelf kunnen zijn, zonder de vrijheid van anderen te beperken. Technologie moet deze vrijheden koesteren en verdedigen, en waar nodig versterken. De ambitie is om bewust om te gaan met de mogelijkheden en bedreigingen van technologieën.

verantwoord inzetten 1 Het van data en technologie █

█

Inclusief De stad is er voor iedereen. Kennis, informatie en educatie is voor iedereen toegankelijk en beschikbaar. Amsterdammers beschikken over digitale wijsheid om goed mee te kunnen komen. We willen een stad creëren met technologie die waarde heeft voor alle Amsterdammers.

█

█

tegengaan van 2 Het digitale ongelijkheid █

Rol gemeente █

█

█

█

█

█

Beschermen van digitale rechten middels beleid, regelgeving, lobby, inzet van technologie en het inrichten van toegankelijke en transparante diensten. Samenwerking en duurzaam opbouwen van netwerk. Ondersteunen en versterken van initiatieven en organisaties in de stad die bijdragen aan onze ambities. Ruimte creëren voor experiment en onderzoek vanuit onze waarden. Amsterdammers betrekken waar mogelijk en passend. Inspelen op de kansen die digitalisering met zich meebrengt. Verkennen van nieuwe technologieën.

Het uitvoeren van onderzoek naar relevante technologie en de impact ervan op de stad. Het inzetten op transparantie van technologie. Breed toepassen van vastgestelde dataprincipes zoals dataminimalisatie. Het openbaar maken van informatie.

█

█

Het vergroten van de zelfredzaamheid van de Amsterdammer, waaronder kennis en vaardigheden om technologie te gebruiken en de vaardigheden om informatie te vinden, te duiden en bewust te gebruiken. Het creëren van randvoorwaarden die ervoor zorgen dat alle Amsterdammers evenveel kunnen profiteren van het internet. Publiek maken van ethische dilemma’s bij inzet van technologie en data door samen te werken met de kunst- en cultuursector.

toegankelijk maken 3 Het van de dienstverlening █

█

Publieksdiensten van de gemeente toegankelijk, begrijpelijk en bruikbaar maken voor iedereen. Andere organisaties helpen met het toegankelijker maken van hun diensten.

7

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Is de stem van de burger wel luid genoeg in de lobby voor digitale rechten? Interview Evelyn Austin, Laura Vermeulen en Paul Tang Er is heel veel aandacht voor digitale rechten en voor democratisering en participatie. Maar wat wordt er nu eigenlijk gedaan aan de combinatie daarvan? Omdat besluitvorming rond digitalisering zowel Europees, landelijk als lokaal gebeurt, zou je dat ook vanuit die verschillende lagen moeten bekijken en burgers in staat stellen op die verschillende niveaus mee te praten. Alleen, hoe bereik je deze mensen? Evelyn Austin van Bits of Freedom, Laura Vermeulen van de Datavakbond en Europarlementarier Paul Tang, denken mee. In 2019 heeft Amsterdam een ‘bewonerspanel’ georganiseerd in de aanloop van de EU verkiezingen, met als vraag wat Amsterdammers van de EU verwachten. Al die suggesties zijn meegenomen in de Burgemeestersconferentie van de Europese Unie. Om dit initiatief ook open te stellen voor andere Europese steden en meer impact te maken, heeft Amsterdam het initiatief genomen voor het programma Citizen Voices for Digital Rights. De reden hiervoor is dat Amsterdam de digitale wereld en markt niet zelf kan reguleren. Lokaal en landelijk zet Amsterdam in op het ontwikkelen van concrete afspraken en regels, waar nodig. Wat mensen willen en wat zij belangrijk vinden, staat voorop.

Maar Amsterdam heeft Europa nodig om ervoor te zorgen dat alternatieve oplossingen de ruimte krijgen en kunnen opschalen. Om bijvoorbeeld gelijkwaardige regels te formuleren voor het bedrijfsleven en om te zorgen dat online vrijheid en privacy goed geregeld zijn. Kortom: er moet gelobbyd worden. In het Citizen Voices for Digital Rights programma wil Amsterdam ervoor zorgen dat burgers en activisten ook een (grotere) stem krijgen in de digitale transitie. Door het geven van workshops over datawijsheid, digitale rechten en data democratie wordt de kennis groter over deze onderwerpen. Tegelijkertijd is het programma bedoeld als een

8

mogelijkheid voor bewoners om meer van zich te laten horen en zich te organiseren. Dit draagt er ook aan bij dat beleidsmakers in steden en in Brussel een betere afweging kunnen maken. Evelyn Austin is directeur van Bits of Freedom. Hoe belangrijk vindt zij het dat burgers en activisten hierover kunnen meepraten? “Wij hinken daarbij altijd een beetje op twee benen”, zegt Austin desgevraagd. “Ja, het is superbelangrijk dat mensen kunnen meepraten en dat de stem van de burger meegenomen wordt in beleidsvorming. Maar neem bijvoorbeeld de totstandkoming van de nieuwe Europese privacyregels. Daar was de lobby van het bedrijfsleven verschrikkelijk machtig, vele malen groter en met veel meer geld tot hun beschikking dan het maatschappelijk middenveld.” Voormalig eurocommissaris Viviane Reding liet inderdaad weten dat het de meest agressieve lobbycampagne betrof die ze ooit had meegemaakt. Het Europees Parlement werd overspoeld door het grootste lobbyoffensief in haar politieke geschiedenis. Austin: “Zelfs voor burgerrechtenorganisaties als de onze is het enorm lastig om daar tegenop te boksen. Dat kan eigenlijk alleen in georganiseerd verband, met andere organisaties door heel Europa. Ik ben daarom kritisch op het idee dat individuele burgers voor zichzelf moeten gaan fixen dat hun burgerrechten op het gebied van data en privacy worden gewaarborgd.

Dat is niet realistisch.” Laura Vermeulen van de Datavakbond denkt ook dat burgers op dit moment een ongelijkwaardige positie hebben. “Je kunt van burgers niet verwachten dat zij zich ineens als jurist gaan gedragen en gaan onderhandelen met grote bedrijven. Tegelijkertijd is het raar dat de partij die geen geld aan dit alles verdient, maar wél zijn data deelt waardoor anderen geld kunnen verdienen, niet aan tafel zit. Vanuit de Datavakbond willen we daarom de rechten van deze ‘datawerkers’ beter beschermen.” Volgens Austin is het belangrijk dat Amsterdam zich realiseert dat als het over data en privacy

Evelyn Austin

Laura Vermeulen Foto: Wouter Zaalberg

gaat, het vaak maar een klein groepje burgers is dat meepraat: de hoog opgeleide, meestal witte, op het onderwerp van technologie ingevoerde mensen. Zij worden bereikt door dit soort initiatieven. “Maar zij zijn niet representatief voor alle inwoners van de stad. Het is de verantwoordelijkheid van beleidsmakers, en trouwens ook van organisaties als Bits of Freedom, om te zorgen dat uiteenlopende perspectieven en belangen meegenomen worden in het vormgeven van onze ideeën over de toekomst. Dat is niet makkelijk. Wat ik erg waardevol vind van een dergelijk programma is dat het de mogelijkheid biedt iedereen weer even op scherp te zetten. Waar gaat het nou eigenlijk over? De stad is bij uitstek een mooie plek hiervoor. Dichtbij huis, en met een kleine afstand tussen burger en beleidsmaker. In theorie kan wat hier besloten wordt, een grote impact hebben op het dagelijkse leven van mensen”, legt ze uit. Ook Paul Tang, die namens de PvdA in het Europees Parlement zit en zich daar actief inzet voor de digitale rechten van burgers, vindt het belangrijk dat burgers een sterke rol krijgen in de manier waarop digitalisering ingezet wordt. “Ik vind het belangrijk dat wij als platformgebruikers, als data-werkers, bepalen wat er met onze data gebeurt en hoe het platform zich verder ontwikkelt. Dat kunnen we alleen in collectief verband afdwingen.

Dit vraagt om lokale, Europese en mondiale initiatieven en ingrepen, zodat er sterke collectieven ontstaan die een tegenwicht vormen tegen de Facebooks en Googles van deze wereld.” Vermeulen vindt het belangrijk dat er ook actie komt. “Een soort burgertop op dit onderwerp juich ik alleen maar toe, alleen is de balans tussen praten en actie wel belangrijk. Het lijkt mij vooral een

Paul Tang

goede check om te kijken hoe burgers staan tegenover de privacy en data autonomie doelstellingen van de gemeente. Burgers en activisten hebben deze stem ook nodig, omdat ze simpelweg een ander belang hebben dan overheden of bedrijven.”

Citizen Voices for Digital Rights Het programma Citizen Voices for Digital Rights wil burgers en activisten uit verschillende Europese steden verbinden, om hun invloed op het digitale beleid te versterken. Juist aan die doelgroepen die normaliter minder gehoord worden, wordt een plek aan tafel aangeboden om met beleidsmakers in gesprek te gaan. Van jongeren tot ouderen, en digibeten tot ervaren activisten. In het eerste jaar worden er bijeenkomsten georganiseerd in Milaan, Tirana, Bordeaux, Amsterdam, Barcelona en Brussel. De bijeenkomsten worden, met op initiatief van de gemeente Amsterdam georganiseerd door The Democratic Society.

9

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Coalitie van steden voor Digitale Rechten De gemeente Amsterdam staat voor de digitale vrijheden en rechten van de Amsterdammer. Want zonder het beschermen van deze vrijheden en rechten geen vrije stad. Wij zetten ons er als gemeente voor in om de basale mensenrechten van Amsterdammers zoals privacy, vrijheid van meningsuiting en democratie te beschermen.

andere Europese steden ondersteunen wij de beweging van burgers en non-profits die digitale rechten onder de aandacht willen brengen.

█

█

Digitale rechten De gemeente Amsterdam werkt samen met Barcelona, New York en meer dan 60 andere steden in een ‘Coalitie van steden voor Digitale Rechten’. De coalitie wordt gesteund door de Verenigde Naties (UN Human Rights en UN Habitat), de wereldwijde vereniging van gemeenten (UCLG) en Eurocities. In deze coalitie ligt de focus op erkenning en bescherming van digitale rechten van burgers. Gezamenlijk komen we op voor mensenrechten op het internet, waaronder privacy, bescherming van data, gelijke toegang tot het internet en digitale geletterdheid. Europa Vanuit de coalitie leveren we input voor de richtlijnen die ontwikkeld worden in Europees verband. We zoeken beslissers op in Europa om ervoor te zorgen dat technologie ten dienste staat van mensen en niet andersom. Zo dient een individu de controle te hebben over de data die op hem betrekking heeft en dient de data in de stad van de mensen in de stad te zijn. Het verminderen van data-monopolies in de stad en het bevorderen van data delen in het publieke belang kan bijdragen aan deze controle. We vragen ‘Europa’ om ervoor te waken dat alles wat we online doen gevolgd kan worden met cookietrackers en er is een actieve houding vereist om uitwerking en naleving van bestaande regels te realiseren; privacy moet realiteit worden. Met

10

Samen met andere steden werken we aan concrete voorbeelden en uitwisseling, zoals verantwoordelijk gebruik van algoritmes met Londen en Helsinki. Met Milaan verkennen we een Europees project op digitale inclusie en New York heeft een campagne over datawijsheid. De achtergrond van deze en andere voorbeelden staan in deze publicatie:

█

█

█

Activiteiten van de coalitie in 2020 Lokaal, nationaal en internationaal pleiten om digitale rechten te beschermen. Aantonen dat internationaal beleid steeds meer rekening houdt met digitale rechten en de standpunten van de steden. Samen werken aan onderwerpen als open technologie, richtlijnen voor platformen en inkoopvoorwaarden voor algoritmes, dataeconomie en digitale inclusie. Deze activiteiten zijn ter ondersteuning van lokale implementatie. Er worden medewerkers uit aangesloten steden opgeleid op het gebied van digitale rechten om goed de vertaling van principes naar opgaven in de stad te maken. We streven ernaar dat tegen het einde van het jaar 120 steden uit de vijf continenten actief bijdragen aan de coalitie. De steden in de coalitie zijn in nauw contact met elkaar om van elkaar te leren op meer dan 100 lokale projecten.

Sinds de eerste ledenbijeenkomst in Barcelona in juni 2019 hebben er binnen de coalitie meerdere uitwisselingen plaatsgevonden, wordt samengewerkt om tot inkoopvoorwaarden voor algoritmes te komen en wordt een gezamenlijke lobby agenda voor Brussel opgesteld. In Amsterdam organiseren we deze zomer het evenement Next generation internet.

Voor meer informatie over de Coalitie van steden voor Digitale Rechten: zie citiesfordigitalrights.org.

citiesfordigitalrights.org/ publication-cities-coalitiondigital-rights-booklet

Absorbed by light, Gali May Lucas. Foto: Janus van den Eijnden

01.

02.

03.

04.

05.

Universele en gelijkwaardige toegang tot het internet en digitale geletterdheid

Privacy, gegevensbescherming en veiligheid

Transparantie, verantwoordelijkheid en geen discriminerend onderscheid in gegevens, inhoud en algoritmes

Participatiedemocratie,​ diversiteit en inclusie​

Open en ethisch verantwoorde normen voor digitale dienstverlening

De Coalitie van steden voor Digitale Rechten gaat uit van vijf grondbeginselen. Meer toelichting vindt u hier.

11

Speerpunt

Verantwoord inzetten van data en technologie

Verantwoord inzetten van data en technologie Het hotel dat we online boeken, de route die we rijden of de muziek die we luisteren; onze keuzes worden steeds vaker beïnvloed door technologie. Technologie speelt ook steeds vaker een rol bij het goed organiseren van de stad en de gemeentelijke organisatie. Meer begrip van de werking en impact van nieuwe technologieën is dan ook essentieel.

“Als gemeente geven wij zelf het goede voorbeeld” 14

Beeld: Christian Fregnan

Met de Agenda Digitale Stad onderzoeken en agenderen we de impact van digitale technologie op de bewoners van Amsterdam. Hiervoor investeren wij in kennis en kunde over technologieën, zodat wij in staat zijn om te beoordelen wat de impact is en hoe wij er mee om willen gaan. De keuze voor de technologie die we hanteren hangt af van de toegevoegde waarde voor de Amsterdammer en de impact op de stad. Technologie is voor ons nooit een doel op zich. De Agenda benadrukt de kansen rondom data, maar stelt wel dat er verantwoord met data moet worden omgegaan. Want data zijn niet neutraal. Zo wordt er dataminimalisatie en datasoevereiniteit nagestreefd. Met de datastrategie wordt gepresenteerd hoe wij in Amsterdam om willen gaan met data van de stad en data van de Amsterdammer, en hoe we dit gaan bereiken. Met Tada (tada.city), een samenwerking tussen verschillende partijen, is een richtijn ontwikkeld hoe verantwoord om te gaan met data in de praktijk. Als gemeente geven wij zelf het goede voorbeeld. Door bijvoorbeeld onze inkoopvoorwaarden op het gebied van data en algoritmen aan te passen, zodat we zeker weten dat we altijd aan Amsterdammers uit kunnen leggen hoe we tot een besluit gekomen zijn over bijvoorbeeld het toekennen van een uitkering of vergunning. De informatie waarover de gemeente beschikt dient zoveel mogelijk voor iedereen beschikbaar en toegankelijk te zijn.

Door transparant en controleer-

Terug naar de inhoudsopgave

baar te zijn dwingen we onszelf om zorgvuldig te zijn bij het toepassen van nieuwe technologie, het gebruik van data en het bewaren van de gegevens die ons zijn toevertrouwd. Daarnaast is openbaarheid van informatie cruciaal om zeggenschap te organiseren voor de Amsterdammer. Er is alleen sprake van gelijkwaardigheid als er sprake is van een gelijkwaardige informatiepositie.

█

█

█

█

In 2020 richten we ons vooral op: Het uitvoeren van onderzoek naar relevante technologie en de impact ervan op de stad. Het inzetten op transparantie van technologie en een brede toepassing van vastgestelde dataprincipes zoals dataminimalisatie. Het zorgvuldig inzetten van digitale toepassingen in maatschappelijk domein (door in te zetten op creativiteit, ontwerp en wetenschap). Het openbaar maken van informatie.

Op het gebied van Artificial Intelligence (AI) is besloten om de komende jaren samen met kennisinstellingen in deze technologie te investeren en toepassingen te stimuleren die ten gunste komen van de Amsterdammer. Samen brengen wij ongelijkheid door algoritmes in Amsterdam in beeld. En vooral: we werken met deze partijen aan hoe het wel op een eerlijke manier kan. Met de HvA is een nieuw lectoraat opgericht: Responsible IT. Het lectoraat gaat praktijkonderzoek naar het op verantwoorde wijze ontwikkelen van digitale technologie, met oog voor maatschappelijke waarden en de menselijke maat. En tot slot, passen we samen met kunstenaars en kennisinstellingen ontwerp en onderzoeksmethodieken vanuit onze waarden toe op vraagstukken rondom technologie en data. Lees hier meer over al onze activiteiten in 2020.

15

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Eerlijke kunstmatige intelligentie op alle niveaus Interview Anita Nijboer, Rik Helwegen, Sennay Ghebreab en Maarten Sukel

Hoe gebouwen er uitzien, hoe mensen werk vinden, hoe vriendschappen en liefdes ontstaan, hoe allerlei activiteiten worden ondersteund van werk tot online winkelen. Kunstmatige Intelligentie, of het vaker gebruikte Engelse Artificial Intelligence (AI), speelt daar nu al én in de toekomst een rol in. AI is een begrip met veel ladingen en uitingen. Waar hebben we het eigenlijk over? En hoe eerlijk is de inzet van al die algoritmes in de (digitale) stad? Besluitvorming door systemen in plaats van mensen mag nooit resulteren in uitsluiting, discriminatie of foutieve resultaten. Met de Amsterdamse inzet op eerlijke ‘algoritmes’ wordt dit voorkomen. Vier Amsterdammers, ieder met hun eigen expertise, laten zien op welke niveaus de stad met dit thema bezig is.

16

17

Terug naar de inhoudsopgave

Europa Anita Nijboer, onder andere bestuurslid VNO-NCW Metropool Amsterdam is ambassadeur van de Amsterdamse coalitie om AI te profileren in Den Haag en Brussel. “Amsterdam heeft het grootste wetenschapen innovatie-ecosysteem van Nederland en bouwt voort op drie decennia lang ervaring in onderzoek, onderwijs en innovatie op het gebied van AI. De Amsterdamse kennisinstellingen gaan hier de komende tien jaar 1 miljard in investeren en zetten in op samenhangende technologische ontwikkelingen: Machine Learning, hybride intelligentie en uitlegbare AI. Essentieel hierbij is de ontwikkeling van betere systemen, waarbij de mens centraal staat en waarborgen voor een verantwoorde toepassing worden ingebouwd: AI technology for people. Centraal in de aanpak van de Amsterdam-Europese coalitie staan drie grote thema’s, allen met grote invloed op het dagelijks leven van mensen en de sociaaleconomische ontwikkeling in de regio: AI for Health, AI for Business en AI for Citizens.” Bron: website UVA

Terug naar de inhoudsopgave

De gemeente Rik Helwegen, onlangs afgestudeerd aan de UvA, onderzocht in samenwerking met de gemeente Amsterdam en het CBS of er een methode valt te ontwikkelen waarin ongewenste discriminatie wordt voorkomen, bijvoorbeeld voor toepassingen als fraudeherkenning. Het onderzoek wordt doorgezet in het project Impact met AI, waarin Amsterdam samen met het Centraal Bureau voor de Statistiek, de Vereniging van Nederlandse Gemeenten en Code for NL werkt aan betere dienstverlening met transparante en eerlijke data science. “Steeds meer gemeenten experimenteren met een data gedreven aanpak. Daarbij worden in toenemende mate algoritmen ingezet die gebruik maken van machine learning. Dat hoeft niet nadelig te zijn, maar op het moment dat etniciteit of andere gevoelige achtergrondkenmerken van personen de beslissingen die gemeenten of andere organisaties nemen beïnvloeden, kan dat ethische of wettelijke bezwaren opleveren. Daarom werk ik aan een praktische methode, die eerlijkheid meeneemt in het antwoord op complexe vragen. Het uitgangspunt is dat de uitkomst van het model hetzelfde moet zijn als de waarde van een gevoelig persoonskenmerk wordt omgewisseld, bijvoorbeeld een niet-westerse achtergrond voor een westerse achtergrond, ook wanneer deze actie gevolgen heeft voor de waarde van andere kenmerken.”

De stad Sennay Ghebreab, universitair hoofddocent aan de UvA en oprichter Civic AI Lab in Amsterdam. Het Civic AI Lab is onderdeel van het Innovation Center for Artificial Intelligence (ICAI), een nationaal netwerk van kennisinstituten, de overheid en private partijen die samenwerken op het gebied van kunstmatige intelligentie. De gemeente Amsterdam is partner van het Civic AI Lab. “Het Civic AI Lab zet zich in voor kunstmatige intelligentie voor iedereen, maar met name voor mensen die buiten de boot vallen, omdat er geen representatieve data over ze bestaan, of omdat er geen algoritmes voor ze worden ontwikkeld. Wat wij voor Amsterdam willen doen, is al aanwezige ongelijkheden in de stad blootleggen. Bijvoorbeeld in het onderwijs, gezondheidszorg en de arbeidsmarkt. Daarnaast willen we nieuwe technologieën ontwikkelen om de kansen te vergroten van verschillende groepen binnen Amsterdam. Een van de manieren om kunstmatige intelligentie voor iedereen te ontwikkelen, is om data te verbeteren. Bestaande data representeren vaak maar een deel van de bevolking goed. Meestal zijn dat witte mannen. Dat heeft bijvoorbeeld tot gevolg dat zelfrijdende auto’s zwarte mensen minder goed zien. Door meer representatieve data te collecteren en verzamelen in samenwerking met burgers kun je dit verhelpen.”

Bron: CBS

Bron: Binnenlands Bestuur

Beeld: Sjoerd van der Hucht

Beeld: Daan Muller

De straat Maarten Sukel, Lead AI developer CTO innovatieteam gemeente Amsterdam. Maarten leidt de ontwikkeling van een AI-team zodat de gemeente meer technische expertise in huis heeft om de kansen van AI voor opgaven in de stad te benutten. “Met de inzet van algoritmen kun je de stad eerlijker maken. De gemeente gebruikt nieuwe technieken om problemen in de stad aan te pakken, denk aan projecten als route-optimalisatie voor vuilniswagens of het spreiden van drukte. Maar aan de inzet van nieuwe technieken zitten ook risico’s verbonden. En daar moeten we transparant over zijn. Daarom maken we ook zoveel mogelijk gebruik van verschillende methoden om de eerlijkheid van algoritmen te waarborgen. Het toepassen van nieuwe technieken brengt nieuwe inzichten met zich mee. Zo is de concentratie mondige burgers in de ene wijk hoger dan in de andere. Dat wordt steeds duidelijker naarmate je die data, over bijvoorbeeld openbare ruimte en overlast zoals rondzwervend afval, beter gaat vastleggen. Het zou mooi zijn als we ongelijkheden tussen melders en niet-melders kunnen oplossen doordat we het probleem oplossen voordat het een probleem is. Een project waar we nu mee bezig zijn is scannen op afval. Nu al rijden er scanauto’s rond om te controleren op foutparkeren en afval. Die zouden ook kunnen gaan scannen op losliggende stoeptegels.” Bron: Tada.city

18

19

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

“Regels halen niet het beste naar boven in mensen” Interview met Douwe Schmidt

Manifest Tada adviseert over morele en ethische beslissingen bij gebruik van data. De beloften van het gebruik van data en nieuwe technologieën zijn groot; onze steden worden groener en leefbaarder, de gezondheidszorg effectiever en het onderwijs toegankelijker. Maar naast grote beloften zijn er ook grote vragen. Profiteert bijvoorbeeld iedereen wel evenredig van de digitale revolutie? Wat gebeurt er met de beschikbare data, nu steeds meer verkeer online verloopt? En welke verantwoordelijkheid hoort daarbij en voor wie? Het manifest ‘Tada – duidelijk over data’ biedt de gemeente Amsterdam een waardenkader ter ondersteuning van dergelijke (morele) datavraagstukken. Douwe Schmidt, bestuurslid van Bureau Tada: “Door het inzetten van zes principes, zoals inclusief, zeggenschap of menselijke maat, krijgen mensen meer inzicht én vertrouwen om daadwerkelijk ethische beslissingen te nemen.” Wat is Tada precies? “Tada is gestart als een beweging waarmee we de digitale stad van en voor iedereen willen maken. In 2017 is een diverse groep professionals en burgers op uitnodiging van Amsterdam Economic Board aan de slag gegaan met het vraagstuk hoe

20

je duidelijk kunt zijn over data en hoe je als stad verantwoord om kunt gaan met data. Uit deze beweging is een manifest ontstaan waarin waarden staan opgenomen die zouden moeten gelden in digitaal verantwoorde steden. Dat klinkt best abstract. Hoe ga je daar praktisch mee aan de slag als gemeente of organisatie? “Daarom hebben we er ook een hele methode omheen gebouwd. Want het zijn inderdaad vrij abstracte filosofische waarden, die je nog moet vertalen in alledaagse beslissingen en werkwijzen. Neem bijvoorbeeld een project waarbij data openbaar beschikbaar gemaakt moet worden. Dan ga je door middel van Tada vragen stellen als: wat zijn alle voor- en nadelen, wie zijn er betrokken, wie wordt er geraakt door deze beslissing en welke waarden – zowel die van Tada als die van de organisatie zélf – zijn hierop van toepassing. Het is interessant om te zien wat er gebeurt als je die waarden dan naast elkaar zet.” Maakt de gemeente Amsterdam gebruik van Tada? “Zeker! We hebben meerdere workshops gegeven aan ambtenaren en diensten die hiermee werken. Je kunt Tada ook op meerdere manieren inzetten: door vooral te kijken naar de morele kant van een beslissing maar ook door bijvoorbeeld de inkoopwaarden te herschrijven, zodat je externe partijen ook verplicht te voldoen aan de waarden bij het samenstellen van een dienst of product.

Beeld: Hans Kleijn

Is het te vergelijken met een keurmerk of een certificering? “Nee, dat niet. Daar heb je al genoeg andere instanties voor. Bovendien, ik weet ondertussen dat als je regels gaat opstellen, mensen dan enorm hun best gaan doen om langs die regels heen te gaan werken. Sterker nog, dan zijn ze er een beetje trots op, zo van hé, dit hebben we toch maar even mooi buiten de regels om voor elkaar gekregen. Regels halen over het algemeen niet het beste in mensen naar boven.” Hoe zorgen jullie er dan voor dat Tada wordt gebruikt? “Wat we proberen te doen, is tijdens de workshops oprecht mensen bevragen waarom ze het werk doen wat ze doen. De gemeente is er om het belang van de burger voorop te stellen. Om van de stad een betere stad te maken. Als dat ook jouw kernwaarden zijn, waarbij de Tadaprincipes dus heel goed aansluiten, en het is ook de reden waarom

je elke dag naar je werk toegaat, dan zou het raar zijn als je daar niet voor zou inzetten. Dus we spreken liever het intrinsieke gevoel van ‘goed willen doen’ aan bij mensen, dan ze iets op te leggen.” Zijn er opvallende veranderingen door de inzet van Tada? “Ja, meerdere! Wat ik een mooie vond is dat de stad Amsterdam al jaren een datastrategie heeft. Daarin staat onder andere in welke databases wat staat, door wie ze beheerd worden en hoe ze aan elkaar geknoopt zijn. Behoorlijk technisch allemaal. En nu herschrijft de stad deze strategie met Tada als uitgangspunt en wordt de strategie niet langer in technische termen behandeld, maar in waarden: hoe zorgt onze datastrategie ervoor dat burgers gelijk worden behandeld, dat ze hun privacy-rechten kunnen uitoefenen, dat we kunnen uitleggen wat we doen met data en voor welk doel. Daar ben ik echt trots op.”

21

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Innovatie op het snijpunt van kunst en wetenschap Interview Dr. Denis Roio Elke Amsterdammer laat elke dag online sporen achter. Vaak weet je niet waar. Laat staan dat je wat te zeggen hebt over wat er met die gegevens gebeurt. DECODE is een Europees project dat aandacht vraagt en oplossingen bedenkt voor dit ‘data-eigenaarschap’. Hierin speelt het werk van Dyne.org een grote rol om, samen met de stad Amsterdam, de digitale rechten van haar inwoners te beschermen. Dr. Denis Roio, oprichter van Dyne. org en CTO van DECODE, is ook wel bekend onder de naam Jaromil. Hij is een onderzoeker van technologie en een softwarevakman. Hij legt uit waarom digitale innovaties niet alleen ambachtslieden nodig heeft als ontwikkelaars, maar dat ook kunstenaars een onmisbare rol hebben. Wat heeft jou persoonlijk gemotiveerd om te gaan werken voor Dyne.org? “Dyne.org is allereerst een community van hackers: onze wortels liggen in de internetcultuur en de anti-maffiabewegingen in Zuid-Italië, waar oudere leden al in de jaren ’90 vrijwillig hun diensten hebben aangeboden als activist, ter ondersteuning van onderzoeksjournalisten. Onder hen bevindt zich een Nederlandse deskundige op dit gebied: Cecile Landman. In 2005 is de stichting officieel opgericht in Amsterdam.

In de statuten staan drie hoofddoelstellingen zoals het produceren van gratis open source software, het democratiseren van de toegang tot technologie en het verduurzamen van technologie. De meeste mensen die momenteel – al dan niet als vrijwilliger – werkzaam zijn bij Dyne.org doen dat vanuit ethische motieven, maar ook vanuit een passie en… om computeren weer leuk te maken!”

22

Wat is de oorsprong van DECODE? “Het DECODE-project is het allereerste onderzoeksproject in het kader van Horizon 2020 dat in 2016 subsidie heeft ontvangen van de Europese Commissie voor het doen van onderzoek naar Distributed Ledger Technologies (Blockchain). Het staat onder leiding van Dr. Francesca Bria en ik ben de technisch coördinator. De Europese Commissie beschouwt het als een paradepaardje binnen de portefeuille met digitale innovaties.” Waar geeft dit project antwoord op? “Op de zorgen die veel mensen zich maken met betrekking tot een verlies van controle over hun persoonlijke gegevens op internet. De mogelijkheid om inzicht te krijgen in, zeggenschap te hebben over en gebruik te maken van persoonsgegevens is voor internetbedrijven een middel geworden om winst te maken. Ons project levert instrumenten om particuliere identiteiten en smart city sensorgegevens te beheren op een gedecentraliseerde en privacybewuste wijze, zodat voorkomen kan worden dat alle macht in handen komt van een paar platformoperators.” Waarom is dat zo belangrijk volgens jullie? “Toen we dit project in 2016 opzetten, hielden we ons bezig met het probleem van ‘platformkapitalisme’: enkele multinationals hebben een informatiemonopolie geschapen dat belangrijke elementen van de publieke infrastructuur vervangt.

DECODE hadden we al jaren vóór het Cambridge Analytica schandaal geschreven; hiermee hebben we aangetoond hoe zo’n situatie de politieke integriteit van een gehele natie in gevaar kan brengen.”

De Europees Commissaris voor Onderzoek, Wetenschap en Innovatie heeft ooit opgemerkt: “Ik ben van mening dat we allemaal steeds meer gaan inzien dat innovatie in de toekomst zal plaatsvinden op het snijpunt van kunst en wetenschap.” Wat voor rol spelen kunstenaars in dit project? “Diverse kunstenaars hebben een bijdrage geleverd aan DECODE, onder wie onze collega Federico Bonelli, Lara Blazic en Roos Groothuizen. Kunstenaars zorgen voor vindingrijke inzichten bij het scheppingsproces van waarde-gevoelige en betrouwbare ontwerpen: de dialoog tussen de disciplines vormt de kern van creativiteit. Via het STARTS platform (Digitale Agenda voor Europa, Initiative for Science, Technology and the Arts) willen we een bredere maatschappelijke dialoog opzetten, die zich ruim buiten de technische specialisaties begeeft.” Wat zou de stad Amsterdam moeten verbeteren om haar inwoners te waarschuwen of ze bewust te maken van hun digitale rechten? “Faciliteren van bewustwording en inzicht in technische processen, wat met name belangrijk is wanneer ze gebruikmaken van persoonsgegevens en die verwerken via technologieën op het gebied van Kunstmatige Intelligentie en machine learning. In DECODE hebben we deze uitdaging opgepakt door het ontwikkelen van een eenvoudige, niet-technische en door mensen leesbare computertaal, genaamd ‘Zencode’.

Deze taal kan slimme contracten uitvoeren op een verifieerbare en bewijsbare wijze binnen een gereguleerde uitvoeromgeving genaamd ‘Zenroom’. Het begrijpen van algoritmes, weten hoe beslissingen geformuleerd worden en bekend zijn met de implicaties van de uitvoering daarvan is niet alleen een technische maar ook een politieke voorwaarde. Toegang tot informatie mag niet slechts beschouwd worden als een aspect daarvan; het is een burgerrecht.” Hoe kan een stad dit recht waarborgen? “Net als vele andere steden in Europa wordt Amsterdam ‘slim’ door meer sensors te plaatsen en door de mate van detail en complexiteit van machinaal te nemen beslissingen uit te breiden. Wanneer dit gebeurt, is een algemeen begrip van algoritmes noodzakelijk, want keuzes gemaakt door overheden

Beeld: Alexander Klink

raken iedereen. De processen dienen transparant te zijn en duidelijk gecommuniceerd te worden. We moeten voorkomen dat we komen te wonen in een stad waarvan de processen uitsluitend gestuurd en begrepen worden door een technische elite.” Welk experiment in de pilot van DECODE heeft jou persoonlijk verrast? “Het experiment dat getrokken wordt door de stad Amsterdam, met dank aan het innovatieteam van Amsterdam: Zij hebben een prototype gemaakt van een gratis, open source paspoortscanner die werkt op een simpele computer, iets wat iedereen in principe thuis zou kunnen doen met wat huis-, tuin- en keukenapparatuur! Het apparaat scant niet alleen EU-paspoorten, maar omdat het gebruikmaakt van Zencode, kan het ook op een bewijsbare manier complexe legitimatiebewijzen ontsluiten die verzegeld zijn door middel van cryptografie.”

23

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Hoe ontwerpen we de oren en ogen van de stad? Interview Thijs Turèl In Amsterdam wordt steeds meer gemeten met camera’s, sensoren en andere nieuwe technologieën. Maar hoe kan de gemeente dit blijven doen, zonder dat Amsterdammers zich ‘bespied’ voelen of dat hun vrijheden worden geschonden? Het Responsible Sensing Lab helpt de gemeente Amsterdam en haar bewoners door sensorsystemen te herontwerpen met de zorgen over vrijheid, controle en privacy van de Amsterdammer als startpunt. Thijs Turèl is programmamanager van AMS Institute op het Responsible Digitalization Programme en initiator van de transparante laadpaal. “Om beslissingen te nemen die over de publieke infrastructuur gaan, moet je wel weten hoe het systeem werkt. Alleen dan kun je keuzes maken en er iets van vinden.” Kun je uitleggen wat Responsible Sensing Lab precies doet? “We constateren dat de stad in hoog tempo aan het digitaliseren is om processen in de stad beter te kunnen meten, analyseren en uiteindelijk beter te besturen. Denk aan slimme energiesystemen, slim parkeren, het meten van druktes of het slim laden van elektrische auto’s. En dat brengt Amsterdam een beetje in een spagaat. Want aan de ene kant wil de stad digitale middelen ontwikkelen om de stad efficiënter te maken, veiliger, een hogere kwaliteit van leven te bieden.

Maar aan de andere kant zijn er zorgen wat de gevolgen zijn van al die digitale middelen voor onze privacy, autonomie en ons vermogen om steeds ingewikkeldere systemen te kunnen begrijpen. In het Responsible Sensing Lab bouwen we prototypes zodat we deze dilemma’s beter kunnen onderzoeken en ook nieuwe oplossingen kunnen testen, samen met de gemeente en Amsterdammers.” Noem eens een voorbeeld? “Neem bijvoorbeeld elektrische voertuigen. Er komen steeds meer elektrische auto’s bij maar daar is het huidige stroomnetwerk niet voor

24

gemaakt. Toch wil je ervoor zorgen dat je al die auto’s kunt laden. Daarom wordt er nu gewerkt aan ‘smart charging’. Dat betekent dat er een computer wordt verbonden aan de laadpaal, die gaat bepalen welke auto voorrang krijgt door rekening te houden met hoeveel stroom het netwerk aankan. Maar goed, op het moment dat je toch zo’n computer hebt geïnstalleerd, dan zijn er ineens nog veel meer overwegingen die je kunt meenemen in de beslissing wie voorrang krijgt. Is er veel of weinig zonnestroom beschikbaar, wat is de prijs van energie, waar moet je heen? En op termijn: Ben je een huisarts? Of heb je een deelauto? Maak jij gebruik van de auto, of je partner? Deze keuzes rond stroomverdeling zijn politieke afwegingen waar nog geen maatschappelijk debat over is geweest. De discussie is vergelijkbaar met het Amerikaanse debat rond netneutraliteit op het internet. In deze discussie ging het om of je stukken bandbreedte kan reserveren tegen betaling en hierdoor dus gegarandeerd sneller internet kan krijgen. De transparante laadpaal maakt de afwegingen inzichtelijk die worden gemaakt bij het groeiende probleem van het verdelen van de beperkte hoeveelheid stroom en draagt zo bij aan een geïnformeerd debat hierover.” Dat klinkt als een ingewikkelde beslisboom… “Inderdaad, en daarbij poppen er ook allemaal morele vragen op.

Want waarom zou een huisarts eerder mogen laden dan jij, als je weet dat hij gewoon op de fiets naar zijn praktijk gaat. Ons punt is dan ook dat je dit soort beslissingen publiekelijk moet maken. Maar dan moet je wel weten hoe zo’n systeem werkt, want dan pas kun je er wat van vinden.” Hoe maken jullie dat inzichtelijk? “Wij herontwerpen zo’n laadpaal, zodat hij maximaal inzicht geeft in hoe er keuzes worden gemaakt. Dus dat je als gebruiker kunt zien waarom het doet wat het doet. Niet vanuit het idee dat dit interessant is voor mensen, want het leven is te kort om je te interesseren hoe een laadpaal werkt, maar

vooral op het moment dat jij ergens naar toe moet en het opladen niet gelukt is. Dan wil je wél weten en begrijpen wat er gebeurd is.” Wat is er dan anders aan jullie laadpaal? “We hebben het prototype vooral gemaakt om het gesprek hierover aan te zwengelen. Dus zit er een monitor bij die naast de laadpaal hangt, die laat zien waarom de laadpaal heeft geladen en op welke manier er is geladen. Bijvoorbeeld: jij hebt voorrang gekregen omdat je een deelauto hebt. Of je hebt meer stroom gekregen omdat er meer duurzame energie beschikbaar was. Op die manier geef je iets technisch of digitaals een meer menselijk gezicht.” Wat is volgens jou het belang van technologie fysiek – dus in design laten zien? “Je kunt gewoon niet alles wegstoppen in een app of op een website. Sommige informatie moet je aan mensen geven op het moment dat het relevant is en dat moet je doen op een manier dat het begrijpelijk is. Op het moment dat jij die laadstekker in je auto doet, dat is het moment waarop je – kortstondig – geïnteresseerd bent in hoe het laadproces verloopt. En op dat moment wil je het fysiek zien.” Zijn er nog andere voorbeelden waar jullie mee bezig zijn? “Zeker, wat denk je van scanauto’s. Nu vooral bekend van parkeerbeheer. Maar er zijn nog meer scanauto’s die in de stad rondrijden, om bijvoorbeeld streetviewbeelden te verzamelen voor de gemeente.

En er wordt getest met een auto die rondrijdt en herkent waar grote stukken afval op straat liggen. Of een auto die reclames in de openbare ruimte kan herkennen, zodat de gemeente een belastingaangifte kan sturen naar de partijen die de reclame hebben opgehangen. Natuurlijk gaat de gemeente dan denken: goh, kunnen we al die sensoren niet beter op één auto zetten. Dat is een stuk efficiënter en goedkoper. Maar dan weet je als bewoner niet meer zo goed wat de auto dan scant. Checkt ‘ie nu of de verkeersborden scheef staan, of ik op de stoep fiets, of probeert ‘ie mijn gezicht te herkennen? En wat moet ik daar dan van vinden? Hoe maak je dat aan mensen duidelijk, op een intuïtieve manier waar mensen vertrouwen in kunnen hebben? Maar ook: wat voor type sensor kies je zodat je precies meet wat nodig is, en niet meer data verzamelt dan nodig.” Ja, dat kan vragen opleveren. Hoe lossen jullie dat op? “We hebben nu een paar eerste ontwerpschetsen

van een aangepaste scanauto gemaakt, zodat je als bewoner begrijpt waarvoor de sensoren worden gebruikt en waarbij je het ook kunt zien als er géén informatie wordt verzamelt. Want op het moment dat de scanauto steeds meer de ogen en de oren van de burgemeester wordt, dan is het goed om na te denken hoe we willen dat die oren en ogen eruit zien, en hoe die zich gedragen. Dan gaat het niet alleen meer om de meest goedkope oplossing, maar ook om ethische en morele afwegingen. In het Responsible Sensing Lab kunnen we die afwegingen letterlijk zichtbaar en voelbaar maken, te testen met Amsterdammers en te bepalen wat ons als stad het beste bevalt.” Hoe willen jullie dan de Amsterdammer betrekken bij het lab? “We gaan alle prototypes testen in de praktijk. Door onze samenwerking met het Marineterrein hebben we de mogelijkheid om op deze locatie in een publiekelijke setting interfaces en ontwerpen te testen en zo te onderzoeken hoe de Amsterdammer de prototypes gebruikt en ervaart. Daarnaast gaan we onder andere samenwerken met het Catalyst programma, dat onderzoek doet naar hoe bewoners omgaan met de slimme stad. In de ontwerpfase van de prototypes worden ook verschillende designsessies georganiseerd, waar bewoners bij worden betrokken. Zo zorgen wij ervoor dat Amsterdammers op verschillende momenten in het ontwerpproces invloed kunnen uitoefenen en een bijdrage kunnen leveren.”

25

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Open tenzij

Openbaarheid van informatie

De gemeente maakt en ontvangt bij het uitvoeren van haar taken informatie. Alle informatie die wordt gemaakt of ontvangen is openbaar voor iedereen, tenzij er wettelijke redenen zijn om de informatie (tijdelijk) niet in de openbaarheid te brengen.

Interview Sofie Bustraan

Open data Sinds mei 2019 heeft de gemeente Amsterdam een Informatiecommissaris: Sofie Bustraan. Het is haar taak om het uitgangspunt ‘open, tenzij’ aan te jagen, te borgen en waar nodig te handhaven. Drie vragen aan onze informatiecommissaris. Waarom is openbaarheid van informatie volgens jou zo belangrijk? “Het hebben van informatie is van belang om zeggenschap voor de Amsterdammer mogelijk te maken. Gelijkwaardigheid in samenwerking kan alleen als er sprake is van een gelijkwaardige informatiepositie. De informatie waarover de gemeente beschikt dient daarom zoveel mogelijk voor alle groepen in de samenleving beschikbaar en toegankelijk te zijn. Uiteraard rekening houdend met de privacy van de Amsterdammer.” “Neem bijvoorbeeld bestuurlijke besluitvorming. Het besluit is net zo belangrijk als de weg daar naar toe: welke scenario’s zijn afgewogen, welke gegevens en analyses liggen er aan ten grondslag, welke adviezen zijn ingewonnen. Kortom, de informatie en de gegevens die gebruikt zijn om de afweging te maken.

Door transparant en controleerbaar te zijn dwingen we onszelf zorgvuldig te zijn bij het uitgeven van publieke middelen, het toepassen van nieuwe technologie, het gebruik van data en het bewaren van de gegevens die ons zijn toevertrouwd.” Waarom is het juist in deze tijd van digitalisering extra belangrijk om transparant te zijn als overheid? “Door digitalisering neemt de vraag naar openbare informatie toe, waarbij verwacht wordt door Amsterdammers, bedrijven, start-ups, communities, dat deze informatie plaats- en tijdonafhankelijk beschikbaar is. En er komen nieuwe vraagstukken

26

bij over het verzamelen van data zoals van wie is de data en het delen daarvan. Vanuit mijn rol als Informatiecommissaris vind ik openbaarheid belangrijk. Het gaat enerzijds om het actief beschikbaar stellen van documenten en gegevens. Anderzijds om transparantie over het gebruiken van data en technologie. Het meest in het oog springen dan het gebruik van algoritmen. En dan niet alleen over het feit dat we het inzetten maar ook hoe we dat doen. Bijvoorbeeld: wat is de werking, welke data worden gebruikt, wat zijn de uitkomsten, welke besluiten worden daarop gebaseerd en welke waarborgen zijn er om ongewenste effecten te voorkomen. Ook over de vooraf gemaakte ethische afwegingen rondom de toepassing moet de gemeente open zijn.” Welke stappen worden in 2020 gezet? In 2020 ligt de nadruk op het: Actief openbaar maken van informatie. Startende met informatie over vergunningen (horeca en evenementen), besluitvormingsinformatie en informatie over Shell. Het verbeteren van het Wet Openbaar Bestuur proces. Bouwen aan een open organisatie waar het principe open, tenzij wordt toegepast. We starten campagnes, opleidingen, voorlichting, bijeenkomsten (extern en intern). █

█ █

Het in 2019 vernieuwde stedelijke platform data.amsterdam.nl, met 2.500 unieke bezoekers per dag, speelt een belangrijke rol bij het beschikbaar stellen van data aan en over de stad. Te denken valt aan data over cultuur, verkeersstromen, veiligheid, armoede, segregatie. De datasets zijn te vinden op: data.amsterdam.nl

Open source Door slim samen te werken met de markt in de inkoop en ontwikkeling van software, en te hergebruiken waar mogelijk, zijn wij in staat duurzame digitale dienstverlening te realiseren die herbruikbaar is door andere gemeentes, publieke instellingen en burgers. De uitgangspunten hierbij zijn zoveel mogelijk hergebruik van bestaande middelen (zoals open source), het gebruik van standaarden en het beschikbaar stellen van de door de gemeente Amsterdam ontwikkelde producten. Deze uitgangspunten zijn vastgelegd in de sourcingstrategie.

27

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Innoverend samenwerken Interview Gerhard Dekker

Amsterdam en andere gemeenten verbeteren de dienstverlening aan hun burgers steeds meer op basis van data. Het CBS speelt daarbij een belangrijke rol, omdat het over grote hoeveelheden data en expertise op dit gebied beschikt. Gerhard Dekker, Hoofd Ontwikkeling Regionale Datacentra & Regionale Datadiensten van het CBS, licht een en ander toe. De onderzoeksafdeling van de gemeente Amsterdam, OIS, en het CBS werken al jaren samen. Hoe helpen jullie de gemeente bij het ontwikkelen en testen van methoden om ongewenste bijeffecten rondom algoritmes te vermijden of te minimaliseren? “Inderdaad zien we dat algoritmen regelmatig een prominente plaats in het maatschappelijk debat innemen. Het centrale punt in het debat is dat voorspellende algoritmes groepskenmerken zouden toeschrijven aan een individu, of te wel discriminatie.” “Het CBS verricht al 120 jaar statistisch onderzoek en heeft een rijke traditie om hier op een technische wijze mee om te kunnen gaan. Dit doen we door bijvoorbeeld algoritmes en data zo te bewerken dat vormen van ongewenste bijeffecten worden voorkomen. Ook geldt dat de wijze waarop het CBS de data verzamelt, verwerkt en publiceert transparant, toetsbaar en navolgbaar moet zijn. Ook moeten de cijfers betrouwbaar en onafhankelijk zijn, van hoge kwaliteit en gelijktijdig beschikbaar voor iedereen.”

28

Een voorbeeld van een innovatief onderzoek en samenwerking met de gemeente Amsterdam met behulp van CBS data is de jaarlijkse Woonmonitor. Wat houdt dit precies in? “In de Amsterdamse Woonmonitor wordt een overzicht van de woningmarkt gegeven. In het afgelopen jaar is er met behulp van CBS-data onderzocht in hoeverre scheefwonen plaatsvond in Amsterdam. Naar aanleiding van het onderzoek kan beter worden bepaald of maatregelen rond scheefwonen wenselijk en mogelijk zijn. Amsterdam is wat dat betreft echt een voorloper, een uniek laboratorium. Alle kennis, vaardigheden en expertise zijn aanwezig. Hierbij delen we niet alleen kennis met Amsterdam, maar helpen zij ook om onze kennis te verrijken op basis van de kennis van de stad en de rijke traditie van onderzoek binnen de stad.” Hoe verzamelt het CBS nu data ten opzichte van vroeger? “We staan aan het begin van de revolutie van Internet of Things (IoT). Dus elk ‘ding’ wordt daarmee een dataproductie-eenheid: je telefoon, sensoren in de weg, maar ook social media. De vraag is of we deze bronnen kunnen gebruiken voor het maken van statistieken. Op dit moment wordt bijvoorbeeld bij het CBS een innovatietraject ingezet, waarbij bij een app is ontwikkeld die de verplaatsingen van respondenten in het kader van het mobiliteitsonderzoek bijhoudt. Dat is gebruiksvriendelijk en we zijn minder afhankelijk van het geheugen van respondenten.”

Hoe zie jij deze innoverende samenwerking? Hoe bepaal je dat, of je die nieuwe bronnen kunt gebruiken en nationaal ter beschikking kan stellen? “Amsterdam heeft de uitdagingen van een grote stad zoals schuldenproblematiek die wij in kaart kunnen brengen. Door die kennis uit te wisselen, kunnen schulden bijvoorbeeld eerder worden voorkomen. We zijn nu actief nieuwe samenwerkingen aan het opzetten met diverse partijen, zoals zorginstellingen, die ons kunnen helpen een beeld te geven van gezondheidsvraagstukken.” “De ontwikkelingen op het gebied van data en algoritmes gaan zo snel, dat het veel inspanning vergt om ze bij te houden. Gelukkig is er een groeiende community van experts binnen de overheid op dit gebied. Samen optrekken – zoals in het project AI met impact waarin we bijvoorbeeld ook zwerfafval herkennen met algoritmes - stelt ons in staat nieuwe kennis te verkrijgen. Daarom is de samenwerking met Amsterdam zo belangrijk. Door kennis en ervaringen van beide organisaties te bundelen ontstaat er een maatschappelijke meerwaarde. Amsterdam is een uiterst interessant ‘fieldlab’ om met de ontwikkeling van nieuwe databronnen verder te gaan. Hiermee gaan we samen de data uitdaging aan en onze dienstverlening wordt er alleen maar waardevoller van.”

Datastrategie

Data zijn niet neutraal. De Agenda Digitale Stad benadrukt de kansen rondom data, maar stelt wel dat er verantwoord met data moet worden om gegaan. Zo wordt er dataminimalisatie en datasoevereiniteit nagestreefd. In 2020 wordt de datastrategie gepresenteerd waarin staat hoe we in Amsterdam willen omgaan met data in de stad en hoe we dit gaan bereiken. Het partnerschap met het CBS is een mooi voorbeeld waarin de uitgangspunten voor de datastrategie vorm krijgt: █

█

Dataminimalisatie: middels het partnerschap brengen we dit principe in de praktijk. De gegevens die bij CBS worden opgeslagen hoeft de gemeente niet zelf op te slaan. Daarnaast zijn er strikte voorwaarden om deze gegevens te kunnen gebruiken. Door gebruik te maken van data die door andere overheidsinstellingen is opgeslagen, is de gemeente niet afhankelijk van private partijen om data te verkrijgen.

29

Terug naar de inhoudsopgave

Terug naar de inhoudsopgave

Hoe kiest

Amsterdam tech? Techroadmap 2020 vier technologieën

Zichtbaarheid

Waarom zet Amsterdam in op Artificial Intelligence, maar niet op blockchain? Waarom horen we nooit iets over gezichtsherkenning en wat gaat de stad doen met Artificial Intelligence? In de dynamiek van nieuwe technologieën is het een uitdaging om de juiste keuzes te maken om die innovatieve technologieën vast te pakken en te vertalen naar oplossingen die waarde opleveren voor de Amsterdammer. Hiervoor hanteert Amsterdam een aantal schalen om de juiste afweging te maken: Volgen, Investeren, Stimuleren of laten we de technologie over aan anderen? Volgens de Gartner Hype Cycle doorlopen nieuwe technologieën, voordat ze volledig alom omarmd worden, een route met vijf fases. Van een mogelijke doorbraak (startfase dankzij innovatie-trigger) naar een aantal succesverhalen (fase van grote verwachtingen) naar een afname in interesse

(fase van desillusie). Vanuit de daaropvolgende klim naar boven omdat de technologie zich positief ontwikkeld (fase van verlichting) naar uiteindelijk de meer mainstream benadering (fase van productiviteit). De volwassenheid van de technologie wordt bepaald op een schaal. Ook van belang is in hoeverre de maatschappij kijkt naar een technologie. Wat is de gemiddelde tendens. Welke groep zien we voorop staan. Vervolgens is de publieke perceptie van belang. Sommige technologieën veroorzaken onrust in de samenleving. Ten slotte kijken we naar waar de gemeente Amsterdam staat als het gaat om de technologie. Soms zijn we (al dan niet met partners) betrokken bij een proef, of is de toegevoegde waarde van een technologie voor de stad of de Amsterdammer evident. Mede op basis van dit gereedschap hebben we uit een lijst vier technologieën gekozen om verder uit te werken in de Tech Roadmap van 2020

Fase van grote verwachtingen

Fase van productiviteit Fase van desillusie

Fase van verlichting

Object herkenning

Digitale Identiteit

Wij mensen begrijpen de wereld om ons heen, bijvoorbeeld de bedoeling van een tekenaar. We herkennen een konijn in het echt, op een foto en als het een stripfiguur is. Een computer kan dat nog niet: die kan alleen vergelijken met wat hij eerder gezien heeft. Een computer kan met voldoende leermateriaal dit wel leren zodat automatische objectherkenning mogelijk wordt. In Amsterdam experimenteren we volop met objectherkenning. We willen bijvoorbeeld dat camera’s vuilnis op straat kunnen herkennen. Hoe zorgen we ervoor dat deze beelden de privacywet niet overtreedt en dat de beelden niet voor andere doeleinden wordt gebruikt? We zoeken uit wat de staat is van objectherkenning en wat eventuele toekomstige toepassingen en regels kunnen zijn voor de Digitale Stad.

Wie ben je online? Kun je online meerdere gezichten hebben? Hoe bewijs je wie je bent? Hoe organiseren we dat? Oftewel welke digitale identiteit heb je? Een nieuwe wet waardoor ook grote techbedrijven personen kunnen voorzien van een geverifieerde online identiteit, gaat impact hebben op de Amsterdammer en op de dienstverlening van Amsterdam. De Amsterdammer moet conform de Tadaprincipes volledige controle en eigenaarschap hebben van de eigen digitale identiteit en de kenmerken waarop deze is gebaseerd. Hoe gaan we om met zaken als gegevenskluizen en wat is de staat van de digitale identiteit van de Amsterdammer. Groeit de bewustwording van de gevormde identiteit die de Amsterdammer online achterlaat? Waar zijn de risico’s het grootst?