Nota van bevindingen - Onderzoek algoritmen gemeente IJsselstein

Onderzoeksvraag 3: “Wat doet de gemeente om de kansen die het inzetten van algoritmen biedt te benutten en de risico’s bij de inzet van algoritmen te beheersen?” Het antwoord op deze vraag ligt in het verlengde van het antwoord op onderzoeksvraag 2. Binnen de uitvoering wordt er in termen van kansen waar mogelijk gekeken naar het efficiënter inrichten van werkprocessen, en de inzet van algoritmen speelt hierbij een rol. Dit gebeurt deels binnen de gemeente zelf, maar voor een belangrijk deel ook bij de Gemeenschappelijke Regelingen en externe toeleveranciers. Gezien de huidige kennisbasis binnen de gemeente (en de GR’en) gaat het dusver enkel over de inzet van human learning algoritmen. Er wordt voor zover wij kunnen vaststellen nog niets of weinig gedaan om de kansen van machine learning algoritmen te benutten. In termen van risico’s wordt er vanuit de aanwezige domeinkennis nagedacht over het systeem, de werkwijze en inrichting. Dat lijkt, ondanks een aantal aandachtspunten, in de onderzochte casussen grotendeels goed te gaan. Er is echter geen sprake van systematische risicobeheersing, bijvoorbeeld door standaard bepaalde processen, analyses of reflecties te doorlopen. Op het niveau van strategie en beleid wordt er weinig gedaan om structureel de kansen van algoritmen te verzilveren en de risico’s van algoritmen te beheersen.

Er is geen expliciete visie, strategie of gemeentelijk beleidskader. Het omgaan met kansen en risico’s gebeurt primair bottom-up. Wel zijn er kaders, waarborgen en ‘checks and balances’ op aanpalende thema’s zoals

20

Dialogic innovatie ● interactie

informatiebeveiliging en privacy. Deze kaders zijn echter niet volledig geschikt voor een beoordeling van de kansen en risico’s omtrent algoritmen. In lijn met het ontbreken van een dergelijke visie en strategie, wordt er ook niet of nauwelijks bewust geïnvesteerd in menselijk en technologisch kapitaal dat benodigd is om adequaat om te gaan met de kansen en risico’s van algoritmen. Tegelijkertijd is IJsselstein een kleine gemeente en is het niet realistisch om met deze schaal een koploper op dit gebied te zijn. Raadsleden geven wel aan een vroege of late volger te willen zijn; een ambitie waarvoor vervolgstappen benodigd zijn.

Dialogic innovatie ● interactie

21

5 Overkoepelende bevindingen Hieronder presenteren we de overkoepelende bevindingen van het onderzoek op basis van de antwoorden op de drie onderzoeksvragen (zie 3.2 en 4.3). 1. De inzet van algoritmen lijkt beperkt. De inzet van algoritmen vindt hoofdzakelijk namens de gemeente bij gemeenschappelijke regelingen en externe partijen plaats. De inzet van algoritmen betreft momenteel uitsluitend human learning algoritmen. De risico’s van de inzet van de algoritmen in de onderzochte casussen zijn beperkt. Er is echter geen volledig zicht op de risico’s, omdat de gemeente geen centraal overzicht heeft van de inzet van algoritmen. 2. Het bewustzijnsniveau ten aanzien van algoritmen binnen de gemeente is beperkt. Een hoger basisniveau is noodzakelijk voor het benutten van de kansen en het beheersen van de risico’s, zeker wanneer algoritmen en hun context complexer worden. 3. Medewerkers zien potentieel om meer te doen met algoritmen. Dit blijkt onder meer uit het hoge aantal algoritmen waar respondenten in dit onderzoek meerwaarde in zien. 4. Er is beperkte kennis en kunde op het gebied van machine learning algoritmen. Hierdoor is de organisatie niet in staat om goed om te kunnen gaan met de kansen en risico’s van dergelijke complexere algoritmen. 5. Een afgebakende visie op de doelen en ambities t.a.v. de inzet van algoritmen ontbreekt.

Hiermee ontbreekt een basis voor eventuele vervolgstappen die het college en de organisatie kan nemen op het gebied van algoritmen. 6. Een specifiek beleidskader voor de inzet van algoritmen ontbreekt. Er wordt verwezen naar aanpalende beleidskaders voor informatiebeveiliging en privacy, maar deze volstaan echter niet volledig voor de omgang met kansen en risico’s van algoritmen. Het is nu onduidelijk vanuit welke uitgangspunten en met welke eventuele procedures er binnen de gemeente met/aan algoritmen gewerkt moet worden. 7. Er is geen strategie om systematisch inspanningen te plegen ten behoeve van de kansen en risico’s van algoritmen. Er is geen structurele inzet op het verzilveren van de kansen en het beheersen van de risico’s van algoritmen.

Dialogic innovatie & interactie Hooghiemstraplein 33 3514 AX Utrecht 030-215 05 80 www.dialogic.nl