0702 - Technische sessie over Algoritmes huisstijl
Tekst van het document
Technische sessie over Algoritmes.
Yugesh Raghoenath
Inhoud. Algoritmes. Verantwoord algoritmes toepassen. Vragen.
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
1 2 3
2
Algoritme
Een algoritme is:
Een algoritme doet:
Een algoritme is gebaseerd op:
De toepassingen van algoritmes kunnen gebruik maken van data over:
Geautomatiseerde software
Voorspellingen
Data analyse
Burgers
Neemt besluiten Geeft adviezen
Statistiek Zelflerende logica
Bedrijven De fysieke stad En meer
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
3
Waarom gebruiken we algoritmes? De Gemeente Rotterdam zet algoritmes in om: • • •
Preventief in te spelen op de behoefte van Rotterdam Proactief in te spelen op maatschappelijke uitdagingen Betere en slimmere diensten te leveren
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
4
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
Een veld in ontwikkeling Veel proefondervindelijke experimenten Weinig algoritmes succesol in gebruik
Richtlijnen voor het toepassen van algoritmes door overheden •
Ministerie van Justitie en Veiligheid
White Paper on Artificial Intelligence – a European approach to excellence and trust •
High-Level Expert Group on Artificial Intelligence (Europese Commissie)
Onderzoek Rotterdamse Rekenkamer •
In uitvoering
Rapport: Aandacht voor algoritmes •
Algemene Rekenkamer
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
6
Aandachtspunten Algemene Rekenkamer – Aandacht voor Algoritmes: • • • •
Uitlegbaarheid aan burgers Algoritmes kunnen tot discriminatie kunnen leiden De gewenste en ongewenste geleerde patronen zijn op voorhand niet te bepalen Afhankelijkheid van externe leveranciers is ongewenst met het oog op risicoanalyses, risicobeheersing en toetsbaarheid
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
7
Kader in ontwikkeling Er is een algoritmekader in ontwikkeling waarin wij de volgende punten adresseren: • • •
Onze richtinggevende waarden De borging van die waarden bij toepassingen Controleerbaarheid middels transparantie en uitlegbaarheid
Dit kader ontwikkelen wij met: • • • • • • •
Den Haag Utrecht Amsterdam Limburg Rijkswaterstaat Politie Kadaster
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
8
Ethische waarden In de visie van de Europese Commissie en in vrijwel alle strategische nota’s over Artificial Intelligence, algoritmes en data van de Europese lidstaten zijn de volgende acht waarden terug te vinden: • • • •
• • • •
Rechtvaardigheid Veiligheid Transparantie Non discriminatie Privacy Diversiteit Betrouwbaarheid Menselijke controle en toezicht
Overeenkomstig met de waarden in het rapport van de Algemene Rekenkamer. Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
9
Uitlijningsmodel: Hoe gaan wij met waarden om? Waarden uitlijnen, geen afvinklijstjes Waarden zijn contextafhankelijk niet generiek Afwegingen en keuzes in de context voldoen aan de volgende vereisten: • • • •
De uitlijning en de keuzes worden geëxpliciteerd en gedocumenteerd Documentatie maakt onderdeel uit van het verantwoordingsdossier Documentatie is navolgbaar door derden, zoals bijvoorbeeld: auditoren, controllers, rekenkamer, burgers of bedrijven. Documentatie is opvraagbaar door ieder die de consequenties ondervindt
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
10
Algoritmeregister Handvat in de vastlegging van informatie aangaande algoritmes. Dit biedt mogelijkheden om transparantie in te richten ten behoeve van: • • • •
Interne controle Controle van burgers en bedrijven Controle van journalisten Controle van de politiek
Toevoeging op het dataverwerkingsregister: • •
Nauwe samenwerking met privacy. Het werkveld privacy is volwassener en kunnen we van leren.
Stand van zaken: • • •
Eerste versie interne register is technisch gereed. Organisatorische implementatie worden afspraken over gemaakt. Landelijke samenwerking voor ontwikkeling standaard: ook voor extern register.
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
11
Inkoopvoorwaarden Er zijn Inkoopvoorwaarden geïmplementeerd. Met deze voorwaarden borgen wij dat onze waarden ook stand houden wanneer wij werk uitbesteden. Enkele aandachtspunten zijn: • • • •
Transparantie Uitlegbaarheid Toetsbaarheid Eigenaarschap data en algoritme
Technische sessie over Algoritmes | Yugesh Raghoenath | 02-11-2021 Rotterdam.
12
Bedankt voor uw aandacht. Yugesh Raghoenath