Presentatie 23-2-23 Gemeente Delft Ethics
Tekst van het document
Verantwoord gebruik van Algoritmes Stefan Buijsman
Korte intro in AI
Patronen en machine learning
Voordelen
Ethiek in technologie ▪ Waarden komen terecht in technologie die wij ontwerpen
Voorkomen van discriminatie ▪ Fairness maatstaven
▪ AUC = accuracy, IND = Demographic parity, SP = Equalized Odds, SF = equal precision (TP / (TP + FP))
Privacy & Fairness ▪ Andere behandeling (zoals een lening krijgen ondanks een lager inkomen) kan signaleren dat je in groep B zit ▪ Om discriminatie op deze manier te meten/voorkomen heb je privacygevoelige informatie nodig
En ethiek is breder dan de techniek zelf
EU Wetgeving
EU waarden voor AI ▪ Human agency and oversight ▪ Technical robustness and safety ▪ Privacy and data governance
▪ Transparency ▪ Diversity, non-discrimination and fairness
▪ Societal and environmental wellbeing ▪ Accountability
Waarden vertalen naar ontwerpeisen
Waarden Normen
Ontwerpeisen
Waarden moeten vertaald naar ontwerpeisen Privacy
Waarde
Normen
Ontwerpeisen
Coarse graining
Risk mitigation
Autonomy
Data clustering
Pseudoanonymization
Data quality
Security
Nationale richtlijnen
Extra initiatieven
Vier kernwaarden: Respect, Openheid, Eigen Verantwoordelijkheid en Professionaliteit