RIB 25 104 Bijlage B Factsheet AI-verordening voor bestuurders

Factsheet AI verordening voor bestuurders Wat is de AI verordening?

Waarom is AI (en AI-wetgeving) belangrijk?

De AI verordening bevat de Europese eisen en kaders voor de ontwikkeling en het gebruik van AI-systemen. Het betreft productveiligheid wetgeving, waarbij AI-systemen worden ingedeeld in verschillende risicocategorieën. Bepaalde AI-systemen worden verboden. Aan andere AI-systemen worden (strenge) regels gesteld. Het doel is om innovatie te stimuleren, de grondrechten en veiligheid te beschermen, en democratische controle mogelijk te maken.

Het gebruik van AI neemt steeds verder toe, niet alleen vanwege de voordelen die de technologie biedt, maar ook omdat AI steeds vaker wordt geïntegreerd in traditionele software. De meeste overheidsinstellingen maken inmiddels al gebruik van AI1, maar in veel gevallen ontbreekt adequaat toezicht op het functioneren van deze systemen2(zie afbeeldingen onder*). Dit brengt risico’s met zich mee, aangezien AIsystemen mogelijk de veiligheid en grondrechten kunnen schaden. Om ervoor te zorgen dat AI op een betrouwbare en verantwoorde manier wordt ingezet en om grote misstanden te voorkomen, introduceert de AI-verordening bindende regels voor de ontwikkeling en het gebruik van AI-systemen.

Wat betekent dit voor de organisatie? De nieuwe regels hebben impact op de inkoop, ontwikkeling, en het gebruik van AI-systemen in uw organisatie. Om aan deze regels te voldoen zijn maatregelen nodig zoals inrichten van governance, opstellen van documentatie, en het trainen van medewerkers die in aanraking komen met AI-systemen. *´Focus op AI binnen de rijksoverheid´(2024) 1

Governance Er moeten interne beleidskaders en procedures worden geïmplementeerd, gericht op onder meer de inkoop en het beheer van AI-systemen. Dit omvat richtlijnen voor risicobeheer, kwaliteitsbeheer en compliance met de geldende regelgeving.

Implementatie bij de rijksoverheid De rijksbrede implementatie van de AI verordening richt zich op 2 pijlers. PILAAR

Gericht op het in kaart brengen en organiseren van AI-toepassingen binnen overheidsorganisaties.

Documentatie AI-systemen moeten juist worden geclassificeerd en geïnventariseerd. Hoog risico AI-systemen en impactvolle algoritmes moeten worden opgenomen in het algoritmeregister.

Training Gebruikers zullen kennis en expertise moeten opbouwen om te voldoen aan de verplichtingen rondom AI geletterdheid.

Naleving binnen sector overheid

PILAAR

Juridische implementatie en communicatie

Gericht op wetgeving, toezicht en samenwerking binnen Nederland en de EU. Er is doorlopende ondersteuning beschikbaar bij de implementatie van de AIverordening voor departementen en uitvoerings-organisaties, middels de werkgroep ´Rijksbrede Implementatie AI Act´ en de vraagbaak die te bereiken is via ai-verordening@minbzk.nl. Voor aanvullende richtlijnen kunt u daarnaast terecht bij het Algoritmekader3 en de website van Digitale Overheid4.

Consequenties van niet-naleving

Kosten

Reputatieschade

Compliance aan de AI verordening zal kosten met zich meebrengen, onder andere voor de initiële implementatie, het inrichten en onderhouden van de governance, en personele kosten voor training, monitoring, en naleving. Hoewel deze kosten een investering vergen, zijn ze verwaarloosbaar in vergelijking met de financiële sancties en personele kosten die noncompliance kan veroorzaken.

Financiële sancties

De overheid heeft toegezegd meer te gaan doen om problemen met algoritmen te voorkomen.5 Het is belangrijk om het vertrouwen van burgers te waarborgen door aan alle vereisten te voldoen, en hiermee tevens negatieve media-aandacht te voorkomen. De AI-verordening legt hoge boetes op voor niet-naleving van de verordening, welke kunnen oplopen tot 35 miljoen euro of 7% van de jaaromzet, afhankelijk van welk bedrag hoger is.

De verordening treedt gefaseerd in werking. Voor overheidsorganisaties zijn de belangrijkste data:

1) Focus op AI bij de rijksoverheid | Rapport | Algemene Rekenkamer 2) Rijksoverheid schat risico's AI vaak niet in | Nieuwsbericht | Algemene Rekenkamer 3) Algoritmekader - Algoritmekader 2.1

4) AI-verordening AI (Artificiële Intelligentie) - Digitale Overheid 5) Overheid gaat meer doen om problemen algoritmen te voorkomen | Nieuwsbericht | Rijksoverheid.nl

.