[23bb005674] Bijlage 8 behorende bij 23bb005665 over 23bb004551 Afdoeningsvoorstel toezegging pauzeren ontwikkeling risico inschattingsmodel (21bb11878)

Gemeente Rotterdam

Werk en Inkomen Werk, Inkomen, Nationaal Programma Rotterdam Zuid en EU-arbeidsmigranten Tim Versnel MSc Postadres: Postbus 70012 3000 KP Rotterdam Website: www.rotterdam.nl Van: David Meijer Telefoon: 14 010 E-mail: bbo@rotterdam.nl

Aan de gemeenteraad

Ons kenmerk: M2306-3581 - 23b0006232 Onderwerp: Pauzeren ontwikkeling risicoinschattingsmodel Datum: B&W 27 juni 2023

Op welke gronden deze brief?/Waarom nu voorgelegd? In de wethoudersbrief 'Voortgangsbrief over heronderzoeken en het risicoinschattingsmodel' (21bb11878) is toegezegd uw raad te informeren over het onderzoek naar hoe het risico-inschattingsmodel van heronderzoeken kan voldoen aan de vereisten van deze tijd, en tegelijkertijd doelmatig ingezet kan worden. In deze brief informeren wij uw raad over het resultaat van dit onderzoek. Relatie met het coalitieakkoord/collegewerkprogramma/eerder aangenomen moties en gedane toezeggingen: • Coalitieakkoord Één stad • Toezegging: Wethoudersbrief, Voortgangsbrief over heronderzoeken en het risicoinschattingsmodel (21bb11878), • Wethoudersbrief: update risico-inschattingsmodel (21bb15787), Toelichting: In de afgelopen jaren is uw raad meerdere keren geïnformeerd over het risicoinschattingsmodeldat tussen 2018 en 2021 is gebruikt heronderzoeken. Het risicoinschattingsmodel bevatte een algoritme dat bijstandsgerechtigden selecteerde voor een heronderzoek. Na verschillende mediapublicaties en een onderzoek van de Rekenkamer in 2021, Gekleurde Technologie (21bb4962), is gewezen op het gebruik van proxy's. Een proxy is een variabel die indirect een relatie heeft met gevoelige variabelen zoals nationaliteit en geslacht. Na het Rekenkamerrapport zijn deze proxy's uit voorzorg uit het risico-inschattingsmodel gehaald.

Dat risico-inschattingsmodel wordt sindsdien ook niet meer gebruikt. In de afgelopen periode is doorgewerkt aan een risico-inschattingsmodel dat, conform het idee van het glassbox model, veel meer transparantie zou moeten geven in de verwerking van de variabelen en de daadwerkelijke selectie van Rotterdammers voor heronderzoeken. De bouw kent vele hobbels en uitdagingen om te kunnen voldoen aan de technische en juridische kaders. In de tussentijd heeft ook het denken rondom algoritmen een (verdere) vlucht genomen. Het nieuwe risico-inschattingsmodel dient te voldoen aan kaders die wij met uw raad hebben afgesproken. In de brief 'opvolgen aanbevelingen risico-inschattingsmodel' (21bb3025) is toegezegd dat het nieuwe risico-inschattingsmodel geen vooringenomen proxy's bevat, voldoet aan de transparantie eisen en doelmatig is.

Blad: Datum: Ons kenmerk:

2/3 27 juni 2023 M2306-3581

In het coalitieakkoord 'Een stad' is daarnaast het volgende opgenomen: "De gemeente past geen algoritmen toe die direct of indirect beslissingen baseren op gegevens die terug te voeren zijn naar afkomst." Besluit Alhoewel wij van mening zijn dat een risico-inschattingsmodel gebaseerd op een algoritme in de Rotterdamse rechtmatigheidsaanpak van toegevoegde waarde kan zijn, wegen wij het voorkomen van discriminatie zwaar, evenals het respecteren van de vigerende privacy- en datawetgeving. Het ontwikkelen van een risico-inschattingsmodel is juridisch gezien niet onmogelijkmaar dermate complex, tijdrovend en kostbaar gebleken dat de bouw niet meer opweegt tegen het beslag dat het op ambtelijke capaciteit en middelen legt. Daarom is besloten om de ontwikkeling van het risico-inschattingsmodel uit pragmatische, bedrijfsmatige overwegingen te pauzeren. Mochten er in de toekomst wel mogelijkheden komen dan zullen wij met positieve interesse een mogelijk vervolg onderzoeken. Bedrijfsmatige keuze De huidige (juridische) complexiteit van het ontwikkelen van een dergelijk model kost zogezegd veel (schaarse) capaciteit. Het is van belang om de kosten op te wegen tegen de mogelijke voordelen van een dergelijke early adopterspositie inzake de bouw van dit model. Het is nu nog onzeker of er daadwerkelijk een effectief algoritme ontwikkeld kan worden gezien de juridische en ethische eisen.

Het voortzetten van de ontwikkeling kan betekenen dat er een forse investering wordt gedaan in een niet effectief risicoinschattingsmodel. Hoewel het een interessante technologie blijft die ons in de toekomst zou kunnen helpen, is dit om praktische en inhoudelijke redenen niet het juiste moment om de ontwikkeling voort te zetten. Uiteraard blijven wij de mogelijkheden van deze technologie nauwgezet volgen. Voorkomen van discriminatie en vooringenomenheid In de afgelopen tijd is er met correlatiechecks onderzoek gedaan naar hoe het risicoinschattingsmodel kan voldoen aan de afgesproken kaders. Een correlatiecheck maakt het verband inzichtelijk tussen variabelen voor het risico-inschattingsmodel en discriminatoire variabelen, zoals geslacht en nationaliteit. Wanneer een variabele significant correleert met een discriminatoire variabele, dan zal deze uit het model gehaald worden. In de beantwoording op schriftelijke vragen (23bb2383), vraag7, is medegedeeld dat wij onderzoeken hoe we dit kunnen uitvoeren volgens de AVG-regelgeving. Deze regelgeving is bijzonder strikt voor het verwerken van gevoelige persoonsgegevens. Om alle (schijn van) discriminatie en vooringenomenheid te voorkomen, is het van belang dat mogelijke samenhang met een verboden discriminatiegrond met een correlatiecheck wordt uitgesloten.

We hebben correlatiechecks uitgevoerd op basis van de beschikbare data binnen Werk en Inkomen die worden vastgelegd voor de uitvoering van de Participatiewet. Maar deze volstaan niet om te voldoen aan de met de gemeenteraad afgesproken kaders. Zo wordt hier geen informatie vastgelegd over afkomst. Binnen de Basisregistratie Personen (BRP) is wel data aanwezig voor het uitvoeren van een correlatiecheck, denk bijvoorbeeld aan informatie over herkomstland of historische nationaliteit. Echter is er geen grondslag in de relevante wet- en regelgeving voor het verstrekken van persoonsgegevens voor dit doel en daardoor komt de rechtmatigheid van de verstrekking in het geding.

Blad: Datum: Ons kenmerk:

3/3 27 juni 2023 M2306-3581

Relevante persoonsgegevens kunnen daarom niet voor een correlatiecheck worden verstrekt. Ook andere technieken om vooringenomenheid uit het model te halen zijn onderzocht. Maar ook deze alternatieven konden er niet voor zorgen dat het algoritme geen vooringenomenheid zou bevatten en zijn daarom niet geschikt bevonden. Vervolg heronderzoeken Heronderzoek blijft een belangrijk middel om de Participatiewet uit te voeren en de rechtmatigheid van uitkeringen te borgen. Het onderzoek heeft als doel om te beoordelen of de uitkering nog aansluit op de huidige situatie. Het is een moment om fouten snel te achterhalen en om zo grote terugvorderingen te voorkomen. Ook zonder gebruik van een algoritme kunnen heronderzoeken uitgevoerd worden. Bijstandsgerechtigden worden op dit moment geselecteerd voor een heronderzoek op basis van twee methoden: 1. 2.

Op basis van de a-selecte methode Bijstandsgerechtigden die nog nooit een heronderzoek hebben gehad, waarbij wij de langst niet gesprokene als eerste uitnodigen.

Tot slot Wij hopen uw raad hiermee voldoende te hebben geïnformeerd over de stand van zaken rondom de ontwikkeling van het nieuwe risico-inschattingsmodel en waarom de ontw· epauzeerd wordt. Wij Verzoeken uw raad om de toezegging (2lbb11878) hier. ee als af daan te beschouwen. urgemeester en wethouders van Rotterdam,