Schriftelijke vragen : Het onbetrouwbare algoritme dat jongeren als crimineel bestempelt

Vraag 1

Bent u bekend met het bericht «Onbetrouwbaar algoritme bestempelt jongeren als toekomstig
crimineel» (Follow the Money, 20 januari)?1

Vraag 2

Kunt u volledig uitleggen wat het doel en de functie is van het Preselect Recidive-algoritme?
Hoe hangt dit samen met andere risicotaxatie-instrumenten?

Vraag 3

Welke soortgelijke instrumenten worden ook ingezet in de jeugdstrafrechtketen? Kunt
u toelichten welke rol deze spelen, de relevante documentatie delen, en de systemen
opnemen in het Algoritmeregister?

Vraag 4

Hoe worden het Dynamisch Risico Profiel (DRP) en het Algemeen Recidive Risico (ARR)
berekend? Welke rol spelen deze profielen in het jeugdrecht?

Vraag 5

Klopt het dat u overwogen hebt Preselect uit werking te nemen? Waarom heeft het gebruik
van het algoritme toch doorgang gevonden? Geldt dit ook voor soortgelijke instrumenten?

Vraag 6

Waaruit blijkt dat Preselect voldoet aan wetenschappelijke normen en betrouwbaar genoeg
is om gebruikt te worden in besluitvorming die kwetsbare jongeren aangaat?

Vraag 7

Kunt u alle documentatie over de ontwikkeling, technische werking en toepassing van
dit algoritme delen met de Kamer?

Vraag 8

Is er een Privacy Impact Assessment (PIA) uitgevoerd voor het gebruik van Preselect?
Wat waren de resultaten van deze PIA en is daar opvolging aan gegeven? Wanneer is
voor het laatst een PIA uitgevoerd op Preselect en wanneer is de eerstvolgende PIA
voorzien?

Vraag 9

Welke instanties maken gebruik van Preselect? Kunt u per instantie uitleggen met welk
doel het algoritme wordt toegepast?

Vraag 10

Hoe zorgt u ervoor dat instanties die Preselect momenteel gebruiken om voorspellende
lijsten met verdachte jongeren op te stellen, deze werkwijze zo snel mogelijk stopzetten?

Vraag 11

Is er één standaard vastgesteld voor het verantwoorde gebruik van Preselect? Zo ja,
kunt u deze delen? Zo niet, kunt u deze zo snel mogelijk ontwikkelen?

Vraag 12

Op basis van welke factoren berekent Preselect een score voor jongeren? Kunt u een
lijst maken van alle bronnen die het algoritme raadpleegt?

Vraag 13

Worden registraties van verdenkingen die nooit zijn bewezen of hebben geleid tot vrijspraak
ook meegerekend in de risicoscore van een jongere?

Vraag 14

Hoe voorkomt u dat er ongelijke behandeling plaatsvindt bij hetzelfde misdrijf door
het gebruik van het algoritme?

Vraag 15

Vindt u het terecht dat variabelen als «omstander» of «huisgenoot» als risicofactor
kunnen worden beschouwd in het Preselect-algoritme? Zo ja, kunt u aangeven hoe u dat
relateert aan het concept «afgeleide schuld»?

Vraag 16

Op welke data is Preselect getraind? Is deze data zuiver en voldoende representatief?
Is er gecontroleerd voor (onbewuste en/of systematische) vooroordelen in de trainingsdata?

Vraag 17

Deelt u de zorgen dat een algoritme in grote mate sturend kan zijn voor de betrokken
(politie)medewerker die een casus beoordeelt? Hoe wordt waardevolle menselijke tussenkomst
gegarandeerd?

Vraag 18

Met welke regelmaat wordt de werking en het gebruik van Preselect onafhankelijk doorgelicht?
Kunt u alle bij u bekende onderzoeken naar dit algoritme delen met de Kamer?

Vraag 19

Wat is het percentage valspositieven dat Preselect oplevert? Hoe vaak komt het voor
dat een jongere ten onrechte een te hoge of lage score wordt toebedeeld?

Vraag 20

Waarom staat het algoritme niet opgenomen in het Algoritmeregister? Kunt u alsnog
het algoritme zo snel als mogelijk volledig transparant in het Algoritmeregister opnemen?

Vraag 21

Gaat u ouders, jongeren en jeugdrechtadvocaten voortaan altijd informeren als en hoe
Preselect is toegepast in de besluitvorming? Op welke termijn en op welke manier gaat
u dit doen?

Vraag 22

Bent u bereid om een inschatting te (laten) maken of jongeren onrechtmatig of incorrect
zijn geprofileerd door het gebruik van Preselect? Kunt u de eventuele gevolgen die
dit heeft gehad ook inschatten?

Vraag 23

Gaat u jongeren, ouders en jeugdrechtadvocaten in staat stellen om bezwaar te maken
als zij vermoeden dat het algoritme heeft geleid tot een verkeerde uitkomst?

Vraag 24

Deelt u de conclusie van de vier wetenschappers van de Radboud Universiteit dat «de
voorspellende waarde van Preselect beperkt [is] en voor jongeren riskante gevolgen
[kan] hebben»?

Vraag 25

Kunt u het onderzoek van de Universiteit van Amsterdam uit 2023, waaruit naar eigen
zeggen blijkt dat de voorspellende waarde van Preselect laag is, delen met de Kamer?

Vraag 26

Hoe is er opvolging gegeven om de tekortkomingen die de Algemene Rekenkamer in 2022
constateerde bij de inzet van algoritmes in het jeugdrecht? Zijn alle aanbevelingen
geïmplementeerd?2
3

Vraag 27

Op welke manier wordt Preselect nu doorontwikkeld? Kunt u de Kamer blijvend informeren
over het gebruik en de doorontwikkeling van het algoritme?

Vraag 28

Kunt u deze vragen afzonderlijk van elkaar en zo spoedig mogelijk beantwoorden?