Brief regering : Vaststelling autoriteiten voor de bescherming van de grondrechten onder de EU AI-verordening

Nr. 3979
BRIEF VAN DE MINISTER VAN ECONOMISCHE ZAKEN EN DE STAATSSECRETARISSEN VAN BINNENLANDSE
ZAKEN EN KONINKRIJKSRELATIES EN VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 19 november 2024

In deze brief informeren wij u over de (voorlopige) vaststelling van autoriteiten
voor de bescherming van de grondrechten in het kader van de Europese AI-verordening.
Lidstaten moeten voor 2 november 2024 een lijst opstellen en openbaar maken en de
Commissie hierover informeren (artikel 77 lid 2).1 Het gaat om het vaststellen van toezichthouders die nu al krachtens Unierecht een
taak hebben in het toezicht op de bescherming van de grondrechten, waaronder het recht
op non-discriminatie en de bescherming van persoonsgegevens (AVG). De lijst is een
«levend document» en kan worden aangepast.

Op 1 augustus jl. is de AI-verordening in werking getreden om ervoor te zorgen dat
AI (kunstmatige intelligentie) veilig en betrouwbaar wordt ontwikkeld en toegepast
in de EU. Een belangrijke mijlpaal; met deze Europese eisen en kaders voor AI kunnen
we van de (economische) kansen van AI profiteren, worden de risico’s van AI-systemen
en toepassingen aangepakt en stimuleren we de ontwikkeling van betrouwbare AI. De
AI-verordening wordt stapsgewijs ingevoerd, stelt eisen aan de ontwikkeling en het
gebruik van AI-systemen en kent een risico gebaseerde benadering, waarbij naarmate
het risico toeneemt het aantal verplichtingen ook toeneemt. De inrichting van het
nationale toezicht op de AI-verordening wordt momenteel verder uitgewerkt. Voor 2 augustus
2025 zullen lidstaten nationale toezichthouders moeten aanwijzen. Zij zullen toezien
op de naleving van de AI-verordening, inclusief de bepalingen daarin die grondrechten
beschermen. In de AI-verordening worden deze toezichthouders als markttoezichthouder2 aangeduid.

Autoriteiten die grondrechten beschermen en de AI-verordening

Artikel 77 van de AI-verordening is opgesteld om bestaande autoriteiten, die zich
richten op de handhaving en naleving van Unierecht gericht op de bescherming van grondrechten,
te ondersteunen in het toezicht als in hun veld AI-systemen worden gebruikt en te
laten beschikken over de juiste bevoegdheden om dit toezicht goed in te vullen. Artikel
77 van de AI-verordening omschrijft de grondrechtenautoriteiten als «Nationale overheidsinstanties
of -organen die de nakoming van verplichtingen krachtens Unierecht ter bescherming
van grondrechten, waaronder het recht op non-discriminatie, met betrekking tot het
gebruik van de in bijlage III vermelde AI-systemen met een hoog risico controleren
of handhaven.» Deze autoriteiten kunnen in hun werkzaamheden ook te maken krijgen
met gebruik van AI. De AI-verordening kent hen daartoe een aantal bevoegdheden toe:

– het opvragen van opgestelde of bijgehouden documentatie van hoog risico AI-systemen
(bijlage III uit de AI-verordening), als dat nodig is voor het doeltreffend uitoefenen
van de bevoegdheden onder hun mandaat en binnen de grenzen van hun rechtsgebied;

– een verzoek indienen bij de markttoezichthouder om AI-systemen met een hoog risico
te laten testen.3

Daarnaast dient de markttoezichthouder:

– de relevante grondrechtenautoriteit te informeren bij ernstige incidenten;4

– de relevante grondrechtenautoriteit te informeren over AI-systemen waarbij een risico
voor grondrechten is vastgesteld5 en bij melding van ernstige incidenten;6

– in het geval er corrigerende maatregelen moeten worden genomen, werkt de relevante
markttoezichthouder hierin samen met de grondrechtenautoriteit.

De markttoezichthouders kunnen hoogrisico-AI-systemen controleren om vast te stellen
of zij voldoen aan de plichten en eisen, waaronder ook het uitvoeren van een grondrechten-risicoanalyse
en goed databeheer (privacy & non-discriminatie), en in sommige gevallen een grondrechten-impactassessment.
Het is daarom belangrijk de rol van de grondrechtenautoriteiten in samenhang te zien
met de taken en bevoegdheden van de nog aan te wijzen markttoezichthouders op de AI-verordening.
In de besluitvorming over de inrichting van het toezicht op de AI-verordening zal
de samenstelling van de lijst met grondrechtenautoriteiten en de invulling en verhoudingen
tussen de diverse toezichthouders worden meegenomen.

Vastgestelde grondrechtenautoriteiten

Voor nu wordt op grond van artikel 77 van de AI-verordening het College voor de Rechten
van de Mens (CRM) vastgesteld als grondrechtenautoriteit in zijn hoedanigheid als
nationaal instituut voor de rechten van de mens en als gelijkebehandelingsorgaan als
bedoeld in richtlijnen 2024/1499 en 2024/1500. Daarnaast heeft het CRM op grond van
de Wet College voor de rechten van de mens de bevoegdheid om te oordelen in zaken
over (on)gelijke behandeling, zoals onder meer geregeld in de Algemene wet gelijke
behandeling.

Daarnaast worden de Autoriteit Persoonsgegevens (AP), de procureur-generaal bij de
Hoge Raad (PGHR), de voorzitter van de Afdeling Bestuursrechtspraak Raad van State
(ABRvS), het gerechtsbestuur van de Centrale Raad van Beroep (CRvB) en het gerechtsbestuur
van het College van Beroep voor het bedrijfsleven (CBb) vastgesteld als grondrechtenautoriteiten
voor het gegevensbeschermingsrecht. Zij zijn vanwege de Algemene Verordening Gegevensbescherming
(AVG, 2016/679)7 en Richtlijn voor gegevensbescherming bij rechtshandhaving (RGR, 2016/680)8 bevoegd om toezicht te houden op normen in de AVG en de RGR die ertoe strekken het
gegevensbeschermingsrecht te eerbiedigen. De rechtsprekende macht heeft hierbij een
bijzondere rol, vanwege haar onafhankelijkheid en het waarborgen van het onafhankelijke
toezicht in het kader van de uitoefening van gerechtelijke taken.

Het kabinet sluit hiermee grotendeels aan bij de adviezen die de toezichthouders hebben
gegeven over de vaststelling van grondrechtenautoriteiten. In het tweede tussenadvies9, dat door de AP en de Rijksinspectie Digitale Infrastructuur in opdracht van het
kabinet samen met andere relevante toezichthouders is opgesteld, wordt geadviseerd
om het CRM en de AP vast te stellen als grondrechtenautoriteiten.10

Vervolg

De lijst (zie bijlage) met grondrechtenautoriteiten wordt op 19 november 2024 met
de Europese Commissie gedeeld en kan indien nodig worden aangepast. Er wordt nog verder
onderzocht of ook andere autoriteiten als grondrechtenautoriteiten vastgesteld dienen
te worden. De lijst zal, indien dat het geval is, worden aangevuld. De taken van de
grondrechtenautoriteiten onder de AI-verordening zien op artikelen die van toepassing
zijn bij hoogrisico-AI-systemen. Dit betekent dat de eerste taken pas effectief kunnen
worden vanaf 2 augustus 2026, het moment waarop de eerste bepalingen voor hoogrisico-AI-systemen
van kracht worden.

De komende periode werkt het kabinet verder aan de inrichting van het toezicht op
de AI-verordening. Hierbij is het van belang dat het toezicht op heldere en effectieve
wijze wordt ingericht in aansluiting op bestaande mandaten, kennis en expertise binnen
het toezichtlandschap.

Goede samenwerking bij de uitvoering van de beoogde toezichtstaken, zeker ook tussen
de grondrechtenautoriteiten en de markttoezichthouders, is hierbij cruciaal.

De Minister van Economische Zaken,
D.S. Beljaarts

De Staatssecretaris Digitalisering en Koninkrijksrelaties, F.Z. Szabó

De Staatssecretaris van Justitie en Veiligheid,
T.H.D. Struycken