Brief regering : Schriftelijke beantwoording openstaande vragen, gesteld tijdens het Commissiedebat opkomende en toekomstige technologieën op 30 januari 2025, over deepfakeporno en de handhaving hiervan

Nr. 1305
BRIEF VAN DE MINISTER EN STAATSSECRETARIS VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 4 maart 2025

Zoals door de Staatssecretaris Digitalisering en Koninkrijksrelaties toegezegd tijdens
het commissiedebat Opkomende en toekomstige technologieën op 30 januari jl., sturen
wij u de verzochte brief over deepfakeporno en de handhaving hiervan. In deze brief
worden openstaande vragen van Kamerlid Krul (CDA) beantwoord.

Antwoorden op openstaande vragen van Kamerlid Krul (CDA)

1. Zou er in de handhaving van deepfakeporno een rol kunnen liggen voor de nieuwe
autoriteit die ook kinderporno moet aanpakken?

De Autoriteit online Terroristisch en Kinderpornografisch materiaal (ATKM) heeft wettelijke
bevoegdheden om op te treden tegen online kinderpornografisch materiaal en online
terroristisch materiaal. Op dit moment wordt verdere uitbreiding van het mandaat van
de ATKM, door te verbreden naar andere typen online content, niet opportuun geacht.
De ATKM is een nieuwe en relatief jonge autoriteit, waarvan de wettelijke bevoegdheden
voor kinderpornografisch materiaal pas op 1 juli jl. in werking zijn getreden. Naast
het uitsturen van verwijderbevelen legt de ATKM momenteel de laatste hand aan het
(technisch) verder inregelen en bestendigen van haar werkprocessen en uitvoeringspraktijk.
Uitbreiding van de ATKM door extra wettelijke taken toe te voegen ligt dan ook niet
in de rede op dit moment.

2. Is voldoende duidelijk dat slachtoffers zich bij Helpwanted kunnen melden?

Offlimits werkt voortdurend aan het onder de aandacht brengen van de hulplijn Helpwanted.
Zo is Helpwanted op 14 oktober jl. de campagne «Ik bepaal zelf» gestart. De boodschap
van deze campagne is dat alleen jijzelf bepaalt wie jouw foto’s, video’s en privégegevens
mag zien. Als iemand anders dit ongevraagd online of met anderen deelt, dan overschrijdt
diegene jouw grens en is dat vaak strafbaar. Om bij slachtoffers duidelijk te maken
dat zij zich in dergelijke gevallen kunnen melden bij Helpwanted, begint volgende
week een tweede ronde van deze campagne. Slachtoffers weten Helpwanted steeds beter
te vinden. Het aantal meldingen bij Helpwanted (dit zijn directe contacten via chat,
e-mail en telefoon) neemt ieder jaar toe. In 2024 ging het om een toename van 31%.

3. Lukt het Helpwanted om de verwijderverzoeken bij deepfakeporno in te dienen? En
hoeveel van die verzoeken worden gehonoreerd? Wat is daar de doorlooptijd van?

Helpwanted heeft in 2024 geen verwijderverzoeken uitgestuurd namens specifieke individuen
voor AI gegenereerde content op pornoplatforms. Wel heeft Helpwanted voor een grote
aanbieder van dit materiaal een handhavingsverzoek ingediend bij de Autoriteit Persoonsgegevens,
voor alle Nederlandse slachtoffers die hierop afgebeeld staan, omdat een verwijderverzoek
bij de aanbieder niet werd gehonoreerd.1 Bij de hulplijn zijn wel een aantal meldingen (5 in totaal) ontvangen, waarbij dergelijk
beeldmateriaal openbaar gedeeld is op een pornowebsite. In deze gevallen is aan de
hulpvrager geadviseerd om zelf een verwijderverzoek naar het platform te sturen. Dit
advies wordt vaker gehanteerd als het gaat om kleinere platforms waar Helpwanted nog
geen formele betrouwbare flagger status heeft, aangezien in zulke gevallen vaak niet
of erg laat gereageerd wordt op een verwijderverzoek van Helpwanted. Verwijderverzoeken
die vanuit een individu worden ingediend, worden dan vaak sneller gehonoreerd.

In totaal heeft Helpwanted in 2024 59 meldingen ontvangen over gemanipuleerd beeldmateriaal.
Hierbij ging het in 33 gevallen om AI gegenereerde naaktbeelden, en in 26 gevallen
om bewerkt materiaal (denk hierbij aan gefotoshopte beelden). Bij dit soort casussen
gaat het vaak om sextortion, waarbij de beelden nog niet openbaar verschenen zijn,
of dat de beelden in besloten groepen worden gedeeld. Casussen waarbij de beelden
direct op pornoplatforms gedeeld worden komen niet vaak voorbij op de hulplijn.

4. Wat doen we aan bewustwording op dit vlak?

Offlimits zet zich op verschillende manieren in om de bewustwording te vergroten,
zoals via campagnes, voorlichting, onderzoek, samenwerking en kennisdeling. Het (h)erkennen
van de impact van deepfakeporno speelt daarbij een belangrijke rol.

In 2024 is voor de Week van de Lentekriebels van Rutgers een product ontwikkeld voor
basisschooldocenten, gericht op het bevorderen van online weerbaarheid. Dit jaar wordt
voor de Week van de Lentekriebels, die start op 31 maart a.s., opnieuw samengewerkt.
Ditmaal met materialen voor opvoeders over digitale opvoeding. Ook heeft Offlimits
dit jaar samen met de Kindertelefoon praktische handvatten opgesteld die ouders kunnen
helpen om met hun kind in gesprek te gaan over wat er online gebeurt. Offlimits richt
zich echter vooral op het voorkomen van daderschap, in plaats van alleen op slachtofferpreventie.
Een voorbeeld hiervan is het lopende onderzoek van de Universiteit Utrecht, in samenwerking
met o.a. Stichting Halt, Rutgers, de Politie, De Waag en Helpwanted. Dit onderzoek
kijkt naar de kenmerken van jonge plegers van ongewenste sexting en naar de effectiviteit
van bestaande preventie- en interventieprogramma’s. Ook werkt Offlimits via bewustwording
aan het stimuleren van «upstanders» om online actie te ondernemen en anderen te steunen
bij grensoverschrijdend gedrag. Voor slachtoffers van online seksueel geweld, zoals
deepfakeporno, heeft Offlimits ook e-health modules ontwikkeld ter bevordering van
hun herstel. Deze zullen vanaf maart as. kosteloos beschikbaar zijn voor de doelgroep.

5. Daarnaast lezen we dat Helpwanted naar verwachting een formele status krijgt. Wat
betekent dit precies? Hoe gaat dit helpen? En wanneer is dat het geval?

Conform artikel 22 van de digitaledienstenverordening (Digital Services Act/DSA) kan
Helpwanted de formele status van betrouwbare flagger aanvragen. Meldingen die gedaan
worden door een betrouwbare flagger moeten door tussenhandeldiensten prioritair en
onverwijld worden verwerkt en afgehandeld. De Autoriteit Consument en Markt (ACM)
is sinds 3 februari jl. volledig bevoegd als digitialedienstencoördinator. Dit betekent
dat zij de bevoegde autoriteit is om de formele status van betrouwbare flagger toe
te kennen aan een verzoekende organisatie. Helpwanted heeft direct op 3 februari jl.
de aanvraag voor betrouwbare flagger ingediend bij de ACM. Op het moment dat Helpwanted
de status heeft verkregen en van mening is dat de meldingen niet prioritair en onverwijld
worden verwerkt en afgehandeld, kan het de ACM vragen om hierop handhavend op te treden.

De Minister van Justitie en Veiligheid,
D.M. van Weel

De Staatssecretaris van Justitie en Veiligheid,
I. Coenradie