Veelgestelde vragen

Met kunstmatige intelligentie (AI) kunnen daders seksuele beelden van kinderen maken zonder dat een kind fysiek aanwezig is. Ze gebruiken hierbij vaak gewone foto’s van sociale media en manipuleren die via software (Undress AI) zodat het kind naakt lijkt. Daarnaast kunnen daders via een simpele tekstopdracht (een prompt) volledig nieuwe, levensechte misbruikbeelden genereren.

Hoewel de beelden technisch gezien ‘nep’ zijn, zijn de gevolgen en de schade voor het kind echt. Daders gebruiken deze AI-gegenereerde beelden namelijk ook om kinderen te chanteren (sextortion). Kinderen worden hiermee gedwongen om steeds weer nieuwe, seksueel getinte échte foto’s en video’s te sturen. De chantage stopt nooit vanzelf, en de angst dat de beelden online geplaatst worden, en daar voor altijd blijven staan, is gigantisch.

Groot, en het groeit angstaanjagend snel. Dit komt mede door de laagdrempeligheid van AI-tools voor daders.

Eén op de twee jongeren in Nederland tussen de 12 en 25 jaar krijgt te maken met online seksueel misbruik of online seksuele intimidatie. Elke minuut worden wereldwijd meer dan drie kinderen online uitgebuit. Achter elk cijfer schuilt een kind dat gevangen zit in een web van digitale manipulatie en chantage.

Nee, deze gedachte is een gevaarlijke misvatting. Ten eerste is het materiaal vaak gebaseerd op bestaande foto’s (zoals een klassenfoto of Instagram-selfie) van echte kinderen. De psychologische schade en de schending van hun privacy zijn reëel. Bovendien verdwijnen beelden op het internet vrijwel nooit meer.

Ten tweede toont onderzoek aan dat de massale beschikbaarheid van dit materiaal seksueel geweld tegen kinderen normaliseert. Het bekijken en genereren hiervan verlaagt de morele drempel voor daders, wat de stap naar fysiek contactmisbruik met kinderen versnelt.

Het gevaar van de vraag ‘is het niet minder erg?’ is precies dit: het creëert een veiligheidszone voor gedrag dat kinderen in gevaar brengt. Die zone bestaat niet.

Ja. Elke foto die van een kind online staat, of die nu door het kind zelf is geplaatst (zoals een selfie op bijvoorbeeld Instagram) of door anderen online is gezet (zoals een foto op de website van de school, of een vakantiefoto), kan worden gebruikt als input voor AI-manipulatie.

Daders hoeven geen expliciete afbeeldingen te stelen. Een gewone foto van een kind is voldoende om via undress-AI misbruikmateriaal te genereren.

Praktische tips om kinderen online te beschermen vind je hier.

Ja. Daders hebben geen expliciete afbeeldingen nodig; elke onschuldige foto die online staat (een selfie, een vakantiekiekje of een schoolfoto) kan als input dienen voor AI-manipulatie.

Ons advies: Deel foto’s van (klein)kinderen alleen in besloten groepen met mensen die je persoonlijk kent en vertrouwt, en zet accounts van kinderen altijd op privé. Als er iets misgaat, is dat nooit de schuld van het kind.

Dat begrijpen we. Maar helaas zijn sociale media nooit een veilige plek geweest om foto’s van kinderen te delen. Zeker niet nu AI het mogelijk maakt om gewone foto’s te bewerken tot misbruikmateriaal. Foto’s van kinderen worden vaker opgeslagen dan je weet of ziet. Een onschuldige vakantiefoto kan later tegen een kind worden gebruikt. Ons advies: deel foto’s van (klein)kinderen alleen in besloten groepen met mensen die je persoonlijk kent, en zet accounts altijd op privé.

In Nederland is het bezit en verspreiden van dit materiaal strafbaar, ook als het volledig door AI is gegenereerd. Recent verbood de rechter in Amsterdam nog de ‘uitkleedfunctie’ van chatbot Grok op platform X na een rechtszaak van Offlimits.

Het probleem is dat de wetgeving achterloopt op de technologie en handhavingsdiensten omkomen in het werk. Voor elke geblokkeerde tool duiken er online drie nieuwe op. Er is proactieve, Europese wetgeving nodig die de techsector dwingt de poort te sluiten. Jouw donatie maakt o.a. deze cruciale beleidsbeïnvloeding mogelijk.

Om de overheid ter verantwoording te roepen en kinderen nú te beschermen, werkt Terre des Hommes op verschillende fronten samen met partnerorganisaties. Terre des Hommes is lid van ECLAG, een coalitie van meer dan 80 organisaties die druk zet op Europese wetgevers. Voor Nederland is deze samenwerking essentieel: aangezien ons land een wereldwijde spil is in de opslag van misbruikmateriaal, zijn Europese wetten het krachtigste wapen om dit probleem bij de wortel aan te pakken.

Ja, dat is een confronterende werkelijkheid. Uit de meest recente Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen blijkt dat de groep jonger wordt: maar liefst 23 procent van de verdachten van seksueel geweld tegen kinderen die in beeld zijn bij het Openbaar Ministerie, is zelf minderjarig. Bijna een kwart is dus zelf nog kind. Daarnaast is het overgrote deel (ruim 95 procent) mannelijk; een jongen zoals we in de commercial zien, die overigens is gespeeld door een meerderjarige acteur.

De setting in de commercial – een gewone jongenskamer, een normaal gezin – is dan ook pijnlijk realistisch. Dit speelt zich niet af in duistere achterkamertjes, maar op slaapkamers die er precies zo uitzien als die van je eigen (klein)kind. Door de normalisering van seksueel getinte beelden online en de laagdrempeligheid van anonieme AI-tools, is de drempel om online te experimenteren heel laag geworden. Alleen zijn de consequenties vandaag de dag door de technologie vele malen ernstiger en blijven beelden online rondzingen.

Wat hierbij meespeelt is dat de morele norm online snel kan vervagen. Door de enorme hoeveelheid extreme netwerken en beelden op het internet, beseffen minderjarigen vaak minder goed waar de grens ligt. Omdat er online altijd wel iets extremers te vinden is, kan het eigen grensoverschrijdende gedrag in hun ogen ‘relatief normaal’ gaan lijken. Er is dan ook meer onderzoek nodig om beter te begrijpen waarom dit toeneemt. Alleen door dit gesprek open te voeren, kunnen we ouders en minderjarigen bewust maken, jongeren de juiste ondersteuning bieden en kinderen beter beschermen.

Die bezorgdheid begrijpen we heel goed. Toch laat de praktijk zien dat juist het verzwijgen van dit onderwerp de risico’s vergroot. Wat we niet weten of niet begrijpen, wordt onzichtbaar en daarmee extra gevaarlijk. Terre des Hommes wil dit onderwerp bespreekbaar maken, omdat openheid de belangrijkste basis is voor de veiligheid van kinderen.

Wie niet weet waar kinderen online mee in aanraking kunnen komen, kan hen er ook niet tegen beschermen. Deze campagne laat op een integere manier zien hoe digitale mechanismen werken, zónder misbruik expliciet in beeld te brengen. Het doel is niet om angst te zaaien, maar om ouders, opvoeders en professionals de kennis te geven die nodig is om het gesprek met kinderen aan te gaan.

Wanneer kinderen merken dat dit soort onderwerpen thuis of op school bespreekbaar zijn, durven ze sneller aan de bel te trekken als er online iets naars gebeurt. Zwijgen werkt helaas altijd in het voordeel van de anonimiteit op het internet. Door de stilte te doorbreken, hopen we samen een veiligere online wereld voor ieder kind te creëren.

We werken op drie fronten:

1. We maken kinderen en ouders weerbaarder via voorlichting en het aanreiken van ‘tools’.
2. We willen de mening van kinderen laten klinken in onze pleitbezorging zowel nationaal als op EU level.
3. In Den Haag en Brussel lobbyen we voor strengere regelgeving op Europees niveau en voor een betere handhaving van de wetgeving op nationaal niveau.

Terre des Hommes beschermt kinderen tegen uitbuiting en dat probleem breidt zich snel uit naar de digitale wereld. Online seksueel misbruik kent geen grenzen en Nederland bevindt zich helaas in de absolute brandhaard van dit mondiale probleem:

• De daders en slachtoffers wonen ook hier: het treft ook Nederlandse kinderen. In Nederland hebben heel veel kinderen een smartphone en toegang tot het internet.
• Nederland is een digitale ‘host’: door onze goede en snelle internetinfrastructuur huren criminele netwerken wereldwijd massaal serverruimte bij Nederlandse hostingproviders. Beruchte, illegale platforms (zoals recent de site Motherless) bleken jarenlang op Nederlandse servers te draaien. Wij exporteren hiermee onbedoeld digitaal leed.

Zet sociale media-accounts op privé. Praat open met je kind over wat het deelt en met wie. Praktische tips om kinderen online te beschermen vind je hier.

Wijs je kind op Offlimits als veilig, anoniem meldpunt voor als er iets misgaat online bereikbaar via hulplijn.offlimits.nl of +31 20 261 52 75. Offlimits verleent hulp aan kinderen, jongeren én volwassenen – ook als je je zorgen maakt over het gedrag van een ander. Maak duidelijk aan je kind: als er iets fout gaat, is het nooit hun schuld.