AI-beelden van kindermisbruik moet bestreden worden

Terre des Hommes maakt zich ernstig zorgen over het steeds groter wordende aanbod van beelden van kindermisbruik, die met behulp van AI zijn gemaakt. Julie Verhaar, directeur Terre des Hommes: “Ook al is het AI, deze vorm is net zo fout als het echte materiaal. Het maken en verspreiden ervan moet ten alle tijde voorkomen worden. Daarom ook een oproep aan overheden en techbedrijven: Kom met maatregelen om dit te stoppen!”

Vandaag is in het nieuws dat Europol eerder dit jaar leden van een criminele bende heeft opgepakt die zich bezighielden met het verspreiden van beelden van kindermisbruik die met behulp van AI zijn gegenereerd. De hoofdverdachte had een platform gebouwd waarop hij deze beelden verspreidde.

Zorgen

Verhaar is opgelucht dat deze mensen zijn opgepakt en dat AI-beelden van kindermisbruik gecriminaliseerd worden, maar maakt zich ook ernstig zorgen: “Er is een steeds groter wordend aanbod van beelden die op deze manier gemaakt worden. We staan nu nog aan het begin van AI, laten we het dan nu ook stoppen.”
Volgens recent onderzoek van de Internet Watch Foundation is het aanbod van AI-beelden van kindermisbruik het afgelopen half jaar met vierhonderd procent gestegen.

AI aanpakken

Voor wie denkt dat AI een oplossing is om echt kindermisbruik te voorkomen, zit er helemaal naast, aldus Verhaar: “AI moet leren. En leren doet het door naar echte beelden te kijken. Ook bestaat er een kans op hertraumatisering, want wat als een slachtoffer zichzelf of een situatie herkent? Daarnaast wordt het ook steeds moeilijker om nep van echt te onderscheiden. Nee, AI is net zo fout als het echte materiaal.”

Om dit foute AI-materiaal aan te pakken, pleit Verhaar voor duidelijke maatregelen: “Overheden moeten met regels komen die techbedrijven verplichten dat dit soort AI-kunstjes voorkomen worden. Techbedrijven, ook social media platforms, moeten er alles aan doen zodat het niet meer gemaakt en verspreid kan worden.”