EU wil verplichte verwijdering afbeeldingen kindermisbruik. Een goede zaak?
Op 11 mei jl. kwam het nieuws naar buiten dat de EU nieuwe wetgeving wil die tech- en internetbedrijven verplicht om afbeeldingen van kindermisbruik in hun kanalen op te sporen, te verwijderen en aan politie door te geven. Dit zou een einde betekenen aan de vrijwilligheid waarvan tot nu toe sprake is. Het nieuws leidde tot positieve reacties maar ook zorgen omtrent de privacy. Terre des Hommes ondersteunt het EU voorstel, maar wil dat alle negatieve online content over kinderen wordt aangepakt, inclusief bv grooming en sextorsion.
Meldingen over materiaal kindermisbruik met 6000% toegenomen
Het probleem van het online verspreiden van materiaal van kindermisbruik is enorm. Binnen de Europese Unie nam het aantal meldingen hierover in de afgelopen tien jaar met maar liefst 6000% toe, aldus EU commissaris voor Binnenlandse Zaken Ylva Johansson. De Amerikaanse non-profit organisatie National Center for Missing and Exploited Children (NCMEC) ontving vorig jaar 85 miljoen bestanden met kindermisbruik, tegen 65 miljoen bestanden in 2020. Het merendeel van het online materiaal met kindermisbruik (62%) staat op EU servers. Terre des Hommes vindt het daarom dringend tijd voor Europese actie.
Inzet van AI-technieken
Dankzij moderne, artificial intelligence (AI) technieken is het mogelijk om fotomateriaal met kenmerken van seksueel misbruik automatisch en op grote schaal op te sporen. Daarbij worden unieke codes of 'hashes' gebruikt, die menselijke analisten aan bestaand fotomateriaal van kindermisbruik toekennen. Als online bestaande of nieuwe afbeeldingen opduiken, worden die met hulp van de codes of ‘hashes’ herkend. Dit soort AI-technieken, onder andere ontwikkeld door Microsoft, wordt op vrijwillige basis al ingezet.
Einde aan privacy in end-to-end versleutelde berichten bij kindermisbruik
De Europese Commissie wil de AI-technieken breder en verplicht inzetten, ook binnen end-to-end versleutelde chatfuncties, zoals bijvoorbeeld Whatsapp. Dit voornemen stuit met een beroep op de privacy op veel kritiek, niet in de laatste plaats vanuit de techbedrijven zelf.
Maar de EU wil naast afbeeldingen ook tekstberichten scannen op signalen van kindermisbruik. Hiertegen is de weerstand nog groter, omdat dit volgens critici foute regimes de mogelijkheid geeft op sleutelwoorden te scannen over dissidenten, protesten of LGTB gemeenschappen. De EU benadrukt dat alleen technieken worden toegelaten die op kindermisbruik scannen.
Terre des Hommes is van mening dat er meer moet worden gedaan om materiaal van kindermisbruik op te sporen en kinderen te beschermen. De verplichte inzet van automatische, AI-technieken is daarbij, gezien de omvang van het probleem, onvermijdelijk. En het moet mogelijk worden om deze technieken in end-to-end versleutelde berichten in te zetten en datgene wat gevonden wordt door politie en justitie te laten onderzoeken.
Het is daarbij essentieel dat de gebruikte technieken de fundamentele rechten van alle gebruikers dienen te beschermen en alleen kunnen zoeken naar informatie over kindermisbruik. Die waarborgen, onder andere door toetsing van de gebruikte technieken door de European Data Protection Board, zitten in het EU voorstel ingebed.
Terre des Hommes ondersteunt EU plannen en voert campagne
Zie hier het filmpje over de campagne #ChildSafetyOnlineNow