Un de cada cinc joves d’entre 18 i 21 anys afirma haver estat víctima de deepfakes(imatges sexualitzades amb intel·ligència artificial) durant la seva infància o adolescència. Aquesta és una de les dades més alarmants de l’informe Xarxes que atrapen: l'explotació sexual de la infància i l'adolescència en entorns digitals, elaborat per Save the Children. L'estudi analitza com internet, les xarxes socials i altres tecnologies no només faciliten la captació i l'exposició als riscos relacionats amb l'explotació sexual, sinó que sovint també són l’escenari on es cometen aquestes violències contra infants i adolescents. 

Basat en una enquesta a més de 1.000 joves d’arreu de l’estat espanyol, revela que el 97% d’ells afirma haver patit algun tipus de violència sexual en entorns digitals quan eren menors. Segons l’organització, aquestes formes de violències inclouen pràctiques com el grooming (contacte amb finalitats sexuals per part de persones adultes), el sèxting sense consentiment o la difusió no autoritzada d’imatges íntimes.

El 97% dels joves afirma haver patit algun tipus de violència sexual en entorns digitals quan eren menors

Les xifres oficials: només la punta de l’iceberg

Segons dades dels Mossos d’Esquadra, l’any 2024 es van registrar a Catalunya 814 denúncies per delictes cibernètics contra menors, de les quals 72 eren per delictes sexuals. Tot i això, la responsable de polítiques d’infància de Save the Children, Ona Lorda, adverteix que aquestes dades “només representen la punta de l’iceberg” i afegeix que “la majoria de casos no arriben a conèixer-se, sigui per l’absència de denúncia o per les dificultats de detecció”. Una dificultat que s’agreuja especialment quan els fets ocorren en l’àmbit digital. L’informe també recull les dades del Centre Nacional per a Menors Desapareguts i Explotats (NCMEC), que l’any 2024 va registrar més de 19,8 milions de denúncies per continguts relacionats amb l’abús sexual infantil.

IA i sexualització digital: una nova amenaça

Una de les tendències més preocupants és l’ús creixent de la intel·ligència artificial (IA) per generar contingut sexualitzat de menors. Els anomenats deepfakes o ultrafalsificacions, creats a partir de fotografies quotidianes sense intenció sexual, però que són manipulades amb finalitats d’explotació o gratificació sexual per part d’adults. Sovint, aquests continguts no superen el llindar legal per ser considerats delicte, però generen preocupació pel risc de normalitzar la sexualització infantil.

En aquest context, un de cada cinc joves enquestats afirma que algú va compartir amb tercers imatges creades amb IA que els mostraven nus quan eren menors d’edat, sense el seu consentiment. L’informe també reflecteix una preocupant banalització de les violències sexuals digitals entre els joves. Un 27% reconeix haver compartit voluntàriament missatges, fotos o vídeos de caràcter sexual durant la infància o l’adolescència i un 65% dels joves no considera perillós reenviar imatges íntimes d’altres persones sense el seu consentiment. Pel que fa als motius per compartir imatges íntimes pròpies, el 48% desconeix que pot ser una pràctica perillosa, el 46% ho veu com una acció normal o sense conseqüències, i el 42% busca atenció o validació. 

Les plataformes més habituals per establir aquest contacte són Instagram (68%), WhatsApp (48%) i X (44%)

Per altra banda, l’estudi analitza els canals més utilitzats per a adults que contacten amb menors amb finalitats sexuals. Un 33% dels joves enquestats assegura haver tingut aquest tipus de contacte a través d’internet, amb un impacte més gran entre les noies (36%) que entre els nois (26%). Pel que fa als canals més habituals per establir aquest contacte són Instagram (68%), WhatsApp (48%), X (44%), i també plataformes de videojocs o streaming (44%). Davant d’aquesta realitat, Save the Children insta les institucions a desplegar totes les mesures previstes a la Llei de protecció integral a la infància i l’adolescència i a reforçar la protecció dels menors en l’entorn digital.