TikTok, una de les xarxes socials més utilitzades per infants i adolescents, s’ha convertit també en un espai de circulació de material d’abús sexual infantil. Una investigació de Maldita.es ha identificat 1.182 vídeos i imatges de menors víctimes d’abusos, que acumulaven fins a 48 milions de visualitzacions, així com més de 26.000 comptes vinculats a possibles agressors o consumidors d’aquest material.

La investigació, elaborada durant més d’un mes, alerta que aquests continguts circulen amb poques restriccions i que alguns perfils els utilitzen per captar compradors i dirigir-los cap a canals privats d’altres plataformes. El mitjà de verificació també denuncia que els mecanismes de detecció i moderació de TikTok no han actuat de manera efectiva davant les alertes que ha traslladat a la companyia.

Les dades han provocat una resposta del Govern de l’Estat espanyol. El Ministeri de Joventut i Infància ha demanat a la Fiscalia General de l’Estat que investigui els fets i ha plantejat, si es considera necessari, la possibilitat de paralitzar els serveis de TikTok a l’Estat espanyol.

Més de mil vídeos i 48 milions de visualitzacions

La investigació de Maldita.es ha localitzat 1.182 vídeos i imatges amb material d’abús sexual infantil. En conjunt, aquests continguts acumulaven fins a 48 milions de visualitzacions. El mitjà també ha identificat centenars de perfils que comparteixen aquest material i que, en alguns casos, el comercialitzen o l’utilitzen com a reclam per captar possibles compradors.

Una investigació de Maldita.es identifica 1.182 vídeos i imatges amb material d’abús sexual infantil a TikTok, que acumulen 48 milions de visualitzacions.

Segons les dades publicades per la investigació, els comptes no es limiten a distribuir continguts: també formen una xarxa d’intercanvi i promoció de material il·legal. Maldita.es ha registrat 12.068 comentaris en castellà relacionats amb la petició, l’intercanvi o la venda de vídeos d’abusos, procedents de 7.725 comptes.

La investigació també ha identificat comentaris en què alguns usuaris asseguren que el material que ofereixen correspon als seus fills, germans o nebots. En almenys 55 missatges, els titulars dels comptes fan referència explícita a familiars menors d’edat.

TikTok només retira el 10% dels vídeos denunciats

Un dels aspectes més preocupants de la investigació és la resposta de la plataforma davant les denúncies. Maldita.es va comunicar a TikTok la presència de 50 vídeos amb contingut il·legal, però la companyia només en va retirar el 10%. A més, un 59% dels comptes denunciats continuaven actius el dilluns 9 de novembre.

La situació contrasta amb les normes de la mateixa xarxa social, que prohibeixen de manera permanent els continguts d’abús sexual infantil. La investigació assenyala que alguns vídeos continuaven accessibles mesos després de la seva publicació, malgrat que la seva naturalesa il·legal era identificable.

L’anàlisi detecta més de 20.000 comptes potencialment vinculats a depredadors sexuals i més de 200 perfils que comparteixen o comercialitzen aquest material.

Carlos Hernández-Echevarría, director adjunt de Maldita.es, denuncia que els sistemes de la plataforma no només no aconsegueixen frenar el problema, sinó que poden contribuir a amplificar-lo mitjançant les recomanacions i altres funcionalitats. "Els sistemes de TikTok no només no estan aconseguint fer front al problema, sinó que, de fet, l’estan agreujant a través dels sistemes de recomanació i altres funcions", alerta.

L’algoritme i els comentaris faciliten la circulació del material

La investigació també posa el focus en el funcionament de les eines de descoberta de TikTok. Segons Maldita.es, els perfils identificats utilitzen vídeos i imatges per crear una mena de catàleg públic que serveix de reclam. En alguns casos, les publicacions inclouen referències als preus del material o indicacions per continuar la conversa en altres canals.

Els comentaris es converteixen així en una via per derivar els interessats cap a grups o canals privats de serveis com Telegram o Zangi, on es facilita l’intercanvi o la comercialització de continguts il·legals.

TikTok només ha retirat el 10% dels 50 vídeos denunciats per la investigació, i el 59% dels comptes reportats continuaven actius.

Maldita.es assegura que, durant els 35 dies de seguiment, les eines de cerca i recomanació de TikTok van facilitar l’accés a continguts relacionats amb l’explotació sexual infantil. La investigació sosté que, a partir de determinades cerques, el sistema podia continuar mostrant publicacions sexualitzades de menors al mur de recomanacions.

La denúncia també inclou emissions en directe en què menors d’edat haurien rebut peticions de contingut sexual a canvi de regals virtuals de la plataforma, que es poden adquirir amb diners reals. Segons les dades recollides per Antena 3 a partir de la investigació, s’han identificat 91 emissions d’aquest tipus en 17 països.

El Govern demana a la Fiscalia que investigui TikTok

La publicació de la investigació ha provocat una resposta institucional. El Ministeri de Joventut i Infància, encapçalat per Sira Rego, ha remès un escrit a la Fiscalia General de l’Estat perquè investigui els presumptes casos d’abús sexual infantil detectats a TikTok i adopti les mesures necessàries per protegir els menors afectats.

El departament considera que els fets documentats són d’"extrema gravetat" i denuncia possibles deficiències en els mecanismes de detecció i moderació de continguts, així com en el funcionament dels sistemes de recomanació de la plataforma.

El Ministeri de Joventut i Infància ha demanat a la Fiscalia que investigui els fets i no descarta paralitzar els serveis de TikTok a l’Estat espanyol si es considera necessari.

El Ministeri també ha plantejat la possibilitat de paralitzar els serveis de TikTok a l’Estat espanyol, si la Fiscalia ho considera oportú. Paral·lelament, Sira Rego ha demanat una reunió urgent amb els representants de la companyia per conèixer les explicacions de la plataforma i les mesures que preveu adoptar per protegir infants i adolescents.

La petició obre la porta a una possible intervenció institucional sobre el funcionament de la xarxa social, més enllà de les denúncies individuals de continguts.

La pressió reguladora sobre TikTok també creix a Europa

El cas arriba en un moment de més escrutini sobre les pràctiques de TikTok per part de les institucions europees. La Comissió Europea ha advertit recentment dels riscos associats al sistema de recomanació de la plataforma i de la seva capacitat per mantenir els usuaris connectats mitjançant continguts potencialment perjudicials.

Brussel·les ha posat el focus en l’anomenat efecte “madriguera de conill”, pel qual les recomanacions successives poden conduir els usuaris cap a continguts cada vegada més específics o problemàtics. Entre els riscos assenyalats hi ha els continguts relacionats amb la salut mental i la insatisfacció amb la imatge corporal.

Aquestes qüestions s’emmarquen en les obligacions de les grans plataformes digitals d’avaluar i reduir els riscos sistèmics dels seus serveis, especialment pel que fa a la protecció dels menors.

La investigació de Maldita.es torna a situar al centre del debat la responsabilitat de les plataformes en la detecció de continguts il·legals i en el disseny dels algoritmes que determinen què veu cada usuari. El repte no és només eliminar els vídeos denunciats, sinó impedir que els sistemes de recomanació i les eines de descoberta contribueixin a fer circular material d’abús sexual infantil.