El govern francès ha anunciat a principis d’any la presentació d’una denúncia contra Grok, la intel·ligència artificial (IA) generativa de X, per crear i difondre continguts de caràcter sexista i sexual “manifestament il·legal”. En els últims dies, la xarxa social ha permès als usuaris generar i difondre imatges i vídeos de persones, en especial de dones i menors d’edat, despullades i sense cap mena de consentiment.  

La iniciativa de França ha estat impulsada per tres ministeris diferents: economia, IA i economia digital i igualtat entre homes i dones. Per part de la companyia d’Elon Musk, ha reconegut que existeixen errors en les salvaguardes que han creat “imatges que mostren a menors amb roba mínima” a X i ha apuntat que ja estan millorant el sistema per solucionar el problema.

“El CSAM (material d’abús sexual infantil, en anglès) és il·legal i està prohibit”, ha reconegut Grok en resposta a un usuari. En concret, les polítiques de la plataforma estableixen que, per complir la llei, no permet els usos del seu servei per “representar imatges de persones de manera pornogràfica” ni “la sexualització o explotació de nens”.