La Comissió Europea ha obert una nova investigació a X per permetre la difusió d’imatges sexuals generades a través de la intel·ligència artificial (IA) Grok. Brussel·les considera que la xarxa social podria haver vulnerat la llei de serveis digitals de la Unió Europea per no “avaluar i mitigar adequadament” els riscos associats al desplegament de les funcionalitats de la seva IA. Segons l’executiu, la plataforma hauria permès la difusió de continguts il·legals a la UE com imatges “sexualment explícites manipulades, inclòs contingut que podria constituir material d’abús sexual infantil”.

“En les últimes setmanes i mesos hem vist contingut antisemita. Hem vist 'deepfakes' no consentits de dones i hem vist material d'abús sexual infantil. A Europa, cap empresa farà diners violant els nostres drets fonamentals”, ha indicat el portaveu de la Comissió Europea a càrrec de la sobirania tecnològica, Thomas Regnier. “Algunes persones argumentaran que X a limitat això –l’ús de les funcionalitats de Grok– als subscriptors prèmium”, ha insistit, “siguem clars, el material d’abús sexual infantil no és un privilegi prèmium, és un tipus de contingut que no té cabuda a Europea i hem de protegir els nostres ciutadans de possibles danys futurs”.

Ara per ara, l’executiu comunitari recull proves i demanarà més informació a X. Si es confirma la vulneració d’alguna de les disposicions de la llei de serveis digitals de la UE (DSA), la xarxa social podria fer front a una multa de fins al 6% de la seva facturació anual, que se sumaria a la sanció imposada el mes de desembre de 120 milions d’euros a la plataforma pel seu model de comptes verificats, que l’executiu comunitari considera que és enganyós. En paral·lel, la Comissió Europea ha ampliat la investigació oberta contra X el desembre de 2023 per determinar si la xarxa social d’Elon Musk ha avaluat i mitigat els riscos associats als seus sistemes de recomanació, que recentment han incorporat les funcionalitats de la IA de Grok.