Els estats membres de la Unió Europea han avalat una reforma de la normativa comunitària d’intel·ligència artificial per prohibir els sistemes capaços de generar continguts sexuals amb persones reals sense consentiment. La proposta també inclou el veto a les eines que puguin crear o manipular material d’abús sexual infantil amb IA.

L’acord, adoptat pel Consell de la UE, respon a la creixent preocupació per l’ús de tecnologies d’IA per produir imatges o vídeos manipulats que simulen situacions íntimes amb persones reals sense que hi hagin participat ni n’hagin autoritzat la difusió.

La iniciativa ha estat impulsada per l’estat espanyol i França en el marc dels treballs de la Comissió Europea per actualitzar la legislació sobre IA. La proposta ha rebut també el suport d’Alemanya, Irlanda, Bèlgica, Eslovènia, Eslovàquia i Hongria.

Nous sistemes prohibits

El text acordat introdueix dues noves prohibicions dins del marc regulador europeu.

D’una banda, es prohibiran els sistemes d’intel·ligència artificial capaços de generar, manipular o reproduir imatges, vídeos o àudios realistes de parts íntimes o de persones identificables en situacions sexuals sense consentiment explícit.

La UE vol prohibir els sistemes d’IA que generin imatges o vídeos sexuals de persones reals sense consentiment.

De l’altra, també quedaran vetats els sistemes que permetin generar o reproduir pornografia infantil mitjançant IA, una preocupació creixent entre els reguladors davant la proliferació d’eines generatives accessibles al públic.

La polèmica per Grok

La reforma s’ha accelerat arran de la polèmica generada per Grok, l’assistent d’intel·ligència artificial integrat a la xarxa social X. Durant uns dies, l’eina va permetre crear imatges íntimes falses de persones reals, incloses dones i menors, a partir de fotografies.

El cas va desencadenar una investigació de la Comissió Europea i va reobrir el debat sobre els riscos de la manipulació audiovisual amb IA, una pràctica que diverses investigacions vinculen amb assetjament digital, xantatge amb imatges íntimes i difusió no consentida de continguts sexuals.

La reforma de la normativa europea s’ha accelerat després de la polèmica per les imatges íntimes falses generades per l’assistent Grok.

Segons diversos estudis, les dones són la gran majoria de víctimes d’aquest tipus de continguts, que poden provocar conseqüències psicològiques com ansietat, vergonya o sensació de pèrdua de control.

Calendari d’aplicació

La reforma encara haurà de ser negociada amb el Parlament Europeu, que haurà d’adoptar la seva posició abans que la normativa pugui entrar en vigor definitivament.

El text acordat també fixa un calendari per a l’aplicació de les normes sobre sistemes d’IA d’alt risc. Segons la proposta, aquestes obligacions s’aplicarien a partir del desembre del 2027 per als sistemes independents i del 2028 per als que estiguin integrats en productes.

A més, els estats membres han acordat reforçar el registre obligatori dels sistemes d’IA d’alt risc en la base de dades europea, fins i tot en casos en què els desenvolupadors considerin que els seus productes poden quedar exempts de la regulació.

Amb aquesta reforma, la UE busca reforçar la protecció davant els usos abusius de la intel·ligència artificial, especialment en àmbits sensibles com la privacitat, la seguretat i la protecció dels menors.