Els comitès del Mercat Intern i Llibertats Civils del Parlament Europeu han ratificat aquest dimarts l'acord que van assolir els diferents estats membres sobre la intel·ligència artificial (IA) a la Unió Europea, una regulació pionera el món que pretén definir els límits en l'ús d'aquestes eines. En una votació que s'ha saldat amb 71 opinions a favor, vuit en contra i set abstencions, els eurodiputats han ratificat la prohibició de la IA que generi “amenaces” en la seguretat dels ciutadans, restringint eines com la identificació biomètrica en casos molt excepcionals. L'aprovació del text en comissió és el pas previ perquè la regulació sigui adoptada de forma definitiva pels estats i l'Eurocambra; un cop el text s'adopti formalment —ha de passar una última votació al ple del Parlament i ser ratificat definitivament pels estats—, s'obrirà un període de 24 mesos fins a la seva entrada en vigor.

L'acord assolit aquest dimarts estableix la prohibició d'eines com els sistemes de categorització basats en reconeixements biomètrics o l'extracció indiscriminada d'imatges facials per a bases de dades. També restringeix els sistemes de reconeixement d'emocions a escoles i llocs de treball, els sistemes de puntuació basats en mètriques a les xarxes socials o aplicacions d’IA que manipulin el comportament de les persones i exploti les vulnerabilitats dels ciutadans, entre d'altres. L'ús de sistemes de reconeixement biomètric estarà prohibit per defecte, i només es podrà emprar sota autorització judicial o administrativa per a casos vinculats a la prevenció d'atacs terroristes o la recerca de persones desaparegudes.

Un dels àmbits en què més debat ha generat la normativa és la regulació dels nous models generatius d’intel·ligència artificial, com GPT o Gemini. Després d’un intens debat abans de la seva aprovació inicial al Parlament, la llei estableix que aquestes aplicacions no poden generar continguts prohibits a la UE. A més, tot output que creïn, sigui en el format que sigui, haurà d’anar etiquetat com a producte generat per IA.

Al mateix temps, els eurodiputats han acordat la necessitat d'exigir obligacions als sistemes que es basin en intel·ligència artificial i treballin en sectors crítics com ara la salut, el medi ambient o la banca, i també en àmbits com l'estat de dret o la democràcia. Per la seva banda, els ciutadans tindran el dret de llançar queixes sobre sistemes d'IA i rebre explicacions sobre decisions que afecten els seus drets. Amb la voluntat de facilitar la feina a les petites i mitjanes empreses, els diferents estats membres establiran mecanismes per oferir oportunitats per desenvolupar i entrenar eines innovadores d'intel·ligència artificial abans de poder-les llançar al mercat.