Europa pren la davantera mundial en la regulació de la intel·ligència artificial. El Parlament Europeu ha aprovat aquesta setmana, amb una àmplia majoria, iniciar les negociacions per la futura llei que limitarà els usos abusius d’aquesta tecnologia, que està previst que s’aprovi durant el ple del mes de juny. L’objectiu principal de la UE és garantir que els algoritmes i models generatius estan controlats i supervisats per persones i que es respecten les llibertats i drets de la ciutadania, però sense obstaculitzar la innovació.

Aquesta nova llei és el resultat d’un primer esborrany que la Comissió Europea va presentar el 2021. Els tràmits van allargar-se més de l’esperat, però la irrupció d’eines com ChatGPT ha fet accelerar la seva posada en marxa. De fet, el nou document és més restrictiu que la proposta inicial i se centra en més detall en els models generatius, com les eines d’OpenAI. La legislació requerirà a aquestes tecnologies més transparència, ja que els productes generats amb IA hauran de ser identificats com a tals, una proposta que reclamava recentment el gremi dels actors de doblatge. La llei també insisteix amb la protecció dels drets d’autor, obligant els models generatius a publicar quines fonts han utilitzat per elaborar els continguts.

La futura llei prohibirà a les IA generar continguts il·legals i les obligarà a tenir supervisió humana, citar les fonts utilitzades i identificar els productes generats per algoritmes

Amb tot, el Parlament Europeu no vol limitar la innovació dels desenvolupadors, de manera que les restriccions seran graduals en funció del camp en què s’apliquin. Així, els productes que treballin en àmbits com la salut o els drets fonamentals hauran de passar molts més filtres que la resta. En qualsevol cas, el que sí que estarà prohibit serà generar continguts il·legals dins de les fronteres de la Unió Europea. Per aconseguir tot això, la llei vol garantir que tots els models generatius disposin d’una supervisió humana que pugui controlar aquests aspectes, en comptes de deixar-los sota el criteri de la màquina.

Límits a la vigilància biomètrica

Més enllà dels models generatius, la llei també incideix en el paper de la intel·ligència artificial com a eina de vigilància, especialment quant a la reconeixement facial. En aquest àmbit, el document proposa una regulació molt més forta, fins al punt de vetar tant els sistemes d’identificació biomètrica en temps real en espais públics com aquells que es basin en gravacions. L’única excepció seria quan afectessin investigacions de delictes greus, i sempre sota autorització judicial. També es volen prohibir aquelles tecnologies que categoritzin les persones per raça, ètnia, nacionalitat, gènere, creences o ideologia; els reconeixedors d’emocions, sobretot en àmbits educatius i laborals, i els sistemes predictius de la policia que es basen en l’historial delictiu.

La llei es troba ara en fase de negociació, i es votarà la seva aprovació durant el mes de juny. Si la cambra l’aprova, s’iniciaria la negociació específica amb cadascun dels estats membres. Un cop finalitzada aquesta etapa, la regulació es votaria una darrera vegada abans de començar a aplicar-se. La previsió és que aquest procés es finalitzi abans de la primavera de 2024.