El Consell de Ministres del govern espanyol ha aprovat aquest dimarts l’avantprojecte de llei per al bon ús i la governança de la intel·ligència artificial, una normativa que adapta a l’estat espanyol la Llei d’intel·ligència artificial de la Unió Europea, que va entrar en vigor l’agost de 2024. El text imposa una sèrie de pràctiques prohibides vinculades a aquesta tecnologia, qualificades d’usos maliciosos, reforça les obligacions d’aquells sistemes que són considerats d’alt risc i estableix uns requisits mínims de transparència per a la resta d’aplicacions.

Entre les pràctiques que prohibeix l’avantprojecte de llei destaquen l’ús de tècniques subliminars, amb imatges o sons imperceptibles, per manipular decisions sense consentiment, com pot ser un xatbot que identifiqui usuaris amb addicció al joc i els inciti a apostar dins d’una plataforma. La normativa també prohibeix conductes que explotin vulnerabilitats relacionades amb l’edat, la discapacitat o la situació socioeconòmica dels usuaris o la puntuació d’individus o grups basant-se en comportaments socials o trets personals per a mètodes de selecció (en casos com en la concessió d’un préstec). La classificació biomètrica de persones per raça o orientació política, sexual o religiosa està completament prohibida, així com la valoració del risc que una persona cometi un delicte en funció del seu historial familiar, nivell educatiu o lloc de residència, tot i que la mateixa llei europea ja contempla algunes excepcions en matèria de defensa i seguretat que també s’adopten. Tampoc es podran inferir emocions per justificar una contractació, promoció o acomiadament laboral, a excepció de raons mèdiques i de seguretat. Totes aquestes prohibicions tindran sancions d’entre 7,5 i 35 milions d’euros, o bé entre un 2 i un 7% del volum de negoci de l’empresa, la xifra que sigui més alta (a excepció de les pimes).

Per la seva banda, el text contempla diversos tipus de sistemes “d’alt risc” que abracen un gran ventall d’aplicacions, des de biometria i infraestructures crítiques fins a sistemes de seguretat per productes electrònics, industrials o químics, entre molts altres. Aquestes tecnologies hauran de seguir una sèrie d’obligacions addicionals, que consisteixen a disposar de sistemes de gestió de riscos, de supervisió humana i de qualitat, així com documentació tècnica, governança de dades i conservació de registres. L’avantprojecte de llei contempla dos casos d’infracció molt greu, que són quan un operador d’un sistema d’IA no comuniqui un incident greu (mort d’una persona, dany al medi ambient, problemes amb infraestructures crítiques...) o bé quan s’incompleixin ordres d’una autoritat de vigilància de mercat, casos en què les sancions suposaran entre 7,5 i 15 milions d’euros, o entre un 2 i un 3% del volum de negoci.

La resta de sancions greus oscil·laran entre els 500.000 i els 7,5 milions d’euros, o entre un 1 i un 2% de volum de negoci. Una de les infraccions que entren en aquesta categoria i que ha mencionat explícitament el ministre per a la Transformació Digital i de la Funció Pública, Óscar López, és la de no complir amb l’obligació d’etiquetar o identificar correctament qualsevol imatge, vídeo o àudio generat o manipulat amb intel·ligència artificial en què apareguin persones reals o inexistents. “Tots els ciutadans poden ser víctimes d’una suplantació perquè se’ls vegi en un context fals, dient coses falses i fent coses que no han passat”, ha justificat. De la mateixa gravetat seran, per exemple, no introduir supervisió humana en sistemes d’IA que incorporin biometria a la feina per controlar la presencialitat dels treballadors o no comptar amb un sistema de gestió de qualitat dels robots intel·ligents que facin taques d’inspecció i manteniment en sectors industrials.