Europa treballa des del 2021 en la creació d’una legislació que estableixi els usos i límits de la intel·ligència artificial, una AI Act de la qual el passat mes de juny se’n va aprovar un primer esborrany al Parlament Europeu. Els eurodiputats esperaven poder posar en marxa la normativa a finals d’aquest 2023, a principis de desembre, però segons informa el portal Euroactiv, el procés s’ha encallat en la negociació amb la Comissió Europea i el Consell Europeu —l’organisme conformat pels líders dels 27 estats membres, actualment presidida per l’Estat espanyol—.

Els punts de xoc entre els parlamentaris i els estats membres giren bàsicament al voltant de l’ús d’aquestes tecnologies per a la vigilància i la seguretat nacional. Ja des del 2021, la normativa es mostra especialment restrictiva amb l’ús dels programaris d’identificació facial en temps real amb fins policials, una tècnica que quedaria prohibida en la majoria de les situacions, amb l’excepcionalitat de la prevenció d’amenaces terroristes, la identificació d’autors d’un delicte greu o la localització de persones perdudes, i sempre amb una autorització judicial prèvia. Tanmateix, la negociació amb els estats ha ampliat aquesta llista d’excepcionalitats, amb situacions com el tràfic d’humans, drogues o armes, el rapte, l’assassinat o l’explotació sexual de menors. A més, en casos excepcionals, es podrien emprar aquestes tecnologies sense permís judicial previ, sempre que es demanés en les 48 hores posteriors. D’altra banda, a pressió de França, la normativa també ha inclòs una exempció del seu compliment per aquells sistemes d’intel·ligència artificial “desenvolupats o usats exclusivament” amb finalitats militars.

Com a contrapartida d’aquesta relaxació de les restriccions de la llei, els parlamentaris han aconseguit ampliar el llistat d’aplicacions d’intel·ligència artificial que quedarien prohibides. Un exemple que llista Euroactiv són aquelles aplicacions que creen o amplien les bases de dades de reconeixement facial a través de tècniques de scrapping d’imatges a internet, com fa l’empresa nord-americana ClearviewAI. Els eurodiputats també han assolit la limitació d’aquelles tecnologies biomètriques de categorització que llisten informació personal i sensible de la ciutadania, com pot ser l’orientació sexual o la ideologia política, a més a més de vetar l’ús de tecnologies reconeixement d’emocions en entorns laborals i educacionals.

El procés de negociació continua en marxa entre els tres organismes europeus, i encara poden succeir-se canvis substancials al text aprovar pel Parlament Europeu al mes de juny. És una situació que ja anticipava a MetaData el membre de la comissió TIC del Col·legi d’Advocats de Barcelona Carles Basteiro, qui ja es mostrava reticent sobre l’aprovació de la llei a finals de 2023: “El GDPR va sortir el 2016 i va entrar en funcionament el 2018, però feia 10 anys que negociaven la llei”. Aquesta comparació no és en va, ja que segons l’expert, Europa busca que l’AI Act tingui un impacte equivalent al de la normativa sobre protecció de dades, que ha forçat empreses de tot el món a canviar l’enfocament dels seus productes i serveis digitals.