L’AI Congress Barcelona alerta dels riscos de la IA agèntica: més automatització, però sense perdre el control humà

El congrés posa el focus en els agents d’intel·ligència artificial, capaços d’executar tasques de manera autònoma, i en els reptes de governança, seguretat i supervisió humana que planteja la seva implantació a les empreses.

Categories:

Sergio Cabanelas Alcaide

L'AI Congress Barcelona 2026 posa el focus en els agents d’intel·ligència artificial, capaços d’executar tasques de manera autònoma, i en els reptes de governança, seguretat i supervisió humana que planteja la seva implantació a les empreses.
L'AI Congress Barcelona 2026 posa el focus en els agents d’intel·ligència artificial, capaços d’executar tasques de manera autònoma, i en els reptes de governança, seguretat i supervisió humana que planteja la seva implantació a les empreses. | Cedida

La intel·ligència artificial ja no es limita a respondre preguntes, generar textos o resumir documents. Cada vegada pot assumir més tasques, consultar sistemes corporatius, coordinar eines i executar accions amb un grau d’autonomia creixent. Aquesta evolució, coneguda com a intel·ligència artificial agèntica, obre noves possibilitats per automatitzar processos, però també planteja una qüestió central: com poden les empreses aprofitar aquesta capacitat sense perdre el control sobre les decisions i els resultats?

Aquest ha estat un dels principals fils conductors de la dotzena edició de l’AI Congress Barcelona 2026, impulsat pel Centre of Innovation for Data tech and Artificial Intelligence (CIDAI) i organitzat pel centre tecnològic Eurecat. La trobada, celebrada a l’Auditori L’illa de Barcelona, ha reunit més de mig centenar de ponents i més de 2.200 inscrits per abordar els reptes de la IA des de perspectives tecnològiques, empresarials, jurídiques i socials.

L’AI Congress Barcelona 2026 ha reunit més de 2.200 inscrits i una cinquantena de ponents per analitzar el futur de la intel·ligència artificial, amb especial atenció a la IA agèntica, la governança i les aplicacions empresarials.

El missatge compartit per bona part dels experts és que el valor de la IA no depèn només de la potència dels models, sinó també de com s’integren en les organitzacions, quins permisos tenen i qui n’assumeix la responsabilitat. A mesura que els sistemes passen de generar contingut a executar operacions, la governança deixa de ser un complement i es converteix en una condició per desplegar-los.

Els agents multipliquen la productivitat, però també els riscos

La diferència entre un assistent convencional i un agent d’IA és important. Mentre que el primer acostuma a generar una resposta o proposar una acció, un agent pot interactuar amb altres aplicacions, consultar dades i executar instruccions dins d’uns límits determinats. En sistemes més complexos, diversos agents poden repartir-se les tasques i coordinar-se per completar un procés.

Aquesta capacitat permet imaginar automatitzacions que fins ara requerien una intervenció humana constant. Però també augmenta l’impacte potencial dels errors. Ariadna Font, cofundadora i consellera delegada d’Alinia AI, ho va resumir durant el congrés amb una advertència: “La IA agèntica multiplica no només la productivitat, sinó també el volum i la velocitat dels errors. Una persona s’equivoca una vegada, però un agent repeteix l’error mil vegades abans que ningú se n’hagi adonat”.

Per a Font, el repte immediat és establir “marcs i sistemes robustos de control i governança” que permetin utilitzar els avenços tecnològics de manera segura i responsable. La cursa per desenvolupar models cada vegada més capaços, defensa, no hauria de fer perdre de vista la supervisió.

En la mateixa línia, Joan Mas-Albaigès, director de l’AI Congress i director científic de l’Àrea Digital d’Eurecat, explica en una entrevista a Metadata que la IA agèntica ha experimentat una eclosió durant el darrer any. Durant el congrés, va advertir que aquesta tecnologia ofereix grans oportunitats d’automatització, però també planteja interrogants sobre els riscos i les proteccions necessàries perquè els agents no es desviïn del criteri humà.

La IA agèntica marca un nou salt en l’automatització: els agents poden executar tasques de manera autònoma i adaptar-se a les necessitats de cada empresa.

Mas-Albaigès compara el potencial dels agents amb el paper que van tenir els robots en l’automatització industrial, però traslladat al món digital. “Els agents podran ser equiparats a l’automatització que els robots van fer en el món industrial, en el món físic, en el món de la digitalització, en el món del programari”, explica.

La possibilitat de definir agents adaptats a les necessitats de cada organització és, precisament, una de les claus del seu atractiu. “El fet que tu puguis definir una sèrie d’agents que puguin fer una sèrie de tasques molt apropiades i molt ajustades al que tu necessites, li dona aquesta flexibilitat i aquest interès de cara a millorar la productivitat, l’eficiència”, assenyala Mas-Albaigès a Metadata.

Ara bé, perquè aquesta flexibilitat es tradueixi en millores reals, les empreses han d’establir què poden fer els sistemes, quines dades poden consultar i quines operacions requereixen autorització humana.

Governar els agents abans que actuïn

La governança va ocupar una part destacada del programa, amb especial atenció a la identitat dels agents, els permisos d’accés, la traçabilitat de les accions i els mecanismes per intervenir quan alguna cosa no funciona com estava previst.

Durant la sessió dedicada a la governança d’agents i arquitectures multiagent, Laura Aparicio i Víctor García, de Conversia, van abordar la necessitat d’establir regles clares per a sistemes que poden actuar sobre aplicacions i dades corporatives. No n’hi ha prou que un agent tingui capacitat tècnica per executar una operació: també ha de tenir l’autorització corresponent.

Una de les mesures plantejades és graduar l’autonomia segons el risc de cada acció. Les operacions de baix risc poden executar-se dins d’uns límits predefinits; les de risc mitjà poden requerir supervisió i possibilitat d’intervenció; i les actuacions crítiques han de passar per una aprovació abans d’executar-se.

La governança és clau per evitar que els agents actuïn fora dels límits establerts: les empreses han de definir permisos, mecanismes de supervisió i protocols de control.

Aquest plantejament també afecta els sistemes multiagent, en què un agent pot delegar tasques en un altre. Per mantenir-ne el control, cal poder reconstruir qui ha donat una instrucció, quins sistemes hi han intervingut, quines dades s’han utilitzat i qui ha validat el resultat.

La protecció de dades és una altra peça central. Meritxell Borràs, directora de l’Autoritat Catalana de Protecció de Dades (APDCAT), va posar el focus en els riscos que apareixen quan els agents treballen amb informació personal i poden prendre decisions amb poca intervenció humana.

La supervisió, segons aquest enfocament, no pot quedar reduïda a una formalitat. Les organitzacions han d’avaluar els riscos, definir la base jurídica de cada tractament i garantir que les persones puguin intervenir de manera efectiva quan sigui necessari. Això implica incorporar la protecció de dades i els drets fonamentals des del disseny dels sistemes, i no només quan ja estan en funcionament.

De l’experimentació a la integració en processos reals

Més enllà dels riscos, el congrés també ha mostrat com la IA comença a integrar-se en processos empresarials concrets. Els exemples presentats coincideixen en un punt: el model lingüístic és només una part de la solució. Per obtenir resultats útils cal connectar-lo amb dades fiables, aplicacions, permisos i procediments de validació.

Un dels casos és Lexia, un sistema multiagent desenvolupat per al departament legal de Bonpreu i presentat per Albert Iruela, CEO i fundador d’Omnios. La solució treballa amb un repositori de més de 25.000 documents de tipologies diverses, com contractes, annexos, actes i documentació immobiliària.

La intel·ligència artificial ja s’aplica en sectors com la salut, la banca i la distribució, amb casos d’ús que van des de l’anàlisi documental fins al resum d’informació clínica.

El sistema combina agents especialitzats en diferents àmbits documentals i un orquestrador que identifica quin és el més adequat per respondre cada consulta. D’aquesta manera, en lloc de processar tot el repositori, selecciona els documents pertinents i ofereix respostes amb referències a les fonts originals. Segons les dades exposades durant la sessió, les respostes validades per l’àrea legal se situen entre el 90% i el 95% de precisió.

En l’àmbit sanitari, l’Hospital General de Granollers ha presentat una eina per generar resums de la Història Clínica Compartida de Catalunya i facilitar-ne la consulta. El sistema recopila informació rellevant i permet que el professional sanitari aprofundeixi en antecedents i proves sense haver de revisar manualment tota la documentació.

La solució funciona en infraestructura local, de manera que les dades no surten del perímetre de l’hospital. La implantació es fa progressivament, servei per servei, i manté un principi essencial: l’eina és un suport a la pràctica clínica, però la responsabilitat de les decisions continua sent del professional, que ha de contrastar la informació amb el pacient i les fonts originals.

Els casos mostren que la IA pot reduir temps de cerca i facilitar l’accés al coneixement acumulat. Tanmateix, també evidencien que, especialment en entorns sensibles com el sanitari o el jurídic, la traçabilitat i la verificació humana formen part del funcionament de la solució.

El programari també canvia la manera de treballar

Un altre dels grans àmbits d’aplicació és el desenvolupament de programari. La IA generativa permet produir codi, documentació i proves a una velocitat que transforma els processos de treball, però també obliga a revisar com s’organitzen els equips i qui valida el resultat.

Joan Mas-Albaigès assenyala a Metadata que aquesta ha estat una de les qüestions abordades durant el congrés: “Hem parlat aquest any de com les empreses, sobretot les empreses que desenvolupen programari, poden aprofitar-se de les capacitats que la intel·ligència artificial generativa té per generar programari, per generar noves línies de codi, i de com poden treure’n el màxim rendiment”.

El canvi, però, no consisteix únicament a incorporar un assistent de programació. En una de les sessions, Xesca Alabart, consellera delegada d’Easyspecs, va plantejar l’evolució cap a un model de desenvolupament en què les persones defineixen l’arquitectura, el context i els criteris de qualitat, mentre que els agents executen blocs de treball més amplis.

La IA agèntica pot millorar la productivitat i l’eficiència empresarial, però cal provar-ne el funcionament abans d’integrar-la en processos reals.

Això pot accelerar la creació de prototips, però no garanteix que les solucions siguin robustes, segures i fàcils de mantenir. Com més codi genera la IA, més important esdevé revisar-ne la qualitat, comprovar-ne el comportament i assegurar que s’integra correctament amb els sistemes existents.

La transformació, per tant, també és organitzativa. Les empreses necessiten formar els equips, definir procediments comuns i establir mecanismes perquè l’experimentació no es converteixi en una acumulació d’eines sense una estratègia clara.

Models més petits i sobirania tecnològica

La dimensió empresarial de la IA també està vinculada a una qüestió estratègica: fins a quin punt les organitzacions poden controlar la tecnologia que utilitzen, les dades que hi introdueixen i la infraestructura on s’executa.

Durant el congrés, la directora científica d’IA de Multiverse Computing, Jezabel R. Garcia, va defensar que el futur no passa necessàriament per desenvolupar models cada vegada més grans. “La pròxima revolució de la IA no és un model més gran, sinó un model que funciona allà on aporta valor, en un dispositiu, en una empresa, dins d’un hospital o en una administració pública”, va afirmar.

La compressió de models, que permet reduir-ne la mida i les necessitats de càlcul, pot facilitar-ne l’execució en infraestructures més modestes i contribuir a reduir el consum energètic. Aquesta aproximació també pot ajudar les empreses a mantenir més control sobre les dades i a reduir la dependència dels serveis externs.

La IA generativa també transforma el desenvolupament de programari: permet generar codi i obre noves possibilitats per a les empreses que creen solucions digitals.

Mas-Abaigès, però, adverteix a Metadata que la sobirania tecnològica completa és difícil d’assolir. “Sobirania tecnològica completa serà molt difícil d’obtenir-la, no només a nivell català, sinó m’atreviria a dir fins i tot a nivell espanyol o a nivell europeu”, assenyala.

A parer seu, una de les vies més realistes és reforçar el control en la capa d’aplicacions, mentre que en les infraestructures i la gestió de dades cal tenir en compte la posició dels grans proveïdors tecnològics. “Per mi, en la capa d’aplicacions és on podem ser més sobirans”, afirma a Metadata.

La decisió entre serveis públics al núvol, plataformes privades i models desplegats localment, per tant, s’ha d’ajustar a les necessitats i als riscos de cada cas d’ús.

Les pimes, davant el repte de passar a l’acció

La capacitat d’adoptar aquestes tecnologies no és igual per a totes les organitzacions. Les grans empreses disposen sovint de més recursos tècnics i econòmics, mentre que les petites i mitjanes empreses poden trobar més dificultats per seleccionar les eines, preparar les dades o formar els equips.

En aquest sentit, el director de l’AI Congress 2026 destaca a Metadata la importància dels instruments d’acompanyament que faciliten l’accés a les tecnologies. Entre aquests hi ha el Digital Innovation Hub de Catalunya, gestionat per ACCIÓ amb la participació d’universitats, centres tecnològics i escoles de negoci.

Les pimes necessiten suport per passar de l’experimentació a l’adopció efectiva de la IA: iniciatives com el CIDAI i el Digital Innovation Hub de Catalunya ofereixen recursos per facilitar aquest procés.

Mas-Albaigès també assenyala la guia que el CIDAI ha preparat per orientar les pimes en el procés d’adopció de la IA. L’objectiu és ajudar-les a identificar oportunitats i avançar en la incorporació de solucions sense perdre de vista les necessitats del negoci.

La dificultat, en qualsevol cas, no és només tecnològica. Les empreses han de decidir quins problemes volen resoldre, quins resultats esperen obtenir i com mesuraran l’impacte de les eines que despleguin. En aquest punt connecta amb la idea d’IA intencional defensada per l’experta en transformació digital Pooja Munshi: abans de construir una solució, cal definir el problema i determinar quina tecnologia és realment necessària.

La proposta també incorpora la dimensió ambiental. No sempre cal el model més gran ni la infraestructura més potent; la tecnologia s’ha de dimensionar segons el valor que pot aportar, els recursos disponibles i les necessitats de les persones que l’utilitzaran.

Catalunya vol convertir el coneixement en competitivitat

Durant la intervenció institucional, el president d’Eurecat, Daniel Altimiras, va reivindicar les capacitats de Catalunya per tenir un paper rellevant en aquesta nova etapa. “Catalunya compta amb coneixement, talent, capacitats tecnològiques i un teixit empresarial que ens permeten tenir un paper rellevant en aquesta nova etapa de la intel·ligència artificial”, va afirmar.

El secretari de Telecomunicacions i Transformació Digital de la Generalitat, Albert Tort, va defensar una IA orientada a resoldre problemes reals, generar valor públic, reforçar la competitivitat empresarial i millorar els serveis a la ciutadania. El congrés s’alinea amb l’Estratègia Catalunya IA 2030, impulsada pel Govern.

La sobirania tecnològica completa continua sent difícil d’assolir a Europa, especialment per la dependència d’infraestructures i serveis de grans proveïdors tecnològics, però hi ha més marge de control en la capa d’aplicacions.

Per a l’ecosistema català, el repte és combinar recerca, talent, infraestructures i capacitat empresarial per transformar les possibilitats tècniques en productes i serveis útils. Això implica tant impulsar el desenvolupament de tecnologia com facilitar-ne l’adopció per part de les empreses i les administracions.

Després de dues jornades de ponències i demostracions, el missatge de l’AI Congress és que la IA entra en una fase en què ja no n’hi ha prou amb mostrar què poden fer els models. Cal demostrar que les solucions funcionen en entorns reals, que es poden mantenir i que aporten resultats mesurables.

La IA agèntica pot convertir-se en una nova capa d’automatització per a l’economia digital, però la seva implantació exigeix definir responsabilitats, controlar els accessos, protegir les dades i mantenir la capacitat humana d’intervenir. L’avantatge competitiu no serà necessàriament de qui desplegui més agents, sinó de qui sàpiga integrar-los en processos útils sense renunciar al control.