Cada cop queden menys grans companyies que no estiguin implementant models d’intel·ligència artificial (IA) en els seus processos per comunicar-se amb els clients en l'àmbit extern o intern. Ara, una de les activitats més habituals és preguntar a través de l’aplicació o la pàgina web dubtes més o menys genèrics que són d’interès del client. Partint d’aquest escenari, el 2022 va néixer NeuralTrust, una start-up amb seu a Barcelona que detecta i protegeix les companyies sobre les interaccions que poden ser malicioses per part dels usuaris o bots en els seus xatbots, com filtrar informació privilegiada de l’empresa, dades sensibles dels clients o posar en entredit la reputació de l’organització.

“El que hem vist és que fins a l’any passat les empreses estaven desenvolupant i implementant models LLM, xatbots, com serien les típiques interaccions de ChatGPT o Gemini, i aquestes empreses estan traient aquests xatbots per tal que puguin interactuar directament amb les plataformes”, relata el director de màrqueting de creixement, Rodrigo Fernández. “El problema al qual s’estan enfrontant és que alguns d’aquests usuaris, a través del mateix xat, poden dur a terme diferents tipus d’atacs”, afegeix.

Donar respostes inadequades o canviar el preu de certs productes o serveis són alguns dels casos d’ús que NeuralTrust ja ha tractat. “Legalment, si el xatbot et diu una cosa, l’empresa ha de fer-se responsable del que diu”, aclareix Fernández, “hem vist xatbots que et parlen de política o de futbol, coses que evidentment empresarialment no vols que es parlin; i altres casos on es manipula per tal que et doni ofertes o preus que no són reals”.

NeuralTrust és una plataforma d’observabilitat sobre tots els casos d’ús que la IA té a l’empresa, ja sigui un xatbot per ajudar els clients o per resoldre dubtes dels mateixos treballadors

“Som una plataforma d’observabilitat sobre tots els casos d’ús que la IA té a l’empresa, perquè el que veiem és que les companyies grans estan desenvolupant casos d’ús d’IA per a coses diferents, com xatbots per ajudar a diferents clients o per resoldre dubtes dels mateixos empleats”, apunta el director de màrqueting de creixement. A això, cal sumar-hi el desenvolupament d’agents d’IA, que a banda de respondre preguntes, duen a terme accions, com poder fer transferències bancàries. “La idea és oferir a les empreses un lloc centralitzat on veure totes les eines d’IA i el que està fent cadascuna, prevenint els atacs i usos indeguts d’aquesta tecnologia”, complementa.

Porta d’entrada a ciberatacs

NeuralTrust estima que entre l’1% i el 2% de totes les interaccions amb xatbots dels seus clients són intents maliciosos. Molts d’aquests són bots que estan llançant constants atacs contra els xats i un dels seus punts forts és l’anàlisi contextual dels prompts. I és que no només s’estudia allò que conté el prompt, sinó que també qui és la persona que hi ha darrere. “Si veiem que un usuari porta durant 24 hores llançant prompts maliciosos cada cinc minuts, detectem que és un bot i bloquegem aquell usuari directament”, assenyala Fernández, “la veritat és que estem veient una gran varietat d’atacs, com jailbreaks –com es coneix l’ús de la IA per explotar vulnerabilitats i limitacions dels dispositius– o prompt hacks, que són com els més elaborats; però també clàssics com el ransomware”.

Els xatbots acumulen una gran varietat d’atacs, com els ‘jailbreaks’, els ‘prompt hacks’ o els clàssics intents de ‘ransomware’

Ara per ara, la start-up ha col·laborat amb gairebé totes les grans empreses de l’IBEX i altres internacionals, però se centren en les B2C –les empreses que venen productes i serveis al client final–, com aerolínies, asseguradores o bancs. Així i tot, no tanquen la porta a qualsevol empresa que estigui desenvolupant IA o implementant xatbots i que necessiti alguna solució de ciberseguretat, ja que és “un sector emergent i no moltes organitzacions s’han adonat que necessiten aquesta mena de protecció”, puntualitza el director de màrqueting de creixement. Per altra banda, també ajuda a escala legal a evitar complicacions, per exemple, reduint les discriminacions de determinats usuaris.

Adaptats als nous temps

NeuralTrust és una de les finalistes al premi en l’àmbit Digital Horizons del 4YFN Awards 2026 i demostra cap a on avança la ciberseguretat. “Nosaltres treballem pels equips de ciberseguretat de grans empreses i som una eina creada específicament per ajudar-los a controlar tot el tema de la IA”, relata Rodrigo Fernández. Alhora, fa èmfasi en com està canviant el sector: “Hem d’entendre que la ciberseguretat tradicional se centra en models que no estan basats en llenguatge natural, models que funcionen a base de codi, no a través de prompts o de paraules. Aquí s’ha obert una porta, tant a un mercat com a vulnerabilitats, ja que de cop les empreses tradicionals no poden protegir-se d’aquesta mena d’atacs, perquè molts cops el que fan els hackers és intentar convèncer el xatbot amb una història”.

La companyia compta amb el suport de la Unió Europea –a través de l’European Innovation Council–, cosa que significa que aquesta nova tecnologia que està desenvolupant té pes a Europa. Actualment, els principals competidors estan als Estats Units i a Israel i l’objectiu a curt termini és el d’intentar créixer fora de l’estat espanyol, com el Regne Unit, França o Alemanya; ja que, com recorda Fernández, “hi ha molt potencial i poques empreses que ofereixin aquesta mena de servei”. “Estem veient que dins d’Europa, molts clients amb els quals treballem prefereixen treballar amb nosaltres perquè som una empresa que està a Europa i no han d’enviar les seves dades ni col·laborar amb empreses estrangeres, que és un tema bastant sensible”, complementa.