Un cotxe autònom, un robot que neteja la llar o una eina per avançar-se a l’avaria d’un producte són exemples d’aparells que usen intel·ligència artificial (IA). Treballen amb sistemes més o menys complexos, però tots han estat dissenyats per prendre decisions i fer prediccions de futur. Els enginyers saben, en els casos més senzills, com i per què la màquina escull un camí, però en el context on entra en joc l’aprenentatge profund els professionals no saben la justificació que ha portat al resultat final. “Hi ha una mena de caixa negra que no es pot obrir perquè la tecnologia aprèn a poc a poc amb les dades passades i les que va recollint”, assenyala Javier Rando. Aquest estudiant del quart curs de Matemàtiques és, juntament amb l’enginyer i data scientist Daniel Hormigo, el creador d’EXPAI, la start-up que vol ajudar les empreses a comprendre des de l’inici fins al final el funcionament dels algoritmes i evitar així biaixos que generin desigualtats entre les persones.

La IA ha permès automatitzar tasques i, fins i tot, executar-les amb més eficiència que les persones, per això sovint es parla de la por que els robots puguin substituir-les. Ara bé, no tot és tan fàcil. “La tecnologia és més eficaç i té menys marge d’error, però no pot fer bé dues o tres coses alhora, aquesta és la diferència”, assenyala Rando. A més a més, els humans poden argumentar perquè han pres una decisió, mentre que la màquina no té aquesta capacitat. En els usos més bàsics de la intel·ligència artificial els enginyers la dissenyen perquè repliqui accions que coneixem, de manera que es pot comprendre. Però quan entra en joc el deep learning, on es crea una xarxa neuronal que ha après a actuar sola, la comprensió és més complexa. I aquí és on entra en joc EXPAI per ajudar a comprendre el raonament que s’ha seguit fins a obtenir el resultat.

Rando: “La tecnologia és més eficaç i té menys marge d’error, però no pot fer bé dues o tres coses alhora, aquesta és la diferència amb un humà”

Per comprendre bé el funcionament, Rando proposa un exemple: “El sistema judicial dels Estats Units usava un algoritme per ajudar els jutges a decidir sobre les presons provisionals en funció del risc de reincidència. Una investigació de periodistes va detectar que el sistema era racista amb les persones no blanques perquè la intel·ligència artificial havia après amb dades històriques, que tradicionalment discriminaven la ciutadania negra i llatina”. A la nostra societat, l’ús de big data del passat també pot generar situacions racistes o de desigualtat entre homes i dones, o col·lectius minoritaris.

Davant el context, el data scientist assenyala que la IA també pot provocar desconfiança davant les prediccions i errors. D’aquí que la seva proposta sigui obrir la “caixa negra” per anar cap a un “model d’intel·ligència artificial transparent i just”. La start-up s’ha marcat seguir tot el procediment, des del control de les dades que entren al sistema i el raonament que segueix el model, fins a la predicció per entendre el recorregut i evitar injustícies i problemes futurs.

Tecnologia transversal

EXPAI va néixer el desembre del 2020 i el passat maig es va produir l’eina. Ara es troben en fase de captar clients, però el senior advisor Carles Soler es mostra optimista després de veure la reacció del mercat després de donar a conèixer la idea: “No hi havia una proposta de valor com aquesta i la rebuda ha estat bona perquè cada cop les empreses estan més acostumades a tractar amb dades”.

La solució està destinada a companyies amb un enfocament data driven –que basen les seves decisions en les dades- i compten amb un equip preparat per treballar amb aquests recursos. Tot i això, Soler reconeix que la tecnologia millora a passes de gegant i es dissenyen eines que faciliten el seu ús: “Són cada cop més senzilles i necessiten menys recursos humans amb un nivell d’expertesa elevat”.

Soler: “Les eines són cada cop més senzilles i necessiten menys recursos humans amb un nivell d’expertesa elevat”

El sistema també s’adreça a sectors diversos. La seva transversalitat permet que s’apliqui en entorns industrials per reduir costos o optimitzar processos, com també en l’àmbit sanitari per prendre millors decisions sobre possibles tumors o en les àrees de recursos humans per triar el candidat que més s’adequa a l’organització.

La comercialització es fa sota el model de software as a service i de programari d’instal·lació directa en els servidors dels clients que prefereixen preservar les seves dades, “malgrat que garantim totes seguretats”, apunta Soler. Una proposta que aquesta setmana es presenta als Future Factories Awards de la fira Advanced Factories com a finalista.

Equip multidisciplinari

Si Rando i Hormigo han aportat el coneixement tècnic, Soler i Pablo Vitoria, el quart integrant de l’equip, han posat la seva expertesa en l’àrea de negoci. “Van tenir una bona visió d’incorporar perfils tecnològics, amb empenta i joventut, juntament amb experiència en àrees més d’empresa. És una manera de fer un equip complet”, conclou Soler.