Des dels seus orígens, la humanitat ha tingut el desig de predir el futur per poder prendre en el present decisions encertades. Les boles de vidre, cartes del tarot, pòsits de cafè i altres mètodes utilitzats al llarg de la història han mostrat una efectivitat força discutible. Sembla que, aquesta vegada sí, hem desenvolupat un artefacte que ens permet avançar amb un èxit raonable els esdeveniments futurs: els models analítics generats mitjançant intel·ligència artificial (IA).

La idea és simple: si tinc un model que s'ajusta al que ha passat fins ara, extrapolant-lo podré avançar-me al que ha de venir. Evidentment, aquests sistemes no poden predir disrupcions (els famosos “cignes negres”), però com que se'n produeixen poques, en general els models encerten. Construir-los, conceptualment també és simple: si tinc moltes dades i prou capacitat de càlcul, puc anar ajustant un model fins a trobar que encaixi amb el que ha passat fins ara.

En molts àmbits avui disposem de dades suficients per generar models que ens responguin amb un grau adequat de certesa a algunes preguntes de futur: Aquest sol·licitant em tornarà el crèdit? Aquesta piga desenvoluparà un tumor? aquest convicte tornarà a la presó si li dono un permís? Vendré més car aquest Ibiza del 2012 si el pinto de vermell? Aquesta màquina fallarà en les properes 48 hores?

“Els models d’IA presenten el problema de l’efecte ‘black box’: desconeixem quin raonament segueix el sistema”

Però malgrat que té una innegable espectacularitat tecnològica, els models IA han presentat històricament un problema: no sabíem per què funcionaven. És el conegut com a efecte black box: entrem dades i traiem dades, però desconeixem quin raonament segueix el sistema. Treballar en mode “caixa negra” pot implicar:

1. Aplicar models subòptims, és a dir, treballar de manera no eficient.
2. Decidir a partir de models amb biaixos, cosa que pot portar a prendre decisions injustes.

Aquests dos factors poden provocar la desconfiança dels usuaris a la IA, i aquesta desconfiança pot frenar l'ús dels models.

Per respondre a aquests inconvenients ja fa un temps que es treballa en el concepte d'Intel·ligència Artificial Explicable (IAX). Bàsicament consisteix en el desenvolupament d'algoritmes gràcies als quals podem fer transparents els models IA, la qual cosa ens permet entendre'ls tant globalment com en cada previsió concreta que realitzin.

Les primeres solucions es van oferir com a llibreries open source, les quals requereixen una dedicació intensiva per part de personal altament especialitzat, i comporten unes necessitats d’actualització i manteniment força costós.

“La intel·ligència artificial explicable permet fer transparents els models IA i entendre’ls tan globalment com en cada previsió concreta”

Els avantatges innegables de la IAX (un estudi d'IBM conclou que el benefici econòmic d'aplicar models generats amb tècniques IAX triplica el resultat dels models IA tradicionals) feien que fos qüestió de temps l'aparició de propostes comercials orientades a empreses i organitzacions que ja disposen d'una cultura data-driven. Així, els gegants tecnològics (Google, Microsoft, IBM...) inclouen dins els seus entorns d’IA algun mòdul específic d'IAX.

Per posar a l’abast de qualsevol empresa els beneficis de la IAX han aparegut “proveïdors de nínxol”: Fiddler, DataRobot, Arthur... de moment molt focalitzats en el mercat dels Estats Units. També com a proveïdor especialitzat, però des de l’ecosistema emprenedor de Barcelona, ha sorgit EXPAI, la primera start-up europea especialitzada en IAX, que permet a les organitzacions fer transparents els models IA en minuts combinant les millors tècniques d'IAX disponibles en una solució visual de fàcil ús, és a dir, transformant un know how críptic en una solució que aporta valor a les empreses, a l'abast de persones no especialitzades. Una bona manera de tenir un primer contacte amb la IAX i analitzar el valor que pot aportar dins una organització és registrar-se en la versió freemium que ofereix precisament EXPAI, de capacitat limitada però plenament operacional.

L’explicabilitat ja havia arribat per facilitar una millor presa de decisions, aportant d'una banda eficiència i productivitat, i de l'altra transparència i justícia. Ara, a més, està a l’abast de totes les organitzacions.