Quan la ment humana ha de corregir els algoritmes

L’ús de models predictius basats en ‘big data’ i intel·ligència artificial han d’anar acompanyats de la interpretació de professionals per evitar discriminacions, biaixos i errors

Categories:

Redacció

La intel·ligència artificial i les habilitats humans formen la combinació perfecta per automatitzar processos i fer-los més eficients
La intel·ligència artificial i les habilitats humans formen la combinació perfecta per automatitzar processos i fer-los més eficients | Gerd Altmann / Pixabay

Les dades s’equivoquen? El big data, en si mateix, no s’equivoca, però sí que pot ser errònia la interpretació que s’extregui a partir de la informació. Per això els experts rebutgen parlar d’una intel·ligència artificial superior a la ment humana. “No podem confiar del tot en l’explicació, sempre hi ha d’haver una persona que revisi i validi, que sigui una auditoria dels algoritmes”, ha alertat l’investigador de la Universitat Politècnica de Catalunya (UPC) Bernat Coma en el marc de l’AI&Big Data Congress. Però no es tracta de desconfiar de les matemàtiques i dels resultats que ens ofereixen els càlculs computacionals, sinó d’entendre que la tecnologia ha de ser un complement a les habilitats i capacitats dels treballadors.

Detectar el frau sense errors

La teoria de Coma ha estat posada en pràctica en la recerca computacional que dirigeix i que la UPC ha impulsat de la mà de Naturgy. La companyia energètica sempre ha utilitzat els consums per detectar fraus. Si de cop la demanda de subministrament cau en una llar, directament s’interpreta que hi ha algun problema, quan podria tractar-se d’unitats familiars que han marxat temporalment a una segona residència. “Les dades ens han ajudat a analitzar aquests comportaments, contrastar-los amb les persones encarregades de la zona, i obtenir resultats més eficients”, ha detallat l’investigador, qui ha repetit que la interpretació humana pot corregir les conclusions de les màquines.

Coma: “Hem vist casos de discriminació perquè les dades no poden aportar una interpretació qualitativa com la de les persones”

Un altre exemple real es troba a Madrid. La capital espanyola és on més casos fraudulents es registren, pel que un sistema de machine learning tendirà abans a identificar un usuari que resideixi en aquesta regió com a estafador. “Hem vist casos de discriminació perquè les dades no poden aportar una interpretació qualitativa com la de les persones”, ha recordat.

A més de combinar les habilitats de les màquines i les persones, Coma alerta de la importància d’escollir una bona fórmula: “Aquest projecte ha usat un algoritme complex, però sempre és millor començar per un de simple per valorar la informació i el problema a resoldre perquè amb una opció més fàcil es poden obtenir bons resultats”. I alerta de l’ús de les bases d’informació, les quals poden tenir coneixement esbiaixat si es tracta d’un catàleg limitat, amb poques mostres o limitades a un entorn. “Uber pot utilitzar el data driven solution perquè té informació a escala global, però no ho pot fer una empresa petita”, ha assenyalat, “al final sempre hem de combinar màquines i persones”.

Intel·ligència artificial en la concessió de préstecs

L’aplicació dels models estadístics en l’àmbit financer es van aplicar per primera vegada fa més de 30 anys a l’Estat espanyol i han anat sofisticant-se a mesura que la tecnologia ha evolucionat. Un dels últims treballs de la companyia AIS Aplicacions d’Intel·ligència Artificial ha vingut de la mà del Grup BBVA, qui ha aplicat els algoritmes en la presa de decisió relativa a la concessió de préstecs.

El projecte ha comptat amb el punt fort de ser una companyia amb un volum de dades prou generós per generar models realment predictius. No obstant això, el sector financer és també un àmbit amb riscos i on una tria errònia per tenir greus conseqüències. Amb aquest context, el director comercial regional d’Argentina, Mèxic i Colòmbia de la tecnològica, David Fernández, ha reconegut que la seva principal por era “tenir un sistema de machine learning que tingués problemes d’ajustos i fracassar”, pel que ha insistit que ha estat vital “la supervisió per part de l’entitat”.

Fernández: “La intel·ligència artificial en la gestió d’informació financera permet reduir el nombre de fórmules i millorar entre un 25% i un 50% l’eficiència”

L’entitat bancària comptava prèviament amb un sistema de més de 100 processos paral·lels per poder treballar sobre la base de dades de perfils diversos que requerien models específics per ser plenament predictibles. “La intel·ligència artificial en la gestió d’aquesta informació permet reduir el nombre de fórmules i millorar entre un 25% i un 50% l’eficiència”, ha comentat Fernández, que ha destacat que es tracta de substituir les reestimacions periòdiques que feien els experts financers per un aprenentatge automàtic.

Precisament el Grup BBVA buscava substituir aquesta actualització manual cada determinat temps. El repte per a AIS va ser elaborar uns algoritmes capaços de fer les prediccions sense la intervenció humana, però acompanyats dels professionals per fer les interpretacions definitives i corregir els possibles errors en les conclusions. “El simple fet de sistematitzar la primera fase del procés va millorar l’eficiència dels models en un 25% i es va reduir el cost de cobrança dels préstecs”, ha assenyalat el director comercial.

Tant en el cas del BBVA com en el de Naturgy, les dades han ajudat a optimitzar processos de la mà de la tecnologia, però han estat clars exemples de com la tecnologia només pot tenir un èxit assegurat si va acompanyat de la capacitat analítica i interpretativa dels empleats.