Vocal a Young IT Girls i encarregada de l’equip d’activitats
Fem ús de les IA, però amb consciència
“Per fer un ús de les IA amb consciència hem de saber què hi ha darrere de tots aquests productes”
Cada cop més i més persones fan ús de models d’intel·ligència artificial (IA), els quals fan servir més recursos tant per entrenar-los com per fer-los servir. Cada mes, apareixen nous models de l’estil del ChatGPT. Amb ells, podem rebre respostes a preguntes que tenim (en comptes de fer servir cercadors), escriure o editar documents, generar contingut o, fins i tot, algunes eines ens ajuden a planificar el nostre dia amb les IA per ‘optimitzar-lo’.
“Els models d’IA poden generar informació falsa, que pot generar una sensació de miratge”
Tot i que treballo en el sector, soc bastant reticent a fer servir aquestes eines i integrar-les en el meu dia a dia. Fins ara, he fet servir el model ChatGPT en comptades ocasions, normalment per fer recerca respecte als beneficis (i els límits) d’aquest model en termes d’informació i generació de text. Advoco per fer un ús de les IA amb consciència, i per poder fer això, primer de tot hem de saber què hi ha darrere de tots aquests productes. Per això, necessitem transparència per part de les empreses, aprenentatge per part de la societat, i sentit crític i consciència quan fem servir eines basades en models d’IA. En els següents punts, exposo les raons principals per les quals advoco per això.
- Falta de confiança en la informació rebuda. Cada cop que veig una resposta de ChatGPT, em pregunto: és aquesta informació certa?; hi ha altres respostes correctes a la mateixa pregunta?; està la resposta del model esbiaixada envers certs estereotips? A més a més, aquests models poden generar informació falsa, que pot generar una sensació de miratge. Sempre hem de ser crítics amb la informació rebuda, de la mateixa manera que amb la resta d’informació a internet.
- L’ús de les IA ens fa ser més productius? És cert que, en aplicacions concretes i també per accessibilitat, els models d’IA són beneficiosos. Per exemple, tenir disponibles models de síntesi de veu que llegeixen pàgines web, fer servir traductors web per traduir pàgines en idiomes que no coneixes, o generar transcripcions en temps real durant una videotrucada. Tot i això, qüestiono si és tan efectiu afegir aquestes eines en tots els aspectes del nostre dia a dia.
- Què són les IA? Com funcionen? En la meva opinió, el punt més crític és que molts usuaris no saben ben bé com funcionen les IA més enllà del que poden fer i no fer. Però no tenen informació sobre com estan entrenats els models, d’on surten les dades amb les quals s’ha entrenat, quin és l’impacte mediambiental, o com fan servir el que generem quan fem servir els seus productes. Per defecte, és molt difícil obtenir respostes a totes aquestes preguntes, ja que són productes creats per empreses privades. A més a més, aquestes empreses no donen eines a la societat per a poder entendre aquests models, i poder fer una decisió informada sobre si fer-los servir o no.
- Com s’han entrenat aquests models? Encara ens queden moltes coses per saber sobre com aquests models han sigut entrenats, i d’on s’ha extret la informació. Per a crear nous models amb millor rerefons ètic, necessitem més canvis en la protecció i drets de les nostres dades al núvol.
- L'impacte mediambiental. Tot i que aquest aspecte de les IA potser no és tan conegut, és essencial tenir-lo en compte envers la crisi climàtica que patim. En comparació amb una cerca en un buscador d’informació més clàssic, nous serveis com ChatGPT consumeixen fins a 25 vegades més energia, i també fer servir molta aigua per a refredar els seus servidors.
- L'impacte social. Un altre aspecte poc conegut de les IA és l’ús de mà d’obra a països en desenvolupament per a fer treballs d’etiquetatge de dades, per salaris molt baixos. Aquest és un mètode d’explotació semblant al fast fashion, que no podem permetre com a societat que es repeteixi una vegada rere l’altre.
- Com fan servir les nostres dades? Ara per ara, la majoria de companyies i serveis fan servir les nostres dades per a continuar entrenant els models d’IA, sense ser oberts al respecte, i complicant processos que poden protegir els nostres drets respecte a l’ús de les nostres dades. El futur de les IA exigeix polítiques d’empresa honestes i segures pels usuaris.
“L’ús de les IA ens fa ser més productius? Qüestiono si és tan efectiu afegir aquestes eines en tots els aspectes del nostre dia a dia”
Per totes aquestes raons, crec que hem d’exercir precaució quan fem servir models d’IA. Necessitem més coneixements en l'àmbit global, i informació respecte de les eines d’IA que fem servir, per poder prendre decisions contrastades amb informació veraç i de qualitat. El seu ús pot ser molt profitós a escala individual o fins i tot col·lectiu, però també hem de tenir en compte l’impacte personal, social i mediambiental que comporten, i responsabilitzar a les empreses a millorar els processos al voltant d’entrenar models d’IA i oferir-los a la població.
A Young IT Girls, oferim xerrades, tant per estudiants com per a adults, per introduir els assistents al món de la intel·ligència artificial, mostrant com funciona i, de manera interactiva, investigant biaixos que aquests models poden generar. Si us interessa saber-ne més, no dubteu en contactar-nos!