El boom de la intel·ligència artificial generativa ha estat una realitat en els últims mesos. Les xarxes socials, la premsa, els congressos... A tot arreu se’n parla de l’ús que li podem fer a aquestes aplicacions d’IA per generar textos, imatges, vídeos o música i com poden arribar a potenciar i millorar els nostres projectes o continguts.

Segons dades publicades, el gener de 2023 ChatGPT va tenir 100 milions de persones usuàries actives i durant els mesos de març i abril en va aconseguir 220 milions d’addicionals. Tenint en compte que hi ha moltes més aplicacions d’IA disponibles a banda d’aquesta, el nombre de persones que en fa ús a escala mundial és impactant. Ara que la IA generativa ha pres una magnitud tan important és quan sorgeixen els dubtes i preguntes sobre la transparència, l’ètica o els biaixos dels algoritmes.

Al març es feia públic que Midjourney, l’eina per crear imatges amb IA, ja no tenia la seva versió gratuïta de prova. A banda d’una qüestió econòmica, el motiu va ser, fonamentalment, l’ús que se’n feia per crear notícies falses (les conegudes deepfakes) gràcies a les imatges tan realistes que proporcionava. Tot i que ja hi havia moderació dels continguts que fossin agressius, abusius o irrespectuosos, molts altres usos són susceptibles de provocar controvèrsia.

“Ara que la IA generativa ha pres una magnitud tan important és quan sorgeixen els dubtes i preguntes sobre la transparència, l’ètica o els biaixos dels algoritmes”

He de confessar que les noves tecnologies m’apassionen. I més concretament la intel·ligència artificial, ja que ens obre un món de possibilitats i oportunitats a l’abast de tothom. Ara bé, és fonamental que qui en faci ús tingui criteri per tal de filtrar els resultats obtinguts a partir d’aquestes eines o aplicacions.

Si explorem els biaixos de gènere, no hi ha cap eina de les que tenim a l’abast que se salvi. Això no és una sorpresa pels qui treballem en la igualtat de tracte i d’oportunitats entre dones i homes, ja que només és el reflex de la nostra societat. Es continuen perpetuant, per tant, desigualtats, estereotips o rols de gènere de manera inconscient. Vet-ho aquí alguns exemples per entendre-ho millor:

Quan li preguntes a Midjourney que et digui les primeres persones que arribaran a Mart o les persones amb més poder el 2050, les imatges que genera són les d'homes. Les dones no apareixem, i és un reflex de la manca de visibilitat femenina de referència en llocs de poder i responsabilitat.

O un recurs més senzill i que moltes persones utilitzen: el traductor. El ChatGPT fa traduccions com les que pot servir el traductor de Google, però totes dues encara avui segueixen tenint biaixos. Fa un temps que a la traducció anglès-espanyol van solucionar-se certs problemes que s'havien denunciat, com ara que la traducció de judge fos juez i la de ‘nurse’ fos ‘enfermera’, perpetuant així els rols de gènere. No donava pas l'opció a què hi hagués una ‘jueza’ o un ‘enfermero’.

“Quan li preguntes a Midjourney que et digui les primeres persones que arribaran a Mart o les persones amb més poder el 2050, les imatges que genera són les d'homes”

Un cop solucionat aquest punt en les traduccions de paraules concretes, no s’ha fet el mateix en la traducció de frases o textos més llargs. Ara com ara, si volem traduir ‘the judge told the nurse to call the engineer’ la traducció de totes dues eines és ‘el juez le dijo a la enfermera que llamara al ingeniero’ perpetuant els mateixos rols de gènere.

Podria seguir amb més exemples, com ara què passa si li demanem que ens digui quines són les responsabilitats d’un pare i les d’una mare (per separat), o si li demanem que ens detalli quina seria la rutina diària d’una família formada per una parella (dona-home), amb dos fills, des del matí fins a la nit. Feu la prova. A mi em segueixen sortint respostes carregades d’estereotips i rols de gènere.

Tots aquests avanços han arribat per quedar-se, per formar part de les nostres vides i per poder millorar i agilitzar molts processos. Ara bé, hem de tenir en compte que el criteri i la consciència sempre l’ha de posar la persona que hi ha al darrere. Sense aquesta premissa, no s’aconseguirà una igualtat real i efectiva a la nostra societat.