Des de fa un parell d’anys, formo part del jurat que avalua els millors Treballs de Recerca dels alumnes de Sant Joan Despí, la meva ciutat natal. En l’edició d’enguany m’he topat amb un treball de recerca excepcional. Parla sobre l’ús de nanotecnologia en malalties neurològiques. Però més enllà de la qualitat del treball, l’alumna declarava que havia fet ús de la Intel·ligència Artificial per refinar algunes parts del text. Declaracions com aquestes són d’agrair. Sobretot perquè mostren una transparència que molt sovint es troba a faltar quan es fa ús de la IA.

Però a partir d’aquí em van sorgir diverses qüestions. La primera era que, l’estil i qualitat del text estava a anys llum del que un esperaria d’un alumne de batxillerat. Com podia avaluar-lo en comparació amb els altres treballs que presentaven una expressió més pròpia d’un noi o una noia de setze anys? D’altra banda, el resultat era tan excepcional que em feia dubtar, potser de forma injustificada, sobre què era el que l’alumna realment havia entès.

Comentant aquest cas amb la resta de membres del jurat dels premis, ens vam engrescar en un debat sobre com gestionar l’ús de la IA en pròximes edicions. No vam arribar a cap conclusió.

"La IA pot esdevenir una eina amb potencial per modernitzar l’aprenentatge, però només si s’implementa sobre principis ètics i socials sòlids."

No soc mestre ni em dedico a l’educació, però com a comunicador treballo molt a prop del sector. Tots els professors amb qui interacciono coincideixen en el fet que la IA pot esdevenir una eina amb potencial per modernitzar i millorar l’aprenentatge dels alumnes, així com facilitar i complementar la tasca dels professors.

Però perquè això sigui així, cal una implementació de la IA lògica i fonamentada en uns principis ètics i socials sòlids. Principis que avui són, a la pràctica, inexistents, i els docents es troben navegant sense rumb en una mar cada cop més agitada i, per què no dir-ho, plena de pirates.

La IA no és una calculadora

Molt sovint, en el sector educatiu i, en particular quan es vol rebatre les posicions més crítiques amb les noves tecnologies, es compara la IA amb una calculadora. Però la IA, tot i que pugui dur a terme càlculs, no és ni serà comparable a una calculadora. Per diverses raons.

La primera és que les capacitats d’una calculadora estan delimitades a una sèrie de tasques ben definides. Una calculadora no pot dur a terme qualsevol tasca que li demanem. En aquest sentit, la IA proporciona un salt quantitatiu considerable.

"L’impacte cognitiu de l’ús reiterat de la IA no és negligible i una adopció sense guies clares comporta riscos que encara no entenem del tot."

D’altra banda, una calculadora és determinista. Sota una mateixa instrucció sempre obtindrem el mateix resultat. Això fa que sigui una eina en la qual podem confiar. Fa una tasca i la fa de forma eficient i fiable. Els grans models de llenguatge són models probabilístics, el que significa que una mateixa instrucció pot donar respostes diferents.

Però el tret més important és que, quan utilitzem una calculadora, conservem la nostra agència. En aquest sentit, la prova és ben senzilla. Només cal que treieu totes les dades que utilitzen els grans models de llenguatge. Si segueixen funcionant només amb la vostra agència llavors són eines com ho és una calculadora. Per què? Doncs perquè una calculadora no pretén substituir el judici crític que hi pot haver al darrere del problema o el càlcul que estigui resolent.

Més riscos que beneficis?

L’educació pateix mancances i problemes. La tecnologia pot aportar solucions a alguns d’aquests problemes, però no a tots com sembla que volen alguns que ni tan sols es dediquen a l’educació. I d’entre totes aquestes tecnologies, és indubtable el gran potencial que les eines basades en IA poden tenir per millorar l’aprenentatge. No obstant això, hem de ser conscients dels riscos i els reptes que una adopció sense guies i directrius clares comporta.

Ja s’han donat casos on els governs han hagut de fer marxa enrere en la incorporació de tecnologies com tauletes a les classes de primària. Els estudiants són conillets d'índies en un món tecnològicament canviant. Però experimentar amb els més joves pot tenir conseqüències notables en un futur pròxim. El pitjor és que no acabin aprenent res més enllà d’una nova addicció tecnològica.

Amb la incorporació de la IA a classe no només hem de pensar en allò que guanyem, sinó també què perdem i què deixem de guanyar durant aquesta adopció.

"La base de l’educació hauria de ser formar ciutadans amb coneixement i esperit crític, no només usuaris eficients de la tecnologia."

Perquè l’impacte cognitiu de l’ús reiterat de la IA no és negligible. Un estudi del MIT, a Massachusetts, va avaluar el deute cognitiu que els estudiants acumulaven quan feien ús d’assistents d’IA en la redacció dels seus assajos. Altres estudis recents com els de Shaw i Nave mostren que una utilització abusiva de sistemes d’IA generativa pot provocar el que defineixen com a rendició cognitiva, on l’usuari ja no fa una delegació sinó que va més enllà i fa una renúncia acrítica de la capacitat de raonar. En aquest sentit, una calculadora provoca una descàrrega cognitiva mentre que sistemes com el ChatGPT sense una guia i acompanyament impliquen aquesta rendició cognitiva.

Un altre aspecte on el sector educatiu es posa d’acord és que un valor essencial que l’educació primària, secundària i universitària ha d’ajudar a desenvolupar és el d’autonomia, on els estudiants siguin capaços de valdre’s per si sols com a ciutadans. No obstant això, una excessiva dependència en la tecnologia i, en particular, en la IA, provoca l’efecte contrari. En aquest sentit, qui surt guanyant no són els alumnes sinó les empreses que proporcionen serveis, ja que inclouen en els seus comptes de resultats nous clients.

La base de l’educació radica, o hauria de radicar, en formar ciutadans amb coneixement i competències exercides amb esperit crític. Eines com els grans models de llenguatge, amb tot el seu valor i potencial, són actualment torpedes directes a la línia de flotació del sistema educatiu.

La solució passa pel debat i el consens

Probablement, part de la solució radica en deixar d’enfocar l’avaluació dels estudiants de la mateixa manera, amb formes que no siguin fàcilment realitzables per aplicacions d’intel·ligència artificial. On l’alumne exposi sense complements ni ajudes el que ha après, tant a escala conceptual com a escala de capacitats com la síntesi i l’esperit crític. En aquest cas, més que una eina per trobar solucions ràpides, la IA pot ser una eina fonamental per crear entorns de debat i reflexió.

L’avenç de la IA en tots els sectors, incloent-hi el sector educatiu, és imparable. Per aquesta raó, més que evitar que la IA entri a les aules (com ja ho està fent), hem d’assegurar que ho fa de la manera més ètica i responsable possible. Hem d’evitar que la IA provoqui una deriva cap a una vida en pilot automàtic. L’escola i els instituts han de ser els bressols d’aquesta incorporació responsable de la IA en les nostres vides.

"Més que impedir l’entrada de la IA a les aules, el repte és garantir que ho faci de la manera més ètica i responsable possible."

¿Què volem prioritzar? ¿Una educació basada a maximitzar la productivitat i l’èxit professional? ¿O una basada en la formació de ciutadans? Aquest és, en realitat, un fals dilema del qual només trobarem una solució obrint el debat per entendre de primera mà quin és el tipus d’educació que volem pels nostres fills.

El sector educatiu coincideix a apuntar que existeix una manca d’eines i guies concretes, així com coordinació i directrius polítiques per introduir la IA a la classe. Per aquesta raó, l’Observatori en Ètica de la Intel·ligència Artificial de Catalunya (OEIAC) posa a disposició una sèrie d’eines per docents i alumnes que permeten fer un ús responsable i segur d’aquests sistemes.

Les eines es troben emmarcades dins del Model PIO (Principis, Indicadors i Observables) dedicat al sector educatiu. Aquest conjunt d’eines té com a objectiu ajudar els docents, estudiants i les famílies a identificar els errors i vulnerabilitats dels sistemes d'IA en els aspectes clau relacionats amb els set principis ètics (responsabilitat, autonomia, privacitat, seguretat, transparència, justícia i sostenibilitat) per tal de promoure una IA de confiança i responsable a la comunitat educativa.