La intel·ligència artificial generativa ja ha entrat a les aules. Els alumnes la utilitzen per buscar informació, resumir textos, entendre conceptes o preparar tasques, però l’adopció de la tecnologia avança més ràpidament que l’aprenentatge de les competències necessàries per fer-ne un ús crític. Aquesta és una de les principals conclusions d’un estudi de l’Escola Pia de Catalunya i la Universitat Oberta de Catalunya (UOC), elaborat a partir de les respostes de 3.700 alumnes d’ESO i batxillerat de 17 centres educatius catalans.

La dada més significativa apareix quan se’ls pregunta què fan amb les respostes que obtenen de la intel·ligència artificial generativa (IAG): només un 10% afirma que verifica sempre la informació. Un 23,8% assegura que ho fa sovint, mentre que un 32,9% només contrasta les respostes de vegades, un 21,7% ho fa rarament i un 11,5% no ho fa mai.

El resultat dibuixa una paradoxa: els estudiants han après amb relativa rapidesa a preguntar a la IA, però encara no han incorporat de manera sistemàtica l’hàbit de comprovar allò que els respon.

"La IA s’ha incorporat més ràpidament que no pas les competències necessàries per utilitzar-la críticament", explica a Metadata Marta López, professora dels Estudis de Psicologia i Ciències de l’Educació de la UOC i coordinadora del grup de recerca GREDU. "L’alumnat ha après bastant bé a obtenir una resposta: concretar una pregunta, reformular-la, demanar-li que millori un text... Però comprovar externament si aquella resposta és correcta és molt menys habitual."

Saber obtenir una resposta no vol dir saber si és certa

L'estudi, el primer d’aquestes característiques a escala europea, mostra que l’ús de la IAG ja forma part de la vida acadèmica quotidiana. Més de la meitat de l’alumnat —un 54,9%— afirma que utilitza dispositius electrònics per estudiar entre una i tres hores diàries, mentre que un 27,1% ho fa durant més de tres hores.

El coneixement sobre aquestes tecnologies, però, és desigual. Un 34,8% dels estudiants declara tenir un coneixement baix o molt baix de la IAG, mentre que un 46,6% se situa en nivells alts. I la principal via per adquirir aquests coneixements és l’autoaprenentatge.

Només un 10% dels alumnes verifica sempre la informació generada per IA.

Aquesta combinació planteja un problema educatiu: els joves poden haver desenvolupat habilitats pràctiques per interactuar amb eines com ChatGPT sense haver après necessàriament els mecanismes per avaluar-ne els resultats.

La mateixa distància apareix quan se’ls pregunta per la seva pròpia capacitat crítica. Un 39,2% de l’alumnat considera que té una capacitat alta o molt alta per reconèixer inconsistències o errors en les respostes de la IA. En canvi, només un 10% assegura que les verifica sempre.

"Tenim una distància entre 'crec que sabré detectar si alguna cosa està malament' i 'aplico sistemàticament un procediment per comprovar-ho'", apunta López.

Aquesta diferència és especialment rellevant perquè la IA pot presentar una informació incorrecta amb una estructura impecable. La qualitat formal d’una resposta no garanteix la seva exactitud. "Fluïdesa textual no és sinònim de veracitat", resumeix la investigadora.

La IA pot equivocar-se amb molta seguretat

Una de les dificultats educatives que planteja la IAG és que una resposta errònia no necessàriament sembla errònia. Els sistemes generatius poden construir explicacions coherents, ordenades i convincents encara que continguin dades falses, interpretacions incorrectes o informació descontextualitzada.

López, però, adverteix que l’estudi no permet afirmar que el to segur o la rapidesa de les respostes siguin la causa directa de la manca de verificació. La investigació és descriptiva i no estableix aquesta relació causal.

Un 45,4% contrasta la informació amb altres fonts mai o poques vegades.

El que sí que permet observar és que el contrast amb fonts externes encara no és un comportament habitual. Només un 26,6% dels estudiants afirma que contrasta moltes vegades o sempre la informació amb altres fonts, mentre que un 45,4% ho fa mai o poques vegades.

Per això, el repte no consisteix simplement a explicar als alumnes que la IA "pot equivocar-se". Cal convertir la verificació en una rutina concreta. "El problema no és només de capacitat, sinó també d’hàbit i sistematització", assenyala López.

De la detecció del plagi a la verificació de la informació

El debat sobre la IA a les escoles s’ha centrat sovint en una pregunta: com saber si un alumne ha utilitzat intel·ligència artificial per fer un treball? Per a López, aquesta perspectiva és insuficient. La qüestió educativa ja no hauria de ser només si l’alumne ha fet servir IA, sinó què ha fet amb aquesta tecnologia.

"Un alumne pot utilitzar IA sense plagiar i, tanmateix, incorporar una dada falsa, una explicació incorrecta o un biaix perquè no l’ha contrastat", explica.

Això obliga a passar d’una lògica basada principalment en el control a una altra centrada en les competències. El professorat hauria d’ensenyar els estudiants a determinar quan és pertinent utilitzar la IA, com interrogar-la, com verificar les seves respostes i quina part del procés ha de continuar sent pròpia.

Un 39,2% creu que sap detectar errors de la IA, però fer-ho no és un hàbit sistemàtic.

Aquesta transformació també afecta l’avaluació. Si una eina pot generar en segons un text que abans requeria hores de treball, valorar exclusivament el resultat final ofereix cada vegada menys informació sobre què ha après realment l’alumne. "Cada vegada té menys sentit avaluar només el producte final", defensa López.

En lloc d’això, proposa incorporar evidències del procés: les preguntes formulades a la IA, les fonts utilitzades per contrastar la informació, els canvis introduïts en el resultat o els errors que l’alumne ha estat capaç de detectar.

Cinc passos per comprovar una resposta de la IA

Per a la investigadora de la UOC, verificar una resposta generada per IA hauria de convertir-se en una competència acadèmica tan habitual com citar una font o revisar un text abans d’entregar-lo.

El procés es pot resumir en cinc passos:

1. Identificar què està afirmant la IA.
L’alumne ha de diferenciar entre dades, opinions, explicacions i inferències.

2. Determinar què cal verificar.
Dates, xifres, noms, cites, estudis, fórmules i afirmacions factuals no s’haurien de donar per bones automàticament.

3. Contrastar amb fonts externes fiables.
Llibres, articles acadèmics, organismes oficials, documents originals o experts poden servir per comprovar una afirmació. Preguntar-ho a una altra IA, però, no equival necessàriament a verificar-la.

4. Comparar les fonts.
Quan dues fonts ofereixen informació diferent, l’alumne ha de poder argumentar per què considera una d’elles més fiable.

5. Justificar la decisió.
No n’hi ha prou amb afirmar "ho he comprovat": cal explicar quines fonts s’han utilitzat i per què permeten considerar correcta una determinada informació.

"Verificar no és només buscar a Google si apareix la mateixa frase", subratlla López. També implica valorar l’autoria, l’evidència, l’actualitat, la intencionalitat i la qualitat de les fonts.

L’escola encara no és el principal espai d’aprenentatge

L’altre gran element que posa sobre la taula l’estudi és com aprenen els alumnes a utilitzar la IA. L’autoaprenentatge és actualment la via predominant, mentre que gairebé la meitat dels estudiants —un 49,2%— afirma que ha après poc o gens sobre IA a l’escola.

Això pot generar desigualtats entre els alumnes. Qui disposa de més coneixements previs, recursos o suport fora de l’aula pot desenvolupar abans unes competències que altres estudiants no tenen.

L’autoaprenentatge és la principal via per aprendre a utilitzar la IA, mentre un 49,2% afirma que n’ha après poc o gens a l’escola.

"Si deixem l’aprenentatge de la IA exclusivament a la iniciativa individual, aprendran més i millor aquell alumnat que té més curiositat, més recursos o un entorn que els pugui orientar", alerta López.

L’altre risc és que l’alumnat prioritzi les habilitats que ofereixen un benefici immediat —com fer una tasca més ràpidament o obtenir una resposta millor estructurada— per sobre de competències que exigeixen més esforç, com contrastar fonts, identificar biaixos, protegir dades o decidir quan no convé utilitzar la IA.

No es tracta de desconfiar de la IA, sinó de calibrar la confiança

Això no significa que l’escola hagi d’ensenyar els alumnes a rebutjar la intel·ligència artificial. "Jo no parlaria tant d’ensenyar a 'desconfiar' com d’ensenyar una confiança calibrada", apunta la investigadora.

La idea és que els estudiants entenguin que la IA no és ni una font infal·lible ni una eina inútil. Pot ser especialment útil per explicar conceptes, comparar arguments, generar preguntes, simular situacions o ajudar a planificar una tasca, sempre que l’alumne mantingui el control del procés.

Marta López defensa passar de controlar l’ús de la IA a ensenyar a qüestionar-la, verificar-la i interpretar-la.

Per exemple, una activitat educativa pot consistir a demanar a la IA que expliqui un concepte i després comparar l’explicació amb un llibre de text; generar diversos arguments i identificar-ne els punts febles, o obtenir dues interpretacions diferents i discutir quina està millor fonamentada. 

D’aquesta manera, la IA deixa de ser una màquina que proporciona una resposta definitiva i es converteix en un objecte sobre el qual pensar. "El repte és que sigui un recurs complementari que estimuli l’activitat cognitiva, i no un substitut d’aquesta activitat", defensa López.

El professorat, com a referent de criteri

Aquesta transformació també exigeix canvis en el paper dels docents. L’objectiu no hauria de ser convertir el professorat en un "detector humà" de continguts generats per IA, sinó en un referent de criteri en l’entorn digital.

Això implica ensenyar què és una font fiable, com es valida una afirmació, com s’identifica una limitació d’un sistema d’IA o com es protegeixen les dades personals.

També cal que els centres estableixin criteris comuns. Si una assignatura prohibeix la IA, una altra la permet sense condicions i una tercera no en parla, els estudiants reben missatges contradictoris.

Per això l’estudi defensa la necessitat de construir una cultura pedagògica d’ús de la IA als centres educatius, amb protocols sobre els usos permesos, limitats o no acceptables. López ho resumeix així: "La clau és el lideratge docent i institucional".

Una competència que va més enllà de ChatGPT

La formació en intel·ligència artificial tampoc hauria de consistir a aprendre a utilitzar una determinada aplicació. Les eines canviaran ràpidament i, per tant, les competències més importants seran aquelles que es mantinguin independentment de la plataforma.

Per a López, això implica saber formular bones preguntes, interpretar respostes, detectar errors i biaixos, buscar evidències, protegir les dades, reconèixer l’ús que s’ha fet de la tecnologia i decidir quan no convé utilitzar-la.

“Les eines canviaran molt ràpidament. El que perdurarà és la capacitat de preguntar-se: ‘Això que m’està dient, com sé que és cert?’” — Marta López

En aquest sentit, la investigadora defensa que la IAG no substitueix les competències bàsiques tradicionals, sinó que les fa encara més importants. "Per fer servir bé la IA, cal llegir bé, escriure bé, raonar bé, tenir coneixements previs i saber contrastar", afirma.

L’objectiu, per tant, no és formar una generació d’alumnes que simplement sàpiguen donar instruccions a una IA. És formar estudiants capaços d’entendre quan una resposta és útil, quan és dubtosa i què han de fer per saber-ho.

La verificació, una assignatura transversal

Si hagués de donar una única recomanació a les escoles catalanes de cara al nou curs, López ho té clar: convertir la verificació de la informació generada per IA en una pràctica acadèmica obligatòria i transversal.

No es tracta d’afegir necessàriament una nova assignatura al currículum, sinó d’incorporar aquesta pràctica a les activitats que ja es fan a l’aula. "Les eines canviaran molt ràpidament. El que perdurarà és la capacitat de preguntar-se: 'Això que m’està dient, com sé que és cert?'", assenyala.

La pregunta marca, en certa manera, un canvi de paradigma en l’educació digital. Durant els primers anys d’expansió de la IA generativa, una de les principals preocupacions ha estat ensenyar els alumnes a fer-la servir. Ara, a mesura que la tecnologia es normalitza, el repte és més complex: aconseguir que siguin capaços de pensar amb ella sense deixar que pensi per ells.

I, sobretot, que abans de donar una resposta generada per IA per bona siguin capaços de fer-se una pregunta molt més important: com ho sé?