La intel·ligència artificial (IA) s’ha erigit en una de les tecnologies amb més projecció i transversalitat de l’actualitat, com el mateix Bill Gates mencionava recentment en un Ask Me Anything (AMA, “pregunta’m el que vulguis”) a Reddit, on la col·locava per davant de la blockchain i del metavers. Si bé és cert que fa anys que s’aplica en múltiples sectors, la publicació de solucions amb finalitats creatives obertes a tota la ciutadania, com DALL·E o ChatGPT, ha accelerat la seva adopció massiva. Tant és així, que en el món de l’educació ja s’han identificat casos arreu del món en què estudiants han presentat treballs acadèmics elaborats a partir de ChatGPT.

Un dels experts que més ha estudiat l’impacte de les noves tecnologies en l’àmbit educatiu és Mike Sharples, professor emèrit de l'Institut de Tecnologia Educativa de la Universitat Oberta del Regne Unit i coautor del llibre Story Machines: How Computers Have Become Creative Writers. “La disrupció pot ser positiva, negativa, o una combinació de les dues, com és el cas amb la intel·ligència artificial”, ha reblat l’acadèmic en una sessió del cicle Recerca EDvolució organitzat per la Universitat Pompeu Fabra (UPF). El primer que ha deixat clar l’investigador en la seva intervenció és que ChatGPT i la resta d’eines de l’estil no són bases de dades, sinó models de llenguatge de propòsit general: “Els textos que produeixen no estan copiats, són genuïns”. A la pràctica, aquest fet incapacita els softwares actuals de detecció de plagi, ja que les frases generades per aquesta IA són creades des de zero, i l’usuari sempre pot generar-ne una nova versió.

Per demostrar la seva tesi, Sharples va demanar a ChatGPT que li escrivís un assaig sobre els estils cognitius (learning styles), una teoria psicològica segons la qual les persones tenen diferents maneres d’entendre i processar la informació. El text obtingut va ser analitzat per dos dels programes més emprats en aquesta temàtica, i cap d’ells va detectar indicis de còpia il·lícita. “La gramàtica està bé, el text flueix, té cites i bibliografia… S’assembla raonablement a l’assaig que podria escriure un alumne”, ha detallat Sharples. Tanmateix, el document presenta un error flagrant: la cita acadèmica que menciona és completament inexistent. “Enmig del text ha inventat una referència i un estudi de recerca. Per què? Perquè li he demanat un assaig acadèmic amb cites. És un model de llenguatge, no una base de dades”, ha subratllat.

Els assajos acadèmics generats per ChatGPT no són detectats com a textos artificials pels ‘softwares’ actuals, però poden incorporar cites i bibliografia inventades

Segons l’acadèmic britànic, la versió actual de ChatGPT presenta quatre diferències principals amb els escriptors humans: No disposen d’informació recent, ja que l’eina no té connexió a internet; no es veuen reflectits en allò que escriuen; no tenen una visió holística sobre com funciona el món i són amorals. Aquest darrer tret és polèmic, atès que s’ha debatut molt sobre els biaixos ideològics de les intel·ligències artificials, fruits de les dades amb què s’han entrenat. Segons Sharples, OpenAI ha optat per aplicar intervenció humana per corregir aquestes tendències, objectiu en què “ha estat raonablement exitosa”, però sota una pràctica que considera “molt perillosa”: “On posem el límit?”.

Les dificultats de detectar un text escrit per la IA

Queda clar que els programes creats per detectar plagis dins del món acadèmics no estan preparats per aquesta nova tendència, però hi ha alternatives per identificar els textos escrits per intel·ligències artificials? Un dels experiments que s’han dut a terme en aquesta matèria és el del portal Best Universities, que va contractar un grup de professors universitaris perquè avaluessin les respostes a preguntes relacionades amb mètodes de recerca, història dels Estats Units, dret i redacció creativa. Els participants eren majoritàriament graduats o estudiants a punt de graduar-se, però entre ells també hi havia respostes escrites per GPT-3, el model de processament de llenguatge en què es basa ChatGPT. L’aportació de la IA va ser valorada de manera similar que la resta de participants en totes les categories excepte en redacció creativa, on sí que es va mostrar més fluixa que els humans. Tanmateix, cap dels professors va adonar-se que estava corregint a una màquina.

Una altra de les vies que s’ha intentat és fer provar a la IA la seva pròpia medicina, és a dir, fer servir un sistema d’intel·ligència artificial per intentar verificar si un text és genuí o ha estat generat per una d’aquestes eines. Sharples ha mencionat en la seva intervenció el projecte Giant Language Model Test Room (GLTR), que parteix de la base que l’escriptura humana tendeix a fer servir paraules més impredictibles que no pas la d’una IA. La iniciativa es basa en estudis de la Universitat Harvard, però l’acadèmic britànic assenyala que el mètode es pot superar demanant-li a ChatGPT que augmenti la impredictibilitat de les seves paraules. El test també s’ha fet amb la mateixa ChatGPT, que no és capaç de reconèixer com a propi un text que ha generat en una sessió anterior. De fet, OpenAI ha llançat recentment una eina amb aquesta finalitat, però la mateixa empresa ja avisa que la seva fiabilitat actualment és del 26%.

Ignorar, sancionar o adoptar

Intentar detectar els textos no humans serà cada vegada més complicat, i Sharples té clar que ignorar o sancionar aquesta tendència no és la solució: “Els estudiants estan fent servir cada cop més aquestes eines sofisticades, i això no s’aturarà. Com a educadors i legisladors hem de trobar maneres estimulants de fer-les servir”. I això és exactament el que pretén fer la Universitat Rovira i Virgili (URV) amb [A]Intelligenz, un projecte col·laboratiu que vol explorar el potencial educatiu del pensament computacional i les eines d’intel·ligència artificial. “Volem abordar els reptes, però també aprofitar les oportunitats que suposa”, assegura l’experta en tecnologia educativa i líder de la iniciativa, Mar Camacho.

Amb una durada de dos anys, [A]Intelligenz té com a objectiu donar a conèixer les tecnologies en qüestió dins del món educatiu, presentar el seu funcionament als docents i treballar amb ells de manera col·laborativa per trobar aplicacions pràctiques dins les aules. En el projecte participen 17 escoles del Tarragonès i el Baix Camp i de totes les etapes educatives, des de Primària fins al Batxillerat i la Formació Professional. “La idea és recollir evidències científiques perquè tot allò que es pugui provar i pilotar en el marc dels centres educatius després pugui generar resultats que es puguin publicar en revistes científiques d’impacte”, assenyala Camacho. Les sessions són mensuals i se celebren cada vegada en una institució educativa diferent, on els organitzadors presenten una eina determinada i conviden als professionals educatius a debatre sobre els seus possibles usos.

La URV estudia el potencial educatiu de la intel·ligència artificial a les escoles de Tarragona amb el projecte [A]Intelligenz

La darrera sessió de la iniciativa, celebrada a l’Escola Saavedra de Tarragona, va estar dedicada precisament a ChatGPT. Segons narra Camacho, la primera reacció dels docents va ser la d’un “absolut desconeixement” sobre el programari, seguida per “sorpresa i, fins i tot, admiració del que pot arribar a ser”. Un cop conegut el seu funcionament, les idees van començar a brotar: des de la seva utilització com a eina de verificació de fonts fins a un suport per a l’aprenentatge de llengües. “Hi ha moltes notícies sobre el tema que fan que, de vegades, el professorat no se senti còmode a l’hora d’incorporar recursos d’aquest tipus”, explica la professora de la URV, i és per això que busquen “desmitificar” les noves tecnologies i “generar recursos que puguin ser utilitzats per altres centres i professionals amb necessitats similars”.

L’objectiu final no és un altre que normalitzar la presència de la intel·ligència artificial i les noves tecnologies a l’aula, de manera que “no sigui només un únic professor, sinó que la utilització d’aquestes línies formi part d’una línia del projecte”. És per això que el projecte s’adapta a les necessitats de les escoles participants, triant les temàtiques que millor creuen que encaixen amb les seves característiques i la seva maduresa digital. Amb tot, [A]Intelligenz no es limita a Tarragona, sinó que la seva expectativa és continuar expandint-se. De fet, la iniciativa ja és la punta de llança d’una aliança internacional d’universitats d’arreu del món que col·laboraran per investigar aquest àmbit, que en aquests moments s’està acabant de formalitzar. “La intel·ligència artificial serà una competència essencial i molt demanada en els treballadors del futur, com ja ho són ara les competències digitals”, assegura Camacho, una idea amb què ressona Sharples: “Arribarà un moment en què no fer servir les IA serà com no fer servir els correctors ortogràfics”.