La intel·ligència artificial (IA) ha revolucionat molts camps de la ciència en aquesta última dècada. Les tecnologies basades en IA han permès el tractament de grans quantitats de dades, que ha conduït a importants descobriments científics, que inclouen el descobriment de nous medicaments o de galàxies llunyanes. Des del llançament al gran públic del xatbot ChatGPT el novembre del 2022, l'ús de la IA en la ciència ha adquirit una nova dimensió. L’ús d’aquest tipus d’eina s’està generalitzant cada cop més i cal abordar de manera urgent les oportunitats i implicacions d'aquesta tecnologia per al món de la ciència.

El temps és un factor clau en la investigació, on les tasques són inacabables: redactar articles, escriure propostes de projectes, realitzar experiments, analitzar dades… ChatGPT pot reduir el temps dedicat a tasques repetitives, alliberant temps per a la innovació i la creativitat. Personalment, he adoptat ChatGPT per a tasques com la redacció de correus, la revisió i el resum de textos, i la detecció d’errors en codis de programació. És com tenir un company amb quantitats ingents de coneixement humà acumulat fins al 2021, sempre disponible a donar-te un cop de mà... una meravella! Per altra banda, el fet que ara sigui més fàcil escriure amb fluïdesa articles en angles obre la porta a una ciència més accessible per a tothom, més equitativa i amb més diversitat de perspectives científiques.

"ChatGPT és com tenir un company amb quantitats ingents de coneixement humà acumulat fins al 2021"

Però no tot és de color de rosa. L'ús d’aquestes eines també planteja problemes ètics i de qualitat en la investigació científica. La problemàtica més evident és l’autoria i el plagi. Aquest tipus de models de llenguatge imiten a la perfecció la manera de comunicar-se d’un humà i és realment difícil detectar si els textos han estat escrits per una IA. Això ha portat a moltes editorials científiques, com ara Nature i Science, a declarar que no s'acceptarà cap eina com ChatGPT com a autor acreditat en un article científic. En qualsevol cas, l'atribució d'autoria comporta la responsabilitat del treball i les eines d'IA no poden assumir aquesta responsabilitat.

A més a més, és important destacar que ChatGPT pot fàcilment crear respostes que sonen plausibles, però que són completament errònies, de manera que el seu ús pot distorsionar fets científics i portar a la desinformació. Aquests errors poden ser deguts a l'absència d’articles rellevants al conjunt de dades que s’han utilitzat per entrenar ChatGPT, a la dificultat d’identificar la informació realment rellevant o a la incapacitat de distingir entre fonts fiables i altres que ho són menys. Sembla que els mateixos biaixos que sovint condueixen els humans a errors, es reprodueixen i sovint fins i tot s'amplifiquen amb aquest tipus de tecnologies. És important destacar que gairebé totes aquestes eines són productes propietat d'un petit nombre de grans empreses tecnològiques privades que no fan públic el seu funcionament intern ni la majoria de dades utilitzades per entrenar-les. Això va en contra del moviment cap a la transparència i la ciència oberta, i dificulta descobrir l'origen, les llacunes o els biaixos del coneixement dels xatbots.

"Sembla que els mateixos biaixos que condueixen els humans a errors, es reprodueixen i s'amplifiquen amb aquest tipus de tecnologies"

El debat sobre les implicacions d'aquesta tecnologia disruptiva en la ciència és urgent i ha de ser un esforç col·lectiu i inclusiu que involucri tots els actors rellevants, inclosos científics de diferents disciplines, empreses tecnològiques, mecenes científics, universitats, editors, ONG i experts en privacitat i lleis. S'han d'escoltar totes les parts implicades, des dels investigadors júniors fins als caps de grup o els catedràtics, i s'han de tenir en compte les perspectives de grups poc representats per tenir en compte les implicacions per a la diversitat i la desigualtat en la recerca. Aquesta discussió hauria de conduir a la creació de directrius i normes clares que puguin ser aplicades per tota la comunitat científica per garantir un ús responsable i ètic d'aquesta tecnologia en la ciència.

L'enfocament del debat, per tant, s'ha de centrar a aprofitar l'oportunitat i gestionar els riscos. És una eina que ha arribat per quedar-se i hem de saber quin és el seu lloc. Les IA com ChatGPT han de ser una ajuda per la recerca, però no han de reemplaçar completament el paper humà en aquesta. Al cap i a la fi, la recerca científica seguirà sent una tasca que dependrà del pensament humà crític, la creativitat, i la interacció humana.

"Cal la creació de directrius i normes clares per garantir un ús responsable i ètic d'aquesta tecnologia en la ciència"

*S’ha utilitzat ChatGPT en el perfeccionament d’aquest article