L’Organització Mundial de la Salut (OMS) ha publicat un comunicat en què demana que els desenvolupadors vagin amb extrema precaució quan utilitzin eines d’intel·ligència artificial basades en models generatius de llenguatge (LLM), com ChatGPT o Google Bard. “La seva meteòrica difusió pública i el creixent ús experimental en propòsits relacionats amb la salut està generant una expectació important al voltant del seu potencial”, alerta l’agència sanitària de l’ONU.

Davant d’aquest context, l’OMS considera “imperatiu” que s’examinin amb cura els riscos que pot suposar l’ús dels models generatius en contextos com l’accés a informació sobre salut, el seu ús com a eina de suport de decisions o per millorar la capacitat de diagnosi de malalties. L’entitat pateix perquè no s’estigui aplicant la precaució que caldria amb aquestes tecnologies, la qual sí que és present en altres innovacions quan s’estudia el seu ús en àmbits sanitaris. En aquest sentit, l’OMS exigeix transparència en el procés, supervisió experta i una avaluació rigorosa.

Entre les raons que l’agència de l’ONU cita com a perilloses que les dades que es facin servir per entrenar les IA puguin incloure informació no acurada que provoqui riscos sanitaris, o bé que aquest material no s’hagi cedit amb el consentiment necessari. A l’OMS també li preocupa que, malgrat que el to sigui autoritari o assertiu, a vegades els xatbots poden generar respostes totalment incorrectes o amb errors greus. “Els models generatius poden ser mal usats per generar i difondre desinformació molt convincent en forma de text, àudio o vídeo que pot ser difícil de diferenciar de contingut veraç pel públic”, afegeixen en el comunicat.

En aquest sentit, l’OMS demana a les administracions públiques i els responsables polítics que garanteixin la seguretat i la protecció dels pacients mentre les empreses tecnològiques continuen desenvolupen aquestes solucions.