La intel·ligència artificial està entrant amb rapidesa en els sistemes sanitaris. Eines capaces d’analitzar informació, automatitzar processos o personalitzar determinades intervencions comencen a formar part de la pràctica assistencial, mentre la nova regulació europea estableix les condicions per garantir-ne un ús segur i responsable.

La normativa posa sobre la taula tres qüestions especialment rellevants: la formació dels professionals, l’obligació d’informar el pacient quan s’utilitza intel·ligència artificial i la necessitat de treballar amb eines certificades i sota supervisió humana.

Però enmig d’aquest procés de regulació hi ha una qüestió que no hauríem de perdre de vista: certificar una tecnologia no garanteix que s’utilitzi correctament. Una eina pot complir tots els requisits tècnics i regulatoris i, tanmateix, ser mal interpretada, utilitzar-se fora del context per al qual ha estat dissenyada o generar una confiança excessiva en els seus resultats.

“La tecnologia haurà d’avançar al costat del coneixement dels professionals, no per davant seu”

Per això, la incorporació de la IA a la pràctica clínica requereix alguna cosa més que bones eines, requereix professionals preparats per entendre què pot fer la tecnologia, quines són les seves limitacions i quan cal contrastar els seus resultats amb el propi criteri.

No es tracta de convertir els professionals sanitaris en experts en intel·ligència artificial, es tracta de proporcionar-los els coneixements necessaris per utilitzar-la amb criteri. Saber utilitzar una eina també implica saber quan confiar-hi i quan qüestionar-la.

Aquesta formació, a més, no pot ser puntual. La tecnologia evoluciona ràpidament i les capacitats de les eines també. Per tant, les competències dels professionals hauran d’evolucionar al mateix ritme.

La formació en IA hauria de formar part de la mateixa transformació digital del sistema sanitari, i no ser un complement que s’afegeix un cop la tecnologia ja està implantada.

“La incorporació de la IA a la pràctica clínica requereix professionals preparats per entendre’n les capacitats i les limitacions”

La transparència amb el pacient és igualment essencial. Informar que una eina d’intel·ligència artificial ha intervingut en un procés assistencial no hauria de convertir-se en un simple tràmit, sinó que el pacient ha d’entendre quin paper té aquesta tecnologia i quin continua tenint el professional sanitari.

El mateix passa amb la supervisió humana. Supervisar no significa simplement validar el resultat d’una màquina, sinó tenir capacitat per qüestionar-lo, i per poder qüestionar-lo cal conèixer les limitacions de l’eina i entendre que una recomanació algorítmica no pot substituir, per si sola, el context clínic.

“Supervisar la IA no significa simplement validar el resultat d’una màquina, sinó tenir capacitat per qüestionar-lo”

La regulació és necessària, però no serà suficient. La incorporació responsable de la IA exigeix una nova cultura d’ús tecnològic dins de les organitzacions sanitàries, basada en la formació, la transparència i la capacitat de supervisió.

La intel·ligència artificial pot transformar la manera com diagnostiquem, tractem i gestionem la salut, però perquè aquesta transformació sigui realment útil, la tecnologia haurà d’avançar al costat del coneixement dels professionals, no per davant seu.