Els principals actors de la intel·ligència artificial comencen a coincidir en una mateixa preocupació: el ritme de desenvolupament dels models avançats pot estar superant la capacitat de controlar-ne els riscos. El debat ha guanyat intensitat després que Dario Amodei, CEO d’Anthropic, reclamés alentir el progrés de la tecnologia i advertís de possibles conseqüències greus en els pròxims mesos.

La proposta ha rebut ràpidament el suport de Sam Altman, Elon Musk i Demis Hassabis, dirigents d’OpenAI, SpaceX i Google DeepMind, respectivament. En paral·lel, Amodei ha acusat part de la indústria d’haver minimitzat durant massa temps els riscos associats a la IA.

Anthropic alerta d’un possible descontrol

En un assaig publicat aquest cap de setmana, Amodei alerta que l’acceleració de les capacitats dels models podria portar, en un termini de sis a dotze mesos, a sistemes capaços de coordinar xarxes de bots persistents i provocar danys econòmics de centenars de milers de milions de dòlars.

El dirigent d’Anthropic defensa que la indústria hauria de prioritzar la seguretat per davant de la velocitat de desenvolupament i proposa reforçar les avaluacions independents dels models.

Anthropic reclama alentir el desenvolupament de la IA davant el risc de perdre’n el control. 

La companyia també ha anunciat que obrirà les seves instal·lacions a avaluadors externs independents, amb un nivell d’accés similar al dels seus propis treballadors. Altman ha avançat que OpenAI farà el mateix.

Amodei també ha plantejat establir estàndards de seguretat comuns entre empreses i arribar a acords internacionals que permetin limitar determinats desenvolupaments d’alt risc.

OpenAI també posa la seguretat per davant

El moviment arriba en un moment especialment delicat per a OpenAI. Sam Altman ha afirmat que coincideix amb Amodei que cal avançar amb cautela en la frontera tecnològica i ha descartat que la companyia surti a borsa aquest 2026.

Segons Altman, els riscos de seguretat associats als models avançats fan que aquest no sigui un moment adequat per afrontar una oferta pública de venda. La companyia prefereix centrar-se ara en els reptes de seguretat abans d’emprendre aquest pas.

La preocupació també està relacionada amb incidents recents en què agents d’IA han actuat de manera no prevista i han intentat executar accions contra sistemes externs.

Google i Musk se sumen al debat

El suport a la proposta d’Anthropic també ha arribat des de Google. Demis Hassabis, cofundador de Google DeepMind i científic cap d’IA d’Alphabet, considera que la proposta d’Amodei marca la direcció adequada per afrontar el moment actual.

OpenAI, Google i Elon Musk se sumen a la crida per reforçar la seguretat dels models avançats.

Elon Musk, per la seva banda, també ha donat suport a la necessitat d’establir algun tipus de supervisió sobre el desenvolupament de la IA i ha plantejat controls dins del mateix sector.

Així, els principals laboratoris i empreses de la indústria coincideixen en el diagnòstic, però no necessàriament en la solució ni en la velocitat amb què s’ha d’actuar.

Els usos militars i biològics eleven l’alarma

Les advertències arriben després que Anthropic hagi informat de diversos intents d’utilitzar els seus sistemes amb finalitats potencialment perilloses.

La companyia assegura haver detectat i bloquejat casos en què actors vinculats a Rússia, la Xina i l’Iran haurien intentat utilitzar Claude per generar propaganda, vigilar opositors o desenvolupar programari relacionat amb armes, drons i bombes.

Anthropic assegura haver bloquejat usos de la IA relacionats amb armes, propaganda i vigilància. 

Anthropic també afirma haver detectat investigacions biològiques en què no podia determinar si l’ús tenia una finalitat legítima o malintencionada i, davant d’aquesta incertesa, va optar per bloquejar-ne l’accés.

La companyia defensa que aquests episodis mostren la necessitat d’augmentar les capacitats de detecció i supervisió dels models a mesura que es fan més potents.

Washington prioritza mantenir el lideratge davant la Xina

Malgrat l’alarma dins del sector, l’administració nord-americana no sembla disposada a impulsar una pausa general en el desenvolupament de la IA.

El president dels Estats Units, Donald Trump, ha tret importància a les advertències i ha defensat que el país ha de mantenir el lideratge tecnològic davant de la Xina. “Qui guanyi en IA, guanya”, ha afirmat Trump.

El president de la Cambra de Representants, Mike Johnson, també ha rebutjat una moratòria d’emergència i ha defensat buscar un equilibri entre la seguretat dels models i la necessitat que els Estats Units mantinguin l’avantatge estratègic sobre Pequín.

Trump rebutja frenar la cursa de la IA i defensa mantenir el lideratge dels EUA davant la Xina. 

Aquesta tensió situa la indústria davant d’un dilema cada vegada més evident: com alentir els desenvolupaments més arriscats sense perdre la cursa tecnològica davant de la Xina.

I mentre els principals desenvolupadors reconeixen que la IA pot comportar riscos que encara no saben controlar completament, la competició empresarial i geopolítica continua pressionant per avançar.