Més d’un miler de professionals i acadèmics del món tecnològic han signat una carta oberta per demanar que s’aturi durant almenys sis mesos la investigació dels futurs models d’intel·ligència artificial generativa que superaran GPT-4. Els impulsors al·leguen que els models avançats d’IA poden suposar un “profund canvi en la història de la Terra”, per la qual cosa cal planificar el seu desenvolupament amb una planificació i cura que, consideren, no s’estan tenint en compte.

Entre les preocupacions que se citen en el document destaquen qüestions com les informacions no verídiques que generen alguns models d’IA com ChatGPT, l’automatització d’una gran quantitat de llocs de treball o la creació de màquines que superin la intel·ligència humana i la deixin obsoleta. “Els sistemes d’IA avançada haurien de ser desenvolupats únicament quan tinguem la seguretat que els seus efectes seran positius i que els seus riscs seran controlables. Aquesta seguretat ha d’estar ben justificada i haurà d’augmentar al ritme dels efectes potencials del sistema”, apunta la declaració.

És per aquesta raó que investigadors, empresaris i professionals tècnics demanen una aturada pública i verificada d’almenys sis mesos dels entrenaments massius als quals s’exposen els sistemes d’intel·ligència artificial. En cas que les empreses i entitats responsables no facin el pas endavant, els signants insta els governs que actuïn pel seu compte. La carta reclama que els laboratoris i professionals autònoms facin servir aquest temps de pausa per desenvolupar de manera conjunta una sèrie de protocols de seguretat compartits que estiguin auditats i monitorats per experts independents. “Això no implica una pausa en el desenvolupament de la IA en general, simplement un pas enrere de la perillosa carrera cap a models cada vegada més grans de caixes negres amb capacitats emergents”, assenyalen.

Entre els signants de la carta oberta destaquen personalitats com el CEO de Tesla, SpaceX i Twitter, Elon Musk; el cofundador d’Apple, Steve Wozniak, o l’escriptor israelià Yuval Noah Harari. A escala catalana també han donat suport a la iniciativa el director del Barcelona Supercomputing Center, Mateo Valero; el director de l’Observatori d'Ètica en Intel·ligència Artificial (OEIAC) de la Universitat de Girona (UdG), Albert Sabater; l’investigador ICREA de l’Institut de Ciències del Cosmos de la Universitat de Barcelona (UB), Jordi Miralda Escudé, o el professor de Matemàtiques Aplicades i un dels impulsors de CIVIC Ai, Manel Sanromà, entre altres.