La Comissió Europea ha inclòs ChatGPT entre els serveis digitals sotmesos al nivell més alt de supervisió de la Unió Europea. L’executiu comunitari ha designat la plataforma d’intel·ligència artificial com a motor de cerca en línia de molt gran dimensió (VLOSE) en el marc de la Llei de Serveis Digitals (DSA).

La nova classificació obliga ChatGPT a assumir requisits addicionals de transparència, avaluació i mitigació de riscos i dona a Brussel·les més capacitat per investigar el funcionament de la plataforma i supervisar-ne el compliment de la normativa.

La decisió també afecta Reddit i Roblox, que han estat designades plataformes en línia de molt gran dimensió (VLOP). Les tres companyies han declarat tenir com a mínim 45 milions d’usuaris mensuals a la UE, el llindar establert per la DSA per aplicar aquest règim reforçat de supervisió. Les empreses disposen ara de quatre mesos, fins a finals de desembre, per adaptar-se a les noves obligacions.

Més control sobre els riscos de ChatGPT

La principal conseqüència de la designació és que ChatGPT haurà d’avaluar de manera sistemàtica els riscos sistèmics associats al servei i als seus sistemes algorítmics.

Entre aquests riscos hi ha la difusió de contingut il·lícit, però també els possibles efectes negatius sobre els menors, el benestar físic i mental dels usuaris, els drets fonamentals, els processos electorals i la seguretat pública.

Brussel·les considera ChatGPT un motor de cerca en línia de molt gran dimensió sota la normativa europea. 

Això implica que la plataforma haurà d’anar més enllà de les mesures de seguretat incorporades al producte i demostrar com identifica, avalua i redueix els riscos que pot generar el seu ús a gran escala.

La designació també amplia les eines de què disposa la Comissió Europea. Brussel·les podrà investigar les funcionalitats de ChatGPT i, quan sigui necessari, analitzar també els sistemes relacionats amb el servei.

La supervisió es farà en cooperació amb la Comissió irlandesa de Mitjans (Coimisiún na Meán), que actua com a coordinador de serveis digitals d’Irlanda, país on està establert el servei.

Una classificació vinculada a l’abast del servei

La decisió no respon únicament a les característiques tecnològiques de ChatGPT, sinó també a la seva dimensió i impacte entre els usuaris europeus.

La DSA estableix el llindar dels 45 milions d’usuaris mensuals a la UE per considerar que un servei és una plataforma o un motor de cerca en línia de molt gran dimensió. ChatGPT, Reddit i Roblox han comunicat que superen aquesta xifra.

OpenAI haurà d’aplicar noves mesures de transparència i gestió dels riscos sistèmics abans de finals de desembre. 

En el cas de ChatGPT, Brussel·les l’ha classificat específicament com a VLOSE, mentre que Reddit i Roblox entren en la categoria de VLOP. Aquesta distinció comporta un règim d’obligacions reforçat respecte del que s’aplica a altres serveis digitals.

ChatGPT, sota el focus europeu

Amb aquesta nova designació, ChatGPT se suma a una llista que ja inclou 28 plataformes i motors de cerca de molt gran dimensió supervisats en virtut de la DSA. Entre els serveis que ja formen part d’aquest règim hi ha X, TikTok, Instagram i Facebook.

La diferència en el cas de ChatGPT és que es tracta d’un servei d’intel·ligència artificial generativa que ha assolit una escala suficient per quedar subjecte al mateix marc reforçat de supervisió que les grans plataformes digitals.

Brussel·les posa així el focus no només en les xarxes socials i els motors de cerca tradicionals, sinó també en les noves formes d’interacció digital basades en IA.

Què haurà de canviar?

Durant els pròxims quatre mesos, ChatGPT haurà d’adaptar-se a les obligacions específiques que estableix la DSA per als serveis de molt gran dimensió. Això implica avaluar els riscos sistèmics del servei i adoptar mesures per mitigar-los, amb una atenció especial als possibles efectes sobre els menors, el benestar físic i mental dels usuaris, els drets fonamentals, els processos electorals i la seguretat pública.

La designació obliga a avaluar els efectes de ChatGPT sobre menors, drets fonamentals, eleccions i seguretat pública. 

La normativa també reforça les exigències de transparència i rendició de comptes davant les autoritats europees. Brussel·les podrà examinar les funcionalitats de la plataforma i comprovar si les mesures adoptades per reduir els riscos són adequades.

Brussel·les vol poder investigar la IA

La nova situació reforça el paper de les institucions europees davant de les plataformes d’IA. La Comissió Europea podrà investigar directament les funcionalitats del servei i supervisar-ne el compliment de la DSA.

La vicepresidenta europea per a la Sobirania Tecnològica, la Seguretat i la Democràcia, Henna Virkkunen, ha remarcat que la designació suposa un nivell més alt de control i rendició de comptes per a ChatGPT, Reddit i Roblox, en línia amb el seu impacte sobre la ciutadania i la societat.

La Comissió Europea reforça així la supervisió dels grans serveis d’intel·ligència artificial dins del marc del DSA. 

Amb aquesta decisió, Brussel·les també deixa clar que la supervisió europea no es limita a les plataformes que ja existien abans de la IA generativa. El marc de la DSA també s’aplica als nous serveis digitals quan arriben a una escala prou gran.

El termini ja està en marxa. ChatGPT té fins a finals de desembre per adaptar-se a les noves obligacions, mentre Brussel·les manté oberta la porta a incorporar qualsevol altra plataforma que superi el llindar establert per a una supervisió reforçada.