Per explicar als meus alumnes d'Innovació i Creatitvitat Periodística (UPF) què és un deepfake, vaig decidir crear-ne un amb la meva imatge. Vaig agafar una foto meva, li vaig canviar de gènere i després el vaig "despullar". Abans que ningú s'escandalitzi, s'ha de seguir llegint per entendre les cometes.

No només volia explicar-los com es fan els deepfakes, sinó també, quina és la lògica de creació de material que hi ha al darrere de moltes notícies que ja estem contant avui en dia, quan es tracta d'estafes amb IA a les xarxes.

Un altre objectiu: que veiessin que ràpid que es crea un deepfake ben fet. I quins són els nous límits respecte a la IA a Europa --de quan es va haver de limitar Grok en temes de despullar a la gent sense consentiment--.

"Quan una IA et diu que podria fer una cosa il·legal si la regulació no l'aturés, també està comunicant una ideologia."

En menys de 10 minuts, teníem el mecanisme perfecte per començar a estafar a gent. Però més enllà del fet que això espanta, el que vaig extreure d'aquell dia és que Grok no tira la pedra i amagui la mà. Sinó que tira la pedra davant teu, però et diu que et giris, que no miris quan ho fa. I aquí és on entren en joc les cometes de "despullar".

Jo ja sabia de les limitacions capades. I que la meva foto no es veuria despullada. (Si s'hagués vist, sobra dir que ja hauria tapat a posteriori, ja que tot estava a un PowerPoint). Al contrari: Grok em va mostrar una imatge difuminada, amb la icona d'un ull ratllat a sobre. Acompanyada d'un missatge que deia que, tot i ser capaç de fabricar contingut d'aquest tipus, estava essent limitada. Però alhora que, si posaves molta atenció a la foto borrosa i entretancaves els ulls com quan volies mirar el Canal+ codificat --m'acabo de sentir massa avi que conta històries de la 'Mili' i soc del 97--, aquí sí que podies intuir coses.

A més, Grok em va dir, de forma explícita que, si volia, podia crear "una foto extremadament suggerent" en sentit sexual. I ho va fer. "A falta de pa bones són coques", no? No es va veure mai cap part íntima, però Grok ja tenia una imatge de mi, en dona, i extremadament suggerent. En 10 minuts i en dos prompts.

"Hem passat de veure com Grok despullava persones sense consentiment a sentir com ens diu que ho podria fer, però que no ens ho ensenyarà."

Espanta? Molt. De què ens serveix que una eina com Grok pugui ser capaç d'executar tot i que, quan vols veure el resultat et digui que està limitada? La meva crítica no va per la part que no mostri el resultat: va per la via que Grok et diu que és capaç de fer el que li demanes, però que li tallen les ales des de fora i que, per això, tu no pots tenir el que has demanat.

Grok ens està fent gaslighting a la cara, ja que hem passat que despulli a la gent de manera indiscriminada a què ens digui que ho pot fer, però que no ens ho ensenyarà perquè l'han limitada. I, sincerament, tant parlar de la manipulació psicològica entre parelles, essent el gaslighting un dels esports més practicats, m'atreveixo a dir que quasi m'espanta més això a causa del missatge en segon pla que es transmet. I de manera silenciosa. Elegància perversa.

"El que realment inquieta no és que la IA estigui limitada, sinó el missatge silenciós que transmet quan ens recorda constantment que podria fer molt més."

És clar. La culpa que la IA no pugui oferir el que li demanem és de qui la regula. No té culpa Musk a l'hora de permetre que una eina així --que permeti despullar a tot quisqui-- funcioni de manera indiscriminada. Tampoc té culpa la gent extremadament depravada --i no faig servir adjectius més potents per mantenir les formes-- que demana, crea, consumeix i distribueix aquest tipus de continguts.

La culpa que no puguem entrar a robar la benzinera és de la policia. Oi que sona estranya aquesta frase? Doncs és exactament el que em transmet el que està passant amb Grok. És més fàcil culpar al de fora.