El fàcil accés que hi ha avui dia a les eines de creació d’imatges, vídeos i música basades en intel·ligència artificial generativa ha multiplicat la seva presència a internet, a vegades com a creacions genuïnes, però també amb intencions de desinformació. Davant d’aquesta situació, YouTube ha començat a activar diverses palanques per controlar de més a prop els continguts artificials presents a la seva plataforma i donar eines, tant al públic com als afectats de suplantació, per revertir aquests casos.

La primera mesura que la plataforma de Google ha començat ja a implementar als seus vídeos és permetre als creadors indicar que els seus vídeos contenen continguts editats o creats amb eines d’IA generativa o altres tècniques sintètiques. Així, un cop es publiquin, els vídeos incorporaran a la part inferior un avís textual en què s’indicarà de la presència de continguts artificials. Aquests missatges tindran més presència quan les obres tractin temes delicats i subjectes a la desinformació, com poden ser eleccions, conflictes armats o qüestions relacionades amb la salut pública. A més a més, aquells creadors que es neguin de manera continuada a indicar que els seus vídeos incorporen material fet amb IA generativa, s’exposaran a la retirada les publicacions del canal i a suspensions del programa de partners.

L’estratègia de YouTube no només en basa a posar el focus en els creadors de contingut, sinó que també vol dotar d’eines al públic perquè ajudin a localitzar materials il·lícits. A través del procés de reclamació de privadesa de què ja disposa la plataforma, plantejat originalment per denunciar situacions d’assetjament, els usuaris ara també podran indicar casos de suplantació d’identitat o d’imitació d’aparença i veu de persones. Cada cas s’avaluarà de manera individual, tenint en compte factors com la intencionalitat del vídeo (si té un valor paròdic o satíric, o bé busca desinformar o atacar) i la rellevància pública de la víctima (com més famosa sigui, més fàcil que es retiri el contingut).

Finalment, la xarxa social de vídeos també ha habilitat un mecanisme per permetre als músics, discogràfiques i altres agents de la indústria demanar la retirada de cançons generada per IA que imitin o copiïn la veu dels artistes. No és la primera vegada que les discogràfiques mostren preocupació sobre el possible ús il·lícit de les intel·ligències artificials generatives, ja que Universal Music Group ja va demanar el passat mes d’abril a Spotify i Apple Music que bloquegessin l’accés de bots que extreuen les melodies i les lletres de les cançons, atès que percebien el perill que aquesta informació s’utilitzés per entrenar nous models.