Investigadors catalans ideen un sistema perquè l’algoritme de YouTube no recomani continguts extrems
L’estudi elaborat per la UPF i Eurecat ha estat premiat com a millor publicació de la World Wide Web Conference 2022
Categories:
Malgrat l’auge de plataformes com TikTok, YouTube encara és la plataforma líder de consum audiovisual a internet entre els menors d'edat, per davant d’altres xarxes socials de renom com Instagram o Facebook. Tanmateix, diversos estudis acadèmics han demostrat que el servei de Google tendeix a recomanar continguts associats a posicions polítiques radicals, una tendència que preocupa a part de la societat. És per aquesta raó que un equip d’investigadors de la Universitat Pompeu Fabra (UPF) i del centre tecnològic Eurecat han elaborat un sistema que evita que l’algoritme que controla les recomanacions de vídeos desemboqui en aquesta classe de materials, un treball que ha estat reconegut amb el premi a la millor publicació de la World Wide Web Conference 2022.
La llavor del projecte neix d’un estudi internacional publicat el 2020, on després d’analitzar una base de dades amb més de 330.000 vídeos, els autors van concloure que les recomanacions que fa l’algoritme de YouTube acaba conduint als consumidors a vídeos cada vegada més radicals. “Els sistemes de cerca exageren les diferències que hi ha amb anterioritat, és a dir, no s'inventen nous biaixos, però si no es controlen, es corre el risc de quedar atrapat en un bucle de contingut radical”, explica l’investigador del Departament de Tecnologies de la Informació i la Comunicació (DTIC) de la UPF, Carlos Castillo.
“Cap sistema de recomanació és perfecte i les recomanacions es basen en unes sèries de senyals anteriors i molt febles dels usuaris, com ara el temps que triga l'usuari a seguir una recomanació. L'efecte acumulatiu de les recomanacions fa la resta”, desvela l’investigador doctoral de la UPF a Eurecat, Francesco Fabbri. Per tal d’evitar aquests resultats, els científics van analitzar les rutes que traça l’algoritme de YouTube a l’hora de fer recomanacions i van aplicar petites intervencions en aquells punts on la plataforma es desviava cap a continguts radicals. "El que mostrem és com impedir aquesta radicalització sense exercir una censura del contingut", assegura Fabbri.