Un fet característic de la societat actual és el poder que tenen els algoritmes sobre les nostres vides. Aquests programes que ningú acaba d'entendre completament defineixen gran part les nostres realitats digitals de forma inevitable. Quan escoltem Spotify, mirem un vídeo a YouTube, busquem el proper regal per comprar a Amazon o la sèrie de moda a Netflix, és un algoritme el que està decidint la carta d'opcions entre les quals podem triar -i que
possiblement acabarem consumint.

Els algoritmes generen bombolles arran del perfil que es formen de la nostra entitat digital, creant sistemes de recomanació que esbiaixen la nostra percepció de la realitat. Ens acostuma a agradar quan Spotify ens descobreix una cançó que encaixa a la perfecció amb el nostre gust musical, però no tant quan Facebook filtra el contingut  prèviament a unes eleccions. Aquesta influència sobre les persones, i les seves respectives conseqüències -tot i no ser responsabilitat directa dels algoritmes-, sí que ha estat prevista per les corporacions que els han desenvolupat.

"Els algoritmes creen sistemes de recomanació que esbiaixen la nostra percepció de la realitat"

Com més encerten els algoritmes en proporcionar-nos allò que volem (veure, escoltar, comprar...), més ús en fem d'aquests. El seu disseny els fa addictius, optimitzats per fer-nos interactuar de forma incremental: com més temps passem en les aplicacions, més profit en treuen les companyies. Però és possible sortir d'aquest cercle viciós? Podem intentar controlar el temps que passem a les xarxes socials o, fins i tot, esborrar-nos els perfils. També podem contrastar les notícies per no ser víctimes de les fake news i la desinformació. Tanmateix, la societat en què vivim ens impedeix desconnectar completament. No hauríem, aleshores, de plantejar-nos per què que els algoritmes s'optimitzen per atrapar la nostra atenció en lloc de buscar el nostre benestar i com podem revertir aquesta situació?

Avui dia encara es tracta d'una utopia, ja que les corporacions tecnològiques no consideren aquesta opció. Amb l'aparició de l'ètica a la intel·ligència artificial i l'auditoria d'algoritmes, sembla que les principals companyies tecnològiques estiguin invertint esforços per adaptar-se millor a les complexitats de la nostra societat. Empreses com Google, Facebook, Microsoft o IBM han contractat persones amb perfils acadèmics de totes les branques socials per tal "d'impregnar" d'humanitat les seves tecnologies. Aquestes iniciatives prometen reduir els biaixos, eliminar els efectes negatius dels algoritmes actuals en minories discriminades i tranformar-los en font de benestar. Tanmateix, aquests esforços es fan sempre que funcionin a favor del benefici d'aquestes empreses. En cas contrari, poden aturar el desenvolupament, per exemple, acomiadant els seus líders en ètica d'IA.

"El fet que l'ètica de la IA hagi cridat l'atenció dels organismes reguladors mundials revela la importància que té per al benestar individual i col·lectiu"

Com podem confiar la responsabilitat d'aquest canvi en les empreses que precisament estan obtenint un benefici econòmic amb el comportament actual dels algoritmes? La solució ha de venir de l'exterior. Potser és hora que les institucions reguladores internacionals facin un pas endavant i reconeguin la importància de supervisar les empreses
que tenen el món a les seves mans. Sobre aquest punt, la UNESCO va establir recentment un pla de recomanacions per centrar els algorismes d'IA en l'ésser humà. "Necessitem polítiques i marcs reguladors internacionals i nacionals per garantir que aquestes tecnologies emergents beneficiïn la humanitat en el seu conjunt. Necessitem una IA centrada en l'ésser humà. La IA ha de ser per l'interès més gran de la gent, no al revés. [...]". L'acord va ser adoptat pels membres de la UNESCO el 24 de novembre de 2021. És un primer pas crucial per regular aquestes tecnologies. El fet que l'ètica de la IA hagi cridat l'atenció dels organismes reguladors mundials revela la importància que té per al benestar individual i col·lectiu.

Estem a l’inici de la recerca per transformar algoritmes defectuosos optimitzats per atrapar l'atenció en algorismes de benestar, però queda un llarg camí al davant.