El pròxim 30 de novembre farà un any d'ençà que ChatGPT va sortir al mercat. Des de llavors, la preocupació general al voltant dels perills de la intel·ligència artificial ha anat in crescendo. Recentment, s'ha celebrat al Regne Unit la primera trobada internacional per parlar sobre com abordar la necessitat que la intel·ligència artificial sigui segura. Prop d’una trentena de països han participat en aquesta cimera; no només líders polítics, també responsables d'organitzacions internacionals, personalitats del món tecnològic i directius de les empreses principals del sector.

La vicepresidenta dels Estats Units, Kamala Harris, va manifestar que la intel·ligència artificial “és preocupant no només com a generadora de ciberatacs massius o armes biològiques, sinó que també pot afectar les vides ordinàries de persones corrents”. La primera resolució que s'ha extret d'aquesta trobada internacional, batejada com la Declaració de Bletchley, consisteix a establir “un acord mundial entre els països participants per tal de treballar de manera coordinada i poder mitigar tots els riscos que planteja (i que plantejarà) la intel·ligència artificial”.

Com diu l’experta en innovació i tecnologia Àurea Rodríguez, flamant guanyadora del Premi DonaTIC Divulgadora, “establir un bon govern global per a la IA, com es va fer al seu dia amb internet, servirà per establir també un bon govern per a futures tecnologies i per a la mateixa humanitat”. Esperem que sigui així, perquè garantir la seguretat i el benestar de la humanitat hauria de ser la prioritat de tots els governs. Dels perills que es veuen, i dels que no, parlen les següents dues novel·les. 

Els monstres no existeixen

Indòmita és el nou segell per la literatura juvenil de l’editorial Raig Verd. Amb poc més d’un any d’existència, ha començat amb molta força traduint al català premiades obres com Mascota, d'Akwaeke Emezi, amb il·lustracions d'Elisa Ancori i traducció a càrrec d’Octavi Gil. L’acció se situa en la imaginària ciutat de Lucille, en un futur incert on els monstres i els perills han estat erradicats, o almenys això els diuen als nens.

La Jam ha crescut amb aquesta lliçó, però tot es capgira el dia que coneix la Mascota, una criatura fantàstica feta de banyes, plomes de colors i urpes que surt del quadre que ha pintat la seva mare, després que una gota de sang de la nena anés a parar damunt de la pintura. La petita protagonista haurà de repensar les seves creences perquè la Mascota és una caçadora i ha vingut a caçar a un monstre que viu més a prop del que ella creu. Però... com es pot salvar un món dels monstres si ningú reconeix que existeixen?

La novel·la ens parla del poder de les cures i proposa treballar de manera conjunta per a construir una societat on els “monstres” no hi tinguin lloc i on no es puguin amagar impunement. Un dels punts forts de la història són les unitats familiars i les formes de viure l'amor que apareixen en la novel·la: no són les heteronormatives que sovint apareixen en la gran majoria dels llibres i això és d'agrair, sobretot si es tracta de literatura juvenil. La història de la Jam és també una denúncia a les greus mancances del sistema (sobretot dels Estats Units) a l'hora de reconèixer i gestionar els problemes socials que afecten principalment la comunitat afroamericana i, en particular, a les dones negres trans. Un títol àmpliament premiat i que és un plaer poder-lo gaudir en català.

Per lluitar sense que et vegin, cal ser invisible

Fa un parell d’anys vaig llegir Nascuts per ser breus, una interessant distopia juvenil que ens plantejava un inquietant futur on s’havia trobat una fórmula per a l’eternitat i on convivien els ‘breus’ i els ‘eterns’. Ara ha arribat la segona part, sota el nom de L’alè dels llaurats, escrita per Toni Mata i publicada per Elastic Books.

L’escenari torna a ser la Ciutat Eterna, ara liderada per en Hunter al costat de l’Anne, on les llaurades dels ‘breus’ ja formen part de la història i on una aparent normalitat regna de nou. En Hunter ha après que la manera més hàbil de fer servir el poder és la discreció, sense generar soroll, ni alterar l’ordre públic però essent més letal i cruel que mai. El seu objectiu és mantenir la Ciutat Eterna sota l’aparença d’un món feliç i en pau, fent que els habitants siguin cada vegada més ignorants i més sotmesos a la voluntat d’uns quants privilegiats i dels maquiavèl·lics plans de dominar el món.

Mentrestant, en Clive, un antic ‘etern’ que va fugir de la ciutat, malviu en un suburbi on els ‘breus’, privats de tota humanitat, són convertits en esclaus amb l’única missió de seguir els designis marcats per en Hunter. Malgrat que el terrorífic comptador de població mundial ha desaparegut, cal seguir controlant el nombre d’habitants del planeta, i les noves mesures per a “corregir” l’excedent de població mundial són més silencioses, però igual d’aterridores i inquietants. I com sol passar en entorns repressius i d’aparent control per part del govern, un grup de rebels comença a organitzar-se per tal de derrocar el món “perfecte” i ‘etern’ i restablir un planeta més just. 

A diferència de la primera entrega, en aquesta ocasió viatgem als orígens de la creació de la Ciutat Eterna, a la infantesa d’en Hunter i les influències del seu pare. Allà s’expliquen les teories que defensen, com si fossin visionaris amb ínfules de creure’s déus totpoderosos, tot i que acaben sent psicòpates egòlatres i sense escrúpols. També apareix en escena el moviment anomenat Format C i la seva organització amb la tecnologia com a eina que facilita estendre el seu missatge arreu del món, així com les brutalitats que pateixen els ‘breus’ en els suburbis.

L’alè dels llaurats és una bona història, narrada de manera demolidora i crua, on se suma una tensió argumental que no decau en cap moment. En aquest món futur, se’ns planteja la tecnologia com una arma de doble tall: tant pot utilitzar-se de manera repressiva com actuar d’aliada perfecta per a gestar una rebel·lió contra un govern dèspota i injust. Tot i tractar-se d’una distopia, podem reconèixer alguns tics de la que tenim ara mateix: un món organitzat per privilegiats que volen mantenir el seu estatus a qualsevol preu i esperança en els qui lluiten per un món millor, més just i solidari on tothom pot tenir un lloc, sigui quin sigui el seu origen. En un moment on el que genera més riquesa i més poder són els béns intangibles, cal estar atents per què els perills més grans, probablement també ho seran.