La Carme Torras i Genís és una de les eminències en el camp de la robòtica a Catalunya, i un dels noms clau que ha fet que l’ètica i la filosofia entrin als estudis universitaris vinculats a la tecnologia per fer entendre que no es poden crear eines amb un impacte social real sense incorporar el prisma humà. Però amb Torras no només es pot parlar de robots i intel·ligència artificial, sinó també de llibres. És autora de diverses obres de ciència-ficció que busquen allunyar-se de les distopies i relatar entorns amb un impacte més social i beneficiós dels avenços científics i tecnològics. Recentment, ha rebut la Creu de Sant Jordi per la seva trajectòria en el món de les matemàtiques, la informàtica i la literatura. Un reconeixement a la tasca que exerceix al grup d’investigació RobIRI de l’Institut de Robòtica (UPC-CSIC). Torras també forma part de la Reial Acadèmia d’Enginyeria d’Espanya i ha estat reconeguda amb diversos guardons com el Premi Nacional de Recerca de la Generalitat de Catalunya i el Premi Nacional d’Investigació Julio Rey Pastor. Conversem amb ella en una entrevista on reflexionem tant sobre l’impacte de la ciència-ficció en la investigació i el desenvolupament tecnològic, com sobre l’actitud que hauria de tenir la societat davant l’arribada de disrupcions com els robots i la IA.

La revolució industrial va ser la primera etapa amb robots i automatització. Som ara en una etapa d’automatització que és un pas lògic d’aquest progrés?

Hem viscut diverses revolucions. Primer, l'agrícola, amb la introducció de màquines per al camp; després, la industrial. I alguns diuen que després hi ha la revolució informàtica, i ara tenim la de la intel·ligència artificial, la robòtica i totes aquestes tecnologies disruptives. A vegades se la qualifica de quarta revolució, però cadascú diu una cosa diferent. Sí que penso que és un progrés lògic, tot i que no era fàcil de preveure.

Per què?

Perquè el que preveia la ciència-ficció era més distopia. Potser es preveia que les màquines traguessin més llocs de feina, que hi hagués una acceleració més gran de la vida i dels processos amb l’automatització... estem magnificant els aspectes negatius de la intel·ligència artificial, com que ens substituirà a tots, i penso que té molt de positiu que no s'està valorant. La part més beneficiosa, que és molt important, ha quedat oblidada per la distopia.

Ens hem deixat portar massa pel que hem llegit als llibres i vist a les pel·lícules?

Sí, ja hem vist que a la literatura i el cinema venen molt més les distopies que les utopies. Sempre s'ha dit que les famílies felices no tenen història. S'ha fet molt èmfasi en el futur distòpic, però també per prevenir-lo, perquè és indubtable que totes les tecnologies tenen riscos i que si la humanitat no té uns valors i no camina cap a on ha de caminar, podem acabar en un futur gens recomanable. Si potenciem tant la distopia, al final ens trobarem amb una profecia autocomplerta. I esclar, a les noves generacions, que han vist tant relat distòpic, els sembla que el món s'acaba. Llavors s'entra en una certa deixadesa de dir: "Bé, com que ja no hi tenim res a fer, dediquem-nos a passar bé la vida i no ens impliquem en cap lluita".

"Estem magnificant els aspectes negatius de la intel·ligència artificial, com que ens podrà substituir a tots, i penso que té molt de positiu que no s'està valorant"

Què es pot fer des de la ciència-ficció per canviar aquest imaginari?

Es pot fer molt des de totes les modalitats artístiques i, per això, darrerament estic intentant escriure relats utòpics. Hi ha conflictes i de tot perquè hi hagi interès literari, però en el fons són futurs utòpics. La comunitat ha delineat cinc escenaris possibles de futur. Alguns són distòpics i d'altres, utòpics, i entre ells hi ha una evolució natural des d'una societat que clama davant cada revolució fins a una integració de la tecnologia per veure que, al final, tot és progrés. Progrés entès com afegir valors i beneficis per a la humanitat. Ara som en una època disruptiva en la qual la gent ho veu tot fosc, però a la llarga acabarem integrant totes les tecnologies, perquè és una evolució normal.

Això és una mica com l'ou i la gallina. La tecnologia inspira la ciència-ficció o la ciència-ficció inspira la tecnologia?

És inspiració mútua. La ciència-ficció ha inspirat els científics a crear determinades eines. A mi mateixa em va passar quan al nostre grup vam passar de fer robòtica industrial a fer-ne d'assistencial, que és el que fem ara: ajudar les persones que tenen alguna discapacitat física o cognitiva. A mi em va influir molt la ciència-ficció i, de fet, vaig escriure una novel·la per aclarir millor cap a on volia anar en aquesta recerca en robòtica social i assistencial. El resultat va ser La mutació sentimental. La literatura ens permet imaginar i provar en la ficció; veure quins perills i quines potencialitats hi ha, cap a on hem d’anar i com ho hem de fer. I a l'inrevés, igual. El desenvolupament tecnològic et fa dir: "Escolta, això no ho he contemplat. Expliquem-ho en la ficció, incorporem-ho, i elucubrem sobre les seves conseqüències". Moltes de les sèries de ciència-ficció han quedat ja obsoletes, però Black Mirror ha pogut anticipar un munt de coses basant-se en realitats, en tecnologies existents i potenciant-les al màxim, veient on ens podrien conduir. Per això, defenso que hi ha una retroalimentació entre la ciència-ficció i el desenvolupament tecnològic.

Precisament, La mutació sentimental s'ha traduït a l'anglès i s'utilitza com a material d'estudi en ètica i robòtica a Europa i als Estats Units. S'està prenent consciència de la importància de les humanitats en la tecnologia?

La diferenciació entre ciències i lletres, que és tot un clàssic, és perniciosa, perquè les persones som un tot, no podem amputar-nos una part de la vida. Els estudiants de tecnologia han de tenir formació humanística per saber quines implicacions té el que s'està desenvolupant i per arrelar-ho al món. A la Universitat Politècnica de Catalunya no hi ha cap carrera humanística ni cap assignatura pròpiament humanística, però, a poc a poc, s'ha anat introduint la disciplina i s'ha fet un conveni amb la Universitat Oberta de Catalunya perquè els estudiants puguin fer alguns crèdits en humanitats. Això és una passa endavant. També s'ha impulsat la comunitat UPCArts per potenciar les arts i la tecnologia, i la imbricació de les dues. Els estudiants ho agraeixen i el professorat també, perquè ens permet deixar de formar persones unidimensionals que només saben crear tecnologia, però no saben com influeix realment en el dia a dia de les persones i de la societat.

"Ara som en una època disruptiva en la qual la gent ho veu tot fosc, però a la llarga acabarem integrant totes les tecnologies, perquè és una evolució normal"

Els algoritmes han estat el detonant per unir definitivament aquests camps tan antagònics fins ara?

Parlant des de la meva experiència, la robòtica ha fet una transició per apropar-se més a les persones. I no només han entrat en escena la sociologia o l'antropologia, també ho ha fet la psicologia i tot l'àmbit de les cures i la salut. Ara tothom té el seu mòbil i pot utilitzar la intel·ligència artificial, i això ha fet que les humanitats cobrin molta més importància. Hem vist, de cop i volta, que els algoritmes afecten tothom i ens ha fet prendre'n consciència.

Les persones estan ara més que mai al centre del desenvolupament científic i tecnològic?

Indubtablement, almenys en el meu àmbit. Abans es pensava més en la rendibilitat, que continua sent important perquè una empresa ha de fer diners, però cada cop veiem més clar que una tecnologia no funcionarà si no aporta res beneficiós per a les persones.

Si hagués de dir un autor que l’ha influenciat clarament la seva faceta d’escriptora i d’investigadora, qui diria i per què?

Vaig tenir el privilegi de col·laborar amb en Michael Arbib, un investigador molt destacat que treballava en modelització del cervell i em va impressionar molt que era lector de ciència-ficció. No escrivia, però tenia unes idees molt innovadores d'anar cap a on hem acabat anant; del fet que ara a la tecnologia és molt important per conèixer més el cervell humà, i no només a nivell cognitiu, sinó també a nivell emocional. Arbib és una persona que em va influir molt. A nivell d'escriptors de ciència-ficció, n'hi ha molts que m’han marcat. Per exemple, m'entusiasmen els relats de Ted Chiang, són una mica com Black Mirror perquè exemplifiquen molt bé l'impacte de la tecnologia. Un altre escriptor a destacar és Neal Stephenson, que és una mica més antic, però té novel·les magnífiques com L’era del diamant o Snow Crash. A mi m'interessa la ciència-ficció social més que la ciència-ficció hard, m’agrada llegir sobre com les eines tecnològiques influencien la societat. M'agrada molt també Kazuo Ishiguro, que és un autor de literatura generalista, però que ha fet algunes novel·les de ciència-ficció, com No em deixis mai o La Klara i el Sol, que trobo boníssimes.

"La literatura ens permet imaginar i provar en la ficció; veure quins perills i quines potencialitats hi ha, i cap a on ho hem de fer. I a l'inrevés, igual"

Introduir aquestes lectures seria d'ajuda per despertar les vocacions STEM a l'educació secundària?

Per a mi, seria un somni. Ho he intentat moltes vegades i l'únic que he aconseguit és que La mutació sentimental, sobretot en versió anglesa, entri a nivell universitari. Vaig escriure una guia per als professors amb 100 pàgines explicant la part filosòfica d'aquesta mena de literatura, i també vaig fer una presentació PowerPoint de més de 100 diapositives. Després ho vaig adaptar tot perquè Pagès Editors ho volia per a la secundària i al batxillerat. Algun professor ho ha utilitzat, però no ha rebut gaire atenció. Em sap molt greu perquè crec que és perfectament adaptable a tercer i a quart d'ESO i al batxillerat. Darrerament, faig més relats ja que, com que són lectures curtes, entren millor. Els docents diuen que hi ha un pla d'estudis i que no poden introduir novetats amb tanta facilitat, i ja estem veient que s'estan reduint les hores lectives dedicades a la ciència i la filosofia... Per a mi, parlar de la tecnologia de forma propera i amb aquesta òptica de responsabilitat és bàsic.

Les diverses disciplines entre elles s'han de parlar, però també les tecnologies. Hi ha una conversa i convergència real?

Per descomptat. La recerca avui ja és interdisciplinària i ho veiem en el nostre grup mateix. En robòtica, cal enginyeria mecànica, enginyeria electrònica, programació... Al nostre grup tenim també matemàtics i físics, i hem incorporat una persona de les ciències socials i una altra de la filosofia. És important cocrear qualsevol prototip amb tots els agents implicats perquè després pugui ser un producte pràctic per a les persones. Ho hem vist clarament en un projecte amb el Parc Sanitari Pere Virgili, on vam anar a ensenyar els prototips que tenim per ajudar a menjar a persones que ho necessitin. A les hores de dinar, venen familiars perquè el personal sanitari no dona l'abast, però els familiars van amb presses i acaben convertits en màquines que donen el menjar i marxen corrents. Al principi, el prototip de robot que fa això generava rebuig perquè deien que faltava l'escalfor i la companyia humana. Després de fer un programa pilot amb 60 pacients, que van quedar encantats, van veure que es deixava espai per a les persones per oferir temps de qualitat. Tenir interdisciplinarietat dona una visió social i ètica a aquests problemes i a les solucions.

Sempre hem desitjat tenir màquines que ens substitueixin, però quan les tenim, no les volem i ens fan por.

Sí, de vegades es veu com una substitució, i nosaltres intentem demostrar que no és així, sinó que donem autonomia al pacient. El nostre prototip és molt senzill: és un braç de sobretaula que agafa el menjar dels plats, en són quatre que van rotant, i el dona a la persona. També pot donar beure amb una canyeta i netejar amb un tovalló, i interactua amb les persones. És només un electrodomèstic una mica més sofisticat que els altres. Hi ha temps i autonomia, com ho fa una rentadora. Què faríem ara si ens traguessin la rentadora?

"La diferenciació entre ciència i lletres, que és tot un clàssic, és perniciosa, perquè les persones som un tot, no podem amputar-nos una part de la vida"

Ha dit un concepte clau: robots que són electrodomèstics. Aquesta és la idea que s'hauria de difondre?

No sóc gens partidària de fer-los com humanoides. Per això, a vegades no els posem cara. Per exemple, aquest que dona de menjar, inicialment no tenia veu per interactuar i no tenia una cara que expressés res. Al final, ho vam acabar posant perquè els pacients ens van dir que era més agradable interactuar-hi si tenia una cara, ens deien que ja eren conscients que és una màquina. Si el pacient s'ho menja tot, somriu; o si menja poc, li diu que mengi una mica més. Per tant, mentre quedi clar que és un electrodomèstic, no em sembla malament. El problema ve amb les persones que tenen deteriorament cognitiu o amb nens, que poden arribar a confondre's. Poden dir que tenen un company de joc meravellós que no els porta mai la contrària, i poden oblidar que és important interactuar amb persones. Això és perillosíssim. Si parlem de persones amb plenes facultats mentals que escullen tenir un company robòtic o un company sexual, endavant, però em fa pànic amb altres col·lectius que no tenen desenvolupades les capacitats per discernir.

És realista pensar que es pot convertir tot el coneixement i raonament humà en algoritmes d’IA?

El coneixement és polièdric, té moltes cares, moltes facetes. Tenim coneixement reglat que, a partir d'unes dades, dona un resultat determinat, i aquest es pot automatitzar. La gran revolució d'ara de la intel·ligència artificial és que si tu li dones dades històriques, aprèn a trobar patrons. Per exemple, es pot diagnosticar un tumor en radiografies amb algoritmes entrenats a partir de milions de radiografies etiquetades amb i sense tumor. La diagnosi pot ser força bona, amb només un 5% d'errades. S'ha fet una experiència basada en ensenyar aquestes mateixes radiografies a radiòlegs experts i s'ha vist que també fan un 5% d'errades, però són molt diferents de les que fa una màquina, i quan el radiòleg consulta el diagnòstic després amb la màquina, es redueix a un 1% d'errades. Aquest és el camí que hauríem de seguir. Les màquines poden tenir un coneixement de base i extreure patrons, però el radiòleg ha vist molts malalts i té un coneixement que podríem dir que és més artesanal, més arrelat en un context determinat i que s'adquireix amb l'experiència. En definitiva, hem d'anar cap a complementar coneixements. Les màquines cada cop ho faran millor i correm el perill que les persones decidim no escarrassar-nos perquè veiem que les màquines ja ho fan bé. Això ens farà perdre capacitats, i ens farà perdre la capacitat de raonament que només podem tenir les persones. Per tant, les màquines poden tenir molt coneixement, però mai podran relacionar coneixement, experiència i emocions com els humans. No hem de deixar que les màquines ens facin perdre això.

“El nostre robot assistencial és un electrodomèstic una mica més sofisticat que els altres”

Ho hem vist amb els drons que intervenen en conflictes bèl·lics. Ja han generat queixa tant per part de la societat civil com dels experts.

Hi ha molts moviments en contra, jo mateixa fa anys vaig signar el manifest Stop Killer Robots, que és una web que encara està activa i que aglutina moltíssima gent, també gran part de la comunitat científica. La responsabilitat final ha de ser sempre humana, tant en els drons que maten gent com en els robots assistencials. Les màquines no tenen la possibilitat de tenir responsabilitats perquè no tenen consciència. Però ara mateix hi ha unes empreses que estan desenvolupant aquests instruments i tenen els seus arguments, poden dir que la màquina s'equivoca menys que una persona. Una persona en situació de pànic és capaç de fer qualsevol cosa, se li poden creuar els cables, mentre que a una màquina li has posat línies vermelles i no les traspassarà mai. Però tot això és opinable, perquè sí que hi ha errades i perquè això que no es traspassen fronteres... totes les possibilitats mai no poden estar contemplades. Per això és importantíssima la formació. Cal fer un bon ús de la tecnologia a tots els nivells. Com més formada estigui una societat, més pressió es podrà fer sobre els governants, sobre la política i sobre la gran majoria dels actors.

Quines altres línies de treball teniu a banda dels robots assistencials?

També treballem la manipulació d'objectes deformables com la roba, que és el principal tipus d’objecte que tractem, però també poden ser cables i tubs, molt presents en la fabricació de cotxes. La manipulació de deformables és més complexa que la d'objectes rígids, amb els quals s'han de controlar sis paràmetres: tres graus de llibertat de posició i tres graus d'orientació, mentre que en els objectes deformables hi ha un espai de configuracions d'infinites dimensions que els fa intractables amb els mètodes habituals. Aquesta recerca és molt important per als robots assistencials, perquè hem de fer que puguin manipular roba o cables. També hi ha altres àmbits com els robots de rescat, els drons per fer repartiment en logística o per fer vigilància; i tot l’àmbit mèdic, en el qual tenim exoesquelets que permeten treballar en equips multidisciplinaris i fer més precisa la feina dels metges. A nivell industrial, anem cada cop més cap a la col·laboració amb robots i menys cap a braços que estan engabiats i s’aturen quan entra un operari. És a dir, anem cap a cobots que facin les feines més dures, però amb els humans supervisant i fent controls de qualitat, i així també evitem moviments i postures que generen problemes de salut.