Fa uns mesos, l’Ajuntament de Barcelona va anunciar que instal·larà 500 noves càmeres de videovigilància repartides per diversos punts de la ciutat [1]. L’objectiu d’aquesta mesura és, segons el govern de Collboni, el d’augmentar la seguretat de la ciutat en alguns punts conflictius. Notícies com aquesta fan que ens plantegem el paper i l’impacte que té la tecnologia tant en la nostra seguretat com en el nostre dia a dia. Més càmeres volen dir menys delictes? D’altra banda, quin és el preu a pagar per l’aparent augment de la seguretat? Quin impacte tenen mesures com aquestes en les nostres llibertats?

Aquest qüestionament pot arribar com a iniciativa individual, però també pot ser la mateixa administració la que ens inciti a fer-ho. En aquest sentit, el passat mes de juny, el municipi suís de Vevey va convocar un referèndum per aprovar la instal·lació de desenes de càmeres de seguretat als voltants de l’estació de tren. La mesura va ser àmpliament refusada per un 60% de la població [2]. Si el consistori de Vevey va llençar aquesta pregunta és per què reconeixia que la mesura no era innòcua i n’era conscient del que es troba en joc quan deixem envair la nostra privacitat.

"Quin és el preu a pagar per l’aparent augment de la seguretat? Quin impacte tenen mesures com aquestes en les nostres llibertats?"

Tot i que l’argument de la seguretat és, segurament, un argument convincent, només ho és fins a un cert punt. D’altra banda, el debat entre seguretat i llibertat molt sovint es planteja en forma de fals dilema, quan la realitat és molt més complexa i una reflexió més profunda permet trobar altres tipus de compromisos [3].

El valor de la privacitat

Sovint es menysprea el valor que té la privacitat. De fet, persones com Vince Cerf, argumentaven que potser la privacitat era simplement una anomalia històrica sorgida després de la revolució industrial [4]. I si bé és cert que la concepció de la privacitat ha evolucionat al llarg del temps, avui ens podríem preguntar si a les nostres llars instal·lem cortines per amagar-nos o simplement per gaudir amb total llibertat de l’ambient familiar sense que ningú hi tafanegi. Dit d’una altra manera, per què fa nosa que els veïns ens observin, però no ens importa ser transparents amb corporacions que busquen treure’n profit?

Cada vegada que passem la targeta de crèdit, la targeta client del supermercat, o qualsevol moviment que fem a internet, en particular a les xarxes socials, deixa un rastre. És una realitat que a la societat actual existeix una clara tendència a transformar cada aspecte de les nostres vides en dades, on els nostres hàbits esdevenen quantificables i mesurables, i on és difícil trobar un aspecte del nostre dia a dia que encara no sigui reportat. Si bé els beneficis de compartir el nostre ritme cardíac amb aplicacions que ens alerten de possibles fibril·lacions són innegables, perdem la perspectiva del que passa amb aquestes dades més enllà, i així esdevenen eines de control i vigilància pels qui les posseeixen.

"Cada vegada que passem la targeta de crèdit, la targeta client del supermercat, o qualsevol moviment que fem a internet, en particular a les xarxes socials, deixa un rastre"

La vigilància massiva no és, però, un tema del tot nou. Fa gairebé més de 75 anys, George Orwell ja ens alertava a la seva obra "1984" de les conseqüències que podria tenir viure sota la mirada atenta del Gran Germà, que simbolitza la presència constant de l'aparell estatal [5]. La principal diferència amb la distopia d’Orwell és que en l’actualitat no hi ha cap govern que ens hagi forçat explícitament a instal·lar una càmera a casa nostra. De fet, hem acceptat (i pagat) voluntàriament portar un dispositiu de vigilància a les nostres butxaques.

"És probable que la IA acceleri aquesta tendència, ja que a mesura que augmenta la capacitat de recollir i utilitzar informació personal, també augmenta la capacitat d’anàlisi de la informació personal a nous nivells de poder i velocitat", diu Albert Sabater, Director de la Càtedra de l’Observatori d'Ètica en Intel·ligència Artificial de Catalunya (OEIAC). En aquest sentit, la vigilància ha deixat de ser activa per passar a ser automàtica i "intel·ligent" [3]. En llocs com la Xina, per exemple, les càmeres presents en espais públics permeten el seguiment d’individus detectant els seus comportaments així com la identificació d’individus concrets [6]. El govern municipal barceloní descarta, de moment, la implementació de cap mena de sistema de reconeixement facial [7] que, d’altra banda, es troba explícitament restringit segons la llei europea d’intel·ligència artificial, el conegut com a AI Act [8].

"La mateixa IA podria formar part de la solució amb eines que ajudin a preservar la privacitat a través d’assistents que monitorin les dades que entren i surten dels nostres dispositius i intervinguin quan se’n detecti una vulneració"

"Segurament una de les esperances per a una protecció de la privadesa és que les empreses competeixin, precisament, en la privadesa", diu Sabater. En aquest sentit, la mateixa IA podria formar part de la solució amb eines que ajudin a preservar la privacitat a través d’assistents que monitorin les dades que entren i surten dels nostres dispositius i intervinguin quan se’n detecti una vulneració.

Qui som quan ens observen?

El principal problema és que la manca de debat públic i la indiferència vers la implantació de tecnològiques de vigilància representa una cessió progressiva d’alguns drets que són fonamentals. L’article 12 de la Declaració Universal dels Drets Humans reconeix aquest dret a la privacitat [9]. D’altra banda, el menyspreu pel valor de la privacitat beneficia les grans corporacions, les quals, com afirma la psicòloga social Shoshana Zuboff, han creat una nova forma de mercat coneguda com a "capitalisme de vigilància", un sistema en el qual els individus som simples mitjans que nodreixen de dades empreses com Google, Facebook o Amazon [10].

Tanmateix, l’argument de la seguretat (o la inseguretat) és un aspecte pervers de la nostra societat, fàcilment manipulable i estretament relacionat amb la por, especialment quan el feixisme sembla que fa acte de presència. D’aquesta manera, és fàcil induir una mena de psicosi individual i col·lectiva que ens porta a fer un pas més enllà i cedir encara més llibertats vers l’Estat o les grans empreses tecnològiques. En aquest sentit, al llibre "Privacitat és Poder", Carissa Véliz argumenta la necessitat de fer un pas endavant per preservar la privacitat com un dret fonamental per conservar així gran part del que significa ser humà front l’atomització i la deshumanització que produeix la tecnologia [11].

"L’argument de la seguretat (o la inseguretat) és un aspecte pervers de la nostra societat, fàcilment manipulable i estretament relacionat amb la por, especialment quan el feixisme sembla que fa acte de presència"

El filòsof francès Michel Foucault ja plantejava al seu llibre "Vigilar i castigar" el problema que suposava ser observats constantment. Segons Foucault, la vigilància constant altera el comportament dels individus d’una societat que viuen permanentment sota una amenaça de vegades autoinfligida [12]. Aquesta idea prové del famós "panòptic" del filòsof Jeremy Bentham [13], una estructura circular des del centre de la qual es poden observar tot els racons de l’edifici. Aquest concepte, que va servir per dissenyar centres penitenciaris, escoles i hospitals, ha evolucionat vers el panòptic modern, on les tecnologies de la informació representen la torre de vigilància des de la qual transporten la societat a un estat de vigilància permanent que controla la conducta social sense que els individus es puguin assabentar.

Segons Foucault, "en aquest model disciplinari modern, l'exercici del poder no té cara, perquè qualsevol persona pot ser representant del poder central per a vigilar a la resta". Aquest sistema genera un clima de desconfiança social continu. L’enfocament de Foucault serveix per comprendre les relacions de poder i les jerarquies existents no només entre la societat i l’Estat modern, sinó, com afirma la politòloga tunisiana Asma Mhalla, també amb les grans corporacions tecnològiques conegudes com a Big Tech [14]. Segons Mhalla, aquest duo "estat-Corporacions Tecnològiques" representa un Leviatan de dos caps, fent referència a l’obra del filòsof Thomas Hobbes, on argumentava la necessitat de l’Estat per mantenir l’ordre social.

Com actuar?

Tot plegat fa que la privacitat, entesa com a dret fonamental, es vegi seriosament amenaçada, en particular en l’era de la intel·ligència artificial. És per això que és un dels principis fonamentals del desenvolupament d’una intel·ligència artificial ètica i responsable, així com un dels pilars fonamentals en el que es basa la tasca de l’OEIAC. L’Observatori disposa d’una sèrie d’eines que permeten fer una avaluació de l’ús que fem de la intel·ligència artificial. Aquesta avaluació es concentren en el conegut com a Model PIO (Principis, Indicadors i Observables) [15], on es contempla l’avaluació de qualsevol classe de sistema d’IA. D’altra banda, l’OEIAC també ha desenvolupat eines dedicades a sectors particularment sensibles en qüestions de privacitat com són la Salut (Model PIO Salut) [16] i l’Educació (Model PIO Educació) [17].

"Tot plegat fa que la privacitat, entesa com a dret fonamental, es vegi seriosament amenaçada, en particular en l’era de la intel·ligència artificial"

La privadesa no ha de ser vista com una anomalia històrica, sinó com un dret que es pot preservar, entre d’altres, a través de la tecnologia. Perquè esdevingui una realitat, cal el compliment de les lleis de protecció de dades existents així com d’altres reformes. "Entre aquestes reformes està el canvi del consentiment individual a la gestió de dades, també una utilitat més sistèmica i ben desenvolupada de la gestió del risc, un focus més gran en els usos i implicacions de les dades o un marc de danys i transparència i reparació", conclou Sabater.