Les administracions públiques catalanes han desenvolupat un total de 12 casos d’ús d’intel·ligència artificial (IA). Segons l’estudi Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania a Catalunya elaborat per m4Social de la Taula del Tercer Sector i KSNET, es troben ja en funcionament set projectes, mentre que la resta està en fase pilot. La meitat es concentren en l’àmbit local a través de l’Ajuntament de Barcelona i de l’Ajuntament de Barcelona i Institut Municipal de Serveis Socials, i l’altra meitat, a escala regional amb el seu ús a l’Àrea de Tecnologies de la Informació i les Comunicacions de la Generalitat i de l’Administració Oberta de Catalunya (AOC).

La major part de les propostes s’adrecen a ajudar el personal tècnic de l’administració pública a través de l’automatització de tasques, que ja ha revertit, tal com conclou l’informe, en un estalvi de temps i recursos, i en un augment de la qualitat dels processos i de la capacitat de resposta cap a la ciutadania.

En declaracions a MetaData, el responsable del m4Social a la Taula del Tercer Sector, Gerard Sentís, recorda que les prestacions requereixen una petició i actualització anual. “Les administracions sovint ja tenen les dades, però les han de reclamar per tornar a accedir a les ajudes o per comprovar si s’adiuen als nous barems”, ha recordat. Tot plegat és un tràmit que, si s’automatitza, pot facilitar la comunicació de dades entre administracions per agilitzar el tràmit o mantenir un contacte més directe i permanent amb la ciutadania per garantir que la informació està actualitzada. “Si tot això es dona, podríem arribar a tenir un trasllat de dades d’una organització a una altra que no requerís la intervenció de la ciutadania o, fins i tot, que et vinguessin a buscar a casa teva si veiessin que tens dret a una prestació”, explica.

El fet de reduir la càrrega de feina, i especialment la més burocràtica, és per a Sentís un element positiu perquè permet donar més temps als professionals de les administracions per atendre les persones. “Sempre hi ha temps minvat per temes logístics i de gestió. Si ho automatitzem tot, es pot valorar la informació que enviï el sistema amb detall i tenir un tracte més de tu a tu i més eficient”, argumenta.

Reduir el risc de discriminació

L’aplicació de la intel·ligència artificial en l’entorn de l’administració pública suposa l’ús de dades de la ciutadania per a un correcte funcionament de l’eina. Malgrat que els experts han destacat en l’elaboració de l’informe que actualment les propostes només són d’ús intern, cal extremar precaucions perquè en el moment d’externalitzar funcionalitats no tingui un impacte negatiu en termes de seguretat i privacitat de la informació de les persones. L’estudi conclou que només tres dels sistemes recollits podria suposar una amenaça per a la privacitat, mentre que dos sistemes podrien comportar un risc de difondre informació errònia.

Les discriminacions i biaixos és un altre element que s’ha monitorat per tal d’establir el nivell d’igualtat dels sistemes. En aquest cas, quatre iniciatives han presentat signes de discriminació racial o socioeconòmica que els desenvolupadors estan treballant per resoldre. Aquest és el motiu pel qual els tècnics participants en l’estudi alerten de la importància d’aplicar els algoritmes adequats a cada eina. Els algoritmes de caixa negra són els que més problemes poden generar, ja que presenten una baixa capacitat per explicar les seves decisions. En la denegació o acceptació d’un candidat a rebre una subvenció, recomanen l’ús d’automatitzacions basades en la regulació o d’algoritmes explicables per evitar discriminacions.

L’estudi ha analitzat casos reals d’aplicació tecnològica arreu del món. Alguns dels exemples mostren casos en què una selecció inapropiada dels algoritmes o una categorització poc acurada van generar discriminació en col·lectius de dones, nivells baixos de renda o raça. L’informe proposa estudiar aquests casos i prendre’ls com a referència per evitar caure en situacions de discriminació per causes d’una mala aplicació de la intel·ligència artificial. “Un algoritme es construeix pas a pas i s’ha de poder avaluar”, alerta Sentís, “per això és positiu tenir experiències prèvies que ens permetin avançar-nos a Catalunya”. Tot i això, ha recordat que sempre hi ha la segona revisió que fan els tècnics de les administracions per evitar els biaixos que poden tenir les màquines.

Acabar amb l’escletxa digital

La interacció per canals digitals amb l’administració pública augmenta cada dia, però només la meitat de les llars amb menys ingressos hi accedeixen per aquesta via. Els motius principals són una falta d’accés als recursos tecnològics necessaris i un baix nivell de competències digitals. Per al responsable de l’m4Social, la introducció de sistemes basats en algoritmes pot ser una ajuda de cara a reduir aquesta escletxa. “La ràtio de persones que no s’adreça a l’administració pels mitjans digitals és més alta que en col·lectius que no tenen vulnerabilitat. Si s’ha de recollir molta paperassa, escanejar-la, enviar-la, tenir el programari actualitzat... desistiran”, relata, i afegeix que facilitar la interlocució directa entre administracions i ciutadania amb “alertes quan algú pot accedir a una subvenció” pot ser clau per “reduir dràsticament els temps de gestió i perdre gent pel camí”.