La intel·ligència artificial ja no és un concepte futurista. És a tot arreu i cada vegada està més integrada en la vida quotidiana les persones. Diàriament, i gairebé sense adonar-nos-en, utilitzem un assistent de veu per fer una cerca,
acceptem els suggeriments del mòbil per acabar d’escriure un missatge, fem ús d’un sistema de navegació per arribar fins a casa o triem sèrie a partir de les recomanacions de l’algoritme de Netflix. Ara, us imagineu que un recomanador de prestacions socials suggerís a la ciutadania el tipus d’ajut que pot rebre de l’Administració Pública? Aquest servei és més a prop del que imaginem. De fet, és un dels 12 sistemes d’intel·ligència artificial que, actualment, estan sent utilitzats o desenvolupats per les administracions públiques catalanes en l’àmbit dels drets socials. Es tracta d’un xatbot conversacional que es comunica directament amb la ciutadania i, d’acord amb la seva realitat i necessitats, ofereix informació personalitzada sobre la prestació social a què té dret a accedir.

“Les administracions públiques catalanes utilitzen un xatbot conversacional que ofereix informació personalitzada a la ciutadania sobre la prestació a què té dret a accedir”

Exemples com aquest, ens demostren que la tecnologia intel·ligent no només s'ha introduït en el nostre dia a dia, sinó que està transformant profundament la societat i el sector públic. En aquest context de canvi, des de m4Social, el projecte d’innovació social de la Taula d’entitats del Tercer Sector Social de Catalunya, pensem que és fonamental conèixer com s’estan usant aquests sistemes en l’àmbit social, quins avenços i riscos comporten i quin impacte poden tenir en l’accés i garantia dels drets socials a Catalunya. Per això, en el marc del MWC, presentarem l’estudi que hem impulsat amb KSNET Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania a Catalunya, amb l’objectiu de contribuir al debat actual sobre la IA i compartir informació clara i completa amb les entitats del tercer sector social, i la ciutadania en general, sobre el seu impacte en l’accés als serveis socials.

De l’informe es desprèn que, en l’àmbit dels drets socials, la IA ja es fa servir per automatitzar tasques repetitives i mecàniques, gestionar grans quantitats de dades, dissenyar serveis més personalitzats o facilitar la comunicació amb la ciutadania a través de robots conversacionals. L’estudi mostra com l’aplicació de la IA té la capacitat de simplificar processos i millorar la qualitat, i la velocitat en la provisió de serveis públics, facilitant i agilitzant el treball del personal de l’administració i la interacció de la ciutadania amb aquesta. Només la meitat de les llars amb menys ingressos tenen contacte amb l’administració a través d’Internet. En aquest context en què els col·lectius en situació de vulnerabilitat
són els que menys es relacionen amb l’administració, fins i tot en el cas de tràmits de prestacions i ajudes socials, la introducció d’aquesta tecnologia pot contribuir a reduir la burocràcia, eliminar barreres i garantir una atenció més
ràpida, eficient i personalitzada a situacions de vulnerabilitat. Així doncs, el canvi en la relació, pot ser radical.

“La introducció de la IA pot contribuir a reduir la burocràcia, a eliminar barreres i a garantir una atenció més eficient a situacions de vulnerabilitat”

La desburocratització a l’hora de tractar amb l’Administració és una demanda constant per part de tota la població, no només d’aquella en situació de vulnerabilitat. El nombre de sistemes identificats a l’estudi, però, és reduït, molt menor que en altres àmbits com el de la salut. Des de m4Social confiem que aquest procés de transformació no s’aturi aquí. Necessitem una aposta ferma i continuada per part de l’administració perquè, si no és així, difícilment podrem avançar en la consolidació i millora de l’atenció a la ciutadania que és el que tothom desitja.

Actualment, bona part dels algoritmes utilitzats i recollits a l’informe, són de ‘consum propi’, és a dir, qui interactua amb ells és el personal de l’administració, i estan centrats a produir millores en l’eficiència dels processos administratius, i no a prendre decisions que afectin directament la ciutadania. En l’àmbit social, l’obligació de dissenyar processos segurs i amb garanties en l’accés als serveis socials, limita el ventall de tècniques que poden aplicar-se. A més, exigeix avançar amb prudència perquè les persones a qui va dirigida aquesta protecció es troben en situació de vulnerabilitat o risc d’exclusió social i l’ús de sistemes d’IA comporta tota una sèrie de riscos relacionats amb la seguretat i privacitat de la informació, la manca de transparència o la possible amplificació de biaixos i discriminacions. En aquest sentit, els 12 sistemes identificats a l’estudi comporten nivells de risc molt reduït o inexistents per la ciutadania i només un no compta amb cap mena de supervisió humana, però es limita a recomanar a l’usuari com classificar la seva incidència d’acord amb una sèrie de temàtiques. En la resta de casos, sempre hi ha una persona davant de cada decisió final i els resultats es revisen periòdicament.

"És imprescindible que coneguem com es construeixen aquests algoritmes i quina avaluació en fa l’administració per evitar biaixos i exclusions"

L’ús d’aquest tipus de tecnologia serà cada cop més habitual en el nostre entorn i ens trobem en un moment clau per fixar una posició compartida des de les polítiques socials, adoptar una estratègia proactiva i fer escoltar la nostra veu. És
essencial garantir que els sistemes utilitzats no van en contra del bé comú i no vulneren drets socials de la ciutadania i és responsabilitat de l’administració fer-ho, però les entitats socials també juguem un paper clau. Hem d’estar vigilants i vetllar perquè l’ús de la IA compleixi certs mínims i estàndards. Des de la nostra expertesa, també sabem de tecnologia i som un actor imprescindible en la defensa dels drets socials - i humans-. Per això, és imprescindible que coneguem com es construeixen aquests algoritmes i quina avaluació en fa l’administració per evitar biaixos i exclusions.

En aquest sentit, creiem que aquest estudi pot contribuir a dotar el tercer sector social de més coneixement i eines d’incidència, així com obrir un debat necessari i urgent, dins i fora del sector, sobre els riscos i oportunitats d'utilitzar la intel·ligència artificial en l’àmbit social. Comptar amb una visió comuna, enfortirà la nostra capacitat per garantir una aplicació de la IA ètica i pròpia d’un estat democràtic i, a la vegada, ens permetrà aprofitar les oportunitats que ens ofereix aquesta tecnologia per transformar l’administració pública amb garanties i millorar l’accés de la ciutadania als serveis socials.