La intel·ligència artificial (IA) és una tecnologia cada dia més assentada i utilitzada en la nostra societat, raó per la qual també s’ha discutit àmpliament la moralitat del seu ús. Per tal de solucionar aquest fet, l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) i el departament de la Vicepresidència i de Polítiques Digitals i Territori han impulsat el Model PIO (Principis, Indicadors i Observables), una guia d’autoavaluació que permet a les empreses i organitzacions determinar fins a quin punt fan un ús ètic de les dades i els sistemes d’IA que empren.

L’eina, desenvolupada dins del marc de l’estratègia Catalonia.AI, està composta per un qüestionari de 70 preguntes de resposta binària (Sí/No) que avalua set principis: la transparència, la justícia i equitat, la seguretat i no maleficència, la responsabilitat i retiment de comptes, la privacitat, l’autonomia i la sostenibilitat. A partir de les respostes obtingudes, el Model PIO genera una insígnia que actua com a representació gràfica de la puntuació que obté l’organització, en què cadascuna de les set categories obté un color en funció del seu resultat. A més a més, també es retorna un feedback en què s’indica quins aspectes es poden millorar i de quina manera fer-ho.

El Model PIO té un doble objectiu: sensibilitzar les entitats que facin servir models d’intel·ligència artificial sobre les seves implicacions morals (i, així, minimitzar-ne els riscos) i identificar aquelles accions que fomentin un ús ètic d’aquesta tecnologia per recomanar-los i visibilitzar-los. L’eina s’ha desenvolupat amb el suport de la Universitat de Girona i de la fundació i2CAT i ja es troba disponible a la pàgina web de l’OEIAC.