L’Ajuntament de Barcelona ha publicat un nou protocol d’actuació que pretén establir els criteris ètics, legals i tècnics sota els quals s’ha d’aplicar qualsevol algoritme o solució basada en intel·ligència artificial promoguda des del consistori. El document defineix, entre altres matèries, quins són els drets que s’han de salvaguardar en cada etapa del procés i quins són els organismes que s’encarregaran de la governança i la supervisió d’aquestes tecnologies.

El nou protocol es basa en la classificació de riscos que la Unió Europea va definir en el marc de l’AI Act, la llei europea que regula l’ús de la intel·ligència artificial al continent. En aquest sentit, el document llista una sèrie de condicionants que avaluen el risc que suposen els algoritmes per a la seguretat i els drets de la ciutadania, i n’estableix una actuació per cadascun. Així, els sistemes algorítmics de risc inacceptable es rebutjaran automàticament, mentre que els d’alt risc implementaran una sèrie de mecanismes de garantia més estrictes i exigents que els que hauran de passar els de risc limitat i mínim.

Assegurar l’ús ètic de la intel·ligència artificial

El protocol impulsat per l’Ajuntament de Barcelona, pioner en l’àmbit municipal, s’emmarca dins l’estratègia municipal per a l’impuls ètic de la intel·ligència artificial, que agrupava una vintena d’actuacions per efectuar entre 2021 i 2023. De cara al nou any, el consistori preveu posar en marxa la creació d’un registre públic d’algoritmes i d’un consell assessor extern que s’encarregui d’elaborar els estudis d’impacte algorítmic que s’aplicaran als sistemes d’alt risc.