L'Autoritat Catalana de Protecció de Dades (APDCAT) ha recomanat evitar l’ús de ChatGPT i altres eines d’intel·ligència artificial generativa a les administracions públiques i entitats que prestin serveis públics. L’organisme considera que, amb la informació que hi ha disponible ara per ara, no hi ha prou garanties per assegurar que el programari d’OpenAI protegeix les dades personals de la ciutadania, i recomana esperar que el Comitè Europeu de Protecció de Dades (CEPD) emeti directrius o bones pràctiques.

Segons el document publicat per l’APDCAT, ChatGPT pot incloure informació que “directament i indirectament, pot incloure dades personals sensibles o relatives a col·lectius vulnerables o menors d’edat, sense que hi hagi control i sense una base jurídica adequada”. L’entitat creu que OpenAI no compleix la privacitat des del disseny i per defecte requerida al Reglament General de Protecció de Dades (GDPR) de la Unió Europea, i fins i tot assenyala que pot estar emprant la informació captada per “elaborar perfils i prendre decisions que podrien afectar negativament persones concretes”.

És per aquesta raó que l’entitat desaconsella fer servir l’eina a la Generalitat, els ajuntaments, les escoles i universitats públiques i privades de Catalunya i els col·legis professionals del territori fins que hi hagi més claredat en el tractament de dades que fa. La visió de l’APDCAT s’alinea amb la de l’autoritat de protecció de dades d’Itàlia, que va prohibir l’ús de ChatGPT al país i ha emès una sèrie de mesures que l’eina haurà d’implementar abans del 30 d’abril per tornar a operar al territori. L’Estat espanyol també ha començat a estudiar el tema a través de l'Agència Espanyola de Protecció de Dades (AEPD), que ha obert una investigació per possible incompliment del GDPR.