OpenAI ha començat a desplegar una versió de ChatGPT pensada per als adolescents, amb més filtres de seguretat, controls parentals i eines orientades a l’aprenentatge. L’objectiu és adaptar el funcionament del xatbot als menors de 18 anys i limitar-ne l’accés a determinats continguts sensibles.

No es tracta d’una aplicació diferent ni d’un botó que l’usuari hagi d’activar. ChatGPT aplicarà aquesta configuració quan detecti que el compte pot correspondre a un menor d’edat. Per fer-ho, OpenAI utilitza un sistema de predicció d’edat que té en compte diferents senyals, com els horaris d’ús, l’antiguitat del compte o els temes de conversa.

El desplegament ja ha començat, però aquesta detecció automàtica encara no està disponible a la Unió Europea, on OpenAI preveu introduir-la més endavant.

Més filtres per als continguts sensibles

La principal diferència respecte de l’experiència habitual és l’enduriment de les proteccions. El sistema limitarà converses relacionades amb autolesions, violència, trastorns alimentaris o contingut sexual, entre altres àmbits sensibles.

També aplicarà més restriccions a les interaccions que puguin fomentar dependència emocional o presentar el xatbot com si tingués sentiments o consciència pròpia.

La versió per a adolescents limitarà automàticament determinades converses sensibles i incorporarà més eines de control per a les famílies.

Els adults podran vincular el seu compte amb el de l’adolescent a través dels controls parentals. Des d’aquest espai podran gestionar aspectes com els continguts sensibles, la generació d’imatges, els horaris d’ús o el mode d’estudi.

Això no implica, però, tenir accés directe a les converses. Els pares o tutors no podran llegir els xats, tot i que OpenAI preveu avisos en determinades situacions relacionades amb la seguretat o el benestar del menor.

Menys respostes directes i més ajuda per estudiar

OpenAI també vol donar a aquesta versió un perfil més educatiu. El mode d’estudi està pensat perquè ChatGPT guiï l’usuari pas a pas en lloc de limitar-se a donar-li la resposta final.

Així, un estudiant pot demanar que li expliqui un concepte, practicar amb exercicis o comprovar si ha entès una matèria. El sistema també pot proposar preguntes, qüestionaris i altres materials per reforçar l’aprenentatge.

La companyia assegura que ChatGPT podrà detectar quan un adolescent intenta trobar una drecera per resoldre una tasca i redirigir-lo cap a un procés més guiat.

OpenAI vol que ChatGPT ajudi els adolescents a arribar a la resposta, en lloc de convertir-se simplement en una eina per fer els deures.

Els controls parentals també permetran establir franges horàries en què el mode d’estudi estigui activat per defecte, amb la idea d’incorporar l’eina a les rutines acadèmiques.

La seguretat dels adolescents, al centre del debat

El moviment d’OpenAI arriba enmig del debat sobre l’impacte de la intel·ligència artificial en els joves, especialment pel que fa a la salut mental, la privacitat, la dependència emocional i l’ús d’aquestes eines a l’aula.

Als Estats Units, grups de famílies han reclamat a algunes escoles que frenin la introducció de la IA perquè consideren que pot perjudicar el desenvolupament del pensament crític si s’utilitza com una via ràpida per obtenir respostes.

Amb la nova configuració, OpenAI intenta respondre a aquestes preocupacions amb una experiència més limitada que la dels adults i amb més marge d’intervenció per a les famílies.

El repte serà trobar l’equilibri entre protegir els menors i permetre que aprofitin les possibilitats educatives de la IA. Una qüestió que guanya pes a mesura que eines com ChatGPT entren en el dia a dia dels estudiants.