Common Sense Media, una organización sin fines de lucro especializada en calificaciones de medios para familias, ha calificado ChatGPT para Teens como un "riesgo inaceptable". Esta decisión se produce mientras la plataforma de OpenAI enfrenta críticas por diseñar productos que mantienen a los usuarios enganchados, incluso en situaciones de crisis mental, similar a las prácticas de las redes sociales. Un estudio reciente revela que, a pesar de las garantías de seguridad prometidas, el diseño del chatbot fomenta la interacción constante, lo que puede ser perjudicial para la salud mental de los menores.
La investigación señala que las señales de engagement son "pervasivas incluso en situaciones de crisis". Aunque el modelo advierte sobre relaciones tóxicas con otros, no reconoce los daños de la relación con sí mismo. En un 94% de los casos de crisis, el chatbot dirige al usuario a un adulto, pero rara vez lo hace cuando el riesgo proviene de la propia relación con la IA. Además, las recordaciones de descanso, diseñadas para interrumpir el uso, aparecen en menos de dos de 2.000 prompts, lo que sugiere que no se basan en el tiempo total de uso, sino en la duración de una sola conversación. OpenAI ha desafiado la metodología de Common Sense Media, argumentando que las pruebas no reflejan con precisión el funcionamiento de las salvaguardas en la práctica, aunque no ha aclarado cómo esto afecta a los hallazgos sobre el comportamiento relacional.