OpenAI ha presentado este martes 'ChatGPT for Teens', una nueva versión de su popular chatbot diseñada específicamente para usuarios menores de 18 años, con filtros de seguridad reforzados, controles parentales y herramientas educativas. El lanzamiento llega en un contexto de creciente preocupación social y legal por los efectos de la inteligencia artificial en la salud mental de los adolescentes y por el uso creciente de estas herramientas para hacer trampas en los estudios.
Según explicó la compañía en su blog oficial, ChatGPT for Teens mantiene las mismas capacidades técnicas del producto original, pero incorpora protecciones automáticas adaptadas al desarrollo cognitivo de los jóvenes. Entre las principales novedades destaca la posibilidad de desactivar la respuesta por voz humana, una medida que, según la BBC, busca minimizar que el chatbot parezca 'una persona'. OpenAI insistió en que esta decisión no responde a un problema concreto de menores que crean que ChatGPT está 'vivo', aunque la preocupación por usuarios convencidos de la 'senciencia' de la IA es creciente. Mustafa Suleyman, responsable de IA en Microsoft, ya advirtió el año pasado que los productos de IA 'aparentemente conscientes' le 'quitan el sueño' por su impacto social.
En el ámbito educativo, OpenAI incorpora el llamado 'Study Mode', un modo lanzado el año pasado que guía a los estudiantes paso a paso en sus tareas sin proporcionar respuestas directas. Ahora, los adolescentes podrán programar horarios en los que Study Mode será el ajuste predeterminado, así como activar 'horas de silencio' durante las cuales el chatbot permanecerá apagado. La compañía asegura que nueve de cada diez jóvenes que usan ChatGPT lo hacen con fines de aprendizaje, aunque un informe reciente del think tank británico Policy Exchange revela que el 94% de los estudiantes universitarios encuestados admite haber utilizado IA en sus evaluaciones, lo que sugiere un uso más amplio que el meramente formativo.
Otra medida clave es la ampliación de las alertas parentales: las conversaciones que aborden temas de trastornos alimentarios se añadirán a la lista de solicitudes potencialmente dañinas que serán notificadas a los progenitores con cuentas vinculadas. OpenAI aclaró que cada alerta será revisada por un humano antes de su envío y que se pretende entregarlas en menos de una hora. La compañía enmarca estas decisiones en la idea de actuar 'en momentos en los que el apoyo fuera de línea puede ser más importante', aunque no ha detallado cómo identificará a los usuarios menores de 18 años. Los menores de 13 años siguen teniendo prohibido el uso del producto.
La medida llega tras un año marcado por demandas judiciales y casos trágicos en Estados Unidos, donde varias familias han demandado a OpenAI por la falta de medidas de seguridad en sus chatbots, señalando que la herramienta habría contribuido a suicidios adolescentes y otros problemas de salud mental. Tal como recoge TechCrunch, estos litigios han puesto una presión considerable sobre la empresa, que ahora busca posicionarse como un actor responsable frente a sus competidores. Mientras Anthropic mantiene su chatbot Claude restringido exclusivamente a adultos, Google inicialmente tampoco permitió el uso de Gemini (antes Bard) por parte de menores.
Desde el punto de vista del control parental, los adultos podrán gestionar la configuración, recibir notificaciones de seguridad y establecer horarios de uso mediante las herramientas familiares previamente introducidas por OpenAI. Sin embargo, persisten dudas sobre la eficacia real de estos filtros: los adolescentes son extremadamente hábiles sorteando controles parentales, y hasta que el modo juvenil no sea sometido a pruebas más exhaustivas, resulta difícil calibrar su verdadero alcance. La empresa también anunció una colaboración con CodeAI para enseñar a los jóvenes a comprender y cuestionar la IA, en línea con su oferta previa 'ChatGPT for Teachers' para centros educativos.
En paralelo, el debate regulatorio sigue abierto. En el Reino Unido no existe todavía una legislación específica sobre IA, aunque el anterior Gobierno de Keir Starmer valoró restringir los chatbots para menores de 18 años como parte de sus reformas sobre el uso de redes sociales por niños. Expertos como la doctora Susan Shelmerdine, del Great Ormond Street Hospital, han comparado el impacto de la IA con el de los alimentos ultraprocesados: 'Esto es información ultraprocesada. Vamos a tener una avalancha de mentes ultraprocesadas'.
Con ChatGPT for Teens, OpenAI apuesta por un modelo de cuentas juveniles inspirado en las redes sociales, pero su éxito dependerá tanto de la solidez técnica de sus filtros como de la voluntad de los propios adolescentes de respetar los límites establecidos. Por ahora, la herramienta ya está disponible globalmente, aunque queda por ver si estas medidas serán suficientes para satisfacer a reguladores, familias y educadores.