Meta anunció el jueves que notificará a los padres cuando un adolescente mencione ideas de suicidio o autolesiones en conversaciones con su chatbot Meta AI. La compañía también trabaja para habilitar el contacto directo con servicios de emergencia cuando un diálogo sugiera riesgo inminente de hacerse daño.
La medida llega en un momento de creciente presión regulatoria sobre cómo las tecnológicas gestionan las respuestas de sus asistentes de IA ante usuarios en crisis, en especial menores. Meta asegura haber desarrollado un sistema de IA dedicado a identificar conversaciones en las que un adolescente exprese de forma clara su intención de autolesionarse. Según explicó la empresa en una publicación de blog, cuando la intención del menor sea ambigua, optará por alertar a los progenitores aunque no siempre exista un riesgo real.
Las alertas ya están activas para los usuarios de Instagram Parental Supervision en Estados Unidos, Reino Unido, Australia y Canadá, y se desplegarán a nivel global antes de fin de año. La actualización amplía una funcionalidad previa que ya notificaba a los padres cuando un adolescente buscaba repetidamente términos de suicidio o autolesiones en Instagram, y se suma a la opción de consultar los temas tratados por el menor con Meta AI durante la última semana.
Además, Meta extiende su modo "Contenido Limitado" a Meta AI, lo que refuerza las restricciones del chatbot con adolescentes, y aplicará el protocolo de aviso a emergencias ya existente en Facebook e Instagram a las conversaciones con su asistente de IA.