Meta ha incorporado nuevas protecciones en su asistente Meta AI para que envíe avisos proactivos a los padres cuando un adolescente aluda en una conversación a temas sensibles como autolesiones o suicidio. La compañía de Mark Zuckerberg busca así detectar si el menor "podría estar pasando por un momento difícil" y alertar a los adultos ante referencias explícitas o señales más sutiles que sugieran riesgo.
Las conversaciones marcadas como sensibles serán revisadas por un equipo de moderación humana antes de remitir la notificación. Según la empresa, si la intención del adolescente resulta ambigua, Meta optará por la cautela y notificará igualmente a los padres. La firma asegura que trabaja con expertos en salud mental para perfeccionar las respuestas del chatbot en estos casos y evitar que la interacción se interrumpa de forma brusca, derivando al joven a recursos de apoyo.
Las alertas ya están activas para los progenitores que usan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. Meta prevé ampliar la función al resto de países antes de que concluya el año. Además, la configuración de contenido limitado, que restringe el material para mayores de 13 años en cuentas de adolescentes, ya se aplica también a las conversaciones con Meta AI.