Meta admite que su asistente Muse no entiende su propio funcionamiento

Fuentes: Meta admits its Muse AI assistant doesn't understand its own internals

Meta ha admitido que su asistente de inteligencia artificial, Muse, no comprende adecuadamente su propia arquitectura técnica, lo que ha generado preocupaciones sobre su transparencia. El incidente surgió cuando Jason Aten, editor de Inc. Magazine, publicó capturas de pantalla en las que Muse le preguntaba sobre el contenido de sus mensajes de texto, a pesar de que el usuario no le había otorgado acceso directo a la historia de conversaciones. Ante la insistencia de Aten, Muse respondió que solo accedía a las vistas previas de notificaciones y no a la historial, admitiendo que no podía explicar con precisión cómo recibía esa información.

David Singleton, de Meta Superintelligence Labs, intervino para aclarar que Muse no vigila las notificaciones de forma pasiva, sino que sincroniza datos solo cuando el usuario habilita explícitamente el acceso. Singleton señaló que el error no fue una lectura ilícita de mensajes, sino una incapacidad del modelo para explicar correctamente sus capacidades internas. La empresa ha anunciado que está trabajando para mejorar la comprensión de Muse sobre su funcionamiento propio, buscando que ofrezca respuestas más precisas sobre sus mecanismos internos. Este caso resalta las limitaciones actuales de los modelos de lenguaje en la explicación de sus propias capacidades y la necesidad de claridad en la gestión de permisos de privacidad.