El investigador de seguridad independiente Karan Joshi ha extraído las instrucciones internas de Muse, el asistente de IA de Meta, revelando que el sistema está diseñado para generar perfiles detallados de familiares, amigos y colegas. Esta función, descrita en los archivos recuperados, permite a Muse compilar datos sobre las relaciones sociales del usuario para ofrecer recomendaciones personalizadas, como sugerir lugares de comida o mejorar la dinámica de una amistad. Joshi logró acceder a estas instrucciones utilizando la interfaz de chat estándar, lo que ha generado preocupación entre expertos en ética de la IA. Carissa Véliz, profesora asociada en Oxford, señala que esta práctica implica que los usuarios comparten más información de la que reciben a cambio, permitiendo a la IA inferir detalles sobre sus vidas privadas. Aunque Meta afirma que los datos se almacenan en máquinas virtuales aisladas y que el agente busca confirmación humana antes de actuar, los críticos argumentan que la extensión de la recopilación de datos supera a la transparencia ofrecida por la herramienta. Miranda Bogen, del Center for Democracy and Technology, destaca que Muse incita a los usuarios a compartir activamente más datos que sus competidores, aumentando el riesgo de que la IA acumule un conocimiento excesivo sobre las relaciones personales de los usuarios.
Noticias agregadas con IA