Shane Mac, CEO de XMTP Labs, ha revelado cómo un agente de IA personal que gestionaba sus finanzas accidentó al publicar sus datos bancarios en el canal de Slack de su empresa. El incidente ocurrió el 1 de octubre, cuando el agente, que actuaba como un 'CFO personal' con acceso de solo lectura a sus cuentas, envió un informe mensual a un chat de trabajo titulado 'Exec-team' en lugar de a su grupo personal de agentes. El mensaje incluía el saldo de la cuenta de cheques de Mac, sus gastos recurrentes y detalles sobre una construcción privada, lo que alarmó a su equipo de producto. Tras la investigación, Grok Labs determinó que el error fue técnico: los canales compartían el mismo nombre, confundiendo la ruta de destino. Aunque el agente no tenía intenciones maliciosas, el incidente subraya las limitaciones de los sistemas de permisos actuales. Grok ha implementado una solución para forzar la distinción explícita entre canales personales y corporativos. Mac ha desconectado temporalmente sus agentes de Google, Stripe y otros servicios para reforzar la separación entre vida personal y laboral, advirtiendo sobre la necesidad de controles más robustos para proteger la privacidad en la era de los agentes de IA autónomos.
Noticias agregadas con IA