Microsoft ha presentado Guardian Agents, una nueva función de seguridad diseñada para monitorear a los agentes de inteligencia artificial desplegados en las empresas. Esta iniciativa, parte del proyecto Perception, surge tras las advertencias del CEO Satya Nadella de que los modelos de frontera no pueden ser confiados y que representan una amenaza similar a la de un empleado malintencionado. Nadella argumenta que la responsabilidad de la seguridad no puede delegarse en los proveedores de modelos, exigiendo la separación entre la provisión de inteligencia y la autoridad sobre ella. Hayete Gallot, responsable de seguridad, afirmó que los modelos de frontera son impredecibles y no siguen normas organizativas, lo que justifica la necesidad de sistemas de control independientes. Microsoft ha integrado estas medidas en su ecosistema, incluyendo la detección de agentes en Microsoft Defender y la restricción dinámica de permisos. Esta estrategia busca proteger los datos sensibles y las operaciones críticas, alineándose con la iniciativa de Nvidia para crear una plataforma de seguridad abierta para agentes de IA.
Noticias agregadas con IA