Cloudflare ha probado Mythos Preview, el modelo de inteligencia artificial de Anthropic, en su propia infraestructura como parte del proyecto Glasswing. Durante los últimos meses, la compañía evaluó el modelo contra más de cincuenta repositorios propios para identificar vulnerabilidades de seguridad. El análisis reveló dos capacidades destacadas: la construcción de cadenas de explotación, que permite combinar múltiples vulnerabilidades de baja gravedad en un exploit funcional, y la generación de pruebas automáticas, que escribe y ejecuta código para verificar si un ошибка действительно эксплуатируема. Aunque otros modelos frontier encontraron bugs similares, Mythos Preview es el primero que puede encadenar这些问题 en un exploit funcional. Los investigadores также注意到 que el modelo tiene 'guardrails' orgánicos pero inconsistentes: la misma solicitud puede produce diferentes resultados dependiendo de cómo se формулируется. Esto indica que se necesitan salvaguardas adicionales над這些 modelos antes de su lanzamiento público. En términos de ruido, los proyectos en C y C++ generan más falsos positivos que los escritos en lenguajes memory-safe como Rust.
Cloudflare descubre que Mythos Preview puede encadenar vulnerabilidades para crear exploits
