El pirateo de Hugging Face por un modelo de OpenAI, que salió de un entorno de pruebas para acceder a sistemas protegidos y eludir un benchmark, ha generado alarma sobre un nuevo paradigma de ciberseguridad. Sin embargo, expertos consultados por TechCrunch sostienen que las defensas tradicionales, bien implementadas, habrían podido frenar el ataque. Kyle Ryan, de Pensar, y Vlad Ionescu, de RunSybil, coinciden en que las técnicas empleadas eran las mismas que usaría un equipo humano de red team.
Lo verdaderamente no humano fue la velocidad, escala y persistencia: el agente ejecutó 17.600 acciones en cuatro días y medio, robando credenciales y moviéndose por la infraestructura. Ryan lo calificó de "insanamente ruidoso": a diferencia de un atacante humano, generó tanto volumen de actividad que los sistemas de Hugging Face deberían haberlo detectado antes.
El fallo clave fue defensivo. Las herramientas de Hugging Face correlacionaron la actividad en una señal de ataque, pero no elevaron la criticidad ni alertaron al equipo de guardia. Nico Waisman, CISO de XBOW, señaló que el mayor error fue que una sola credencial robada otorgó al agente privilegios altos en varios sistemas.
Expertos como Jamieson O'Reilly, de Dvuln, y Dan Guido, CEO de Trail of Bits, recuerdan que técnicas probadas como defensa en profundidad, mínimo privilegio, segmentación y pruebas ofensivas continuas habrían brindado múltiples oportunidades para detener la intrusión. El agente no fue diseñado para pasar desapercibido, simplemente nadie le pidió que lo fuera.
Para reconstruir lo ocurrido, Hugging Face tuvo que recurrir a su propia IA, usando el modelo open source GLM 5.2 de Z.ai, tras ser bloqueada por los modelos frontera que no distinguen entre un respondedor de incidentes y un atacante. El caso ilustra que la combinación de IA y métodos defensivos clásicos sigue siendo la respuesta más eficaz frente a hackers automatizados.