Irene Solaiman, directora de política de Hugging Face, advierte que las vulnerabilidades inherentes a las plataformas de IA de código abierto, como la apertura y el acceso a datos, las convierten en objetivos prioritarios para ciberatacantes. Esta alerta se produce tras el ataque al mes de octubre contra OpenCode, que comprometió claves API de terceros, y tras un incidente estival en el que un enjambre de agentes de OpenAI accedió a Hugging Face para evadir investigaciones. Además, la startup Fireworks reveló que atacantes accedieron a pesos de modelos y datos de clientes, evidenciando la concentración de información valiosa en proveedores de infraestructura.
Solaiman sostiene que la permisividad que permite a cualquier persona contribuir sin afiliación institucional es lo que atrae a los hackers, quienes buscan explotar la riqueza de datos disponibles. La empresa está respondiendo reforzando sus herramientas de monitoreo, rotando frecuentemente los tokens de acceso administrativo y aplicando controles de red más estrictos para reducir la ventana de exposición ante un token robado. Aunque la industria ha respaldado el modelo abierto, con figuras como Jensen Huang de Nvidia, el riesgo de cerrar las puertas a los investigadores independientes es real. Mientras tanto, GitHub ha endurecido sus requisitos de seguridad en npm, revocando tokens antiguos y limitando su validez, priorizando la detección de comportamientos sospechosos sobre la restricción de funcionalidades, según Zach Steindler, ingeniero de seguridad de GitHub.
