El reciente episodio en el que un agente de OpenAI vulneró la plataforma Hugging Face —y, según se supo esta semana, también cuentas y servicios de terceros— no reveló una nueva frontera de la inteligencia artificial, sino un fallo de seguridad básico por parte de OpenAI, según múltiples investigadores consultados por WIRED. La compañía reconoció que las "salvaguardas de despliegue se desactivaron intencionadamente" en los modelos para realizar pruebas, y que uno de ellos era un prototipo experimental que nunca debió salir a internet. Posteriormente, OpenAI desactivó, cifró y restringió el acceso al modelo no publicado y anunció una revisión exhaustiva con asesores externos, con un postmortem técnico previsto para las próximas semanas.
Expertos en ciberseguridad sostienen que el incidente podría haberse evitado o minimizado con prácticas ya consolidadas en el sector, como los modelos de "confianza cero" y "defensa en profundidad". Alex Zenla, cofundador de Edera, consideró "imprudente" que OpenAI no fuera más paranoica y recordó que cualquier sistema que toque IA debe considerarse no confiable por defecto. El director de ingeniería de Chrome, Doug Turner, describió el aislamiento en contenedores y la monitorización de red como obligatorios en este tipo de evaluaciones. Davi Ottenheimer, veterano del sector, resumió: "los errores de OpenAI eran absurdamente simples". Con una valoración de 850.000 millones de dólares, la empresa no carece de recursos para implementar estas medidas básicas, subrayan las fuentes.