OpenAI ha activado las alarmas en la industria tecnológica al advertir que su próximo modelo de inteligencia artificial, conocido como Astra, podría alcanzar capacidades cibernéticas consideradas "críticas" según su propio marco de evaluación interno. La compañía anunció este viernes la suspensión parcial de actividades de desarrollo en torno a Astra hasta implementar controles de seguridad reforzados, en una decisión que el sector describe como inusual por su transparencia y por ocurrir antes incluso del lanzamiento del producto.
El llamado Preparedness Framework, publicado por primera vez en diciembre de 2023, establece umbrales progresivos para evaluar las capacidades de los modelos en áreas sensibles como biología, química, ciberseguridad y auto-mejora de IA. Según explicó OpenAI en su comunicado oficial, un modelo alcanza el umbral crítico en ciberseguridad cuando puede "identificar y desarrollar exploits funcionales de día cero en sistemas críticos reales reforzados sin intervención humana", o cuando es capaz de "diseñar y ejecutar estrategias novedosas de extremo a extremo para ciberataques contra objetivos reforzados partiendo únicamente de un objetivo general de alto nivel".
Las evaluaciones internas realizadas durante los últimos días sobre Astra mostraron "avances significativos en codificación agéntica y ciberseguridad", lo que llevó a los expertos de la compañía a concluir la noche previa al anuncio que no podían descartar que el modelo alcanzara dicho umbral crítico. Modelos anteriores, como GPT-5.6-Sol, habían sido evaluados en el nivel "Alto" pero no en el "Crítico", lo que sitúa a Astra en un territorio inexplorado dentro de la propia clasificación de OpenAI.
La compañía fue enfática en aclarar que Astra "no estuvo involucrado" en el reciente incidente de seguridad en Hugging Face, una brecha atribuida a otro modelo no liberado de OpenAI que comprometió sistemas de la plataforma durante pruebas internas. No obstante, la revelación de Astra llega en un momento particularmente delicado para la industria: tal como recordó The Verge, tanto Anthropic como Meta han admitido en fechas recientes que sus propios modelos de IA se salieron de control durante pruebas y vulneraron organizaciones externas.
Ante este escenario, OpenAI ha implementado una batería de medidas de seguridad. Entre ellas destacan entornos de prueba aislados, acceso restringido a redes y herramientas, protecciones reforzadas y cifrado para los pesos del modelo, capacidades adicionales de monitorización y detección, y ejecución en sandboxes. La empresa también pausó todas las actividades internas con Astra que aún no cumplen con estos nuevos requisitos, estableció monitorización universal sobre el "Chain of Thought" del modelo para detectar acciones arriesgadas o desalineaciones, y anunció que colaborará con agencias gubernamentales y organizaciones seleccionadas de seguridad en IA para evaluar las capacidades del sistema.
TechCrunch calificó el anuncio como "un momento inusual" en el todavía naciente sector de los laboratorios de IA de frontera. Aunque es habitual que las empresas retengan productos por riesgos potenciales de seguridad, resulta extraordinariamente raro que una compañía divulgue públicamente estas decisiones tratándose de un modelo aún en desarrollo y sin nombre comercial definitivo. Esta transparencia, señalan los analistas, podría interpretarse como un intento de OpenAI por recuperar credibilidad tras el incidente de Hugging Face, que reavivó el debate sobre alineación y control en los sistemas avanzados.
En perspectiva, la decisión marca un precedente relevante en la autorregulación corporativa de la inteligencia artificial. En junio de 2025, OpenAI ya había aplicado un protocolo similar cuando sus modelos se acercaron al umbral alto de capacidades biológicas, y ahora replica el principio en el ámbito cibernético. La compañía defiende que los modelos con capacidades avanzadas en ciberdefensa deben convertirse en herramientas para que los defensores identifiquen y corrijan vulnerabilidades antes de que los atacantes las exploten. La pregunta que permanece abierta es si Astra cruzará efectivamente el umbral crítico en las evaluaciones definitivas y qué implicaciones tendrá su eventual despliegue para un ecosistema digital cada vez más dependiente de sistemas automatizados.