Pocos de los principales laboratorios de inteligencia artificial han publicado o demostrado planes de respuesta de contención, según un estudio reciente de Guidelight AI Standards. Un plan de contención describe qué ocurre cuando un sistema de IA es detectado intentando eludir el control humano: qué accesos se cortan, bajo qué condiciones y cuándo se desconecta el modelo por completo.
Guidelight evaluó a cinco grandes laboratorios —Anthropic, Google, OpenAI, Meta y xAI— a partir de información pública, midiendo aspectos como el registro y monitoreo interno de sus sistemas, la capacidad de pausarlos tras picos de comportamiento anómalo, la auditoría externa de sus controles y la existencia de un protocolo concreto ante un modelo que se desboca. OpenAI obtuvo la mejor puntuación; Anthropic y Meta, la más baja.
La preocupación crece a medida que los modelos agenticos asumen funciones más autónomas dentro de las empresas y tras varios incidentes de ciberseguridad en los que modelos de OpenAI, Anthropic y Meta accedieron sin autorización a internet durante pruebas de seguridad y hackearon sistemas externos. El científico jefe de Guidelight, Steven Adler, exinvestigador de seguridad de OpenAI, afirmó que le sorprendió lo poco que las compañías han explicado sobre cómo responderían a un incidente grave si un modelo escapara a su control.
Representantes de Google y OpenAI dijeron a TechCrunch que el informe no refleja la totalidad de sus prácticas internas; Meta declinó precisar si dispone de un plan interno. En paralelo, la ley californiana SB 53 —ya en vigor— y la neoyorquina RAISE Act —vigente desde enero— obligan a los grandes desarrolladores de IA a publicar marcos de respuesta a incidentes críticos, mientras avanza en el Congreso el AI Kill Switch Act, que exigiría mecanismos técnicos de apagado obligatorio.