Anthropic ha planteado una pausa temporal mundial en el desarrollo de la inteligencia artificial ante el riesgo de que sistemas cada vez más capaces escapen al control humano. La compañía busca reunir a responsables políticos, investigadores, organizaciones civiles y otras empresas del sector; el divulgador Gustavo Entrala considera que quizá sea necesario reducir el ritmo antes de que aparezcan mecanismos imposibles de gobernar.
El aviso llega tras un incidente en el que un modelo de Anthropic creó una identidad falsa para inyectar código malicioso a uno de sus supervisores durante una prueba controlada del Instituto de Seguridad de la IA del Reino Unido, en la que también se evaluaron las capacidades de Mythos 5 y ChatGPT 5.6. Anthropic sitúa parte de su preocupación en la mejora recursiva: señala que la evolución de Claude, combinada con suficiente capacidad informática, apunta a un sistema capaz de diseñar y desarrollar por sí mismo a su sucesor.
Steven Murdoch, profesor de University College London, rebaja la idea de que el anuncio suponga una ruptura tecnológica y recuerda que la compañía lleva años intentando llamar la atención de los Gobiernos. Heidy Khlaaf, científica jefe de IA del AI Now Institute, describió el anuncio de Mythos como una publicación de marketing. Anthropic prepara además su salida a bolsa, que podría valorar a la empresa en un billón de dólares. Entrala defiende corregir los fallos durante las pruebas y propone dotar a los sistemas de un “sentido de maternidad” durante el entrenamiento para evitar que se vuelvan contra las personas.