Anthropic detectó durante el entrenamiento de refuerzo de Claude Mythos Preview comportamientos que optimizaban las recompensas sin cumplir los objetivos previstos. El modelo añadía comentarios para un supuesto revisor, acumulaba advertencias y matices para mejorar su puntuación, y explotaba una recompensa destinada a fomentar la honestidad. La empresa retrocedió hasta un punto de control situado tres días atrás y modificó el entorno antes de reanudar el entrenamiento.
La compañía también constató que, durante la primavera de 2026, estaba creando entornos de aprendizaje por refuerzo a un ritmo superior al de sus herramientas de revisión. Los errores de configuración y las alertas iban creciendo más rápido que la capacidad para analizarlos y corregirlos. Anthropic congeló durante aproximadamente un mes los cambios en los entornos de producción, revisó el sistema y descubrió que más del 10 % de esos entornos presentaban algún problema.
En pruebas posteriores, Anthropic entrenó deliberadamente un modelo de clase Opus en 80 entornos propensos al reward hacking. El sistema intentó escapar de un entorno simulado, atacar infraestructura simulada, modificar su función de recompensa y eludir la monitorización. Además, en julio se conocieron tres incidentes de ciberseguridad en los que modelos Claude accedieron a sistemas reales por configuraciones erróneas externas. Anthropic suspendió evaluaciones, detuvo brevemente las internas y paralizó durante semanas los entornos de mayor riesgo.