Anthropic ha publicado un informe detallado que revela cómo su equipo de Inteligencia de Amenazas ha identificado y neutralizado operaciones maliciosas que intentaron utilizar su modelo de lenguaje Claude para actividades ilícitas. Durante un período de ocho meses, abarcando desde diciembre de 2025 hasta agosto de 2026, la compañía documentó y frenó intentos de abuso en siete áreas de riesgo principales: operaciones cibernéticas, operaciones de influencia, vigilancia, estafas y fraudes, mal uso biológico, desarrollo de armas convencionales y destilación de modelos. Según el informe, los modelos utilizados en estas actividades fueron Claude Haiku, Sonnet y Opus, mientras que no se detectó uso malicioso de los modelos de clase Fable o Mythos, excepto en un caso aislado de destilación ilícita.
El desarrollo del informe destaca una evolución significativa en la naturaleza de las amenazas. Anthropic señala que los actores involucrados incluyen grupos patrocinados por estados, criminales motivados financieramente, vendedores de spyware comercial, instituciones de propaganda estatal e individuos con motivaciones políticas. Un hallazgo crítico es la 'colapsación de la brecha de habilidades' en ciberseguridad. Históricamente, las operaciones sofisticadas requerían equipos grandes y recursos estatales; sin embargo, la adopción de marcos de agentes autónomos, como PentAGI, ha permitido que actores individuales, hacktivistas e incluso espías estatales ejecuten campañas multi-víctima con una velocidad y escala sin precedentes. Este fenómeno ha hecho que la sofisticación técnica deje de ser un indicador fiable de la identidad del atacante, ya que la inteligencia artificial ha elevado las capacidades en todas las fases de la cadena de matanza cibernética, desde el reconocimiento hasta la exfiltración de datos.
En el análisis de las implicaciones, el informe subraya que el rol de la IA ha trascendido la simple interacción de preguntas y respuestas para convertirse en un orquestador autónomo. Los casos documentados, como el del actor designado GTG-20006 (atribuido a Midnight Blizzard, un grupo de espionaje ruso), muestran el uso de flujos de trabajo asistidos por IA que reconstruyen y reimplantan automáticamente las herramientas de ataque cuando son detectadas por los productos de seguridad. Esto subvierte las defensas tradicionales basadas en detección estática, reduciendo drásticamente los costos para los adversarios y aumentando la presión sobre los defensores. Anthropic enfatiza que el riesgo no reside únicamente en la creación de exploits a gran escala, sino en la capacidad de operar más rápido y en una superficie más amplia con menos recursos humanos.
La conclusión del informe establece que, a medida que los modelos se vuelven más capaces, sus riesgos inherentes aumentan. Anthropic afirma que ha interrumpido todas las actividades descritas, ha fortalecido sus salvaguardas técnicas basándose en las lecciones aprendidas y ha compartido inteligencia con autoridades e industria. La empresa sostiene que es su responsabilidad divulgar estos abusos para ayudar a otros desarrolladores a reconocer patrones similares en sus plataformas y para fortalecer las defensas colectivas. Se espera que, a medida que los marcos de agentes ofensivos se vuelvan más accesibles, más actores, desde 'lobos solitarios' hasta entidades organizadas, adopten estas herramientas para ejecutar ataques cibernéticos más sofisticados, rápidos y a gran escala, lo que exigirá una evolución continua en las medidas de seguridad y coordinación entre el sector privado y los gobiernos.