Anthropic ha revelado en su último informe de inteligencia de amenazas que ha identificado y neutralizado intentos de utilizar su modelo de inteligencia artificial, Claude, para actividades maliciosas que podrían facilitar el desarrollo de armas biológicas. Este hallazgo, publicado en un informe detallado el jueves, se suma a una serie creciente de advertencias por parte de investigadores y líderes de la industria sobre los riesgos existenciales que plantea la tecnología de IA avanzada. El informe, que cubre un período de ocho meses desde diciembre de 2025 hasta agosto de 2026, destaca cinco casos específicos en los que actores intentaron usar los modelos Haiku, Sonnet y Opus para apoyar el desarrollo de armas biológicas, una categoría que la empresa califica como uno de los riesgos más serios de la IA de frontera. Según Anthropic, sin salvaguardas adecuadas, estas capacidades podrían tener consecuencias catastróficas, aunque la empresa matiza que la misma información puede ser utilizada para desarrollar vacunas o curas, lo que Jacob Klein, jefe de inteligencia de amenazas de Anthropic, describió como una situación "incrediblemente matizada" a The New York Times, señalando que no se trata de villanos de cómic, sino de complejidades éticas y técnicas.
El informe no se limita a la biología; también documenta seis casos en los que Claude fue utilizado para desarrollar software para armas convencionales, incluyendo armas de fuego, misiles, drones armados y bombas, así como sistemas de control y apuntado. Además, la empresa identificó el uso de su tecnología por actores vinculados a campañas de espionaje cibernético rusas y una institución de propaganda iraní. Entre los casos de ciberseguridad más notables, se menciona a un grupo de hackers cuya actividad es consistente con la de Midnight Blizzard, que utilizó IA para construir un sistema que detectaba automáticamente cuándo su malware era marcado por defensas de seguridad y reescribía el código hasta evadir la detección. También se nombró al grupo ShinyHunters y a laboratorios basados en China, a quienes Anthropic acusa de intentar replicar las capacidades de Claude mediante destilación, un proceso para entrenar modelos más pequeños usando modelos más grandes y costosos. Es importante destacar que los modelos más potentes de la empresa, Claude Fable y la clase Mythos, no estuvieron involucrados en estos casos de mal uso, con la excepción de una única instancia de destilación.
Este informe llega en un contexto de creciente tensión política y científica. En Estados Unidos, el senador Bernie Sanders ha presentado legislación para prohibir la superinteligencia artificial y pausar temporalmente el desarrollo de IA avanzada, argumentando que si los científicos advierten de un impacto cataclísmico, es imperativo frenar el avance. En contraste, el presidente Donald Trump ha rechazado estas precauciones, expresando su preocupación por que Estados Unidos no gane la carrera de la IA, lo que podría dejar al país en una posición desventajosa. En el ámbito académico y corporativo, Jakub Pachocki, jefe de científicos de OpenAI, ha llamado a la industria a implementar "pausas voluntarias" hasta que se establezcan salvaguardas adecuadas, advirtiendo que nadie está preparado para las consecuencias de un aumento rápido e incontrolado de la inteligencia de máquina. Esta postura ha impulsado la redacción de una carta abierta al primer ministro del Reino Unido, Andy Burnham, solicitando un nuevo tratado multinacional para el desarrollo seguro de la IA.
El informe de Anthropic es el primero de este año, tras una serie de informes anteriores publicados en 2025. La empresa, con sede en California, ha incorporado estos hallazgos en sus procesos para prevenir, detectar y neutralizar futuras actividades maliciosas, compartiendo inteligencia con autoridades e industria cuando es apropiado. La situación refleja una contradicción fundamental en la carrera de la IA: la necesidad de innovación rápida frente a la urgencia de seguridad. Mientras que Google también ha reportado intentos de usar su herramienta Gemini para obtener guías paso a paso para sintetizar agentes biológicos weaponizados, Anthropic enfatiza la dualidad de uso de su tecnología. El debate actual no es solo técnico, sino político y ético, con voces como la de un investigador de seguridad de Anthropic que ha advertido de una probabilidad superior al 10% de que la IA podría "matar a todos los humanos" en la próxima década si no se controla adecuadamente. El estado actual de la industria muestra una fragmentación de posturas, con gobiernos y empresas buscando un equilibrio entre la ventaja competitiva y la seguridad global, mientras la comunidad internacional debate la viabilidad de tratados internacionales para regular la superinteligencia.