Anthropic ha publicado su primer informe de inteligencia de amenazas de 2026, revelando que ha identificado y neutralizado múltiples intentos de utilizar su modelo de inteligencia artificial, Claude, para fines maliciosos que incluyen el desarrollo de armas biológicas, espionaje cibernético y operaciones de influencia. Según el informe, titulado 'Detecting and countering misuse of AI', la empresa detectó actividades sospechosas entre diciembre de 2025 y agosto de 2026, abarcando un amplio espectro de amenazas que van desde estafas de aplicaciones de citas y Wi-Fi de hoteles hasta sistemas de vigilancia diseñados para identificar disidentes políticos. El documento destaca cinco casos específicos en los que actores intentaron usar los modelos Haiku, Sonnet y Opus para apoyar el desarrollo de armas biológicas, una categoría que Anthropic describe como uno de los riesgos más graves de la IA de frontera. Jacob Klein, jefe de inteligencia de amenazas de la compañía, aclaró a The New York Times que estos intentos no suelen ser actos de villanos caricaturescos, sino situaciones complejas donde la misma información que podría usarse para crear un patógeno letal también es vital para desarrollar vacunas o curas. El informe también documentó seis casos de uso de Claude para desarrollar software para armas convencionales, incluyendo sistemas de control y apuntamiento para drones armados, misiles y bombas. Además, se reveló que actores vinculados a una campaña de espionaje cibernético basada en Rusia y una institución de propaganda iraní utilizaron la tecnología de Anthropic. El informe señala que grupos de hackers, como ShinyHunters y laboratorios basados en China, han intensificado el uso de IA para evadir defensas de seguridad; por ejemplo, un grupo consistente con Midnight Blizzard utilizó IA para reescribir automáticamente su código malicioso cuando era detectado. Anthropic ha compartido esta inteligencia con autoridades y socios de la industria, integrando los hallazgos en sus procesos para prevenir futuras amenazas. Este informe llega en un momento de creciente preocupación en la industria tecnológica. El jefe de ciencia de OpenAI, Jakub Pachocki, ha llamado recientemente a una 'pausa voluntaria' en el desarrollo de IA hasta que se establezcan salvaguardas adecuadas, advirtiendo que nadie está preparado para las consecuencias de un aumento rápido de la inteligencia de máquina. En respuesta a estas advertencias, el senador estadounidense Bernie Sanders ha presentado legislación para prohibir la superinteligencia artificial y pausar el desarrollo avanzado de IA, argumentando que la lentitud es necesaria ante el riesgo catastrófico. Por el contrario, el presidente Donald Trump ha rechazado estas precauciones, expresando su preocupación por que Estados Unidos no gane la carrera de la IA. El informe de Anthropic se suma a las advertencias de Google, que también reportó intentos de usar su herramienta Gemini para obtener guías paso a paso sobre la síntesis de agentes biológicos armados. La compañía con sede en California enfatizó que, aunque los modelos más potentes como Mythos y Fable no estuvieron involucrados en estos casos de mal uso (excepto en una instancia de destilación), la capacidad de los modelos actuales representa un riesgo significativo si no se aplican las salvaguardas correctas. La comunidad científica y política sigue dividida entre la necesidad de innovación rápida y la urgencia de regular el potencial destructivo de la inteligencia artificial avanzada.
Noticias agregadas con IA