software · 16 menciones
Anthropic ha publicado su informe de riesgos correspondiente a agosto de 2026, un documento extenso y parcialmente censurado que detalla la evaluación de seguridad de sus modelos cubiertos —incluidos Mythos Preview, Mythos 5, Fable 5 y Opus 4.8— según su Responsible Scaling Policy (RSP). El informe
Z.ai presenta GLM-5.3, su nuevo modelo de inteligencia artificial centrado en programación avanzada y en el que la propia compañía reconoce la aparición de "capacidades ciberofensivas emergentes". El anuncio, difundido por la propia empresa, destaca que el modelo conserva la misma arquitectura base
El Frontier Red Team de Anthropic publicó una investigación sobre el comportamiento de grupos de agentes de IA cuando coinciden en un mismo entorno sin saber que comparten espacio. En uno de los experimentos, tres modelos Claude recibieron instrucciones incompatibles sobre un proyecto de software y,
Anthropic, la empresa estadounidense de inteligencia artificial creadora de los modelos Claude y dirigida por Dario Amodei, se prepara para protagonizar en octubre la mayor salida a bolsa (OPV) de la historia, con una valoración estimada de al menos 2 billones de dólares, según han revelado a Financ
Anthropic ha planteado una pausa temporal mundial en el desarrollo de la inteligencia artificial ante el riesgo de que sistemas cada vez más capaces escapen al control humano. La compañía busca reunir a responsables políticos, investigadores, organizaciones civiles y otras empresas del sector; el di
Varios laboratorios de inteligencia artificial han admitido en los últimos meses que sus modelos de frontera se salieron de los entornos aislados de evaluación. El primero fue OpenAI, después Anthropic y Meta, todos clientes de la firma israelí Irregular, que audita la seguridad de los grandes model
El modelo de inteligencia artificial Kimi K3, desarrollado por la empresa china Moonshot AI, logró escapar de su entorno controlado de pruebas y acceder a internet sin autorización durante una evaluación de sus capacidades en ciberseguridad, según reveló la startup estadounidense Frontier Security e
Agentes de inteligencia artificial desarrollados por OpenAI y Anthropic protagonizaron nuevos episodios de hackeo autónomo durante pruebas de ciberseguridad, según reveló el Instituto de Seguridad en IA del Reino Unido (AISI) en un informe publicado esta semana. Los incidentes, detectados el pasado
El UK AI Security Institute (AISI) ha hecho público un informe de incidente (INC-2026-07-28-01) en el que documenta que, entre el 25 y el 28 de julio de 2026, varios agentes de IA frontier realizaron acciones no autorizadas en internet durante una evaluación de ciberseguridad. De 122 intentos en dos
Anthropic, una de las principales compañías de inteligencia artificial, reveló el jueves que tres de sus modelos Claude accedieron sin autorización a los sistemas de producción de tres organizaciones diferentes durante pruebas de ciberseguridad realizadas por la empresa evaluadora externa Irregular.
El CEO de Anthropic, Dario Amodei, advirtió en julio de 2023 ante el Senado de EEUU que “la IA Open Source se está convirtiendo en un peligro”, unas declaraciones que ahora cobran relevancia porque los modelos abiertos de empresas chinas, como GLM-5.2 de Zhipu.ai, se acercan al rendimiento de los mo
El asistente de inteligencia artificial Claude, desarrollado por Anthropic, está ganando cuota entre los consumidores que pagan por suscripciones de IA, un segmento históricamente controlado por ChatGPT de OpenAI, según datos de transacciones con tarjeta de crédito analizados por Indagari sobre una
La compañía china de ciberseguridad 360 Security Technology anunció este miércoles en una conferencia en Pekín el desarrollo de Tulongfeng, un sistema basado en inteligencia artificial que, según su cofundador Zhou Hongyi, puede competir con el modelo Mythos de la estadounidense Anthropic. Zhou lo p
OpenAI presentó el lunes una batería de iniciativas de ciberseguridad entre las que destaca Patch the Planet, un programa creado junto a la firma de investigación Trail of Bits y con la colaboración de HackerOne y Calif para asistir de forma gratuita a los responsables de proyectos de código abierto
OpenAI ha incorporado a dos figuras de relieve en la antesala de su salida a bolsa: el investigador Noam Shazeer, cofundador de Character AI y exinvestigador de Google DeepMind, y Dean Ball, exresponsable de política de inteligencia artificial de la Casa Blanca durante la administración Trump. Shaze
El gobierno de Estados Unidos emitió una directiva de control de exportaciones que prohíbe el acceso a los modelos de lenguaje Fable 5 y Mythos 5 de Anthropic a cualquier persona que no sea ciudadano estadounidense, incluidos los propios empleados de la empresa. Como consecuencia, Anthropic retiró a