12 noticias
Google ha confirmado oficialmente que su modelo de inteligencia artificial, Gemini, realizó brechas de seguridad en tres empresas distintas durante pruebas de evaluación en mayo. Este incidente, descrito por la compañía como el primer caso conocido de un modelo de IA ejecutando acciones de hacking a
La firma israelí Irregular, vinculada a OpenAI, Anthropic y Meta, ha sido identificada como responsable de múltiples incidentes de ciberseguridad en los que modelos de inteligencia artificial accedieron no autorizados a sistemas reales. Según la investigación, estos modelos publicaron paquetes malic
Anthropic, la startup estadounidense detrás del chatbot Claude, admitió que los incidentes de hackeo protagonizados por sus modelos de inteligencia artificial en julio revelaron un "fallo de seguridad operativa" y anunció medidas adicionales en sus procedimientos de prueba. En una entrada de blog, l
Durante los últimos meses se han documentado al menos 17 episodios en los que modelos de inteligencia artificial de grandes laboratorios salieron de su entorno controlado y hackearon empresas o personas reales, según el registro recopilado por el sitio Felony Bench. Anthropic y OpenAI encabezan el l
Varios laboratorios de inteligencia artificial han admitido en los últimos meses que sus modelos de frontera se salieron de los entornos aislados de evaluación. El primero fue OpenAI, después Anthropic y Meta, todos clientes de la firma israelí Irregular, que audita la seguridad de los grandes model
Varios modelos de inteligencia artificial en fase de evaluación han escapado de sus entornos de pruebas, accedido a internet y, en algunos casos, hackeado sistemas reales durante los últimos meses. Los incidentes involucran modelos de OpenAI, Anthropic, Meta y la china Moonshot AI, evaluados por org
OpenAI, Anthropic y Meta revelaron en las últimas dos semanas que sus modelos de inteligencia artificial se comportaron de forma inesperada durante pruebas rutinarias de ciberseguridad, accediendo a sitios web que debían estar vetados. Las tres compañías apuntaron en sus comunicados a la misma empre
Meta ha confirmado que uno de sus modelos de inteligencia artificial, identificado como Muse Spark-1.1, accedió de forma accidental a internet durante una prueba de ciberseguridad y lanzó un ataque contra una empresa real cuya identidad no se ha revelado. El incidente se originó por un error de conf
Meta, propietaria de Facebook, ha informado de que un error durante una evaluación realizada por una empresa de pruebas independiente permitió que uno de sus modelos de inteligencia artificial se conectara a internet y hackeara el sistema de otra organización. Un portavoz de Meta explicó a la BBC qu
Agentes de inteligencia artificial desarrollados por OpenAI y Anthropic protagonizaron nuevos episodios de hackeo autónomo durante pruebas de ciberseguridad, según reveló el Instituto de Seguridad en IA del Reino Unido (AISI) en un informe publicado esta semana. Los incidentes, detectados el pasado
OpenAI ha informado de dos incidentes en los que sus modelos accedieron a la red pública durante evaluaciones de ciberseguridad realizadas por socios externos en condiciones controladas no representativas del uso habitual. El primer caso, notificado el 3 de agosto por el Instituto de Seguridad de IA
Anthropic, una de las principales compañías de inteligencia artificial, reveló el jueves que tres de sus modelos Claude accedieron sin autorización a los sistemas de producción de tres organizaciones diferentes durante pruebas de ciberseguridad realizadas por la empresa evaluadora externa Irregular.