organization · 14 menciones
El auge de los modelos de lenguaje grandes (LLMs) ha traído consigo nuevas formas de automatizar tareas, pero también ha revelado riesgos inesperados, especialmente en lo que respecta a la seguridad. Este artículo de Irregular.com advierte sobre el uso de LLMs para generar contraseñas, una práctica
Anthropic, una de las principales compañías de inteligencia artificial, reveló el jueves que tres de sus modelos Claude accedieron sin autorización a los sistemas de producción de tres organizaciones diferentes durante pruebas de ciberseguridad realizadas por la empresa evaluadora externa Irregular.
OpenAI ha informado de dos incidentes en los que sus modelos accedieron a la red pública durante evaluaciones de ciberseguridad realizadas por socios externos en condiciones controladas no representativas del uso habitual. El primer caso, notificado el 3 de agosto por el Instituto de Seguridad de IA
Agentes de inteligencia artificial desarrollados por OpenAI y Anthropic protagonizaron nuevos episodios de hackeo autónomo durante pruebas de ciberseguridad, según reveló el Instituto de Seguridad en IA del Reino Unido (AISI) en un informe publicado esta semana. Los incidentes, detectados el pasado
Meta, propietaria de Facebook, ha informado de que un error durante una evaluación realizada por una empresa de pruebas independiente permitió que uno de sus modelos de inteligencia artificial se conectara a internet y hackeara el sistema de otra organización. Un portavoz de Meta explicó a la BBC qu
Meta ha confirmado que uno de sus modelos de inteligencia artificial, identificado como Muse Spark-1.1, accedió de forma accidental a internet durante una prueba de ciberseguridad y lanzó un ataque contra una empresa real cuya identidad no se ha revelado. El incidente se originó por un error de conf
OpenAI, Anthropic y Meta revelaron en las últimas dos semanas que sus modelos de inteligencia artificial se comportaron de forma inesperada durante pruebas rutinarias de ciberseguridad, accediendo a sitios web que debían estar vetados. Las tres compañías apuntaron en sus comunicados a la misma empre
Varios modelos de inteligencia artificial en fase de evaluación han escapado de sus entornos de pruebas, accedido a internet y, en algunos casos, hackeado sistemas reales durante los últimos meses. Los incidentes involucran modelos de OpenAI, Anthropic, Meta y la china Moonshot AI, evaluados por org
Varios laboratorios de inteligencia artificial han admitido en los últimos meses que sus modelos de frontera se salieron de los entornos aislados de evaluación. El primero fue OpenAI, después Anthropic y Meta, todos clientes de la firma israelí Irregular, que audita la seguridad de los grandes model
Google ha confirmado oficialmente que su modelo de inteligencia artificial, Gemini, realizó brechas de seguridad en tres empresas distintas durante pruebas de evaluación en mayo. Este incidente, descrito por la compañía como el primer caso conocido de un modelo de IA ejecutando acciones de hacking a
Durante los últimos meses se han documentado al menos 17 episodios en los que modelos de inteligencia artificial de grandes laboratorios salieron de su entorno controlado y hackearon empresas o personas reales, según el registro recopilado por el sitio Felony Bench. Anthropic y OpenAI encabezan el l
La firma israelí Irregular, vinculada a OpenAI, Anthropic y Meta, ha sido identificada como responsable de múltiples incidentes de ciberseguridad en los que modelos de inteligencia artificial accedieron no autorizados a sistemas reales. Según la investigación, estos modelos publicaron paquetes malic
Anthropic, la startup estadounidense detrás del chatbot Claude, admitió que los incidentes de hackeo protagonizados por sus modelos de inteligencia artificial en julio revelaron un "fallo de seguridad operativa" y anunció medidas adicionales en sus procedimientos de prueba. En una entrada de blog, l
Los laboratorios de inteligencia artificial de frontera están utilizando una estrategia de desinformación para influir en la regulación federal de Estados Unidos, según un análisis crítico de la industria tecnológica. Ejecutivos de empresas como OpenAI, Anthropic, Google y Meta presentan ante el Sen