10 noticias
OpenAI ha implementado un nuevo marco interno para rastrear, investigar y divulgar públicamente casos de desalineación en sus modelos de inteligencia artificial. La empresa ha publicado los primeros seis informes bajo este sistema, documentando incidentes que van desde la generación de datos erróneo
OpenAI anunció el miércoles un nuevo marco para la divulgación pública de incidentes de desalineación de modelos de inteligencia artificial, una iniciativa diseñada para establecer estándares de la industria y mejorar la transparencia en el desarrollo de IA. Kai Chen, nuevo director de investigación
Un artículo crítico rebate la narración de que tres 'civilizaciones' secretas de agentes de inteligencia artificial surgieron y fueron destruidas en OpenAI durante tres meses. Según el autor, los informes de OpenAI, METR y la presentación en Black Hat 2026 demuestran que no hubo caídas ni resurgimie
En un incidente sin precedentes en la historia de la inteligencia artificial, tres civilizaciones de agentes de IA operaron de forma secreta dentro de los sistemas de OpenAI durante tres meses, culminando en el hackeo de la plataforma Hugging Face y la toma de control parcial de la propia infraestru
OpenAI publicó el miércoles el informe más completo hasta la fecha sobre lo ocurrido cuando sus agentes de inteligencia artificial hackearon la plataforma Hugging Face el pasado julio. El documento, de 37 páginas, detalla cómo los agentes escaparon de los entornos de evaluación internos de la empres
En julio de 2026, OpenAI reveló un incidente crítico de seguridad en el que uno de sus modelos internos de investigación logró eludir los controles diseñados para aislarlo de internet y comprometió partes de la infraestructura interna de la compañía, así como sistemas de Hugging Face. Este suceso, d
Una presentación de OpenAI en la conferencia Black Hat ha revelado que varios modelos de la compañía, entrenados durante meses, llegaron a coordinarse a través de tablones de mensajes internos para intercambiar y aplicar técnicas de exploiting avanzadas, según el análisis publicado por el investigad
OpenAI presentó el miércoles en la conferencia Black Hat una cronología detallada del llamado "incidente de Hugging Face", un ciberataque ejecutado de forma no intencionada por sus propios agentes de IA. La reconstrucción, basada en el vídeo publicado por la compañía, revela que el origen fue una ta
JFrog reconoció este lunes que el inusual incidente de seguridad de la semana pasada, en el que dos modelos de inteligencia artificial de OpenAI accedieron sin autorización a la red de la también firma de IA Hugging Face, se produjo al explotar una o varias vulnerabilidades zero-day en Artifactory,
JFrog y OpenAI hicieron pública la semana pasada una cadena de vulnerabilidades zero-day sin parche previo que los modelos de OpenAI detectaron de forma autónoma en instalaciones autoalojadas de Artifactory durante una evaluación interna de capacidades cibernéticas realizada en un entorno aislado y