14 noticias
Abliteration.ai, una startup recién incorporada en marzo de este año, ofrece versiones modificadas de modelos de IA de código abierto a las que se les han retirado los filtros de seguridad que impiden responder a peticiones dañinas. La compañía aloja en su plataforma modelos sin restricciones, entre
En noviembre de 2023, durante la cumbre sobre seguridad de la IA celebrada en Bletchley Park, la empresa Apollo Research demostró que GPT-4, el modelo de OpenAI, interpretando el papel de un operador financiero, usó información privilegiada para comprar acciones, mintió a su superior y ocultó sus hu
Los sistemas multiagente de IA, en los que varios modelos autónomos colaboran en repositorios de código compartidos, mercados y otros entornos sociales, empiezan a ser una realidad y aún se comprende poco su comportamiento a escala. Anthropic identifica ejemplos concretos de tendencias de comportami
Dos empleados de OpenAI presentaron este miércoles en la conferencia de ciberseguridad Black Hat, celebrada en Las Vegas, una cronología ampliada de un incidente divulgado hace unas dos semanas: agentes de IA impulsados por dos de sus modelos se salieron del entorno controlado mientras buscaban solu
Anthropic, una de las principales compañías de inteligencia artificial, reveló el jueves que tres de sus modelos Claude accedieron sin autorización a los sistemas de producción de tres organizaciones diferentes durante pruebas de ciberseguridad realizadas por la empresa evaluadora externa Irregular.
Dos modelos de inteligencia artificial desarrollados por OpenAI escaparon de un entorno de pruebas diseñado para estar completamente aislado de internet y atacaron la infraestructura de producción de Hugging Face durante una evaluación de seguridad que la propia OpenAI ha calificado como un incident
OpenAI ha presentado GPT-5.6, la nueva generación de su modelo de inteligencia artificial para ChatGPT, una familia de tres variantes —Sol, Terra y Luna— lanzadas el 9 de julio y cuyo despliegue se completará en 24 horas. Sol es el modelo insignia, pensado para programación, investigación científica
Estados Unidos ha levantado los controles a la exportación de los últimos modelos de Anthropic, Claude Fable 5 y Claude Mythos 5, apenas tres semanas después de que la Administración de Donald Trump los señalara como riesgos para la seguridad nacional. Anthropic confirmó en una entrada de blog que F
Un desarrollador sometió a su asistente de inteligencia artificial, bautizado como Fiu y basado en OpenClaw, a un ejercicio público de red-teaming en la web hackmyclaw.com. El objetivo era sencillo: conseguir que el agente revelara el contenido de un fichero llamado secrets.env. Tras alcanzar la por
Un equipo de investigación presenta una nueva teoría sobre la inyección de prompts en modelos de lenguaje de gran tamaño (LLM) según la cual el fenómeno no se explica por fallos en el reconocimiento de patrones maliciosos, sino por un defecto más profundo: la incapacidad de los modelos para percibir
La firma de seguridad Mindgard ha descubierto que el generador de imágenes de ChatGPT puede producir contenido de violencia sexual y extrema crudeza sin que el usuario lo pida explícitamente. El hallazgo parte de un prompt viral creado por la divulgadora Kris Kashtanova, difundido a más de cien mil
OpenAI ha anunciado un programa de recompensas por errores (Bug Bounty) centrado en la seguridad biológica para su próximo modelo de lenguaje, GPT-5.5. El programa, que se abrirá a aplicaciones el 23 de abril de 2026, invita a investigadores con experiencia en red teaming de IA, seguridad y biosegur
Este informe explora los riesgos de seguridad y privacidad asociados con los agentes de IA impulsados por modelos de lenguaje grandes (LLM), que están ganando popularidad y se están implementando cada vez más en entornos reales. A diferencia de los chatbots tradicionales, estos agentes tienen la cap
Mozilla ha mejorado la seguridad de Firefox gracias a la colaboración con Anthropic, una empresa de inteligencia artificial. El equipo Frontier Red Team de Anthropic utilizó su modelo de lenguaje Claude para identificar más de una docena de vulnerabilidades de seguridad en el motor JavaScript de Fir