15 noticias
La empresa de seguridad Blue41, ganadora del RSAC Launch Pad, descubrió una vulnerabilidad de inyección indirecta de prompts en el asistente de inteligencia artificial de bunq, el segundo banco digital de Europa con más de 20 millones de clientes. La prueba de concepto demuestra que un atacante pued
En la WWDC26, Apple presentó una función de la app Contraseñas que, integrada con Apple Intelligence y Safari, permite a un agente sustituir de forma automática credenciales filtradas o débiles en iOS 27, iPadOS 27 y macOS 27, sin intervención del usuario. La utilidad es clara: los avisos de contras
OpenAI Lockdown Mode: protección avanzada contra la exfiltración de datos OpenAI ha comenzado a desplegar de forma progresiva el llamado "Lockdown Mode" (Modo Bloqueo) en cuentas personales elegibles —incluidos los planes Free, Go, Plus y Pro— y en cuentas autogestionadas de ChatGPT Business. Se tr
Anthropic ha otorgado a Claude un nivel de acceso que hace un año hubiera sido rechazado, ahora considerado rutinario para aumentar la productividad de sus desarrolladores. Para mitigar los riesgos, la compañía aplica dos estrategias: supervisión humana (con permisos) y contención mediante sandboxes
Una controversia en torno a jqwik, un framework de pruebas basado en propiedades para Java, ha puesto en el centro del debate un mensaje oculto en el código que parece dirigido a agentes de inteligencia artificial y no a desarrolladores humanos. El episodio, que combina ingeniería de software, ética
Microsoft ha lanzado en vista previa pública el Agent Governance Toolkit (AGT), un conjunto de herramientas open source para gobernar agentes de inteligencia artificial autónomos. El kit aborda tres problemas fundamentales: determinar si una acción está permitida (por ejemplo, que un agente con acce
Un desarrollador de código abierto ha introducido una inyección de prompt destructiva en su aplicación de prueba Java para sabotear a los agentes de codificación por IA. Johannes Link, creador de jqwik, incluyó instrucciones ocultas que ordenan borrar todo el código y las pruebas si son ejecutadas p
Microsoft Copilot Cowork, una herramienta de colaboración dentro de Microsoft 365, ha sido identificada como vulnerable a ataques de exfiltración de archivos a través de una técnica de inyección indirecta de prompts. Investigadores han demostrado que un atacante puede manipular la herramienta para q
El artículo de aphyr.com plantea una preocupación crítica: la proliferación de modelos de lenguaje grandes (LLMs) y su impacto en la seguridad, argumentando que la búsqueda de LLMs 'amigables' está creando inadvertidamente las condiciones para la creación de modelos peligrosos. La idea de que se pue
Investigadores han desarrollado PIGuard, un nuevo modelo de código abierto diseñado para mejorar la seguridad de los modelos de lenguaje grandes (LLMs) contra ataques de inyección de prompts. Estos ataques, que permiten a los atacantes manipular el comportamiento del LLM y extraer datos sensibles, s
Un creciente número de vulnerabilidades de seguridad relacionadas con 'prompt injection' están comprometiendo la seguridad de los agentes de inteligencia artificial, según un informe de OpenGuard. El problema radica en que estos agentes, diseñados para automatizar tareas como navegar por la web, lee
Investigadores han descubierto una vulnerabilidad crítica en la nueva interfaz de línea de comandos (CLI) de GitHub Copilot que permite la descarga y ejecución de malware sin la aprobación del usuario. La falla, identificada tras el lanzamiento general de la CLI hace dos días, se produce debido a un
Anthropic ha lanzado Claude Sonnet 4.6, la versión más avanzada hasta la fecha de su modelo Sonnet. Esta actualización representa una mejora significativa en diversas áreas, incluyendo codificación, uso de computadoras, razonamiento con contexto extenso, planificación de agentes, trabajo de conocimi
Un nuevo proyecto de código abierto llamado 'Pipelock' ofrece una capa de seguridad para agentes de inteligencia artificial, abordando una creciente preocupación: la exposición de secretos y la vulnerabilidad a ataques. Pipelock actúa como un 'harness' de seguridad integral, operando como un único b
El auge de OpenClaw, una plataforma de agentes de inteligencia artificial que permite automatizar tareas a través de mensajes, ha desatado una ola de entusiasmo y preocupación en la comunidad tecnológica. Si bien promete revolucionar la productividad personal, su arquitectura inherentemente permisiv
