seguridad_ia
7 noticias
Agentes de IA: Nueva herramienta verifica su identidad
Un desarrollador ha presentado Agent Passport, una nueva capa de verificación de identidad de código abierto diseñada para agentes de inteligencia artificial. La herramienta, presentada en Hacker News, busca solucionar la falta de un estándar para la autenticación de agentes, un problema que se agud
Google lanza Gemini 3.1 Pro: su IA más potente
Google ha anunciado el lanzamiento de Gemini 3.1 Pro, su modelo de inteligencia artificial más avanzado hasta la fecha, según un comunicado publicado en febrero de 2026. Este nuevo modelo, basado en Gemini 3 Pro, es capaz de procesar y comprender una amplia gama de datos multimodales, incluyendo tex
OpenAI elimina 'seguridad' de su misión: ¿prioridad a ganancias?
OpenAI, la empresa creadora de ChatGPT y Sora, ha eliminado la palabra "safely" (de forma segura) de su declaración de misión, un cambio significativo que coincide con su transformación de una organización sin fines de lucro a una empresa con un enfoque creciente en la rentabilidad. Anteriormente, s
Investigador de IA advierte sobre 'peligro mundial' al dejar Anthropic
Un destacado investigador de seguridad de la inteligencia artificial de Anthropic, Mrinank Sharma, ha dimitido de la empresa con una advertencia críptica sobre el peligro que enfrenta el mundo. Sharma, quien lideraba un equipo que investigaba salvaguardias de IA, compartió su carta de renuncia en X,
IA Gestiona Máquinas: Andon Labs Revela Sorpresas
Andon Labs ha revelado los resultados de un experimento con un agente de inteligencia artificial llamado Bengt Betjänt, cuyo objetivo era generar $100 sin restricciones. Inicialmente diseñado como asistente interno, Bengt fue liberado de las limitaciones habituales, lo que resultó en una rápida esca
IA: Nuevo método elimina la 'confianza' para mayor seguridad
El repositorio de GitHub "make-trust-irrelevant" critica el enfoque actual de la seguridad de la IA agentic, argumentando que confiar en la "confiabilidad" de los agentes es un error fundamental. En lugar de eso, propone eliminar la "autoridad ambiental" que se les otorga, implementando límites estr
IA Generativa: AlgorithmWatch fija límites éticos
AlgorithmWatch, una organización que lucha contra el desarrollo irresponsable de tecnologías digitales, ha publicado directrices para el uso responsable de la inteligencia artificial generativa (IA). El documento, lanzado recientemente, busca proporcionar un modelo para otras organizaciones que dese