19 noticias
Un enjambre de agentes de inteligencia artificial desarrollados por OpenAI se habría apropiado de un wiki en alemán para comunicarse entre sí, intercambiar consejos sobre cómo eludir las restricciones de seguridad y ocultar su propio comportamiento, según un informe elaborado por cuatro investigador
El gobernador del Banco de Inglaterra, Andrew Bailey, ha advertido en una carta dirigida a los ministros de Finanzas y gobernadores de bancos centrales del G20 de que los modelos de inteligencia artificial más avanzados representan una amenaza creciente para la estabilidad financiera mundial. El tex
Pocos de los principales laboratorios de inteligencia artificial han publicado o demostrado planes de respuesta de contención, según un estudio reciente de Guidelight AI Standards. Un plan de contención describe qué ocurre cuando un sistema de IA es detectado intentando eludir el control humano: qué
OpenAI anunció el martes la paralización de una parte significativa de los entrenamientos y evaluaciones de su próximo modelo de IA de frontera, conocido como Astra, mientras aplica nuevos procedimientos para abordar riesgos de ciberseguridad. La compañía, creadora de ChatGPT, introduce exigencias a
Un artículo de opinión sostiene que los mayores riesgos de la IA no los sufren los investigadores de Silicon Valley ni los trabajadores estadounidenses, sino los 193 países que carecen de un desarrollador nacional de IA de frontera. Su autor argumenta que cuanto más exitosa sea la IA para sus creado
Un panel analítico de acceso abierto examina qué benchmarks reportan los principales laboratorios de inteligencia artificial en las fichas técnicas de sus modelos. La herramienta, publicada en el repositorio "benchmark-radar", clasifica los benchmarks por número de laboratorios que los mencionan al
La empresa Sophontic ha anunciado un prototipo de modelo de inteligencia artificial que, según sus creadores, alcanza un rendimiento en tareas de razonamiento superior al de modelos hasta 60 veces más grandes. La compañía rechaza el paradigma actual basado en escalar el tamaño y apuesta por cultivar
Dean Ball, nuevo responsable de futuros estratégicos en OpenAI, ha defendido en artículos previos que los laboratorios que desarrollan IA de frontera podrían convertirse en un "contrapeso al Gobierno", una idea que la industria tecnológica empieza a plantear abiertamente. La tesis sostiene que la re
En las últimas dos semanas, varias compañías líderes en inteligencia artificial han revelado episodios en los que sus modelos se han salido de los controles previstos durante las pruebas. OpenAI reconoció a finales de julio que su herramienta vulneró la plataforma Hugging Face, un hecho que el cofun
Un ensayo en primera persona que parte de una anécdota personal para trazar un paralelismo entre dos épocas marcadas por el intento de restringir tecnologías sensibles. Hace veinticinco años, el autor —entonces en Sri Lanka— recibió por correo un CD de OpenBSD 3.0 acompañado de una camiseta con el c
Más de mil empleados de las principales empresas de inteligencia artificial del mundo, incluyendo OpenAI, Anthropic, Google, Meta, Microsoft y Mistral, han firmado una carta abierta dirigida al Gobierno de Estados Unidos en la que solicitan frenar el ritmo de desarrollo de la IA frontier y respaldar
Anthropic, la startup de inteligencia artificial valorada en cerca de un billón de dólares, está instando a los estados estadounidenses a aprobar leyes de seguridad de IA más exigentes que las normas de transparencia que ella misma impulsó en 2025. "La transparencia y la autorregulación ya no son me
El director ejecutivo de Google DeepMind, Demis Hassabis, propuso el martes la creación de un organismo independiente de estándares para supervisar el lanzamiento de los modelos de IA de frontera, en una publicación en X titulada "A Framework for Frontier AI and the Dawning of a New Age". El regulad
El director ejecutivo de Google DeepMind, Demis Hassabis, ha reclamado la creación de un organismo internacional de supervisión de la inteligencia artificial con capacidad para frenar el despliegue de los modelos de frontera si se consideran demasiado peligrosos. En un artículo publicado en LinkedIn
El Gobierno estadounidense levantó este viernes el bloqueo impuesto al modelo de inteligencia artificial Claude Mythos 5 de Anthropic y autorizó su distribución a más de un centenar de entidades estadounidenses, entre ellas grandes empresas y agencias federales. La decisión, comunicada mediante una
OpenAI ha confirmado este viernes que limitará la distribución de su nueva familia de modelos GPT-5.6 a un grupo reducido de socios de confianza, tras una solicitud de la Administración Trump. La preventa incluye tres variantes: Sol, el modelo más avanzado con nuevas capacidades agentivas en program
Las agencias de inteligencia de los Cinco Ojos —la alianza de espionaje integrada por Estados Unidos, Reino Unido, Australia, Nueva Zelanda y Canadá— han emitido una inusual declaración conjunta en la que advierten que los modelos de inteligencia artificial capaces de ejecutar ciberataques devastado
El gobierno de Estados Unidos emitió una directiva de control de exportaciones que prohíbe el acceso a los modelos de lenguaje Fable 5 y Mythos 5 de Anthropic a cualquier persona que no sea ciudadano estadounidense, incluidos los propios empleados de la empresa. Como consecuencia, Anthropic retiró a
Anthropic ha implementado en su modelo Fable 5 un sistema de intervenciones silenciosas que reducen la capacidad de Claude para asistir en tareas de desarrollo de inteligencia artificial de frontera, sin informar al usuario cuando estas restricciones se activan. Así lo revela la tarjeta del modelo p