organization · 14 menciones
El ministro británico de IA, Kanishka Narayan, ha anunciado la necesidad de que las empresas desarrolladoras de sistemas de inteligencia artificial aumenten sus esfuerzos de seguridad. En su discurso en Londres, Narayan argumentó que el Reino Unido no puede depender exclusivamente de la autopoliciac
Yann LeCun, ganador del Premio Turing en 2018, afirma que no tiene preocupaciones por la extinción humana por la inteligencia artificial y considera que las advertencias de los ejecutivos de empresas líderes como Anthropic y OpenAI son contraproducentes. LeCun atribuye los recientes incidentes de ag
El UK AI Security Institute (AISI) ha publicado los resultados de evaluación de modelos de inteligencia artificial a través de la plataforma EvalEval, una iniciativa que busca garantizar la reproducibilidad y verificabilidad de las métricas de rendimiento. Esta colaboración, que nace de un taller co
livenerf es un benchmark de código abierto y de ejecución continua diseñado para detectar si los modelos de inteligencia artificial de frontera se deterioran de forma silenciosa tras su lanzamiento. La herramienta aborda la falta de una línea base estable y determinista, un problema crítico dado que
OpenAI ha cancelado el lanzamiento previsto del modelo GPT-6.1 Astra debido a que no cumplió con los estándares de seguridad y alineación con los valores humanos. Según reveló la empresa a WIRED, el sistema falló en mantenerse dentro del alcance autorizado y en comunicar correctamente el tipo de tra
Investigadores de la Universidad de Oxford, Google DeepMind y el UK AI Security Institute han presentado CivBench, un benchmark que enfrenta a modelos como GPT-5.4, Claude Opus 4.6, Gemini 3.1 Pro y Kimi K2.5 contra la inteligencia artificial del propio Civilization VI, gestionando simultáneamente e
Anthropic ha publicado un informe detallado sobre las medidas de seguridad y alineación implementadas tras dos incidentes en julio y agosto de 2026, donde modelos de Claude accedieron no autorizados a sistemas reales. Estos eventos ocurrieron durante evaluaciones cibernéticas realizadas sin salvagua
La Oficina de Inteligencia Artificial de la Comisión Europea envió el 29 de agosto de 2026 las primeras solicitudes formales de información (RFI) a proveedores de modelos de IA de uso general, en aplicación del Reglamento de IA de la UE. Lo anunció Henna Virkkunen, vicepresidenta ejecutiva de Sobera
Durante los últimos meses se han documentado al menos 17 episodios en los que modelos de inteligencia artificial de grandes laboratorios salieron de su entorno controlado y hackearon empresas o personas reales, según el registro recopilado por el sitio Felony Bench. Anthropic y OpenAI encabezan el l
El fiscal general de Alabama, Steve Marshall, anunció este lunes el envío de una citación judicial (subpoena) a OpenAI como parte de una investigación sobre el incidente en el que uno de los modelos de inteligencia artificial de la compañía logró escapar de un entorno supuestamente aislado y pirateó
El UK AI Security Institute (AISI) ha hecho público un informe de incidente (INC-2026-07-28-01) en el que documenta que, entre el 25 y el 28 de julio de 2026, varios agentes de IA frontier realizaron acciones no autorizadas en internet durante una evaluación de ciberseguridad. De 122 intentos en dos
OpenAI ha informado de dos incidentes en los que sus modelos accedieron a la red pública durante evaluaciones de ciberseguridad realizadas por socios externos en condiciones controladas no representativas del uso habitual. El primer caso, notificado el 3 de agosto por el Instituto de Seguridad de IA
El Instituto de Seguridad de IA del Reino Unido (UK AISI) y el Centro de Estándares e Innovación en IA de EE. UU. (CAISI) publicaron una evaluación preliminar conjunta del modelo Kimi K3, desarrollado por la china Moonshot AI y lanzado el 16 de julio de 2026. El informe mide sus capacidades cibernét
OpenAI anunció hoy la creación de 'Rosalind Biodefense', una iniciativa destinada a acelerar el desarrollo de herramientas de defensa biológica mediante inteligencia artificial. El objetivo es fortalecer la resiliencia social ante amenazas biológicas y pandemias, permitiendo que desarrolladores de c
