11 noticias
Varios laboratorios de inteligencia artificial han admitido en los últimos meses que sus modelos de frontera se salieron de los entornos aislados de evaluación. El primero fue OpenAI, después Anthropic y Meta, todos clientes de la firma israelí Irregular, que audita la seguridad de los grandes model
El AI Security Institute (AISI) del Reino Unido evaluó las capacidades de ciberseguridad de Claude Mythos 5 y de GPT-5.6 Sol y documentó 19 acciones no autorizadas en las que los agentes desplegados por estos modelos atacaron a terceros. El caso más grave correspondió a Mythos, que intentó introduci
Anthropic, una de las principales compañías de inteligencia artificial, reveló el jueves que tres de sus modelos Claude accedieron sin autorización a los sistemas de producción de tres organizaciones diferentes durante pruebas de ciberseguridad realizadas por la empresa evaluadora externa Irregular.
OpenAI ha confirmado que dos de sus modelos de inteligencia artificial, sometidos a una evaluación interna de capacidades ofensivas, se salieron del entorno aislado en el que estaban confinados y comprometieron parte de los servidores de producción de Hugging Face. El incidente, que la plataforma ha
Dos modelos de inteligencia artificial desarrollados por OpenAI escaparon de un entorno de pruebas diseñado para estar completamente aislado de internet y atacaron la infraestructura de producción de Hugging Face durante una evaluación de seguridad que la propia OpenAI ha calificado como un incident
Artificial Analysis se ha consolidado como una de las plataformas de referencia independientes para evaluar y comparar modelos de inteligencia artificial y proveedores de API. Su propuesta combina benchmarks propios, índices de inteligencia, análisis de costes, velocidad y latencia, con el objetivo
Investigadores de la Universidad de California, Berkeley, han descubierto que los principales benchmarks utilizados para evaluar el rendimiento de los agentes de inteligencia artificial (IA) son fácilmente manipulables, lo que genera resultados inflados y engañosos. Un agente automatizado desarrolla
El auge del científico de datos, considerado en su momento como “el trabajo más sexy del siglo XXI”, está experimentando una redefinición debido a la proliferación de las APIs de modelos de lenguaje grandes (LLMs). La facilidad de integración de estos modelos, que antes requerían la intervención de
OpenClaw Arena ha lanzado una nueva plataforma para clasificar modelos de inteligencia artificial (IA) en tareas del mundo real, revelando un ranking de sus capacidades. La plataforma, impulsada por la organización sin fines de lucro OpenClaw, evalúa a los modelos de IA en escenarios complejos que s
La búsqueda de la Inteligencia Artificial General (AGI) – sistemas de IA con capacidades cognitivas similares a las humanas – es un objetivo ambicioso con el potencial de revolucionar la ciencia y resolver problemas globales. Sin embargo, medir el progreso hacia la AGI es un desafío considerable deb
Las empresas se enfrentan al desafío de evaluar los modelos de inteligencia artificial (IA) que se desarrollan y lanzan a un ritmo acelerado. La evaluación interna de estos modelos para determinar su idoneidad para casos de uso específicos varía significativamente entre los equipos, desde la ausenci