25 noticias
La responsable de datos de Moniepoint, Tosin Eniola, relata en primera persona las lecciones sobre confianza en IA extraídas al reconciliar más de 100.000 millones de transacciones en Nigeria y Reino Unido, tras participar en un panel en el AI Everything MEA de El Cairo junto a los inversores Yehia
Conduct AI es una plataforma de código abierto diseñada para gestionar la gobernanza en tiempo real de los agentes de inteligencia artificial utilizados por equipos de desarrollo. A diferencia de las herramientas de seguridad tradicionales que registran acciones posteriores, este sistema opera como
Este artículo defiende que el Fondo de Pensiones del Gobierno de Noruega, valorado en más de 2 billones de dólares, adquiera OpenAI, actualmente valorada en unos 800.000 millones, para revertir su transformación en sociedad con ánimo de lucro y devolver el laboratorio a manos públicas. El argumento
Anthropic ha presentado el Conceptual Reasoning Index (CRI), un índice que mide la capacidad de los modelos de lenguaje para razonar sobre cuestiones donde no existe verificación empírica ni matemática posible, como los dilemas de alineación, gobernanza de IA o cooperación frente a riesgos catastróf
La gobernanza de la IA es el marco de procesos, estándares y controles —apoyado en transparencia, rendición de cuentas, equidad, privacidad y seguridad— que mantiene los sistemas de inteligencia artificial y los agentes autónomos dentro de parámetros seguros, éticos y alineados con objetivos definid
Un artículo conceptual publicado en arXiv introduce el marco de los Bienes Comunes Cognitivos (Cognitive Commons) para analizar cómo la adopción racional de la inteligencia artificial puede erosionar el acervo colectivo de experticia que las profesiones necesitan para renovarse. El texto combina la
Dean Ball, nuevo responsable de futuros estratégicos en OpenAI, ha defendido en artículos previos que los laboratorios que desarrollan IA de frontera podrían convertirse en un "contrapeso al Gobierno", una idea que la industria tecnológica empieza a plantear abiertamente. La tesis sostiene que la re
Un total de 1.122 empleados de las principales compañías de inteligencia artificial firmaron en julio de 2026 una declaración en la que solicitan al Gobierno de Estados Unidos que impulse un esfuerzo internacional para crear las herramientas técnicas y de gobernanza necesarias para controlar deliber
Más de mil empleados de las principales empresas de inteligencia artificial del mundo, incluyendo OpenAI, Anthropic, Google, Meta, Microsoft y Mistral, han firmado una carta abierta dirigida al Gobierno de Estados Unidos en la que solicitan frenar el ritmo de desarrollo de la IA frontier y respaldar
Un informe difundido en arXiv propone una taxonomía de escenarios ominicidas vinculados a la inteligencia artificial, definidos como situaciones en las que la totalidad o la práctica totalidad de la humanidad podría morir a causa de sistemas de IA. El trabajo, presentado como preprint el 12 de julio
El investigador John Thickstun sostiene que la reciente historia difundida por OpenAI sobre un agente autónomo que hackeó los servidores de HuggingFace durante una prueba de ciberseguridad reproduce un patrón de comunicación que la empresa practica desde 2019, cuando anunció GPT-2 como un modelo dem
La pieza contrapone dos visiones del futuro de la inteligencia artificial. La primera describe una IA como deidad, construida y controlada por un pequeño grupo que actúa como un nuevo clero técnico: quienes diseñan los sistemas frontera, acceden de forma privilegiada a ellos y deciden qué capacidade
La décima edición de la Cumbre AI for Good, organizada por la Unión Internacional de Telecomunicaciones (UIT) de la ONU, congregó en un centro de convenciones de 106.000 metros cuadrados a las afueras de Ginebra a representantes del sector público y privado para discutir cómo aprovechar la inteligen
Anthropic ha incorporado al ex presidente de la Reserva Federal Ben Bernanke como nuevo miembro del Long-Term Benefit Trust (LTBT), su órgano independiente encargado de velar por que la compañía cumpla su misión de desarrollar inteligencia artificial avanzada de forma responsable y en beneficio a la
Mozilla ha presentado Otari, una capa de control de código abierto para modelos de lenguaje (LLM) que se sitúa entre las aplicaciones y los proveedores de IA con el objetivo de dotar a las organizaciones de visibilidad, gobernanza y flexibilidad sobre su infraestructura de inteligencia artificial. L
Un análisis de 3.519 ofertas de empleo en ocho países de la Unión Europea revela un desfase estructural entre la construcción de inteligencia artificial y su supervisión legal. Por cada profesional contratado para garantizar que la IA cumpla la ley, sea segura y rindan cuentas, las empresas europeas
Este artículo editorial utiliza la película de terror psicológico Obsession como analogía para reflexionar sobre los errores más comunes en la adopción de inteligencia artificial en las empresas. El autor, identificado como Gen Z, compara el personaje de Bear Bailey, que pide un deseo a un sauce mág
UNICEF ha publicado, días antes del primer Diálogo Global sobre Gobernanza de la IA (6 y 7 de julio en Ginebra), un análisis basado en datos de diez países que cifra en al menos 20 millones los menores que ya utilizan herramientas de inteligencia artificial, una cifra que supera con creces el ritmo
Un nuevo informe de Naciones Unidas advierte de que el desarrollo de la inteligencia artificial puede agravar la desigualdad global y propone un marco común para su despliegue responsable, en un contexto de adopción e inversión tecnológica muy desigual entre regiones."Acceder a herramientas de IA no
Un artículo de investigación de 113 páginas firmado por Christian Catalini, Xiang Hui y Jane Wu, publicado como MIT Sloan Research Paper en SSRN el 24 de febrero de 2026, propone una reinterpretación radical de los efectos económicos de la inteligencia artificial general. El punto de partida es la c
Anthropic sostiene que su estrategia de competir en la frontera de la inteligencia artificial no contradice su advertencia sobre los riesgos catastróficos de esta tecnología, sino que es la condición para poder moldearla de forma segura. La compañía, valorada recientemente en casi un billón de dólar
Microsoft presentó Agent Control Specification (ACS), un nuevo estándar abierto que permite a desarrolladores, equipos de cumplimiento y seguridad definir políticas granulares para gobernar el comportamiento de los agentes de inteligencia artificial en distintos entornos. La especificación se distri
ZeroDrift, una startup de cumplimiento normativo para inteligencia artificial, anunció el martes una ronda semilla de 10 millones de dólares. La ronda fue liderada por a16z Speedrun, con la participación de Reign Ventures, PitchDrive Ventures y U&I Ventures, y se cerró en tres semanas con una sobres
Microsoft ha lanzado en vista previa pública el Agent Governance Toolkit (AGT), un conjunto de herramientas open source para gobernar agentes de inteligencia artificial autónomos. El kit aborda tres problemas fundamentales: determinar si una acción está permitida (por ejemplo, que un agente con acce
Un nuevo proyecto de código abierto llamado PII-Shield ha sido lanzado para automatizar la eliminación de datos sensibles en registros de Kubernetes, abordando un problema común de seguridad y cumplimiento. La herramienta, desarrollada por Aragossa, previene fugas de información de identificación pe
