Google y Google DeepMind han lanzado el DeepMind Institute el miércoles para ampliar el debate sobre la inteligencia artificial general (AGI). El nuevo organismo, dirigido por Shane Legg, James Manyika y Demis Hassabis, busca capturar las perspectivas divergentes entre la empresa, su unidad de investigación y la comunidad global de expertos. La iniciativa incluye una colección inaugural de cuatro ensayos que abordan políticas económicas para gestionar la disrupción de la AGI, la preservación del razonamiento legible en los modelos, los principios para el bienestar humano y un marco para evaluar los modelos de IA de frontera.
Un ensayo de los investigadores de seguridad Rohin Shah y Anca Dragan argumenta que la transparencia del razonamiento de la IA no es inevitable. Sugieren limitar la profundidad serial opaca o exigir que los sistemas menos transparentes sean igualmente monitorizables. Por su parte, Hassabis propone la creación de un organismo de estándares de IA de frontera liderado por EE. UU., donde los desarrolladores presentarían sus modelos voluntariamente para revisión 30 días antes de su lanzamiento. Este marco podría evolucionar hacia evaluaciones independientes y no reveladas para evitar que los laboratorios ajusten sus modelos a pruebas conocidas. La iniciativa llega en un momento en que la industria está pasando de declaraciones generales de preocupación a propuestas concretas de transparencia y, si las salvaguardas fallan, a un desaceleración coordinada, alineándose con la reciente postura de Dario Amodei, CEO de Anthropic.