OpenAI ha publicado un artículo titulado 'Desarrollar los estándares para la próxima fase de la IA', en el que Sam Altman y Jakub Pachocki proponen la creación de protocolos técnicos comunes para los modelos de frontera. El objetivo es garantizar que la inteligencia artificial beneficie a toda la humanidad y minimizar los riesgos asociados a la automejora recursiva, un proceso en el que un modelo de IA desarrolla por sí mismo versiones más sofisticadas sin supervisión humana. Los directivos de la empresa advierten que, aunque la automejora recursiva completamente autónoma aún no existe, su desarrollo acelerado plantea una amenaza existencial si el control humano se pierde. La propuesta de OpenAI busca establecer una supervisión neutral y superior, involucrando a los institutos de seguridad de la IA y a las autoridades, para gestionar incidentes y notificarlos a los gobiernos. Esta iniciativa llega en un momento crítico, tras las advertencias previas de Anthropic, y busca alinear los estándares de seguridad entre laboratorios de EE. UU. y China para evitar una carrera desenfrenada. Sin embargo, los expertos señalan que la complicidad de China en este ámbito es incierta a corto plazo, lo que complica la implementación de estos mecanismos de actuación conjunta.
Noticias agregadas con IA