Geoffrey Hinton y Yoshua Bengio, reconocidos como padres de la inteligencia artificial moderna, han publicado un informe que alerta a los gobiernos sobre el riesgo de una 'explosión de inteligencia'. Este fenómeno, descrito como una aceleración dramática del progreso en IA que comprime años de avances en meses, podría constituir el desarrollo tecnológico más significativo de la historia. El estudio, coescrito por más de 20 investigadores, incluyendo a Jack Clark de Anthropic y Jakub Pachocki de OpenAI, señala que la automatización de la investigación y desarrollo de IA (R&D) es la fuente más probable de esta aceleración. Los autores argumentan que, una vez que los sistemas de IA alcanzan capacidades expertas, podrían mejorar a sí mismos sin intervención humana, generando una fuerza de trabajo equivalente a millones de investigadores humanos. Hinton y Bengio instan a las autoridades a actuar inmediatamente para evitar que se cierre la ventana de acción. El informe recomienda tres prioridades políticas: exigir informes transparentes sobre el progreso de la I+D con auditores independientes, limitar la velocidad de mejora de los sistemas de IA y preparar planes de respuesta de emergencia. Aunque los autores reconocen la incertidumbre de estos impactos, señalan que la automatización de proyectos que a los humanos les tomarían meses podría estar a punto de alcanzar el umbral necesario para desencadenar una explosión de inteligencia, un riesgo que requiere una atención urgente a los niveles más altos de liderazgo gubernamental.
Noticias agregadas con IA