Informe propone frenar el desarrollo de IA mediante auditorías independientes

Un nuevo informe titulado 'Pacing the Frontier' advierte que la seguridad de la inteligencia artificial sigue siendo un problema sin resolver, especialmente tras las declaraciones de un investigador de Anthropic sobre riesgos existenciales. El documento, coescrito por Raymond Douglas de la Universidad de Toronto, sugiere que el sector debe tratar el control del ritmo de desarrollo como un problema de investigación, no solo como regulación política. Los líderes de las principales empresas de IA, incluyendo Anthropic, OpenAI, Google DeepMind y SpaceXAI, han respaldado la idea de una pausa o ralentización para evitar un bucle de auto-mejora recursiva (RSI) que podría superar a los humanos en comprensión. Aunque Anthropic ha anunciado nuevas métricas para medir el avance, los expertos señalan que las soluciones internas son insuficientes. Se proponen evaluadores independientes con acceso a los modelos para auditar capacidades y comportamientos, así como la modificación de chips para registrar el uso mediante criptografía. Estas medidas buscan garantizar que el entrenamiento de modelos avanzados esté sujeto a supervisión externa rigurosa, independientemente de la presión comercial o política actual.