Anthropic ha anunciado la implementación de un sistema de acceso similar al de los empleados para un equipo de METR, una organización sin fines de lucro dedicada a la evaluación de modelos de inteligencia artificial de frontera. Esta medida, que forma parte de la firma del Acuerdo de la Casa Blanca sobre Superinteligencia, otorga a los evaluadores acceso a hardware, espacio de oficina y herramientas internas de Anthropic, permitiendo una supervisión profunda y transparente de las prácticas de seguridad de la empresa.
El objetivo es cerrar la brecha entre la información técnica interna de Anthropic y la capacidad de los auditores externos para evaluar riesgos, incluyendo la alineación de los modelos. METR publicará sus hallazgos sobre los niveles de riesgo y las prácticas de la empresa, aunque Anthropic puede solicitar la supresión de información sensible, como datos de clientes o arquitecturas de modelos, bajo categorías predefinidas. Este enfoque se basa en la lógica de la supervisión bancaria, donde los reguladores acceden directamente a las instituciones para detectar riesgos sistémicos.
Además de METR, Anthropic trabaja con SecureBio y Accenture como evaluadores, y mantiene conversaciones iniciales con Hugging Face. La empresa ha definido tres niveles de acceso para los evaluadores: el primer nivel implica investigaciones de riesgo con alcance limitado; el segundo permite la publicación independiente de hallazgos; y el tercer nivel, el actual con METR, ofrece acceso casi total y derechos de publicación similares a los de los empleados de Anthropic. Esta estrategia busca establecer un estándar de supervisión robusta en la industria de la IA de frontera.