OpenAI y Anthropic buscan ejercer un control significativo sobre los informes de los evaluadores externos de inteligencia artificial, según reveló una investigación de Reuters. Ambas empresas temen que la publicación de hallazgos de seguridad o vulnerabilidades revele secretos comerciales o información confidencial a la competencia, lo que podría afectar negativamente sus valoraciones de mercado. Para mitigar este riesgo, las compañías planean implementar medidas de supervisión o restringir el trabajo simultáneo de los evaluadores en diferentes laboratorios.
Esta postura genera tensión con la necesidad de transparencia pública sobre los riesgos de modelos de IA potentes. Los laboratorios consideran como propiedad intelectual crítica la información necesaria para evaluar el riesgo de seguridad, lo que puede llevar a la censura de datos relevantes. Anthropic ha aclarado que, en sus acuerdos con revisores existentes, estos mantienen el control sobre los métodos y conclusiones, reservándose solo el derecho de comentar y aprobar informes en nuevas colaboraciones. Por su parte, OpenAI ha negado que busque aprobar el contenido íntegro de los informes, argumentando que su práctica habitual es eliminar información confidencial. La falta de normas establecidas permite a las empresas influir en el acceso de los evaluadores, definiendo así el alcance de la supervisión de la tecnología.