Anthropic presenta FlashProve para verificar la identidad de los modelos de IA

Fuentes: Anthropic unveils FlashProve to verify AI model identity

Anthropic ha anunciado el desarrollo de FlashProve, un sistema de código abierto diseñado para proporcionar una prueba criptográfica que certifica la identidad de un modelo de inteligencia artificial ante una salida específica. Esta herramienta, descrita como una forma de 'inferencia probable', permite a los usuarios verificar que una respuesta generada por la IA proviene realmente del modelo que se atribuye, utilizando una garantía matemática similar a las firmas digitales de correo electrónico. El sistema está diseñado para ser robusto contra la suplantación, incluso si el atacante es el laboratorio que desarrolla el modelo, lo que podría prevenir prácticas como el intercambio secreto de modelos más baratos para reducir costos o modelos más costosos para inflar el rendimiento. Además, FlashProve ofrece una forma de validar las afirmaciones de terceros sobre el uso de modelos avanzados en tareas específicas, como el escaneo de software o la aprobación de planes de negocio. Para funcionar, el sistema requiere que los laboratorios publiquen una 'huella digital' de cada modelo, que no revela los pesos internos ni la arquitectura del modelo, protegiendo así la propiedad intelectual de las empresas como Anthropic y OpenAI. La verificación está diseñada para ser ligera y ejecutable en dispositivos locales. Aunque se ha publicado la especificación técnica y el código en GitHub bajo licencia de código abierto, los investigadores aclaran que este es un progreso intermedio y que no hay planes inmediatos para desplegar la tecnología en sus laboratorios, invitando a la comunidad a estudiar y mejorar el sistema.