Startup AIUC lanza auditoría de seguridad para agentes de IA

La startup Artificial Intelligence Underwriting Company (AIUC) ha anunciado una ronda de financiación Serie A de 40 millones de dólares liderada por Ribbit Capital. La empresa, fundada por Jacob Coxon, excoordinador de seguridad de METR, y sus hermanos Rune Kvist y Rajiv Dattani, busca implementar un modelo de auditoría de seguridad basado en estándares de ciberseguridad como SOC 2. AIUC desarrolla una norma interna (AIUC-1) y un servicio de pruebas que validan agentes de IA contra escenarios de jailbreaks, alucinaciones y fugas de datos. El proceso, que incluye aproximadamente 5.000 pruebas y un informe de 100 páginas, utiliza agentes de IA para ejecutar las pruebas y humanos para verificar los resultados finales. La iniciativa busca ofrecer a las empresas una evaluación independiente de la seguridad de sus agentes de IA, un problema que Dario Amodei, CEO de Anthropic, ha señalado como un riesgo creciente en el desarrollo de modelos frontera.