MakerChecker es un proyecto de código abierto que actúa como capa de gobernanza y puerta de seguridad para agentes de inteligencia artificial, obligando a que cada acción relevante —borrar datos, mover dinero, ejecutar comandos del sistema o exfiltrar secretos— pase por un control previo de permisos y por una aprobación humana cuando proceda. El sistema se compone de tres paquetes independientes que aplican el mismo modelo de control: un escáner estático ("mc scan") que clasifica por riesgo lo que el agente ya puede hacer; un módulo integrable ("@makerchecker/embedded") para envolver herramientas dentro del código del propio agente; y un servidor autogestionado con Postgres y consola web que centraliza la autorización, la bandeja de aprobaciones y el registro de auditoría. El modelo se basa en denegación por defecto: cada agente opera bajo un rol que solo puede ejecutar las habilidades explícitamente concedidas, y una habilidad de alto riesgo debe asignarse a un rol distinto para impedir la autoaprobación. Todas las decisiones —concedidas o denegadas— se firran con Ed25519 y se encadenan mediante hash SHA-256 sobre JSON canónico, de modo que cualquier alteración rompe la verificación y cualquier bundle exportado puede validarse sin conexión. El proyecto ofrece conectores para LangChain y Claude Agent SDK, SDK en TypeScript y Python, y ejemplos ejecutables en farmacovigilancia, triaje de quejas de dispositivos médicos, acceso de pacientes oncológicos y conciliación diaria de caja. Los paquetes principales se distribuyen bajo Apache-2.0, mientras que el servidor, la consola web y los tipos compartidos usan AGPL-3.0.
Noticias agregadas con IA