Un equipo de investigadores del Instituto de Tecnología de Massachusetts (MIT) ha desarrollado HardFlow, un algoritmo diseñado para garantizar que los modelos de inteligencia artificial generativa cumplan reglas de seguridad estrictas en su salida final. A diferencia de los métodos tradicionales que imponen restricciones en cada paso intermedio, HardFlow permite al modelo explorar libremente durante la generación, verificando la validez de la regla únicamente en el último paso. Esta estrategia preserva la capacidad de exploración del modelo, lo que resulta en mejores resultados finales sin necesidad de reentrenar el sistema.
Los autores, liderados por el estudiante de posgrado Zeyang Li y el profesor asociado Navid Azizan, probaron el algoritmo en cuatro tareas simuladas: manipulación robótica con el benchmark D3IL, navegación en laberintos, control de procesos físicos y edición de imágenes. En todos los casos, HardFlow cumplió la restricción requerida al 100% y superó a otros seis métodos comparados en calidad y tiempo de cómputo. El estudio, publicado en IEEE Transactions on Pattern Analysis and Machine Intelligence, destaca la utilidad de la técnica en aplicaciones críticas donde las violaciones de reglas tienen consecuencias físicas, como robots operando cerca de obstáculos.
Sin embargo, los investigadores advierten que los resultados se obtuvieron exclusivamente en simulaciones y no se han verificado en hardware real. Además, no se ha confirmado si el método es aplicable a otros tipos de modelos generativos o a reglas de seguridad más complejas y difusas, como las comunes en el lenguaje natural.