OmniConfess: método para detectar alucinaciones en modelos multimodales

OmniConfess es una metodología de entrenamiento libre diseñada para mitigar las alucinaciones en los grandes modelos de lenguaje multimodales (OmniLLMs). A diferencia de los métodos existentes que operan en tiempo de inferencia, OmniConfess permite revelar qué evidencia sustenta cada generación, un aspecto crítico para la fiabilidad de estos sistemas. El enfoque funciona mediante la intervención controlada de la evidencia por canal, generando una 'confesión' estructurada a nivel de token que detalla la dependencia evidencial de la respuesta. Esta información permite preservar el contenido anclado en la realidad y corregir compromisos impulsados por evidencia irrelevante o contradictoria. Para evaluar su eficacia, los autores han construido OmniHalluBench, un benchmark de 3.540 ejemplos que abarca seis conjuntos de datos en modalidades de texto, imagen, audio y video, así como en tareas de juicio y generación libre. Los experimentos demuestran que OmniConfess reduce las alucinaciones en configuraciones heterogéneas de modalidades y tareas. El código y el benchmark están disponibles públicamente, facilitando la replicación y la integración de esta técnica en el desarrollo de modelos de IA más robustos y precisos.