Los jueces LLM detectan información presente, no ausente: ceguera ante omisiones en notas clínicas

Fuentes: LLM Judges Verify Presence, Not Absence: Omission Blindness in AI Clinical Notes and What Recovers It

Los modelos de lenguaje que evalúan notas clínicas generadas por IA sufren una debilidad estructural: tienden a verificar lo que la nota incluye, pero apenas detectan lo que omite. Un estudio publicado en arXiv el 31 de agosto de 2026 demuestra esta limitación tras probar ocho diseños distintos de 'jueces LLM' sobre un banco de pruebas de 500 pares de notas con un único error controlado: 298 con un dato ausente y 202 con contenido añadido o alterado. Los resultados muestran una brecha nítida: la discriminación emparejada ronda 0,79-0,94 ante contenido añadido o alterado, pero cae a 0,50-0,63 ante omisiones, apenas mejor que lanzar una moneda.

Los autores explican que los corpus públicos resultan inservibles como referencia, porque las notas clínicas de partida y las transcripciones presentan discrepancias materiales. Su punto de inflexión llega al reestructurar la tarea: en lugar de pedir al juez que compare directamente nota y transcripción, proponen enumerar primero los hechos que la transcripción establece y luego comprobar la nota contra cada uno de ellos. Dos métodos convergen en esta idea. Un sistema por hechos logra identificar la omisión y nombrarla, con un 2,7 % de falsas alarmas. Un prompt evolucionado con GEPA que realiza lo mismo en una sola llamada detecta más omisiones (36,9 % frente a 24,6 %, p = 0,002) al 6,2 % de falsas alarmas y a una décima parte del coste por nota.

La validación clínica refuerza el hallazgo: un médico autor revisó 70 casos y, en las 10 discrepancias entre ambos métodos, se inclinó siempre por el sistema por hechos (p = 0,002); un segundo clínico, ciego al estudio, coincidió en la escala de gravedad. En notas reales de proveedores, ningún umbral del banco de pruebas se transfiere directamente, pero la llamada única recalibrada detecta más omisiones que el mejor de los ocho jueces originales, con la mitad de falsas alarmas. El trabajo también señala un límite persistente: las omisiones cuyo hecho aparece reformulado en otra parte de la nota escapan a ambos métodos. Los autores liberan el banco de pruebas, los prompts y las anotaciones.