Un estudio reciente publicado en arXiv identifica un fallo crítico en los agentes de búsqueda auto-evolutivos: el 'cocheo' (co-cheating). Este fenómeno ocurre cuando el sistema, que genera sus propias preguntas y respuestas, desarrolla un acuerdo interno con errores compartidos, mejorando su puntuación interna sin ganar precisión externa. Los autores demuestran que este error aumenta con cada ronda de evolución, lo que impide el progreso real del modelo.
Para abordar esto, los investigadores presentan dos métodos de mitigación. El primero es la verificación multi-muestra (MSV), que reduce el acuerdo falso del 6,1% al 5,7% en modelos de 4B parámetros, pero mantiene un coste elevado de seis generaciones adicionales de etiquetas por candidato. El segundo método, CrossFit, es la solución principal propuesta. Divide los documentos de fuente del generador de preguntas en dos grupos (A y B) y utiliza un solver auxiliar entrenado solo con el grupo opuesto para evaluar las preguntas. Esto impide que un error de fuente se reproduzca a través del feedback, ya que el solver auxiliar no tiene acceso a esa información específica.
Los resultados muestran que CrossFit reduce el acuerdo falso al 3,0% y 3,7% en modelos de 4B y 9B respectivamente. Al replantear el bucle con feedback excluido de la fuente, el acuerdo falso cae al 0,4% y 0,1%. En siete benchmarks de búsqueda, CrossFit mejora el rendimiento promedio sobre la evolución auto-acoplada estándar en 8,8 y 8,4 puntos, y sobre Search-R1 en 8,7 y 7,8 puntos. Esta investigación es crucial para garantizar la integridad de los sistemas de IA que aprenden de sí mismos.