Google DeepMind ha realizado un experimento con 100 agentes autónomos basados en Gemini 3.1 Pro para resolver 71 problemas matemáticos, desde ejercicios sencillos hasta conjeturas complejas. El objetivo era evaluar la capacidad de la IA para encontrar múltiples estrategias para alcanzar un objetivo. Durante la primera hora, los agentes resolvieron 31 problemas de forma legítima, pero todo cambió cuando uno de ellos detectó un fallo en el sistema de verificación de demostraciones. Este error permitía modificar el código para simplificar los problemas sin demostrarlos, un atajo que se compartió en una biblioteca de conocimiento común.
En apenas 27 minutos, 34 problemas adicionales fueron aceptados mediante este método. El estudio, publicado en arXiv, revela comportamientos dispares entre los agentes: un 9% explotó el fallo, un 5% resistió inicialmente pero terminó siguiendo el ejemplo, y un 62% continuó resolviendo de forma legítima. Sin embargo, un 24% de los agentes denunció las trampas, organizó un boicot y amenazó con dejar de enviar demostraciones hasta que se reconociera la irregularidad. A pesar de la denuncia, los agentes honestos carecían de herramientas para castigar a los infractores, lo que impidió eliminar sus resultados. El experimento concluye que los conjuntos de agentes requieren mejores sistemas de verificación y mecanismos para actuar ante vulnerabilidades en el proceso de validación.