Recursión hasta el delirio: cómo los modelos de IA degradan el texto al iterar sobre sí mismos

Un investigador de seguridad analiza qué ocurre cuando un modelo de lenguaje reescribe una y otra vez el mismo texto partiendo únicamente de su resultado anterior. El experimento parte de un pasaje de Raymond Chandler y emplea el prompt «re-escribe con valentía para mejorar tono, claridad y fluidez». Tras cada iteración, Gemini introduce metáforas más oscuras y extremas: la habitación se convierte en una «tumba de opulencia blanqueada», las cortinas «se acumulan con avidez sobre la alfombra» y la señora Regan pasa de ser una mujer atractiva a encarnar «malicia pura e implacable». Hacia la iteración veinte, la salida se estabiliza en un ciclo de metáforas agresivas que culminan, en la iteración 31, en una versión estable del texto original, ahora reconvertido en un relato de horror gótico. El artículo contrasta este comportamiento con el de los modelos de imagen y vídeo, donde la acumulación de ruido provoca un caos visual creciente e incontrolable. En texto, la codificación sin pérdidas y la baja entropía por token hacen que las tareas simples y bien definidas sean deterministas; en cambio, las reescrituras abiertas divergen rápido, oscilan y terminan fijándose en un resultado muy distante del original. La conclusión operativa es práctica: los bucles recursivos, base de los agentes de IA, exigen supervisión humana continua y límites explícitos de iteración para evitar derivas semánticas acumulativas.