Edición acumulativa: el fallo de las herramientas de IA al actualizar documentos

La edición acumulativa es un patrón de fallo habitual en los asistentes de inteligencia artificial que consiste en conservar la información anterior ya obsoleta y añadirsela al texto nuevo en lugar de reescribirlo. Se manifiesta cuando una herramienta de IA, encargada de actualizar un documento, modifica una afirmación pero, en vez de sustituirla, le pega un añadido entre paréntesis o una coletilla (“ahora con X, ya no con Y”). El problema no se resuelve simplemente pidiendo al modelo que escriba más breve: la acumulación se vuelve más lacónica pero persiste, y los avisos estilísticos solo desplazan el adorno a otra frase. La hipótesis es que, mientras una persona entiende que el lector no necesita la historia del documento, un modelo de lenguaje solo predice el token siguiente, así que la presencia conjunta de los términos antiguo y nuevo en el contexto hace estadísticamente probable que ambos aparezcan en la salida. Como solución práctica, el autor recomienda no decirle a la IA lo que no debe hacer (“evita la edición acumulativa”), sino describirle el procedimiento correcto: tratar la actualización como un reemplazo limpio, de modo que el documento final se lea como si siempre hubiera sido correcto. Aun así, reconoce que esta corrección es parcial y que el comportamiento podría tener una causa más profunda ligada a la arquitectura de los modelos.