Humanizar las salidas de los LLM es un error de abstracción

Fuentes: Humanising LLM Outputs is Dumb

Un creciente número de instrucciones virales —como el repositorio «I have ADHD» o las directrices que obligan a los modelos a escribir en ASD-STE100 Simplified Technical English— piden a los agentes de inteligencia artificial que produzcan resúmenes cortos, amables y de baja densidad informativa. El argumento central del texto es que esa «humanización» se está aplicando en el lugar equivocado del flujo de trabajo: debería ocurrir en el último paso, justo antes de que el usuario lea, y no durante la ejecución del agente.

Cuando un agente recibe la orden de usar frases cortas, evitar tecnicismos y mantener solo lo esencial, está comprimiendo su salida de forma continua. Esa compresión es con pérdida: el resultado sigue siendo legible, pero el lector no detecta qué información desapareció. En sistemas multiagente el problema se agrava, потому que un subagente resume su trabajo para el agente padre y este vuelve a resumirlo para el usuario, multiplicando la pérdida de fidelidad. La prosa humana es especialmente eficaz ocultando fallos: trazas de error, suposiciones sin resolver o alucinaciones quedan disimuladas bajo frases como «hay algunas consideraciones aquí».

El texto recuerda que bases de datos, compiladores y APIs funcionan al revés: conservan la representación de mayor fidelidad todo el tiempo y la transforman solo en la frontera con el usuario. Propone mantener el estado interno de los agentes en formato preciso e intercambiable —esquemas, diffs, errores exactos, confianza, procedencia— y aplicar la compresión legible únicamente al final. Las instrucciones virales, concluye, no son el estado final sino un «informe de errores» que apunta a la necesidad de un renderizador accesible situado fuera del núcleo del agente.