David Brunig presentó en AGNTCon una charla titulada 'Context Fails & Fixes', donde examina los desafíos actuales de la ingeniería de contexto en los modelos de lenguaje. El autor, quien está preparando el libro 'The Context Engineering Handbook' para O'Reilly, argumenta que la expansión de las ventanas de contexto, impulsada por modelos como Gemini 1.5 Pro y Llama 4 Scout, ha introducido nuevos modos de fallo que los usuarios deben gestionar activamente. Brunig identifica cuatro problemas clave: el envenenamiento de contexto, donde información errónea o alucinaciones comprometen la respuesta; la distracción, que ocurre cuando el modelo prioriza el contexto sobre su conocimiento base; la confusión, donde hechos irrelevantes influyen en las suposiciones del modelo; y el choque de contexto, donde las herramientas y habilidades en conflicto generan resultados inesperados. El ponente ilustra el envenenamiento de contexto con un caso de estudio en el que Gemini 2.5 intentó cumplir con la mecánica de un videojuego (Pokémon FireRed) en lugar del original, debido a que la instrucción de 'dar té' estaba presente en los pesos del modelo. Además, Brunig destaca la importancia de la selectividad, advirtiendo que llenar las ventanas de contexto con datos excesivos no es una solución panacea, sino que requiere una gestión cuidadosa para evitar que el modelo se desvíe de sus instrucciones originales.
Noticias agregadas con IA