No te fíes de las ventanas de contexto grandes en los LLM
Las ventanas de contexto de los modelos de lenguaje grandes no son lo que parecen. Un vídeo reciente distingue dos zonas dentro de esa ventana: una "zona inteligente", donde el modelo responde con precisión, y una "zona tonta", donde la atención cae y el modelo empieza a olvidar lo que se le dijo mi
