Una crítica técnica a OpenCode: fallos de caché y diseño del prompt

Fuentes: Stop Using OpenCode

Un análisis extenso y crítico del agente de programación OpenCode, la herramienta de código abierto de este tipo más popular en GitHub con 161.000 estrellas. El autor distingue entre problemas molestos —fallos repetidos de caché de prompt al reevaluar el prompt del sistema en cada turno SSE, al podar resultados de herramientas por un umbral fijo de 40.000 tokens o al inyectar la fecha actual— y cuestiones más graves de seguridad y arquitectura aún por desarrollar en la segunda parte.

El texto detalla el funcionamiento de los servidores LLM locales compatibles con la API de OpenAI: prefijo de caché por longest prefix, prefilling costoso y generación limitada por el ancho de banda de memoria. Con Qwen3.6-27B en un M4 Max, la pérdida de caché puede traducirse en esperas de hasta diez minutos de prefill completo. El autor critica además el mecanismo de compactación de contexto, las restricciones inconsistentes del modo Plan, la falta de modificación global del prompt del sistema y las instrucciones por modelo de baja calidad.

Como alternativas menciona el sistema de session trees de Pi, que explota deliberadamente la caché de prompt, y propone una transferencia manual mediante notas editables en lugar de compactación. Advierte, además, que las críticas se centran en el "pipe" entre LLM y bash —es decir, la capa que ejecuta los comandos— y no en el uso del modelo en sí, dejando para un post-script consideraciones sobre LLMs locales.