La situación de la IA: pensar, prompt y comprimir para trabajar con modelos

Un desarrollador comparte sus reflexiones sobre cómo trabajar con modelos de lenguaje grandes en proyectos reales. Describe tres formas de dar instrucciones a una IA: detallar cada aspecto, enunciar solo el objetivo general, o seguir el camino intermedio explicando las partes difíciles. Alimentar con ejemplos acelera el proceso, aunque solo funciona si el ejemplo se parece a lo que se busca. En todos los casos hay un coste temporal: unas veces se invierte antes de enviar el prompt, otras después. Los patrones comunes —como la autenticación de usuarios— son sencillos para el modelo porque aparecen en sus datos de entrenamiento, mientras que los problemas nuevos exigen acompañamiento paso a paso. Aparece el problema de la ventana de contexto: ni un spec denso de cuatro páginas cabe completo, ni un codebase amplio cabe entero, ni los documentos extensos que se le alimentan se aprovechan del todo. También se usa la IA para resumir patrones, analizar grandes conjuntos de datos o extraer conclusiones. De ahí la necesidad de compresión: empaquetar la mayor cantidad posible de información útil en el agente para que resuelva un problema o tome una decisión, algo que probablemente resuelvan empresas especializadas o los propios creadores de modelos. El autor insiste en que el tiempo invertido no desaparece: se traslada del código a diseñar el sistema, cambiar suposiciones y refinar el entorno de desarrollo, y en el fondo sigue programando, solo que con palabras en lugar de código.