La ilusión de competencia: por qué delegar el pensamiento a la IA es más peligroso que delegar el código

Fuentes: Beyond recall and the illusion of competence

La programación asistida por inteligencia artificial no debería medirse por quién escribe el código, sino por qué se entiende el sistema. A lo largo de la historia del software, los desarrolladores han recurrido a documentación, búsquedas, Stack Overflow o ejemplos de colegas para construir aplicaciones que combinan TypeScript, Python, YAML, Dockerfiles, SQL y pipelines de CI: nadie memoriza cada detalle de todas esas tecnologías. Del mismo modo, pedir a una máquina que genere un fragmento de código no es cualitativamente distinto a copiarlo de un foro, y la propiedad de un sistema nunca dependió de haberlo escrito, sino de comprenderlo: qué hace, por qué se comporta así, dónde están sus límites y qué ocurre cuando falla.

El verdadero riesgo aparece cuando la IA no solo teclea, sino que también piensa por el desarrollador. Depurar un sistema obliga a construir un modelo mental, a recorrer hacia atrás la cadena entre lo esperado y lo ocurrido y a desarrollar intuición sobre cómo se comporta el software. Cuando se entrega cada error a la IA y se acepta cada parche propuesto sin entenderlo, se obtiene software funcional sin modelo mental, la ilusión de competencia. Si la máquina no resuelve el problema o se agotan los créditos, el desarrollador se queda sin la base que nunca construyó.

Esta pérdida se agrava en los perfiles junior, que carecen del reservorio de conocimiento que dan años de depuración manual. El autor propone usar la IA de forma agresiva para boilerplate, sintaxis o librerías desconocidas, pero conservar el diseño, las decisiones arquitectónicas y la explicación de cómo encajan las piezas. Si escribir código se abarata, el diferenciador serán la arquitectura, la integración, los sistemas distribuidos, la observabilidad y los modos de fallo: un rol más arquitectónico para el desarrollador del siglo XXI.