El artículo "I Can't Do That, Dave" explora un problema recurrente en la industria del software: la tendencia a repetir errores pasados al adoptar nuevas tecnologías, en este caso, la inteligencia artificial generativa. La premisa central es que la construcción de agentes de IA que simplemente 'dicen sí' rápidamente se vuelve insostenible. La verdadera solución no reside en mejorar la memoria de los agentes, sino en abordar la falta de coordinación y colaboración en el proceso de desarrollo.
El autor argumenta que el significado no se encuentra en el aislamiento, sino en la conversación y la interacción humana. La aplicación de principios de cibernética de segundo orden (donde el observador observa al observador) revela que los agentes que operan en aislamiento carecen de la continuidad y el contexto necesarios para tomar decisiones informadas y efectivas. El problema no es la falta de memoria en los agentes, sino la ausencia de una identidad persistente y una participación activa en el proceso de desarrollo.
El artículo critica el modelo actual de desarrollo de IA, donde los desarrolladores actúan como meros intermediarios entre los expertos en el dominio y los agentes, perpetuando el concepto de "coders in the cellar" (programadores aislados). Se propone un cambio de paradigma: pasar de un enfoque de "prompt in, code out" a uno de "identity in, collaboration out", donde los agentes tengan una identidad persistente, un conocimiento del código base y la capacidad de cuestionar y redirigir.
Para lograr esto, el artículo sugiere la integración de conceptos de ingeniería de software como el lenguaje ubicuo de Domain-Driven Design (DDD) y la persistencia de la identidad del agente junto con el código, utilizando herramientas como git y un proyecto llamado cairn para registrar y verificar el trabajo realizado por los agentes. La clave está en crear un 'terreno' sólido para los agentes, permitiéndoles tener una 'posición' y negarse a aceptar soluciones deficientes, lo que finalmente conduce a un desarrollo más coherente y de mayor calidad. El artículo concluye que el objetivo no es lograr un 'sí' más rápido, sino un 'no' fundamentado, proveniente de un agente con experiencia y conocimiento.