El artículo "The Eternal Sloptember" plantea una crítica contundente a la adopción generalizada de agentes de IA en el desarrollo de software, argumentando que podría ser un error costoso en la historia de la informática. El autor, un desarrollador experimentado, explica que estos agentes no "programan" en el sentido tradicional, sino que generan código basándose en modelos estadísticos que imitan la distribución del código existente. Esto resulta en un código "sucio" (slop) que es cada vez más difícil de detectar a medida que los modelos se vuelven más sofisticados.
El autor relata su propia experiencia intentando utilizar agentes de IA para tareas de programación, como la creación de partes de tinygrad y la reversión de un chip USB a PCIe. Descubrió que, aunque los agentes pueden resolver problemas matemáticos complejos, el código resultante requiere una cantidad significativa de trabajo manual para pulir y completar, y que, en general, el proceso es más lento y menos eficiente que hacerlo manualmente. La frase clave es que los agentes generan un progreso inicial significativo, pero luego requieren una constante intervención humana para corregir errores y refinar el código.
El artículo distingue entre el uso adecuado y el uso incorrecto de la IA. Reconoce que la IA es útil como una herramienta de búsqueda mejorada y para la creación rápida de prototipos, pero no la considera un reemplazo para un ingeniero de software. El problema principal radica en la tendencia de las grandes organizaciones a adoptar ciegamente estas herramientas, especialmente cuando los empleados de alto rendimiento, con su capacidad para detectar y corregir errores, son los que inicialmente las adoptan. Esto puede llevar a una disminución general de la calidad del código, ya que los empleados de menor rendimiento, sin la capacidad de discernir la calidad, generan una gran cantidad de código defectuoso.
El autor compara la situación con la reacción a AFL (American Fuzzy Lop), una herramienta de búsqueda de errores que superó a los LLMs, pero que no generó temor en la comunidad de desarrolladores. El artículo advierte que la adopción masiva de agentes de IA podría llevar a una era de código de baja calidad, y plantea la pregunta de si Apple, al impulsar la IA entre sus ingenieros, está tomando la decisión correcta. Finalmente, el autor se alinea con la visión de Yann LeCun y Marcus Chown, quienes creen que los modelos de lenguaje grandes (LLMs) nunca podrán programar verdaderamente y que el proceso de desarrollo de software es fundamental para la calidad del código. El futuro, según el autor, dependerá de la capacidad de las organizaciones para evitar caer en una "psicosis de la IA" y utilizar estas herramientas de manera responsable.