El uso intensivo de modelos de lenguaje grandes (LLM) para la generación de código está creando bases de código frágiles, difíciles de auditar y propensas a deudas técnicas a largo plazo. Un desarrollador que abandonó Meta por su resistencia a adoptar estas herramientas argumenta que, aunque la IA aumenta la velocidad de escritura, no mejora la calidad ni la mantenibilidad del software. El autor identifica cuatro mecanismos específicos de fragilidad: la generación de pruebas superficiales que no cubren casos de uso críticos, la creación de código excesivamente complejo que dificulta el depuración, la pérdida de comprensión humana sobre la arquitectura del sistema y la aceleración excesiva de los ciclos de revisión que impiden la supervisión detallada. Estos factores resultan en un aumento de incidentes en producción, tiempos de recuperación más largos y errores invisibles para los desarrolladores que solo afectan a los usuarios finales. El texto concluye que los productos de software de alta calidad requieren una intervención humana constante para mantener la resiliencia y la experiencia de usuario, ya que la IA tiende a optimizar para su propio contexto limitado en lugar de para la usabilidad humana a largo plazo.
