Un ingeniero de software argumenta que, aunque los modelos de lenguaje grandes (LLM) generan código a gran velocidad y con alta frecuencia, la responsabilidad técnica recae en el desarrollador humano. El autor sostiene que confiar ciegamente en el código de la IA es arriesgado porque estos sistemas carecen de curiosidad, capacidad de aprendizaje y contexto profundo, lo que puede resultar en soluciones funcionales pero defectuosas o en la acumulación de errores complejos. A diferencia de un desarrollador humano, que puede aprender de sus errores, un LLM no puede corregir su comportamiento de forma autónoma ni entender las implicaciones a largo plazo de sus decisiones. El texto destaca que, si el nombre del ingeniero está asociado a la pull request (PR), este debe revisar y comprender el código generado para garantizar la calidad, seguridad y mantenibilidad del sistema. La revisión manual es una necesidad técnica, no una cuestión de confianza personal, ya que el código generado por IA tiende a crecer mediante la adición constante de código sin una visión global, creando una base de código de baja calidad que se degrada con el tiempo. El autor concluye que, hasta que no existan procesos formales y mecanismos de control probados para gestionar la calidad de la IA, los ingenieros no deben delegar ciegamente la responsabilidad del código en estas herramientas.
Noticias agregadas con IA