Una creciente fracción de expertos en ingeniería de software está imponiendo restricciones al uso de modelos de lenguaje grandes (LLM) en proyectos de código abierto, argumentando que la calidad del código generado deteriora la eficiencia y la seguridad. Un análisis reciente de las políticas de 120 proyectos reveló que 37 han prohibido totalmente la asistencia de IA, mientras que otros, como el kernel de Linux, exigen atribución explícita de las herramientas utilizadas. Plataformas como Codeberg, Sourcehut y Flathub también han vetado el uso de IA para generar documentación o informes de errores.
El debate se intensifica con la votación actual en Debian sobre si permitir o prohibir contribuciones asistidas por IA. Los críticos señalan que los LLMs producen código plausible pero defectuoso, aprovechando la tendencia humana a confiar en respuestas elocuentes sin verificar su precisión técnica. Esta situación genera una asimetría de información: desarrolladores junior carecen del criterio para distinguir código útil de basura, mientras que los senior enfrentan una carga excesiva de revisiones ineficaces. El texto concluye que la naturaleza estadística de los LLMs, basada en predicciones probabilísticas más que en comprensión real, explica por qué estas herramientas pueden ser contraproducentes si no se supervisan rigurosamente.