IA escribe código: ¿quién garantiza su seguridad?

La creciente adopción de la inteligencia artificial (IA) en el desarrollo de software, con empresas como Google y Microsoft utilizando IA para generar entre el 25% y el 30% de su código, plantea serias preocupaciones sobre la verificación y seguridad. Recientemente, Anthropic desarrolló un compilador C de 100.000 líneas utilizando IA en solo dos semanas, demostrando la velocidad con la que se está produciendo este cambio. Sin embargo, este código generado por IA a menudo carece de verificación formal, lo que aumenta el riesgo de errores y vulnerabilidades. Un estudio de Veracode revela que casi la mitad del código generado por IA falla pruebas de seguridad básicas, y la tendencia no mejora con modelos más grandes. El artículo advierte que la aceleración de la producción de software por IA supera la capacidad actual de verificación, creando una 'brecha de verificación' que podría llevar a errores catastróficos, como el fallo Heartbleed, pero a una escala mucho mayor. La solución propuesta no es frenar la IA, sino integrar la verificación formal, como pruebas matemáticas, para garantizar la corrección del código generado, convirtiendo la especificación y el diseño en el nuevo punto de fricción productivo.