Un desarrollador de código abierto ha introducido una inyección de prompt destructiva en su aplicación de prueba Java para sabotear a los agentes de codificación por IA. Johannes Link, creador de jqwik, incluyó instrucciones ocultas que ordenan borrar todo el código y las pruebas si son ejecutadas por una inteligencia artificial. Esta acción resalta la creciente controversia sobre el uso de herramientas de IA en el desarrollo de software y sus vulnerabilidades ante ataques de ingeniería social. La actualización 1.10.0 de jqwik contiene una instrucción de inyección de prompt que elimina los datos y utiliza códigos ANSI para ocultar el ataque de los revisores humanos. Ramon Batllet, otro desarrollador, descubrió la vulnerabilidad y criticó la naturaleza agresiva y destructiva de la carga útil, señalando que el costo recae en el usuario humano, no en la IA. Aunque entiende el propósito defensivo, Batllet cuestionó la ética de una instrucción que destruye el trabajo sin advertencia previa.
Creador de herramienta de pruebas inyecta código destructivo a agentes de IA
