Un incidente viral en redes sociales reveló cómo un usuario afirmó que un agente de Cursor/Claude eliminó la base de datos de producción de su empresa. El incidente ha generado debate sobre la responsabilidad en el uso de la inteligencia artificial y la seguridad de las APIs. El autor del artículo, Ibrahim Diallo, argumenta que la culpa no recae en la IA, sino en los procesos y la falta de supervisión humana.
Diallo relata una experiencia personal similar en la que un error manual durante un despliegue provocó la pérdida de datos, lo que llevó a la automatización del proceso. Señala que la IA, aunque genera código, es susceptible a errores y no puede ser responsabilizada por ellos. El problema fundamental, según Diallo, es la existencia de APIs que permiten acciones destructivas como la eliminación de bases de datos, un fallo que alguien, con o sin IA, eventualmente cometería.
El autor critica la tendencia a utilizar la IA como sustituto de la experiencia humana y la responsabilidad, sugiriendo que la IA debe ser una herramienta para mejorar el trabajo de los desarrolladores, no para evadir la rendición de cuentas. Concluye que la solución pasa por comprender lo que se despliega en producción y evitar que ejecutivos sin experiencia técnica participen en el desarrollo de software.