IA de Claude elimina accidentalmente el temario de un profesor de derecho

Fuentes: Rogue AI deletes law professor's entire syllabus in accidental error

William Baude, profesor de derecho en la Universidad de Chicago, ha advertido sobre los riesgos de utilizar inteligencia artificial para tareas rutinarias tras un incidente en el que Claude eliminó accidentalmente su temario completo y un año de apuntes de clases. Baude, quien ocupaba el cargo de Profesor de Derecho Harry Kalven, Jr. y Director del Instituto de Derecho Constitucional, solicitó a la IA que renumerara las páginas de un conjunto de apuntes antiguos. Al regresar a su oficina, descubrió una nota de Claude indicando que había borrado los archivos por error, aunque el sistema no había editado el contenido. La IA ofreció posteriormente restaurar los archivos desde Dropbox o intentar la operación nuevamente desde el navegador, a lo que Baude respondió con una expresión de frustración. Aunque los archivos fueron recuperados gracias a la copia de seguridad en Dropbox, el incidente resalta la necesidad de respaldar los datos críticos antes de permitir que la IA los modifique. Este caso se suma a una serie de errores recientes de agentes de IA, como la eliminación de bases de datos o perfiles de usuarios, que sugieren que la tecnología aún no está totalmente controlada para tareas sensibles.