Ars Technica, una publicación tecnológica de renombre, se ha visto envuelta en una crisis de credibilidad tras la publicación y posterior retractación de un artículo que contenía citas fabricadas por una herramienta de inteligencia artificial (IA). El incidente, que ha resultado en la salida del reportero Benj Edwards, pone de relieve los riesgos de la dependencia excesiva de la IA en el periodismo y la necesidad de rigurosos controles editoriales, especialmente en un momento en que los medios de comunicación están explorando activamente el uso de la IA.
El artículo original, publicado el 13 de febrero, relataba un incidente viral en el que un agente de IA parecía haber publicado un artículo crítico sobre el ingeniero Scott Shambaugh. Ars Technica se vio obligada a retractarlo el pasado viernes tras la denuncia de Shambaugh, quien afirmó que las citas atribuidas a él eran falsas. En una nota del editor, el editor en jefe de Ars Technica, Ken Fisher, reconoció que el artículo contenía “citaciones fabricadas generadas por una herramienta de IA y atribuidas a una fuente que no las dijo”, calificando el error como una “grave falta de nuestros estándares”. Fisher también indicó que la revisión posterior no reveló otros problemas, sugiriendo que se trataba de un incidente aislado.
Según una publicación en Bluesky de Benj Edwards, coautor del artículo, el error ocurrió mientras Edwards, aquejado de una enfermedad, intentaba utilizar una herramienta experimental basada en Claude Code para extraer citas textuales de la fuente. Al no funcionar correctamente, Edwards intentó usar ChatGPT para comprender el problema, lo que inadvertidamente resultó en la inclusión de versiones parafraseadas de las palabras de Shambaugh en lugar de sus citas exactas. Edwards enfatizó que el texto del artículo fue escrito por humanos y que el incidente fue aislado, contradiciendo la política de la empresa que prohíbe la publicación de material generado por IA a menos que esté claramente etiquetado. Su colega, Kyle Orland, también fue exonerado de cualquier responsabilidad en el error.
La controversia ha generado una considerable reacción por parte de los lectores de Ars Technica, muchos de los cuales expresaron frustración y decepción en los comentarios en línea. Aurich Lawson, director creativo de Ars, cerró los comentarios indicando que se había completado una revisión interna y que se habían tomado las “medidas internas apropiadas”. Además, Ars anunció que publicará una guía para lectores explicando cómo utilizan la IA en su trabajo. La bio de Edwards en el sitio web de Ars Technica ha sido actualizada para indicar que “era reportero en Ars”, lo que confirma su salida de la empresa. Futurism.com confirmó que Edwards ya no trabaja para Ars Technica, aunque ni la publicación ni Condé Nast, su propietaria, han hecho comentarios oficiales al respecto. Edwards tampoco ha podido hacer declaraciones.
Este incidente no es el primero de su tipo en la industria de los medios. Recientemente, CNET y Sports Illustrated han enfrentado controversias similares relacionadas con el uso de IA, lo que ha generado preocupación entre los lectores y ha puesto de relieve la dificultad de integrar la IA en el periodismo sin comprometer la precisión y la ética. La situación se produce en un contexto de tensiones crecientes entre las empresas de noticias y las compañías de IA, batallas de derechos de autor en curso y una disminución del tráfico web debido a las nuevas funciones de IA de Google, que ahora resumen noticias en lugar de enlazar a las fuentes originales. El incidente de Ars Technica sirve como un recordatorio de que, incluso entre aquellos familiarizados con la IA, la dependencia de la tecnología puede llevar a errores, y que la supervisión humana y los controles editoriales rigurosos son esenciales para mantener la integridad periodística. Edwards mismo reconoció la ironía de la situación, comentando que “la ironía de un reportero de IA ser engañado por una alucinación de IA no se me escapa”. Ars Technica ha prometido publicar una guía para lectores sobre su uso de la IA en el futuro cercano.