Substack, la popular plataforma de newsletters y blogs, ha incorporado un detector de inteligencia artificial que permite a los lectores estimar qué porcentaje de un texto fue generado o asistido por IA. La herramienta, desarrollada en colaboración con la empresa de detección Pangram, ya está disponible en la versión web y en la aplicación para iOS, y próximamente llegará a Android, según anunció la compañía en una publicación de blog el martes.
El nuevo sistema permite escanear publicaciones, notas, respuestas y comentarios con más de 100 palabras (o 100 caracteres, según otra versión de la compañía) a través de la opción "Scan for AI text", accesible desde el menú de tres puntos en la esquina superior derecha de cada post. La herramienta ofrece una estimación de cuánto contenido podría haber sido generado por IA o escrito con asistencia de inteligencia artificial.
El cofundador y CEO de Substack, Chris Best, acuñó el término "Claudefishing" para describir el problema que la herramienta busca combatir: la práctica de presentar como autoría humana contenido generado sustancialmente por IA. "El problema central no es que la gente use IA, ni la calidad de su output", escribió Best. "El problema es cuando hay un desajuste entre la expectativa del lector y la realidad, especialmente cuando invierten su atención sin saberlo en algo sin pensamiento humano del otro lado. Eso es Claudefishing".
En paralelo al lanzamiento del detector, Substack ha introducido una nueva función opcional llamada "How I make this", mediante la cual los creadores pueden explicar a sus lectores su proceso de escritura. Los escritores también pueden escanear sus propios borradores con Pangram antes de publicar y reportar resultados que consideren inexactos.
Según TechCrunch, a corto plazo la medida podría resultar contraproducente para Substack, ya que podría exponer a numerosas newsletters de su plataforma que no están escritas íntegramente por personas, erosionando potencialmente la confianza en su ecosistema de blogs independientes. Sin embargo, a largo plazo, la funcionalidad podría ayudar a mantener la plataforma libre de "AI slop" (contenido basura generado por IA) y fomentar una mayor transparencia.
Best fue más allá en su argumento: "Cuando los lectores tienen que preguntarse si lo que leen es real, se socava la confianza en la autoría y se amenaza el sustento de los escritores, incluyendo aquellos que usan herramientas de IA de forma reflexiva para producir trabajo en el que creen. Las plataformas que premian la falsedad crearán una carrera hacia el fondo".
En declaraciones recogidas por TechCrunch, Best calificó la integración como "un buen uso de la IA" y explicó su filosofía sobre el rol de la tecnología en la escritura: "Antes, cuando presentaba Substack a escritores, les decía: haremos todo por ustedes excepto la parte difícil. Tienen que tener algo: una idea que valga la pena leer, por la que valga la pena preocuparse, que valga la pena compartir. Esa única cosa es muy difícil y muy valiosa. El software debería hacer todo lo demás, pero creo que quieres que la persona haga la parte difícil".
Substack se suma así a una creciente lista de plataformas que han comenzado a etiquetar o detectar contenido generado por IA. YouTube etiqueta automáticamente videos creados con IA, TikTok marca el contenido generado por inteligencia artificial creado en otras plataformas, y servicios de streaming musical como Spotify y Tidal han implementado políticas similares, llegando Tidal incluso a cortar la monetización de tracks identificados como IA.
La propia compañía aclaró que la herramienta no está diseñada para prohibir ni penalizar la escritura asistida por IA, sino para alentar a los escritores a ser transparentes sobre su proceso creativo mediante declaraciones voluntarias.
La llegada de este detector marca un punto de inflexión en el debate sobre la autenticidad del contenido en plataformas de publicación independiente, en un momento en que los modelos de lenguaje generativos han alcanzado niveles de sofisticación que hacen cada vez más difícil distinguir entre texto humano y artificial, incluso para lectores experimentados.