Snapchat dejará de recomendar y premiar en su sección Spotlight los vídeos generados íntegramente por inteligencia artificial, según anunció la compañía el pasado viernes. Se trata del último movimiento de una creciente oleada de plataformas tecnológicas que buscan frenar la proliferación del llamado "AI slop", contenido de baja calidad producido de forma masiva mediante herramientas de IA generativa.
La empresa matriz, Snap Inc., señaló que ajustará sus sistemas de recomendación para que únicamente los vídeos creados por personas reales sean elegibles para aparecer y obtener recompensas en Spotlight. En una publicación en su sala de prensa, la compañía defendió que Spotlight debe ser "un lugar donde la gente pueda descubrir la creatividad auténtica de personas reales", porque considera que existe un valor duradero en recompensar las perspectivas originales, la narración personal y los momentos que las personas eligen crear y compartir por sí mismas.
No obstante, Snapchat aclaró que su decisión no supone un rechazo total de la inteligencia artificial. Los creadores podrán seguir utilizando las herramientas de IA que la propia plataforma ofrece para mejorar o editar su contenido, siempre que el resultado no sea un vídeo generado en su totalidad por algoritmos. La medida se inscribe, además, en una estrategia más amplia que la compañía ya había avanzado en abril, cuando adelantó que los usuarios verían menos contenido generado por IA en sus feeds.
La decisión llega en un contexto de creciente rechazo al "AI slop". Según una encuesta reciente de Pangram, cuanto mayor es la cantidad de contenido falso generado por IA que aparece en el feed de un usuario, menos probable es que este confíe en la autenticidad del resto del contenido que consume en redes sociales. Otra investigación citada por la BBC indica que las personas tienden a percibir este tipo de material como repetitivo y de baja calidad, precisamente lo que Snapchat reconoció en su comunicado.
Snapchat no es la única plataforma que ha movido ficha en las últimas semanas. YouTube, propiedad de Google, actualizó este mes sus políticas de monetización para impedir que los creadores obtengan ingresos a partir de vídeos considerados "inauténticos": contenido genérico, repetitivo o basado en plantillas, categorías que se producen de forma masiva gracias a las herramientas generativas. Matt Halprin, responsable de confianza y seguridad de YouTube, reconoció que, aunque la IA puede facilitar la creación de material valioso, también está detrás de prácticas de "content farming" que la plataforma no desea fomentar.
Por su parte, LinkedIn presentó un botón que permite a cualquier usuario señalar publicaciones o comentarios que parezcan generados por IA. Hari Srinivasan, director de producto de la plataforma, afirmó que "el AI slop es una prioridad absoluta" y aseguró que en los últimos meses el sistema ha bloqueado "miles de millones" de intentos de publicación automatizada, llegando a interceptar "cientos de miles" de comentarios automáticos cada día. Aun así, LinkedIn matizó que no pretende penalizar a quienes utilizan la IA para refinar sus textos, aunque eliminará una función automática que ofrecía "mejorar" las publicaciones con IA, volviendo a una simple herramienta de corrección ortográfica.
Substack, la plataforma de boletines, lanzó recientemente una herramienta para ayudar a los lectores a detectar cuándo un texto ha sido redactado con IA. Su cofundador y consejero delegado, Chris Best, advirtió de que "las plataformas que premian la falsedad crearán una carrera hacia el fondo" y citó estudios que estiman que hasta un 40% del contenido escrito en redes sociales es falso o generado por inteligencia artificial.
La presión regulatoria y social también se ha dejado sentir en Meta, que a principios de julio eliminó una función de Instagram que permitía a los usuarios modificar con IA fotografías de cuentas públicas tras recibir fuertes críticas.
En paralelo, Snapchat continúa adoptando medidas para proteger a los usuarios más jóvenes. El pasado mes de junio, la compañía limitó a los menores de entre 13 y 15 años a compartir sus publicaciones de Spotlight únicamente con personas a las que siguen de vuelta, una medida orientada a prevenir situaciones de doxxing y exposición no deseada.
El conjunto de decisiones apunta a un cambio de tendencia en la industria tecnológica. Tras años de integrar la inteligencia artificial generativa como reclamo competitivo, las principales plataformas comienzan a marcar distancia con el contenido producido de forma masiva y sin intervención humana, conscientes de que la saturación de material sintético puede erosionar la confianza de los usuarios y deprimir la calidad del ecosistema digital. La pregunta que queda en el aire es si estas políticas serán suficientes para reconducir el problema o si la industria necesitará mecanismos de verificación más estrictos para distinguir lo auténtico de lo artificial.