Reddit ha incorporado modelos de lenguaje de gran tamaño (LLM) a sus sistemas de detección de spam, el mismo tipo de tecnología que, según la compañía, está detrás de buena parte del contenido no deseado que inunda la plataforma. La empresa asegura que estas nuevas herramientas identifican patrones coordinados y comportamientos artificiales que los filtros tradicionales pasaban por alto, y que entre enero y marzo redujeron en un 20% la exposición de los usuarios al spam respecto al trimestre anterior.
En cifras concretas, Reddit bloquea cada día unos 23 millones de visualizaciones de spam y detecta alrededor de 25.000 publicaciones y comentarios fraudulentos nuevos al día. La compañía enmarca la medida en una estrategia más amplia para preservar la autenticidad del contenido en plena era de la inteligencia artificial generativa.
El problema es transversal: YouTube, Meta e Instagram ya permiten publicar contenido generado por IA siempre que se indique, y TikTok ha ido un paso más allá al permitir a los usuarios elegir cuánto contenido sintético quieren ver. Reddit, en cambio, apuesta por aplicar la IA a la detección en lugar de a la divulgación.
Expertos en moderación de plataformas recuerdan, no obstante, que los sistemas automatizados deben complementarse con revisión humana para ser realmente eficaces. La propia rapidez con la que los LLM detectan contenido sintético abre la puerta a acelerar también la señalización de discursos de odio u otras violaciones de las normas, siempre que se combine con criterios y supervisores humanos.