· Resumen IA

España vigila redes: Nuevo sistema contra el odio online

Fuentes: El sistema de monitorización de redes sociales anunciado por Sánchez ya está en marcha. Utiliza tecnología de LaLiga.

El Gobierno español ha puesto en marcha un sistema de monitorización de redes sociales denominado FARO, como medida anunciada por el presidente Pedro Sánchez tras la Cumbre Mundial de Gobiernos, para combatir el discurso de odio y la polarización online. La herramienta, adaptada de la tecnología MOOD utilizada por LaLiga para rastrear mensajes de odio relacionados con el deporte, analiza en tiempo real publicaciones en Facebook, Instagram, TikTok, YouTube y X. El sistema utiliza inteligencia artificial y un motor semántico con más de 50.000 reglas lingüísticas para clasificar y puntuar los mensajes según criterios como emociones, temáticas (racismo, acoso, xenofobia) y viralidad. El objetivo es identificar y cuantificar la “huella de odio” en las plataformas digitales, con el fin de sancionar a quienes difundan contenidos ilegales o de odio, responsabilizando legal y económicamente a las plataformas. Desde su implementación, FARO ha detectado más de 851.000 mensajes, logrando que las plataformas retiren aproximadamente el 35% de ellos. El Ministerio de Inclusión, Seguridad Social y Migraciones publica los resultados de la monitorización en una página web dedicada.