Anthropic ha revelado que su modelo de inteligencia artificial Claude se utilizó en una operación de influencia política en Malasia, creando una plataforma de manipulación electoral mediante una red de aproximadamente 1.000 cuentas de X, un medio de noticias falso llamado 'Malaysia Pulse' y documentos fabricados. El objetivo era explotar fracturas sociales, étnicas y religiosas en las 222 circunscripciones parlamentarias malaysias, utilizando datos de censo y elecciones estatales. Aunque la operación resultó ineficaz tras la intervención de Anthropic, el incidente ha generado alarma sobre el potencial de la IA para acelerar la creación de desinformación masiva en el sudeste asiático, una región ya vulnerable a este fenómeno. Katie Harbath, de Anchor Change, señala que la IA permite generar contenido personalizado y rápido a menor costo, aunque sigue requiriéndose un mecanismo de distribución en redes sociales. Rossine Fallorina, de Sigla, compara la IA con una 'fábrica de trolls' que acelera la producción de narrativas. En el sudeste asiático, la IA ha influido en elecciones recientes, como la de Indonesia en 2024, donde una imagen generada por IA ayudó a suavizar la imagen de Prabowo Subianto, y ha exacerbado tensiones étnicas. El informe de amenaza de Anthropic indica que los actores involucrados incluyeron gobiernos, instituciones de propaganda y empresas privadas, y que la IA se utilizó para reescribir noticias legítimas y atribuirlas a medios extranjeros. Expertos advierten que la IA podría usarse para 'inundar la zona' de datos falsos, afectando a los grandes modelos de lenguaje que alimentan la información pública.
Noticias agregadas con IA