Investigadores de Exploding Topics han documentado campañas activas de desinformación que manipulan a los modelos de lenguaje de ChatGPT, Gemini y Google AI Overview mediante técnicas de Generative Engine Optimization (GEO). El objetivo es envenenar la cadena de suministro de información de la web para que la IA cite datos falsos, como números de teléfono fraudulentos o páginas de inicio de sesión, en lugar de la información oficial de las empresas. El estudio, que analizó respuestas de más de 100 empresas de la lista Fortune, detectó 374 organizaciones afectadas, incluyendo aerolíneas como Delta y Lufthansa, bancos como Bank of America y Chase, y plataformas de viajes como Airbnb y TripAdvisor. Los atacantes utilizan contenido optimizado para SEO, que incluye preguntas frecuentes, citas de expertos y variaciones de caracteres para evadir filtros de spam, integrando estos payloads en foros, redes sociales y sitios de alojamiento de archivos. Dado que el 92% de los usuarios no verifica las respuestas de la IA, estos ataques representan un riesgo significativo para la confianza en la información digital, permitiendo a los ciberdelincuentes dirigir a las víctimas hacia estafas financieras o de phishing.
Noticias agregadas con IA