Estudio revela que chatbots de IA recomiendan sitios web falsos

Fuentes: Study finds AI chatbots recommending fake retail websites

Un estudio realizado por la empresa de protección de propiedad intelectual Podqi, compartido exclusivamente con The Verge, ha revelado que los chatbots de inteligencia artificial como ChatGPT, Gemini y Perplexity recomiendan sitios web falsos o de riesgo a los usuarios que buscan productos o vendedores. La investigación, que analizó 6.795 respuestas obtenidas mediante preguntas específicas sobre 151 marcas de moda y hogar, determinó que los modelos de IA citan frecuentemente sitios que impersonan a minoristas reales, venden productos falsificados o son dominios inactivos. Perplexity fue el peor rendimiento, mostrando sitios de riesgo en el 15% de las respuestas, mientras que Gemini de Google fue el mejor, con solo un 4%. ChatGPT se situó en el medio, con un 8% de menciones, aunque destacó por ofrecer advertencias en el 24% de los casos. Los expertos advierten que este problema es especialmente relevante durante la temporada de compras navideñas, cuando los consumidores buscan precios bajos y disponibilidad. Trevor West, CEO de Podqi, recomienda a los usuarios verificar siempre la fuente de la información antes de introducir datos personales o tarjetas de crédito. Las empresas de IA han respondido con declaraciones que destacan sus esfuerzos para mejorar la precisión y la seguridad de sus modelos, aunque admiten que los errores son inevitables en la era de la inteligencia artificial.