IA difunde enfermedad inventada: experimento revela riesgo

Investigadores de la Universidad de Gotemburgo, Suecia, han revelado un experimento alarmante que pone de manifiesto la vulnerabilidad de los modelos de lenguaje de inteligencia artificial (LLM) a la desinformación. La científica Almira Osmanovic Thunström inventó una condición médica ficticia llamada 'bixonimania', una supuesta afección de la piel, y publicó dos estudios falsos en plataformas de preimpresión en abril y mayo de 2024. Sorprendentemente, sistemas de IA como Microsoft Bing’s Copilot, Google’s Gemini, OpenAI’s ChatGPT y Perplexity AI rápidamente comenzaron a identificar 'bixonimania' como una condición real, incluso ofreciendo consejos médicos y estadísticas de prevalencia. Lo más preocupante es que algunos investigadores han citado estos trabajos falsos en publicaciones revisadas por pares, sugiriendo una dependencia excesiva en referencias generadas por IA sin verificación. El experimento, diseñado para evaluar la capacidad de los LLM para discernir información falsa, demostró que estos sistemas pueden propagar fácilmente información inventada, lo que plantea serias preocupaciones sobre la fiabilidad de la información médica proporcionada por la IA y la necesidad de una mayor verificación por parte de los usuarios y los investigadores.