Este artículo de blog, escrito por Space en Nicole.express, expresa una creciente preocupación sobre la proliferación de información errónea en internet, exacerbada por el auge de los modelos de lenguaje grandes (LLMs). El punto de partida es un juego de Sega Genesis japonés llamado Phantasy Star Fukkokuban, una curiosa edición que combina un juego de Master System dentro de un cartucho de Genesis. El autor se frustra al descubrir que los resultados de búsqueda, especialmente artículos de sitios web desconocidos, ofrecen información inventada sobre este juego, como gráficos mejorados y efectos visuales inexistentes.
El problema radica en cómo los LLMs, al carecer de datos precisos sobre temas oscuros como Phantasy Star Fukkokuban, recurren a la generación de contenido plausible pero falso, basándose en lo que podría ser un juego reimaginado. Esto se ejemplifica con la respuesta de ChatGPT, que describe erróneamente el juego como una compilación retro para Sega Saturn, confundiendo la información con la de Phantasy Star Collection. El autor argumenta que esta tendencia no es nueva (el SEO ya incentivaba la creación de contenido superficial), pero los LLMs la han simplificado enormemente, permitiendo la generación masiva de información falsa con un mínimo esfuerzo. Los sitios web, impulsados por la publicidad y el deseo de obtener tráfico, priorizan la apariencia de autoridad sobre la precisión factual.
El artículo critica la falta de rigor en la creación de contenido online, sugiriendo que incluso sitios web de reputación (como Ars Technica) están cediendo a la tentación de usar LLMs para generar contenido rápido y barato, arriesgando su credibilidad. El autor lamenta la pérdida de la confianza en internet y la necesidad de limitarse a fuentes establecidas y pre-LLM para obtener información fiable. Aunque reconoce que los LLMs eventualmente mejorarán su capacidad para integrar fuentes de información más precisas, el daño a la integridad de la web ya es significativo. El autor concluye que, si bien este problema no es el más grave asociado a la inteligencia artificial, es una señal preocupante sobre el futuro de la información online.