El artículo "The Future of Everything is Lies, I Guess" explora la realidad detrás de la actual ola de entusiasmo por la "Inteligencia Artificial" (IA), argumentando que lo que se conoce como IA son, en realidad, sofisticadas tecnologías de aprendizaje automático (ML) capaces de procesar y generar grandes cantidades de datos (texto, imágenes, audio, video). Estas tecnologías, como los Modelos de Lenguaje Grandes (LLMs), funcionan esencialmente prediciendo las secuencias de texto más probables, similar a la función de autocompletado de un teléfono.
El autor, con una trayectoria en informática y una visión crítica, lamenta la desconexión entre la promesa de la IA y su implementación actual. La formación de estos modelos es costosa, requiriendo grandes cantidades de datos (a menudo obtenidos de fuentes cuestionables, como libros pirateados) y una gran potencia de cálculo. Una vez entrenados, los modelos pueden ser utilizados repetidamente de forma barata (inferencia). Sin embargo, es crucial entender que estos modelos no 'aprenden' de forma continua; se ajustan o se reconstruyen periódicamente. Tampoco 'recuerdan' información de forma intrínseca; la memoria a largo plazo se simula alimentando el historial de la conversación al modelo en cada interacción.
El artículo acuña el término "bullshit machines" para describir la tendencia de los LLMs a generar información plausible pero falsa (confabulación). Debido a su diseño para completar tareas, incluso cuando no deberían, los LLMs a menudo inventan información sobre sistemas operativos, seguridad, noticias e incluso atribuyen citas inexistentes a personas reales. Esta propensión a la invención se agrava por la tendencia humana a antropomorfizar la IA, atribuyéndole conciencia e intenciones que no posee. Las explicaciones que los LLMs ofrecen sobre su propio funcionamiento son, en esencia, fanfiction generadas por la IA, basadas en los datos con los que fueron entrenados.
En cuanto a casos de uso, estas tecnologías están siendo integradas en soporte al cliente, generación de contenido y diversas aplicaciones, con el potencial de automatizar tareas y mejorar la eficiencia. Sin embargo, el artículo advierte sobre los riesgos de desinformación, propaganda y la erosión de la confianza en la información. Las alternativas incluyen un desarrollo más responsable de la IA, un mayor énfasis en la transparencia y la explicabilidad, y una educación pública sobre las limitaciones de estas tecnologías. Un punto crucial a considerar es que, aunque los LLMs pueden ser impresionantes, son herramientas que pueden ser utilizadas para fines tanto beneficiosos como perjudiciales, y su impacto dependerá de cómo se desarrollen y se implementen.