Este artículo explora una crítica profunda al uso excesivo de modelos de lenguaje grandes (LLMs) como GPT, argumentando que, si bien pueden ser eficientes, pueden erosionar nuestro intelecto. La analogía central es el botón 'I'm Feeling Lucky' de Google: imagina un mundo donde cada búsqueda te entregara la respuesta perfecta de inmediato. Aunque conveniente, este escenario privaría a tu mente de la valiosa experiencia adquirida a través de la investigación, el debate, la confrontación con ideas contradictorias y la navegación por fuentes de información imperfectas.
El autor sostiene que el verdadero crecimiento intelectual no proviene de la mera adquisición de información, sino de la experiencia de procesarla. Esta experiencia implica lidiar con información contradictoria, identificar sesgos, evaluar la credibilidad de las fuentes y construir modelos mentales para comprender el mundo. Los LLMs, al proporcionar respuestas aparentemente definitivas, eliminan esta necesidad de pensamiento crítico y análisis profundo. Aunque los LLMs no son perfectos (y rara vez lo son), la gente tiende a sobreestimar su capacidad, especialmente en áreas donde su propio conocimiento es limitado (el efecto Gell-Mann Amnesia). Incluso cuando parecen seguros, pueden estar aproximando, exagerando o simplemente reproduciendo errores.
La preocupación principal no es que los LLMs mientan activamente, sino que su fluidez y aparente certeza ocultan la incertidumbre inherente al proceso de conocimiento. Esta 'suavidad' intelectualmente corrosiva nos impide desarrollar la capacidad de detectar errores, cuestionar suposiciones y comprender las limitaciones del conocimiento. El autor no descarta el uso de LLMs por completo, reconociendo su utilidad para tareas repetitivas y automatizables, pero advierte sobre el peligro de depender de ellos para la adquisición de conocimiento y el desarrollo intelectual. En esencia, el artículo aboga por un enfoque más activo y crítico del aprendizaje, donde la búsqueda de la verdad sea un proceso de exploración y descubrimiento, no simplemente una transacción de información.