Este ensayo reflexiona sobre un posible efecto no intencionado de los grandes modelos de lenguaje: en lugar de detonar una explosión de ideas nuevas, podrían estrechar el espacio de lo que se piensa y se publica. Los modelos de IA generativa devuelven, por diseño, la continuación más probable — el centro de masa de todo lo ya escrito — entrenados con datos del pasado y optimizados para predecir lo esperable, no para producir lo verdadero.
El texto argumenta que, ante una idea genuinamente nueva, estos sistemas no la reconocen como tal, sino como un error a corregir. Cuando los humanos tomamos sus respuestas y las reintroducimos como nuevas preguntas, la varianza cultural se reduce: cada iteración filtra las colas, las diferencias se diluyen y la conversación converge hacia un promedio cada vez más genérico.
El ensayo recuerda que todo descubrimiento fue, en su momento, una desviación del consenso: gérmenes invisibles, continentes a la deriva o movimientos de la Tierra fueron registrados como errores antes de imponerse. Un modelo entrenado para reproducir el consenso es, por construcción, una máquina que etiqueta lo nuevo como incorrecto. En ese escenario, lo verdaderamente valioso se invierte: lo abundante y promedio deja de tener valor porque cualquiera lo obtiene gratis, mientras que la rareza — la posición que el modelo marca como errónea y que, aun así, se sostiene — se convierte en el recurso escaso.