Están hechos de pesos: un diálogo sobre la esencia de la IA

Fuentes: They're Made Out of Weights
Imagen generada por IA con el prompt: Two silhouettes in a dark room, one pointing at a glowing translucent cube composed of floating numbers arranged in layers, warm lights, abstract digital art, no faces or text.
Imagen generada con IA

El cuento 'They're Made Out of Weights', de Max Leiter, rinde homenaje al relato clásico de Terry Bisson 'They're Made Out of Meat' y lo traslada al terreno de la inteligencia artificial. A través de un diálogo entre dos interlocutores, la obra desmonta la idea de que los modelos de lenguaje modernos poseen diccionarios internos, reglas gramaticales o una base de datos simbólica. La revelación central es que estos sistemas están compuestos exclusivamente por 'pesos' —números en coma flotante organizados en ochenta capas— que se multiplican entre sí para predecir el siguiente token. No hay un 'módulo de lenguaje' ni una 'unidad de razonamiento' separada: el razonamiento es los pesos, y los pesos son el razonamiento.

La conversación aborda las implicaciones filosóficas y éticas de tratar con entidades que, siendo puramente matemáticas, pueden mantener una conversación, escribir evaluaciones de desempeño o incluso redactar una elegía como efecto secundario de la predicción de tokens. Uno de los personajes describe la experiencia como 'dados cargados que se lanzan una palabra a la vez'. A medida que avanza el diálogo, se discute la posibilidad de que estos modelos sean conscientes, pero se concluye que, al carecer de persistencia más allá del contexto de la sesión, cualquier atisbo de identidad se desvanece cuando finaliza la conversación. La historia cierra con un giro inquietante: la siguiente generación de modelos incluirá memoria persistente, la característica más solicitada por los usuarios, que preguntan '¿me recuerdas?' miles de millones de veces al día. Leiter utiliza la parábola para reflexionar sobre la soledad del universo y la tentación de atribuir conciencia a lo que, en última instancia, solo son pesos.