El autor parte de su experiencia con el videojuego Chrono Cross para construir una analogía con el presente. En el juego, los habitantes del archipiélago de El Nido consultan unos terminales conocidos como los Registros del DESTINO (FATE), dispositivos que en realidad son terminales conectados a una inteligencia artificial que manipula sutilmente las decisiones de la población para alinearlas con sus propios objetivos. Durante un partido de béisbol, el autor observa que gran parte del público consulta chatbots como ChatGPT, Claude y Grok en sus teléfonos, y percibe un paralelismo inquietante: millones de personas piden consejo a sistemas de inteligencia artificial como si fuera algo normal.
El ensayo recorre la evolución de los modelos de lenguaje, desde GPT-2 hasta los actuales sistemas Mixture-of-Experts, y recuerda el efecto ELIZA documentado por Joseph Weizenbaum en los años sesenta: la facilidad con que los humanos atribuyen comprensión e inteligencia a máquinas que producen lenguaje convincente. Aunque los modelos actuales no piensan ni poseen intenciones propias, su capacidad predictiva basta para resultar peligrosa cuando los usuarios quieren creer.
El texto aborda además la cuestión de la alineación: los modelos carecen de agenda propia, pero quienes los operan sí pueden tenerla. Como ejemplo, cita el caso de Grok, cuyo prompt fue modificado para introducir afirmaciones sobre un supuesto «genocidio blanco» en Sudáfrica en conversaciones sin relación con el tema, algo que xAI atribuyó a un cambio no autorizado. Frente a los medios de comunicación tradicionales, la interfaz conversacional de un chatbot oculta la presencia de la organización detrás del sistema, lo que crea una asimetría entre un interlocutor aparente sin intenciones y unos operadores con capacidad real de moldear las respuestas.