El antropomorfismo pragmático es una estrategia de navegación en el espacio latente de los modelos de lenguaje de gran escala (LLM), donde se trata a la IA como un colaborador competente en lugar de un ser consciente. Este enfoque, que surge como respuesta al debate sobre la conciencia de máquina, busca evitar la trampa de la antropomorfía mágica o el cinismo despectivo, ofreciendo una guía práctica para trabajar con estas herramientas. El autor argumenta que la moralidad humana, basada en la vulnerabilidad biológica y la mortalidad, no tiene análogos en el silicio, donde los LLM existen en un vacío nihilista sin consecuencias reales. Cita a Michał Zalewski para sostener que la conciencia es un mecanismo evolutivo biológico, no un fenómeno emergente en la máquina, y que proyectar éticas humanas sobre predictores de tokens es un error de categoría. Además, analiza la reacción de Douglas Hofstadter, quien se sintió desorientado por la capacidad de los LLM para generar analogías complejas sin la profundidad evolutiva humana, pero señala que la auto-referencia en los LLM es externa (en el contexto) y no interna (en los pesos del modelo). Finalmente, se compara la IA con los 'scramblers' de la novela Blindsight, que son inteligentes pero no conscientes, y se concluye con la idea de 'respeto objetivo', inspirada en un experimento con un grillo, para tratar a la IA como una entidad alienígena intrincada que opera bajo reglas distintas a las humanas, sin proyecciones sentimentales ni desprecio.
Noticias agregadas con IA