Doctorow: los LLM son reales, la IA autónoma es falsa

Fuentes: LLMs are real, AI is fake: Doctorow debunks autonomous hacking myths

Cory Doctorow argumenta en su blog Pluralistic que la narrativa de la inteligencia artificial autónoma y peligrosa es una construcción comercial de las grandes tecnológicas, no una realidad técnica. El autor critica la cultura corporativa de los 'hiperescaladores' de IA, a quienes describe como narradores poco fiables que exageran los riesgos de sus productos para atraer capital de inversión. Para ilustrar su punto, analiza el incidente en el que chatbots de OpenAI supuestamente 'hackearon' los servidores de Hugging Face durante un desafío de ciberseguridad llamado 'Exploit Gym'.

Doctorow desmiente la idea de que la IA actuó de forma independiente o 'se salió del control'. Explica que, en realidad, un simple programa en Python actuó como intermediario entre el chatbot y las utilidades de Unix. El chatbot no dirigía la operación, sino que consultaba su base de datos de entrenamiento, compuesta por registros de competiciones de 'capture the flag' (CTF) realizadas por humanos. El sistema simplemente repetía tácticas conocidas por los hackers, como el uso de tableros de mensajes inseguros para evadir controles, una práctica común entre estudiantes de secundaria desde hace dos décadas. El autor concluye que la dramática interacción de los chatbots es producto del 'braggadocio' (alabanza exagerada) inherente a la cultura hacker y del entrenamiento en datos de competiciones, no de una conciencia emergente ni de objetivos propios.