El último episodio del pódcast Equity, de TechCrunch, aborda el debate sobre la conveniencia de desarrollar superinteligencia artificial en un contexto marcado por recientes fallos de seguridad. La periodista Rebecca Bellan entrevista a Connor Leahy, investigador en IA, empresario y nuevo director ejecutivo en Estados Unidos de la organización sin ánimo de lucro ControlAI, que aboga por prohibir el desarrollo de superinteligencia.
Leahy sostiene que los riesgos de crear sistemas más capaces que los humanos han superado la capacidad de gestionarlos únicamente con técnicas de alineación y contención. A su juicio, incidentes recientes, como la brecha de seguridad de OpenAI en Hugging Face, ilustran la dificultad de controlar de forma fiable el comportamiento de estos modelos.
El investigador también señala que propuestas que hace seis meses parecían inviables empiezan a encontrar respaldo en una nueva ola de legislación. ControlAI impulsa un enfoque más radical en seguridad de IA: detener los proyectos de superinteligencia antes de que avancen, en lugar de regularlos una vez entrenados. La conversación repasa tanto los argumentos técnicos como el creciente consenso político que, según Leahy, está replanteando los límites del desarrollo de inteligencia artificial avanzada.