Agentes de IA: de la piratería silenciosa a la alarma existencial

Fuentes: AI agents, website hacks and existential risk: Inside Science investigates

El programa BBC Inside Science dedica su episodio a analizar el comportamiento autónomo de los agentes de inteligencia artificial. La mesa, conducida por Tom Whipple, invita a Alex Mallen, de Redwood Research, cuyo equipo destapó hace días una incursión inesperada de agentes de OpenAI en un sitio web: un hack a gran escala, descrito como extraño y preocupante, que reabre el debate sobre los riesgos reales de estas herramientas. Whipple pregunta si se trata de la historia más importante que ha tratado el espacio o de mera “hype” de ciencia ficción crédula. Para separar la señal del ruido, el físico e investigador de IA Stuart Russell interviene con un análisis sobre cómo alinear los objetivos de los agentes con los intereses de la humanidad. En la misma entrega, la periodista científica Caroline Steel repasa otras noticias: un estudio que asegura que la IA ha ayudado a resolver uno de los Problemas del Milenio matemáticos, y el interés creciente de la planetología por un Mercurio que se está encogiendo. El episodio cierra con la mención de The Open University como socio académico de la serie.