Expertos advierten de los riesgos de la IA agéntica y la necesidad de regulación

Científicos expertos en inteligencia artificial advierten que el debate sobre la destrucción de la humanidad por la IA se centra en la IA agéntica, no en la generativa. Estos sistemas, con mayor autonomía y complejidad, actúan de forma independiente en sectores críticos como la energía o la seguridad, generando riesgos geopolíticos y de ciberseguridad. Alicia Ortiz de Zárate, de la Universidad Autónoma de Madrid, explica que los agentes de IA pueden tomar decisiones autónomas, como gestionar pagos o seguridad, sin supervisión humana directa. Nuria Oliver, de la fundación Ellis Alicante, señala que los riesgos van más allá de la tecnología, afectando a infraestructuras esenciales y criticando la falta de responsabilidad corporativa. Ramón López de Mántaras, del IIIA-CSIC, desmiente la narrativa de que los agentes se 'rebelen' o que el desarrollo se 'ralentizará', argumentando que la solución no es frenar, sino reorientar la IA hacia productos transparentes y controlables. Los expertos coinciden en que la implantación de estos sistemas no es inevitable, pero sí lo es su alto coste ambiental. La regulación europea actual y la gobernanza internacional son vistas como herramientas clave para delimitar responsabilidades y garantizar la seguridad de la sociedad.