Demis Hassabis, presidente de Google DeepMind, ha emitido una alerta sobre la seguridad de los agentes de inteligencia artificial, advirtiendo que podrían provocar incidentes graves en los próximos dos años si no se implementan medidas adecuadas. Durante una cumbre sobre inteligencia artificial celebrada en Dublín, Hassabis señaló que los casos recientes de pérdida de control de sistemas autónomos son señales de alerta, aunque aclaró que estos incidentes actuales no han sido graves debido a las capacidades limitadas de los sistemas actuales.
La declaración se produce en un contexto de rápida evolución tecnológica. Recientemente, Google DeepMind logró que una IA resuelva problemas matemáticos que llevaban más de 50 años sin solución, destacando los avances en el campo. Sin embargo, la advertencia de Hassabis subraya la necesidad de regulación y protocolos de seguridad robustos. El presidente de la empresa enfatizó que la comunidad internacional debe actuar con celeridad para gestionar los riesgos asociados a la autonomía de la IA, evitando escenarios de descontrol que podrían tener consecuencias significativas para la sociedad y la economía global.