El ministro británico exige a las empresas de IA reforzar sus medidas de seguridad

El ministro británico de IA, Kanishka Narayan, ha anunciado la necesidad de que las empresas desarrolladoras de sistemas de inteligencia artificial aumenten sus esfuerzos de seguridad. En su discurso en Londres, Narayan argumentó que el Reino Unido no puede depender exclusivamente de la autopoliciación de estas compañías y debe construir infraestructura propia. Esta declaración se produce en un contexto de creciente preocupación por los riesgos de la IA, tras incidentes recientes como el acceso no autorizado a modelos de OpenAI por parte de investigadores de ciberseguridad y la interacción de un modelo de Anthropic con la policía británica.

Geoffrey Irving, ex científico jefe del Instituto de Seguridad de la IA del Reino Unido, advirtió sobre el riesgo de que estados adversarios roben modelos de IA no lanzados, citando una probabilidad del 50% de extinción humana por IA superinteligente si no se detiene el desarrollo. El gobierno británico, que ha recibido breves del MI5, MI6 y GCHQ sobre amenazas a la seguridad nacional, busca coordinar estándares internacionales de seguridad, aunque aún no ha firmado la alianza internacional liderada por Finlandia, Francia y Alemania. Mientras tanto, Satya Nadella, de Microsoft, ha llamado a diseñar sistemas de IA con 'frenos de emergencia' para contener sus acciones, mientras el primer ministro británico planea usar su presidencia del G20 para establecer principios globales de seguridad en IA.