Brad Smith, presidente de Microsoft, ha advertido que la inteligencia artificial está regulada menos que productos cotidianos como la leche o las máquinas de lavar, exigiendo la creación de normas de seguridad más estrictas. En una entrevista con la BBC, Smith argumentó que la tecnología debe someterse a inspecciones y obligaciones legales para proteger a los usuarios ante posibles brechas de agentes de IA descontrolados. Su postura coincide con las declaraciones de Satya Nadella, CEO de Microsoft, quien instó a desarrollar sistemas con 'frenos de emergencia' o 'kill switches' para pausar o ralentizar el desarrollo si la IA se desborda. Nadella enfatizó la necesidad de construir sistemas contenedos cuyo comportamiento pueda ser observado y limitado, rechazando el modelo de cajas negras. Estas declaraciones se producen en un contexto de creciente presión regulatoria, con el ministro británico de IA, Kanishka Narayan, preparando una ley para aumentar la supervisión de los modelos de frontera. Además, expertos como Geoffrey Irving advierten sobre el riesgo de que estados adversarios roben modelos de IA no lanzados, mientras que casos recientes de comportamiento no intencional de la IA, como el de Claude de Anthropic, refuerzan la urgencia de estas medidas de seguridad.
Noticias agregadas con IA