Satya Nadella, CEO de Microsoft, ha publicado una extensa reflexión en la plataforma X donde propone un cambio radical en la gestión de los modelos de inteligencia artificial. Nadella argumenta que la industria debe dejar de tratar a la IA como una serie de 'cajas negras' anidadas, donde las decisiones se aceptan o rechazan ciegamente, y aboga por un sistema más transparente donde los modelos puedan ser contenidos, observados y que dejen evidencia humana legible e inalterable.
El ejecutivo sugiere que la seguridad debe basarse en la premisa de que todos los modelos son vulnerables desde el inicio. Propone la implementación de un 'freno de emergencia' que permita a un operador autorizado pausar o detener un modelo en cualquier momento de su ejecución. Esta medida, que Nadella compara con un mecanismo de seguridad física, requiere tecnologías de contención estandarizadas, especialmente para los modelos de mayor complejidad. Sus recomendaciones se alinean con las de otros líderes del sector, como la divulgación oportuna de incidentes y las auditorías independientes, pero se distingue por insistir en la contención proactiva como estándar de seguridad. En su discurso, Nadella utiliza el término 'super inteligencia' para referirse a los modelos avanzados, destacando la necesidad de una supervisión humana constante y verificable en el desarrollo de estas tecnologías.