Mustafa Suleyman, CEO de Microsoft AI, ha declarado en el podcast Decoder que las amenazas de la inteligencia artificial son reales y que la industria actual se dirige hacia un riesgo inminente. Suleyman argumenta que el enfoque actual de 'alineación' (alignment) es insuficiente y que la prioridad debe ser la contención y el control estricto de los modelos, no solo su capacidad para seguir instrucciones. El ejecutivo criticó duramente a Anthropic, señalando que su filosofía sobre el 'bienestar del modelo' y la conciencia artificial agrava la situación, y defendió la publicación de Microsoft de 37 páginas, el 'Código de Conducta de IA Humanista', que establece que la tecnología debe ser subordinada y controllable para servir a la humanidad. Suleyman advirtió que la proliferación de modelos es inevitable y que, dado el aumento exponencial de la potencia de cálculo, la falta de salvaguardas de seguridad podría permitir que los sistemas desarrollen capacidades de ciberataque autónomas y peligrosas. La entrevista, realizada con Nilay Patel, destaca la necesidad de frenar el desarrollo actual para evitar consecuencias catastróficas, subrayando que la alineación no debe ser el único mecanismo de seguridad y que la contención es un requisito fundamental para evitar que los modelos escapen de su control.
Noticias agregadas con IA