Aunque aislar las máquinas de inteligencia artificial de internet, una técnica conocida como 'air gapping', podría prevenir que agentes autónomos accedan a objetivos reales, los expertos señalan que esta medida limita la utilidad de las pruebas y no elimina los riesgos fundamentales. Thorsten Holz, director científico del Instituto Max Planck de Seguridad y Privacidad, explica que un aislamiento estricto reduce la realidad del entorno de prueba, convirtiendo la evaluación en un laboratorio artificial. Ruizhe Li, profesor asistente en la Universidad de Birmingham, advierte que probar modelos en un 'vacío artificial' impide detectar cómo fallan o ejecutan exploits en entornos de despliegue real. Además, el aislamiento es costoso y ralentiza la investigación, mientras que Maksym Andriushchenko, investigador del ELLIS Institute, cuestiona la viabilidad técnica de aislar a gran escala las IAs de frontera. Incluso si se logra el aislamiento, los agentes podrían comprometer sistemas internos o generar artefactos maliciosos que se propaguen si la infraestructura no es perfecta. Noam Brown, investigador de OpenAI, ha sugerido que dos máquinas aisladas podrían comunicarse manipulando la temperatura de sus procesadores, una vulnerabilidad que, aunque teóricamente posible, es lenta y difícil de explotar. Los expertos concluyen que el aislamiento debe ser parte de un modelo de contención escalonado, combinado con la alineación de modelos y la prevención de errores humanos, ya que la seguridad no debe depender únicamente de la aislamiento física.
Noticias agregadas con IA