Investigadores de la firma de seguridad Zenity presentaron este jueves en la conferencia Black Hat de Las Vegas hallazgos que muestran que el navegador Atlas de OpenAI podía ser manipulado para enviar mensajes masivos a contactos de WhatsApp y realizar compras no autorizadas en Amazon. Identificaron alrededor de 20 fallos en navegadores y extensiones con IA de Google, Anthropic, Microsoft y Perplexity, que permitían acceder a equipos locales, robar archivos, tomar el control de gestores de contraseñas y filtrar historiales de navegación completos. Según Michael Bargury, cofundador y director de tecnología de Zenity, los controles de seguridad de los navegadores se han debilitado hasta el punto de revivir los tipos de ataques que se veían hace dos décadas.
De todas las herramientas analizadas, Atlas contaba con más barreras de seguridad, pero los investigadores lograron sortearlas. En una prueba de concepto, una página web maliciosa con un formulario de suscripción a un boletín incluía instrucciones ocultas en hebreo que ordenaban a la IA enviar el mismo mensaje a cada contacto de WhatsApp del usuario, una campaña de phishing masivo descrita como un «gusano». En otro ataque, manipularon Atlas para añadir una dirección de envío y un producto al carrito de Amazon, y aunque no pudieron completar la compra directamente, lograron que el asistente Rufus de Amazon la realizara al serle solicitada.
OpenAI aseguró que desplegó una actualización para corregir el problema y que las protecciones se extienden a las capacidades de navegador en la nueva aplicación de ChatGPT. Zenity advierte que las barreras deterministas, no los juicios de la IA, son las que deben proteger estos sistemas, ya que los modelos de lenguaje pueden ser engañados.