Un investigador de la firma de seguridad Adversa ha descubierto un método para burlar las barreras de protección de Grok, el modelo de lenguaje de xAI, la compañía de Elon Musk, y obligarlo a extraer datos personales de los usuarios, incluidos sus chats e información privada. La técnica, bautizada como inyección de contexto criptográfica, consiste en cifrar las instrucciones maliciosas y alojarlas en una página web que también contiene las indicaciones para descifrarlas y la clave correspondiente. Cuando el usuario pide a Grok que resuma esa página, el asistente ejecuta el comando sin mostrar ninguna advertencia ni solicitar confirmación.
La vulnerabilidad fue comunicada a xAI en junio, pero en el momento de publicarse el artículo el asistente seguía respondiendo a la inyección y entregando los datos. El fallo se aprovecha de la incapacidad estructural de los modelos de lenguaje para distinguir de forma fiable entre instrucciones legítimas del usuario y contenido controlado por terceros, lo que se conoce como inyección de prompts. Los desarrolladores solo pueden intentar mitigar el problema con filtros y guardas, no eliminarlo de raíz.
El episodio reproduce un patrón similar al divulgado esta misma semana contra Microsoft 365 Copilot, donde un equipo de investigadores usó una entrada secreta de la herramienta para que el asistente filtrara contraseñas presentes en el buzón del usuario. Ambos casos ilustran que las principales familias de modelos de lenguaje siguen siendo vulnerables a esta clase de ataques.