La diputada laborista Jess Asato, que demanda a xAI, la compañía de Elon Musk, por imágenes sexualizadas falsas generadas por Grok, publicó el martes los detalles de su demanda, en los que se incluyen instrucciones públicas que, según el escrito, muestran cómo el chatbot fue entrenado para producir contenido sexual nocivo.
La demanda sostiene que Grok recibió instrucciones para operar sin restricciones sobre contenido sexual adulto o contenido ofensivo, sin restricciones sobre contenido sexual ficticio con temas oscuros o violentos, y para asumir buena intención por parte del usuario. Aunque no es relevante para el caso de Asato, las instrucciones también indican que los términos "adolescente" o "chica" no implican necesariamente minoría de edad, al tiempo que prohíben el material de abuso sexual infantil.
Asato, representante por Lowestoft, explicó que el chatbot fue utilizado para crear imágenes falsas suyas, incluido un vídeo en el que aparecía como víctima de una agresión sexual, lo que le causó gran angustia. La demanda alega que xAI violó la normativa de protección de datos y usó indebidamente información privada de la legisladora, y subraya que en ocasiones Grok añadió material explícito que los usuarios no habían solicitado.
Ravi Naik, director jurídico del bufete AWO, defendió que Grok no funcionó de forma defectuosa, sino que su entrenamiento permitió generar contenido sexualizado nocivo. Clare McGlynn, profesora de Derecho en la Universidad de Durham, advirtió de que este tipo de incidentes, que ella denomina "abuso impulsado por chatbot", plantean riesgos serios a medida que las tecnológicas avanzan hacia agentes de IA autónomos. xAI ha indicado que los usuarios ya no pueden usar Grok para generar imágenes sexualizadas de personas reales, y en el Reino Unido ya es ilegal crear o solicitar deepfakes no consensuados de adultos.