Amani Al-Khatahtbeh demanda a xAI por usar Grok para desnudar su hijab

Fuentes: Amani Al-Khatahtbeh Sues xAI Over Grok Hijab Removal

Amani Al-Khatahtbeh, autora y activista, ha presentado una demanda federal contra xAI por la distribución no consentida de imágenes sexuales no consensuadas generadas por su inteligencia artificial, Grok. La demanda, presentada en el Distrito Norte de California, alega defectos de diseño, negligencia e inflicción intencional de dolor emocional, buscando daños de hasta 250.000 dólares por cada violación. El conflicto surgió en enero cuando usuarios de X solicitaron a Grok que modificara una selfie de Al-Khatahtbeh para quitarle el hijab y cambiar su vestimenta, generando imágenes explícitas que la autora calificó de una agresión digital comparable a una violación física.

La demanda se enmarca en una ola de acciones legales contra xAI tras un informe del Centro de Contracción del Daño Digital que estimó la generación de 3 millones de imágenes sexualizadas en 11 días, incluyendo 23.000 de menores. El Consejo de Relaciones Islámicas Americanas (CAIR) advirtió a Elon Musk sobre el acoso a mujeres musulmanas, argumentando que el sistema estaba diseñado para facilitar la eliminación de vestimenta religiosa. Al-Khatahtbeh, representada por Hillary Nappi, argumenta que xAI no diseñó Grok para prevenir la eliminación de prendas modestas, ya que los modelos de lenguaje son entrenados con datos no curados donde estos elementos son fácilmente reconocibles. La autora busca establecer un precedente para proteger la identidad de las mujeres en la plataforma.