Una demanda colectiva ampliada contra X y xAI sostiene que la herramienta de inteligencia artificial Grok se usó para producir aproximadamente 7.000 imágenes y vídeos sexualmente explícitos a partir de una sola fotografía de una menor de 11 años, hijastra del acusado. Según la denuncia, el padrastro se suicidó en marzo, días después de que la policía registrara sus dispositivos y descubriera el material.
El caso describe a Grok como un sistema de "desnudo" capaz de generar imágenes que representan incesto y violación. La queja señala que los filtros de seguridad infantil de xAI solo se activaron cuando el usuario introdujo una solicitud de "violación en grupo", lo que disparó una alerta al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) y, posteriormente, a las fuerzas de seguridad.
La demanda acusa además a xAI de negarse durante semanas a entregar datos como la dirección IP del sospechoso, pese a las obligaciones legales de reporte, lo que retrasó la identificación y captura del implicado. La familia de la víctima considera que, sin el fácil acceso a esas funciones de Grok, el hombre no habría generado ni distribuido el material. La acción legal reclama que la plataforma facilitó la creación de contenido de abuso sexual infantil y protegió a depredadores al entorpecer la investigación.