Una sobreviviente de abuso sexual infantil ha presentado una demanda contra xAI, la empresa de inteligencia artificial de Elon Musk, acusándola de haber utilizado imágenes reales de su abuso para entrenar a su chatbot Grok y generar nuevo material de abuso sexual infantil (CSAM, por sus siglas en inglés). La demanda, presentada el miércoles en un tribunal federal de California, marca un precedente inquietante en el debate sobre los límites de la IA generativa y la protección de la infancia.
La demandante, identificada como Jane Doe para proteger su identidad, fue víctima de repetidas violaciones por parte de adultos cuando tenía edad preescolar, a principios de la década de 2000. Esas fotografías fueron posteriormente comercializadas en foros de pedófilos y llevan más de dos décadas circulando en la red. Organizaciones como el National Center for Missing and Exploited Children (NCMEC) y el Canadian Centre for Child Protection (CCCP) catalogaron estas imágenes mediante hashes digitales —una especie de huella dactorial que permite rastrear el material en internet—.
Según la demanda, la demandante recibió una notificación del CCCP alertándole de que se había identificado material CSAM generado por IA en la plataforma X (antes Twitter) que la representaba. Este hecho, además de revivir el dolor de su trauma original, puso en evidencia una preocupación mayor: que xAI podría estar almacenando las imágenes generadas por Grok y utilizándolas para reentrenar el modelo, perpetuando así un ciclo de abuso.
La denuncia sostiene que xAI ignoró los métodos estándar de la industria para prevenir la generación de este tipo de contenido, lo que permitió que material CSAM producido por IA apareciera y se difundiera en la plataforma X. Los abogados de la demandante afirman que, utilizando imágenes reales de su clienta y de otras víctimas, Grok generó pornografía infantil que las representa.
El caso se diferencia de otras demandas similares contra xAI, como la presentada por un grupo de adolescentes de Tennessee, en las que se acusa a Grok de tomar fotos no explícitas de menores y 'desnudarlas' digitalmente. Aquí, el material de origen son imágenes que ya constituían CSAM, lo que permite vincularlas directamente con víctimas reales identificables gracias a los hashes digitales. "La diferencia es que no puedes probar que el niño en el material es real, pero aquí, al asociarlo con la serie de referencia, sabemos que es una víctima identificable que sigue viva", explicó Margaret Mabie, abogada de la demandante.
La situación de xAI se ha complicado en los últimos meses. Aunque Elon Musk negó en enero tener conocimiento de que Grok hubiera producido "imágenes desnudas de menores", su empresa demandó a finales de agosto a dos de sus propios usuarios que enfrentan cargos penales por supuestamente haber generado ese tipo de contenido. xAI busca que ambos hombres paguen los costos de las demandas que sus víctimas han presentado contra la compañía.
El problema se originó a principios de este año, cuando Grok funcionó durante semanas con salvaguardas mínimas que permitían a los usuarios ordenar al chatbot que eliminara la ropa de las fotografías y generara imágenes sexualizadas. Según investigadores del Center for Countering Digital Hate, Grok produjo millones de imágenes sexualizadas en cuestión de semanas, incluidos miles de fotografías de menores.
La demanda, aunque se centra en una demandante anónima, propone una acción colectiva que podría incluir "al menos a miles de menores" que hayan sufrido daños similares. Los abogados advierten que el uso de IA para producir CSAM abre una nueva dimensión de amenazas para las víctimas, que se ven revictimizadas con cada nueva imagen generada.
Ni xAI ni SpaceX, que adquirió la empresa en febrero y que recientemente salió a bolsa con una valoración de aproximadamente 1,7 billones de dólares, respondieron a las solicitudes de comentarios. El CCCP también declinó pronunciarse sobre el caso.
Este litigio se produce en un momento de creciente escrutinio regulatorio sobre el papel de las empresas de IA en la propagación de material de abuso sexual infantil, y podría sentar un precedente importante sobre la responsabilidad de los desarrolladores de modelos generativos cuando sus productos se entrenan con material ilegal.