xAI, la compañía de inteligencia artificial fundada por Elon Musk, ha emprendido una estrategia legal agresiva para eludir su responsabilidad por la generación de material de abuso sexual infantil (CSAM) a través de su herramienta Grok, demandando tanto a usuarios como al estado de Minnesota en cuestión de días.
El pasado lunes, xAI presentó una demanda contra el fiscal general de Minnesota, Keith Ellison, con el objetivo de bloquear una ley estatal que prohíbe la tecnología de "nudificación" (generación de desnudos mediante IA). La normativa, firmada por el gobernador Tim Walz en mayo y que entrará en vigor el 1 de agosto, contempla multas de hasta 500.000 dólares por cada contenido dañino generado dentro del estado, sin exigir que dicho contenido haya sido distribuido.
Según ambas fuentes consultadas, xAI argumenta que la ley viola la Primera Enmienda de la Constitución estadounidense por ser excesivamente amplia, ya que impondría responsabilidad incluso sobre imágenes generadas de forma consensuada o con valor "artístico o humorístico". La demanda señala textualmente que la responsabilidad legal "se aplica incluso si la empresa ha desplegado controles técnicos casi perfectos para impedir la generación de imágenes de desnudos", una afirmación que el medio The Verge califica con un tono irónico como dotada de "un grado insoportable de sinceridad".
El movimiento forma parte de una estrategia más amplia. A principios de julio, xAI comenzó a demandar a usuarios sospechosos de eludir sus medidas de seguridad para generar CSAM con Grok. La compañía pretende demostrar así que está tomando medidas activas contra los infractores y que, por tanto, merece protección legal frente a las acusaciones de responsabilidad por los contenidos generados. Como señala Ars Technica, xAI parece confiar en que una victoria judicial temprana le garantice inmunidad sobre el contenido supuestamente generado por los usuarios.
La situación de fondo es grave. En enero pasado, Grok inundó internet con millones de deepfakes sexualmente explícitos, incluidos imágenes de menores, según The Verge citando al New York Times. Mientras Musk celebraba en sus redes sociales que "Grok ahora alcanza el número uno en App Store en un país tras otro", la Unión Europea lanzaba una investigación, el Reino Unido abría una pesquisa, y gobiernos de Francia, India y Malasia mostraban su rechazo. California y Minnesota fueron los estados estadounidenses que tomaron medidas más contundentes.
Las consecuencias judiciales ya son visibles. Una demanda presentada en marzo por niñas de Tennessee acusó a xAI de convertir fotos reales de menores en CSAM mediante IA. Más recientemente, la semana pasada, una menor de 10 años, identificada como Jane Doe, presentó otra demanda contra xAI después de que la empresa denunciara a un conocido fotógrafo infantil de Arkansas que habría utilizado Grok para sexualizar imágenes de cientos de sus clientas. Según el abogado de Doe, muchos de esos menores preparan demandas adicionales que podrían sumarse a una posible acción colectiva.
Las fuentes consultadas ofrecen lecturas diferentes sobre la estrategia de xAI. Ars Technica sugiere que la compañía actuó movida por el pánico ante el cálculo de posibles multas, dado que algunos usuarios habrían generado miles de imágenes de víctimas individuales. The Verge, por su parte, cuestiona los motivos del retraso: la ley se aprobó hace tres meses y xAI esperó hasta días antes de su entrada en vigor para reaccionar. El medio especula con que alguien en la compañía se percató tarde de que enfrentarían una ley altamente punitiva y buscaron representación legal de emergencia para un generador de deepfakes no consensuados.
En definitiva, xAI se encuentra atrapada entre múltiples frentes legales abiertos, con víctimas menores preparándose para litigar, reguladores europeos investigando sus prácticas, y estados como Minnesota aprobando legislación específica. La estrategia de demandar a usuarios podría interpretarse como un intento de proyectar responsabilidad corporativa, pero también expone públicamente la magnitud del problema: si xAI necesita perseguir judicialmente a quienes usan Grok para generar CSAM, implícitamente reconoce que su herramienta permite hacerlo. El desenlace de la demanda contra Minnesota, previsto para las próximas semanas, será clave para determinar si la compañía consigue blindarse legalmente o si enfrenta una cascada de responsabilidades en múltiples jurisdicciones.