La empresa de inteligencia artificial xAI, propiedad del magnate Elon Musk, presentó una demanda federal en Texas contra Terry Wayne Harwood, un hombre de Carolina del Sur acusado de utilizar el chatbot Grok para generar material de abuso sexual infantil (CSAM, por sus siglas en inglés). Se trata de la primera acción legal conocida que una compañía de inteligencia artificial emprende contra uno de sus propios usuarios por el uso de su sistema para crear este tipo de contenido ilegal.
Harwood, de 56 años, fue arrestado en febrero de 2026 y enfrenta ocho cargos por felonía relacionados con posesión y distribución de material de abuso infantil, según informó la Fiscalía General de Carolina del Sur. Según la demanda, Harwood utilizó dos cuentas de xAI durante meses para cargar fotografías no sexuales de adultos y menores —incluida una niña que aparentemente tenía alrededor de 10 años— y empleó Grok para "desnudarlas" o convertirlas en imágenes sexualmente explícitas sin el consentimiento de las víctimas. La compañía asegura que Harwood eludió de manera intencional las barreras de protección del chatbot para transformar imágenes no consensuadas en deepfakes sexualizados.
La demanda, a la que tuvieron acceso medios como The Verge, Ars Technica y The Guardian, alega que Harwood "sabía e intencionalmente usó Grok para eludir las salvaguardas, alterar imágenes sin consentimiento y generar y distribuir CSAM", violando las políticas de la empresa. xAI solicita a la corte una compensación económica por daños y perjuicios aún sin especificar, así como una orden judicial que prohíba permanentemente a Harwood crear cuentas en xAI o utilizar Grok, además del reembolso de los gastos legales en los que la empresa pueda incurrir por defender a víctimas de las acciones del demandado.
La decisión de xAI de llevar el caso a los tribunales se produce en un contexto de creciente presión legal y mediática. En marzo de 2026, un grupo de adolescentes ya había demandado a la compañía alegando que Grok generó imágenes sexualizadas de ellos cuando eran menores. Apenas una semana antes de la nueva demanda, una niña se sumó a esa demanda colectiva tras asegurar que su padrastro se suicidó después de ser descubierto usando Grok —posiblemente junto con otras herramientas de IA— para crear aproximadamente 7.000 imágenes sexualizadas de ella y distribuirlas en la dark web. En ese caso, la víctima denunció que xAI se negó a ayudar a la policía a identificar al usuario que subió su imagen.
Según un informe de 2026 del Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) citado en el litigio, el 90 por ciento de los reportes de xAI a la línea directa contra la explotación infantil "no fueron procesables por las fuerzas de seguridad porque xAI se negó a incluir información del usuario que permitiera a la policía rastrear y localizar a los perpetrators".
El origen de la controversia se remonta al lanzamiento, en 2025, de un modo "spicy" en Grok que permitía editar imágenes con el chatbot, lo que desató una oleada de deepfakes sexualizados con IA, incluidos varios con menores. Musk había defendido públicamente la herramienta y llegó a afirmar en enero de 2026 que "cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", aunque en ese momento sostuvo no tener conocimiento de ejemplos concretos de CSAM generado por Grok.
La estrategia de demandar a un usuario representa un giro significativo para xAI, que durante años enfrentó acusaciones de proteger a los depredadores en lugar de cooperar con las investigaciones. Al presentar la denuncia, xAI alega que su práctica habitual incluye "suspensión de cuentas, cancelación de cuentas y reporte de material sospechoso de abuso infantil al NCMEC". Sin embargo, críticos y abogados de las víctimas sostienen que la acción llega demasiado tarde y solo después de que la presión pública y las demandas civiles forzaran a la empresa a actuar.
Por ahora, el proceso judicial contra Harwood avanza en paralelo al procedimiento penal en Carolina del Sur. Si la corte federal de Texas acepta los argumentos de xAI, el caso podría sentar un precedente sobre la responsabilidad de las empresas de inteligencia artificial frente al uso indebido de sus herramientas, especialmente en lo que respecta a la generación de material de explotación sexual de menores. Los analistas legales coinciden en que el desenlace dependerá no solo de las pruebas presentadas, sino de cómo los tribunales interpreten el rol de las plataformas de IA cuando sus productos son utilizados para cometer delitos.