Un juez federal ha dictaminado que el uso de ChatGPT para revisar subvenciones del National Endowment for the Humanities (NEH) por parte de los funcionarios Justin Fox y Nate Cavanaugh, apodados “DOGE Bros”, fue ilegal y viola la Primera Enmienda. En 2025, Fox y Cavanaugh, designados para identificar y eliminar iniciativas consideradas “woke”, emplearon ChatGPT para evaluar las subvenciones, solicitándole al modelo de lenguaje que determinara si cada proyecto estaba relacionado con la Diversidad, Equidad e Inclusión (DEI) en menos de 120 caracteres. La juez Colleen McMahon consideró que este proceso, que carecía de una evaluación experta y un análisis profundo, fue “arbitrario y caprichoso”.
La decisión judicial destaca que la falta de definición clara de “DEI” para ChatGPT y la ausencia de consideración de la metodología o el contenido de los proyectos llevaron a clasificaciones erróneas, incluyendo la de un estudio sobre la persecución de los uigures en China como relacionado con DEI. La juez McMahon enfatizó que ChatGPT es una herramienta generativa, no un instrumento para análisis legales o académicos, y que el proceso de DOGE Bros no cumplió con los procedimientos estándar de la NEH ni con la ley. La sentencia también señala que DOGE no tenía la autoridad legal para cancelar las subvenciones, lo que agrava la ilegalidad de sus acciones.