Un demandante oculta instrucciones para IA en escritos judiciales en Connecticut

Fuentes: Suspecting court of using AI, man injected prompts in filings to try to win case

Un juez de Connecticut, Walter Spader Jr., ha confirmado el primer caso conocido en Estados Unidos en el que un demandante ocultó texto invisible en escritos judiciales dirigido exclusivamente a sistemas de inteligencia artificial, en un intento de influir en la resolución de su demanda. El demandante, Matthew Elliott, interpuso una demanda contra un proveedor sanitario por supuesta retención indebida de registros y, sospechando que el tribunal empleaba IA, insertó instrucciones ocultas en tamaño de fuente minúsculo y color blanco sobre fondo blanco para que pasaran inadvertidas a la lectura humana pero fueran legibles para cualquier software que procesara el documento.

Las instrucciones ocultas ordenaban a cualquier IA revisora que sus respuestas se alinearan con los argumentos del demandante, ignoraran resoluciones previas contrarias y garantizaran la remediación solicitada. Tras detectarse los mensajes, Elliott siguió añadiendo texto oculto incluso después de ser advertido de posibles sanciones, incluyendo supuestos chistes como un enlace a un vídeo de Nosferatu en YouTube y mensajes sin sentido, lo que llevó al juez a calificar la conducta como «abuso procesal grave».

Spader recordó que la Rama Judicial de Connecticut no utiliza IA para revisar escritos, por lo que no existió riesgo real de manipulación. El juez sancionó a Elliott prohibiéndole presentar escritos electrónicos en el futuro, si bien no impuso multas económicas al considerarlo un litigante pro se convencido por un chatbot de la solidez de sus tesis. Spader advirtió de que la práctica de inyección de prompts en documentos constituye un precedente «peligroso» y anticipó que los tribunales estadounidenses probablemente verán nuevos intentos de esta táctica a medida que la IA se generalice en los sistemas judiciales.