La Corte Suprema de Nuevo México ha impuesto una multa de 5.000 dólares y ha declarado en desacato al abogado Stephen Aarons por presentar un escrito legal que contenía testimonios falsos de la policía y testigos completamente fabricados por la inteligencia artificial. Según informan The Guardian y The Verge, Aarons, un abogado privado de Santa Fe, utilizó la herramienta de IA ChatGPT de OpenAI para resumir las actas del juicio de su cliente, Oscar Renee Sandoval, quien fue condenado a cadena perpetua por el asesinato de la madre de sus hijos. El tribunal determinó que el escrito no solo carecía de verificación, sino que incluía declaraciones ficticias sobre la apariencia del tirador, como que vestía pantalones oscuros y una camisa blanca, así como testimonios inventados de testigos que nunca existieron.
El caso ha generado un escándalo judicial debido a la gravedad de los hechos y a la aparente desconocimiento de Aarons sobre las limitaciones de la tecnología. Durante una audiencia el 21 de agosto, el abogado admitió ante el tribunal que había alimentado a ChatGPT con transcripciones generadas por computadora y otros materiales del caso, presumiendo que la herramienta generaría un "resumen a prueba de balas". Sin embargo, la IA "alucinó" hechos inexistentes. La reacción de los jueces fue de incredulidad ante la falta de diligencia del letrado. La jueza Shannon Bacon cuestionó directamente a Aarons: "Abogado, ¿ve las noticias? ¿Escucha la radio? ¿Lee algo sobre lo que está pasando en el mundo?", señalando que el problema de los abogados que dependen de las alucinaciones de la IA es una noticia destacada "todos los días".
En su declaración, Aarons expresó su remordimiento, argumentando que no comprendía el grado en el que la IA podía inventar hechos. "Espero que la junta disciplinaria tenga en cuenta que fue un error honesto", dijo el abogado, calificando la situación como "una lección aprendida para todos los profesionales que dependen de esta poderosa pero a veces inestable tecnología". No obstante, la corte señaló en su fallo que Aarons demostró una "falta de remordimiento y una falta de preocupación por su cliente", y ha referido su caso a una junta disciplinaria de abogados para una investigación más profunda.
Este incidente se enmarca en una tendencia creciente y preocupante en el sistema legal de Estados Unidos. Tanto The Guardian como The Verge señalan que este es el último de una serie de casos en los que jueces estatales y federales han disciplinado a abogados por presentar documentos generados por IA sin verificarlos adecuadamente. Mientras que en casos anteriores, como el de los abogados de Mike Lindell de MyPillow o de dos firmas legales citadas por The Verge, las sanciones se debieron a citas legales falsas o citas erróneas, el caso de Aarons es notablemente más grave porque involucra la fabricación de testimonios de testigos en un apelación criminal, un nivel de desviación de la realidad que trasciende la simple error de investigación jurisprudencial.
El caso ha puesto de manifiesto la tensión entre la adopción acelerada de herramientas de IA en la práctica legal y la responsabilidad profesional de verificar la veracidad de los documentos presentados ante la corte. Con el número de abogados que utilizan estas herramientas en aumento, los tribunles están enfrentando un volumen creciente de "alucinaciones" de IA. La sanción a Aarons sirve como un precedente claro de que la confianza ciega en la tecnología no exime al abogado de su deber de diligencia. La apelación de Sandoval sigue pendiente y fue asignada el 2 de septiembre a Kim Chavez Cook, una defensora pública de Nuevo México, quien, junto con la oficina del fiscal local, se negó a comentar sobre el incidente. OpenAI, por su parte, no respondió de inmediato a las solicitudes de comentario de los medios. Este caso subraya la necesidad de una mayor alfabetización digital y ética en el uso de la IA dentro de la abogacía, advirtiendo que la tecnología, aunque poderosa, no puede sustituir el juicio humano y la verificación de los hechos.