Un abogado, Steven A. Feldman, ha sido declarado en incumplimiento por parte de un tribunal de Nueva York tras la presentación de documentos legales que contenían citas de casos inexistentes y citas incorrectas, generadas por inteligencia artificial. El tribunal determinó que el abogado actuó de mala fe o con evitación consciente, lo que resultó en una sentencia de incumplimiento en contra de su cliente, Affable Avenue LLC, y permitió a la parte contraria solicitar honorarios de abogados. Feldman admitió que las citas falsas fueron creadas por IA, aunque el juez se limitó a advertir al abogado sin imponer sanciones adicionales.
Este caso se suma a una creciente base de datos que rastrea instancias en las que la IA generativa ha producido contenido falso en procesos legales. El tribunal también rechazó una solicitud de presentación de la empresa por falta de precisión, señalando el uso de herramientas de IA generativa. El juez advirtió a los abogados sobre los riesgos de utilizar atajos de IA y la importancia de la diligencia y la supervisión, enfatizando que los tribunales examinan cuidadosamente los documentos presentados y que las citas no verificadas desvían recursos. El incidente subraya la necesidad de que los abogados verifiquen rigurosamente la información antes de presentarla ante un tribunal.