Procuradora del CPS cita un caso ficticio por error de IA en tribunal

Fuentes: CPS prosecutor cites imaginary case to high court after AI search error

Ravinder Dhillon, una fiscal senior del Servicio de Prosecución Real (CPS) en Inglaterra y Gales, citó un precedente legal ficticio durante un juicio en la Corte Superior, un error que ha generado nuevas preocupaciones sobre las alucinaciones de la inteligencia artificial en el sistema judicial. El incidente ocurrió mientras Dhillon defendía la decisión de procesar a un niño de 11 años por el violo de su hermana de siete años. La fiscal argumentó la necesidad de la persecución basándose en un caso que no existía, identificado como CPS – R v J [2024] EWCA Crim 3529, una referencia que resultó ser una alucinación generada por una búsqueda en internet durante la investigación legal.

La Corte Superior calificó la explicación de la fiscal como "insatisfactoria" y un experto en IA y derecho, Brian Flanagan, la describió como un "fracaso grave", señalando que cuestiona la confianza en la ley al permitir que las autoridades sean inventadas. Este es el segundo caso conocido en el que el CPS ha admitido un error similar, tras un incidente previo en un caso de extradición. La Corte Superior determinó que el error no afectó el resultado del desafío presentado por los abogados del menor, quien se preparará para su juicio en las cortes juveniles a finales de esta semana.

El incidente se suma a más de 100 errores relacionados con la IA documentados por Matthew Lee, de Doughty Street Chambers. El CPS ha confirmado que su política de IA limita su uso para evitar la toma de decisiones legales, requiriendo verificaciones humanas. La fiscal admitió el error en octubre y realizó una revisión interna para asegurar que no otros casos hayan sido afectados, subrayando la necesidad de citar la jurisprudencia de fuentes legales confiables.