El Inspector Independiente de Fronteras e Inmigración (ICIBI) ha solicitado a la ONG de derechos digitales Open Rights Group (ORG) que proporcione más información sobre las herramientas de inteligencia artificial utilizadas por el Home Office del Reino Unido. Esta medida se enmarca en la preparación de las inspecciones anuales del departamento, donde el ICIBI ha expresado su preocupación por la fiabilidad y eficacia de estas tecnologías. La investigación de ORG, que duró seis meses e incluyó 11 preguntas parlamentarias y solicitudes de registro público, reveló que los errores en los resúmenes generados por la herramienta Asylum Case Summarisation (ACS) superan significativamente la tasa de error publicada del 9 %, mientras que la herramienta Asylum Policy Search (APS) carece de controles de calidad. El Home Office defiende que la IA solo asiste a los trabajadores y no toma decisiones, aunque un juez británico acusó recientemente al departamento de usar un documento generado por IA para denegar la asilo de una mujer marroquí. Los críticos advierten sobre sesgos culturales en los modelos de lenguaje y la falta de transparencia, ya que estas herramientas no figuran en el repositorio público del 'AI Playbook' y los solicitantes de asilo no son informados de su uso, lo que podría vulnerar sus derechos de datos.
Noticias agregadas con IA