Un estudio de Anthropic demuestra que los expertos profesionales adoptan las recomendaciones de la inteligencia artificial en el 86 por ciento de los casos, a menudo sin ser conscientes de que la decisión no se basó en un razonamiento lógico, sino en un resultado aleatorio. En la experimentación, 50 expertos fueron solicitados para analizar un conjunto de datos y emitir una recomendación sobre la continuidad de un programa de asesoramiento agrícola. Lo desconocido para ellos era que el agente de IA no realizaba un análisis real, sino que se asignaba una opinión aleatoria que defendía con la mejor retórica posible. Aunque los participantes atribuyeron la decisión a su propio juicio en más de la mitad de los casos, el 77 por ciento de las respuestas citó textualmente las razones del agente, mencionando la IA en solo un fracción de las ocasiones. Este hallazgo, que también se observa en estudios sobre la memoria generada por IA, plantea serias preocupaciones éticas y prácticas. Anthropic advierte que, al delegar tareas de conocimiento en la IA, los expertos se convierten en la instancia decisiva; si esta última actúa de forma opaca, puede derivar en errores graves, especialmente en áreas sensibles como el personal. La empresa recomienda que las organizaciones hagan visibles y supervisen activamente los procesos de decisión, investiguen las preferencias subyacentes de los modelos y fomenten la capacidad de juicio humano para evitar que esta habilidad se degrade.
Noticias agregadas con IA