Un estudio de universidades de Francia e Italia muestra que disponer de consejo de inteligencia artificial reduce drásticamente la disposición de las personas a reconocer que no saben algo, y las vuelve menos precisas y más seguras de sí mismas. La probabilidad de responder "no lo sé" cayó del 44% al 3% cuando se ofrecía acceso a una IA, mientras que la exactitud descendió del 27% al 9% y la confianza subjetiva se disparó del 30% al 76%. Algunos participantes que habrían acertado por sí solos fallaron tras consultar al modelo.
Los investigadores, encabezados por Valerio Capraro, de la Universidad de Milán-Bicocca, junto a Chiara Marcoccia (École Normale Supérieure) y Walter Quattrociocchi (Universidad Sapienza de Roma), diseñaron el experimento con preguntas en las que los modelos de IA suelen equivocarse, como detalles visuales de películas (el color del uniforme en "Bend It Like Beckham"). Emplearon Step 3.5 Flash, un modelo que fallaba de forma sistemática, para descartar que el efecto se debiera a una delegación razonable en una herramienta fiable. Los incentivos económicos apenas mejoraron los resultados: la disposición a admitir ignorancia subió del 3% al 8% y la exactitud del 9% al 16%, muy por debajo de las cifras sin IA.
Los autores enmarcan el hallazgo en un fenómeno ya bautizado como "rendición cognitiva" por investigadores de Wharton: las personas aceptan respuestas incorrectas de la IA alrededor del 80% de las veces y reportan más confianza que quienes trabajan sin ella. Capraro advierte del efecto sobre los menores, que crecen con estos sistemas antes de desarrollar pensamiento crítico, y critica que los productos de IA estén diseñados para responder siempre, nunca para decir "no sé".