La paradoja de la automatización reside en un mecanismo cognitivo bien documentado: cuando un sistema gestiona una tarea de forma fiable, el cerebro humano que lo supervisa deja de prestarle atención de manera progresiva, ya que no recibe señales de error que justifiquen un esfuerzo sostenido. La aviación comercial ha bautizado este fenómeno como complacencia inducida por la automatización, y sus informes de accidentes recogen casos en los que tripulaciones experimentadas no detectaron fallos técnicos que habrían identificado de inmediato si hubiesen pilotado manualmente. La ironía es que cuanto más eficaz es la máquina, más profundo es el problema, porque un sistema que casi nunca falla produce operadores casi nunca preparados para el momento en que lo haga. La contramedida es deliberada y exige disciplina: identificar qué tareas críticas se han delegado en la automatización, apagarlas periódicamente para practicarlas a mano y mantener intervalos de práctica lo bastante cortos para que la habilidad no se deteriore. No se trata de desconfiar de la máquina, sino de reconocer la fragilidad del operador humano. La única manera de conservar la pericia es seguir ejercitando la destreza que el sistema ha estado suplantando, porque en el instante en que la automatización falle, el piloto deberá estar en condiciones de responder. Esta lógica es aplicable a cualquier ámbito donde la confianza en una herramienta automática reduce la práctica del usuario, desde el pilotaje hasta la programación con asistentes de inteligencia artificial.
Cuanto mejor es el piloto automático, peor es el piloto
