Las ironías de la automatización: por qué el operador humano sigue siendo imprescindible
Cuando la industria automatiza sus procesos, el objetivo declarado es eliminar al operador humano: sus errores, su lentitud, sus limitaciones. Sin embargo, cuatro décadas después de que la psicóloga Lisanne Bainbridge publicara su seminal artículo "Ironies of Automation" en la revista Automatica (1983), su tesis central sigue vigente y ha sido confirmada por la investigación posterior: cuanto más avanzado es un sistema de control automático, más crucial resulta la contribución del operador humano. La paradoja, como titula Bainbridge, es que los sistemas automatizados siguen siendo, en esencia, sistemas hombre-máquina.
El artículo de Bainbridge, nacido de su trabajo en el University College London, identificó varias ironías que hoy siguen definiendo la relación entre humanos y máquinas. La primera es que el diseñador que busca eliminar al operador termina dejándole precisamente las tareas que no sabe cómo automatizar: la supervisión, el mantenimiento, la toma de decisiones ante condiciones anómalas y la recuperación del sistema tras un fallo. Esta colección arbitraria de responsabilidades llega, además, sin un soporte técnico ni formativo adecuado.
La segunda ironía afecta directamente a las habilidades del operador. Cuando la automatización se encarga del funcionamiento rutinario, las habilidades manuales del operador se deterioran por falta de uso. Un operador con años de experiencia que ha pasado meses monitorizando un proceso automático se comporta, en el momento crítico, como un novato: sus acciones provocan oscilaciones en lugar de ajustes suaves, interpreta mal la retroalimentación y termina sobrecargado precisamente cuando más capacidad necesitaría. El operador necesita estar, en el momento de la crisis, más capacitado y menos exigido que en condiciones normales, pero la automatización tiende a producir lo contrario.
La tercera ironía concierne a las habilidades cognitivas. El conocimiento profundo de un proceso solo se desarrolla mediante la práctica y la retroalimentación constante sobre la eficacia de las decisiones. Un operador que nunca ejecuta manualmente las tareas no puede construir ese conocimiento procedural en su memoria a largo plazo. Bainbridge advertía ya en 1983 que los sistemas automatizados de su generación estaban "montando" sobre las habilidades de los antiguos operadores manuales, y que las siguientes generaciones de técnicos no tendrían esas competencias. Décadas después, esta predicción se ha cumplido en sectores como la aviación comercial, la energía nuclear y la fabricación industrial, donde la pérdida de conocimiento operativo ha sido documentada como un factor contribuyente en varios incidentes graves.
El artículo también introduce una distinción que sigue siendo fundamental en la investigación de factores humanos: las habilidades de control manual (destrezas físicas que se erosionan con la inactividad) frente a las habilidades cognitivas (interpretación de estados del proceso, diagnóstico de fallos y planificación de respuestas). Las primeras dependen de la práctica motora; las segundas, del conocimiento almacenado y de la memoria de trabajo, que mantiene no solo datos sino predicciones y decisiones passées útiles para el futuro. Esta "memoria de trabajo extendida" es la que permite al operador experto reconocer patrones y anticipar problemas antes de que los indicadores formales disparen una alarma.
La fuente 1, el texto original de Bainbridge, concluía proponiendo dos vías para escapar de la trampa. La primera, dentro del enfoque clásico, consiste en mejorar el soporte al operador: mejores interfaces, mejores ayudas a la decisión, simuladores que mantengan vivas las habilidades y formación que combine teoría con práctica situada. La segunda vía es más ambiciosa: en lugar de dejar al humano como respaldo del sistema automático, repensar la colaboración humano-computadora como una verdadera asociación, donde cada parte aporte lo que sabe hacer mejor. Esta segunda línea es la que ha inspirado décadas de investigación en inteligencia artificial explicable, centros de operación modernos y diseño de cockpits en aviación.
En la práctica, la lección de Bainbridge se ha confirmado en desastres como los accidentes del vuelo 447 de Air France (2009) o el vertido de Deepwater Horizon (2010), donde la sofisticación tecnológica coexisted con operadores que no comprendían plenamente el estado del sistema ni podían intervenir con eficacia. La automatización no elimina el error humano; lo transforma y, a menudo, lo amplifica cuando priva al operador de las habilidades que necesitaría para responder a lo inesperado.
El estado actual del debate es nítido: no se discute ya si el operador humano es prescindible, sino cómo diseñar sistemas donde su juicio, su conocimiento situacional y su capacidad de improvisación estén integrados de forma efectiva con las capacidades de cómputo. La ironía formulada por Bainbridge en 1983 sigue siendo, en 2024, la pregunta central de cualquier proyecto de automatización serio: si quieres un sistema fiable, diseña para el operador que tendrás, no para el que el diseñador imagina.