El artículo parte de una preocupación creciente en el sector del software: las herramientas de respuesta a incidencias asistidas por inteligencia artificial —conocidas informalmente como "AI SREs"— son capaces de inspeccionar alertas, formular hipótesis, consultar telemetría, correlacionar despliegues recientes e incluso aplicar la corrección por sí mismas. El autor, Sylvain Kalache, ex SRE de LinkedIn, advierte de que, cuanto más competente se vuelve esta automatización en la resolución de incidencias rutinarias, menos práctica acumulan los ingenieros humanos para enfrentarse a las situaciones atípicas y de alta gravedad.
Para ilustrar el problema, el texto recurre a la paradoja documentada por la investigadora de factores humanos Lisanne Bainbridge en su ensayo de 1983 "The Ironies of Automation": la automatización reduce las oportunidades de práctica en tareas rutinarias, pero deja a los operadores la responsabilidad de las situaciones nuevas y anormales, para las que deberían estar aún más entrenados. Kalache traslada ese razonamiento al software y pronostica que, con la generalización de estas herramientas, el tiempo medio de resolución descenderá en la mayoría de incidencias, mientras que en los incidentes complejos se disparará por la pérdida de familiaridad de los equipos con sus propios sistemas.
El texto propone inspirarse en la aviación, donde los pilotos practican en simulador fallos raros —como la parada de motor o el rechazo de despegue— pese a que ocurren menos de una vez cada 100.000 horas de vuelo. Kalache relata el accidente de TransAsia Airways Flight 235 como ejemplo de lo que sucede cuando el fallo excede lo esperado. Defiende que la ingeniería de software debe incorporar simulacros de incidentes como parte habitual de la preparación de guardia, algo que su empresa, Rootly, ya ofrece junto a Uptime Labs mediante simulaciones de caídas de comercio electrónico con agentes de IA. El autor introduce además el concepto de "comprehension debt": la brecha creciente entre cómo funcionan los sistemas y cuánto los comprenden quienes los operan.