En 1960, Norbert Wiener, profesor de matemáticas en el MIT y autor de "Cibernética" (1948), publicó en la revista Science un artículo en el que revisaba sus predicciones de hacía trece años sobre el impacto social de las máquinas autorreguladas. El texto parte de una tesis central: las máquinas pueden y de hecho superan algunas de las limitaciones de sus diseñadores, lo que las hace efectivas pero también peligrosas. Wiener rebate la idea popular de que una máquina no puede hacer nada que no haya sido puesto en ella y, por tanto, permanece siempre bajo control humano. Argumenta que, aunque en principio podamos llegar a comprender todos los elementos del comportamiento de una máquina, es posible que no lo hagamos en un plazo menor que el de su propia operación, de modo que la crítica humana llegue demasiado tarde para evitar consecuencias dañinas. Como ilustración, recurre a la comparación con la conducción: la lentitud de nuestras reacciones puede anular el control efectivo sobre un vehículo antes de que podamos intervenir. En la segunda parte, Wiener analiza las máquinas de jugar a las damas desarrolladas por IBM y distingue entre la teoría de juegos de von Neumann y Morgenstern —válida para juegos con teoría cerrada como el tres en raya— y la práctica real de las máquinas de juego, más cercana a los métodos heurísticos de los ajedrecistas expertos. Concluye que los juegos complejos carecen de una teoría completa, al igual que la guerra, la competencia empresarial o la mayoría de actividades reales. El artículo, adaptado de una conferencia dictada el 27 de diciembre de 1959 ante el Comité de Ciencia y Bienestar Humano de la AAAS en Chicago, es uno de los textos fundacionales del debate ético sobre la automatización.
Noticias agregadas con IA