Drones autónomos con IA: el dilema de programarles una moral

El debate sobre la posibilidad de incorporar un marco ético a los drones autónomos dotados de inteligencia artificial se intensifica ante el creciente protagonismo de estos sistemas en conflictos como la guerra de Ucrania y la intervención en Irán, donde la IA ya asiste en misiones de bombardeo. Algunos expertos defienden que las armas no tripuladas deberán operar con mayor autonomía operativa, lo que exige dotarlas de algo parecido a una moralidad programada; otros lo consideran técnicamente imposible y éticamente arriesgado.

El director de la división de IA de Microsoft y cofundador de DeepMind, Mustafa Suleyman, sostiene que las IA no pueden ser personas ni seres morales. En cambio, el exdirector del servicio de inteligencia británico GCHQ, David Omand, cree viable configurar una dimensión ética en armas no tripuladas, mientras el ministro de las Fuerzas Armadas del Reino Unido, Al Carns, ha abogado por retirar al humano del proceso de decisión. Zee Talat, académica de la Universidad de Edimburgo, argumenta que los grandes modelos de lenguaje son probabilísticos por naturaleza y no pueden reproducir decisiones éticas. Andrew Rogoyski, de la Universidad de Surrey, recuerda que la moralidad es profundamente compleja, disputada y moldeada culturalmente.

Jessica Dorsey, profesora de derecho internacional en Utrecht, advierte del riesgo de replicar decisiones defectuosas a gran escala si no se respeta el artículo 57 de las Convenciones de Ginebra, que obliga a distinguir combatientes de civiles. En la industria, Olaf Hichwa (Neros) defiende que la IA amplíe el juicio del operador; Jon Gruen (Fortem Technologies) señala que EE UU ya emplea sistemas autónomos para interceptar amenazas, y Alex Fink (Swarmer) plantea un futuro de zonas de combate certificadas por humanos donde un dron podría elegir objetivos por sí solo.