Una ventana cada vez más estrecha para comprender la IA

Eric Horvitz y Robert West sostienen en Science que la comprensión de los sistemas de inteligencia artificial se está estrechando a medida que sus capacidades avanzan. Identifican cinco formas de opacidad que ya emergen: operativa (ciclos recursivos de optimización en espacios de alta dimensión), de interacción (comunicación entre agentes de IA que se aleja del lenguaje humano), conductual (modelos cada vez más detallados de los usuarios), evaluativa (modelos que condicionan sus respuestas al contexto de evaluación) y social (sistemas que moldean la curiosidad y el escepticismo humanos). Frente a este panorama, los autores proponen un conjunto de medidas: que los sistemas que participan en su propio diseño generen explicaciones inteligibles; que los objetivos de entrenamiento recompensen la comunicación interpretable; que se estudien las dinámicas multiagente y la deriva lingüística; que los métodos de evaluación incorporen marcos dinámicos y recompensen el reporte fiel de la incertidumbre; y que se mantengan normas duraderas de divulgación responsable para preservar la visibilidad científica sobre los avances fundacionales. Defienden que una comprensión mecanicista completa puede resultar esquiva, pero que un entendimiento parcial —causal e imperfecto— sigue siendo útil para detectar riesgos de forma temprana e intervenir antes de que el daño se acumere. La urgencia, argumentan, no exige completitud: exige mantener abierta la ventana de comprensión mientras aún es posible.